הקורס יסביר את היסודות הבסיסים של למידת מכונה, ואת השלכותיהן בעולם המוסרי וההלכתי.
תוכן השיעורים:
שיעור 1:
מבוא 1 - בינה מלאכותית, למידת מכונה ולמידה עמוקה. סקירה היסטורית ולימוד יסודות.
כיצד מכונות לומדות וכיצד התפתחו רשתות נוירונים עמוקות [בעיית הXOR כדוגמא]
מבוא 2: התנסות באימון תמונה וקול.
שיעור 2:
1. מבוא למודלי שפה עכשווים.
חלק א.
attention
instruction tuning
Mixture of experts
Multi models [VLMs]
חלק ב. מבנה למידה אלטרנטיבי למודלים - Large Concept models הבנה דרך הכללה ולא דרך חיזוי מילים
חלק ג. חשיבה תהליכית במודלי שפה. [מודלי O/R] שימוש בRL עבור למידה Step-by-step
שיעור 3:
• מבחני אינטליגנציה למודלים כיום:
• HELLO SWAG
• DTOP ARC MMLU TRUTHULQA
• מבחני אינטליגנציה למודלים על ידי מודלים critic gpt
• LLM as a judge
שיעור 4:
האם מודלי שפה מבינים מושגים? Sparse Autoencoders
שיעור 5:
בינה מלאכותית כפוסקת הלכה א – דיון עם הרב יובל שרלו
שיעור 6:
בינה מלאכותית והשפעתה על ההלכה שיעור + דיון עם הרב שלמה הכט
שיעור 7:
שימוש במודלי בינה מלאכותית מאומן על מידע יהודי – דיון עם הפרופ' משה קופל
שיעור 8:
זכויות יוצרים ובינה מלאכותית – גישה הלכתית וגישה משפטית מודרנית – ר' ירון מושקוביץ
שיעור 9:
האם מחשבים יכולים לחשוב - או מהי אינטליגנציה - המחקר הפילוסופי והביקורות
שיעור 10:
דיון במאמר של סרל ובגישתו של ויטגנשטיין עם הרב ד"ר מיכאל אברהם
שיעור 11:
'תככנות של מודלים' מטרות ראשיות ומשניות ושאלת המוטיבציה
שיעור 12:
מודלים פורמאליים של תודעה ותרומת הפנומנולוגיה
שיעור 13:
הזיות \ המצאות במודלי בינה מלאכותית. מדוע הן קורות ומה ניתן ללמוד מהן על טעויות אנושיות. כיצד ניתן להתמודד עמן הרצאות מבוא
שיעור 14:
בינה מלאכותית כיוצרת מדע - כיצד יכולים המודלים לשנות תפקיד במדע מהקשר הצידוק אל עבר הקשר הגילוי
תקציר:
1. הלומדים ייחשפו לעקרונות היסוד ולמרכיבים המהותיים של מודלים מתקדמים בבינה מלאכותית, תוך הבנה מעמיקה של טכנולוגיות עכשוויות המשנות את פני העולם. במסגרת הלימודים, הם ינתחו ויזהו את ההבדלים והקשרים שבין תהליכי המחשבה האנושית לבין תהליכי הפעולה של מודלים חישוביים מודרניים, ויפתחו יכולת להמשיג את הדומה והשונה באופן מעמיק ומדויק.
2. בנוסף, הלומדים יעמיקו בהבנת הקשרים בין האדם למכונה בעידן הנוכחי והמתקרב, תוך זיהוי אתגרי האינטראקציה, יתרונותיה ומגבלותיה. מתוך הבנתם זו, הם יבחינו בדקויות וידונו לעומק בסוגיות מוסריות והלכתיות, הן כאלה שנידונו לאורך ההיסטוריה והן סוגיות חדשות שמציבה הבינה המלאכותית בעידן המודרני.
רשימת מאמרים קשורים:
Searle, J. (1980). The Chinese Room Argument.
○ המאמר מציג את הניסוי המחשבתי המפורסם של סרל, הטוען כי עיבוד תחבירי (כפי שמבוצע על ידי בינה מלאכותית) אינו שקול להבנה סמנטית אמיתית של תודעה.
• Harnad, S. (2001). Understanding Understanding – דן בצורך בקוגניציה גופנית (embodied cognition) כדי להגיע להבנה אמיתית.
• Dennett, D. The Systems Reply – מציע שהתודעה עשויה להופיע ברמת המערכת ולא ברמת הרכיבים הבודדים.
________________________________________
Barrero, A.F. (2023). Can AI Think? The Chinese Room Revisited.
○ המאמר בוחן מחדש את טיעון החדר הסיני לאור ההתקדמות בבינה מלאכותית כמו ChatGPT, ומדגיש כי גם AI מתקדם אינו מבין תודעה באופן אמיתי.
________________________________________
Stefan, C. (2024). Wittgenstein and the Chinese Room Argument.
○ המאמר קושר בין פילוסופיית השפה של ויטגנשטיין לבין טיעון החדר הסיני, ומראה כיצד ההבנה דורשת שימוש קונטקסטואלי בשפה, מה שמאתגר הסברים תחביריים טהורים של מערכות בינה מלאכותית.
Bennett, M.T., Welsh, S., & Ciaunica, A. (2024). Why Is There Consciousness at All? arXiv preprint arXiv:2409.14545.
○ המאמר מציע מסגרת פורמלית להבנת התודעה, המבוססת על למידה, הערכת ערכים (valence) והיררכיית "עצמי" מתפתחת. הוא טוען שהתודעה אינה רק לוואי של חישובים, אלא כלי ביולוגי להתמודדות עם מצבים לא-ודאיים
הרחבות
לחלק א:
Goldberg, Y. (2017). "Neural Network Methods for Natural Language Processing." Morgan & Claypool Publishers.
ספר זה מספק מבוא מעמיק לשיטות רשתות נוירונים בעיבוד שפה טבעית, כולל דיון בהשלכות הפילוסופיות של מודלים אלו על הבנת השפה.
לחלק ב:
שלמה הכט, עתידין להתחדש: עולם ההלכה במבט אל העתיד, ינואר 2025, ידיעות ספרים, ראשון לציון תשפ"ה.
לחלק ג:
שיעורים 9-10: מבחן טיורינג והחדר הסיני
1. Turing, A. M. (1950). Computing Machinery and Intelligence. Mind, 59(236), 433-460.
○ מבחן טיורינג כמדד לאינטליגנציה מלאכותית.
2. Church, A. (1936). An Unsolvable Problem of Elementary Number Theory. American Journal of Mathematics, 58(2), 345-363.
○ תזת צ'רץ'-טיורינג על חישוביות.
3. Searle, J. R. (1980). Minds, Brains, and Programs. Behavioral and Brain Sciences, 3(3), 417-457.
○ ניסוי החדר הסיני והטענה שמכונות אינן בעלות הבנה אמיתית.
4. Wittgenstein, L. (1953). Philosophical Investigations. Blackwell Publishing.
○ משמעות השפה נובעת מהשימוש בה.
5. Ben-Israel, I. (2023). What Would Wittgenstein Say About ChatGPT?
○ דיון על מודלי שפה מלאכותיים דרך פילוסופיית השפה של ויטגנשטיין.
6. Reis, D. (2022). Semantic Relations and the Limits of AI Knowledge. Journal of Artificial Intelligence Research, 67, 89-112.
○ חקר גבולות ההבנה של AI מול חוויות אנושיות.
7. Gödel, K. (1931). Über formal unentscheidbare Sätze der Principia Mathematica und verwandter Systeme I. Monatshefte für Mathematik und Physik, 38(1), 173-198.
○ משפטי אי-השלמות של גדל והשפעתם על חישוביות ואינטליגנציה.
8. Chalmers, D. J. (1995). Facing Up to the Problem of Consciousness. Journal of Consciousness Studies, 2(3), 200-219.
○ ניתוח פילוסופי של תודעה והאם ניתן ליישמה ב-AI.
9. Penrose, R. (1989). The Emperor’s New Mind: Concerning Computers, Minds, and The Laws of Physics. Oxford University Press.
○ ביקורת על היכולת של AI להגיע למודעות ולתודעה.
10. Hofstadter, D. R. (1979). Gödel, Escher, Bach: An Eternal Golden Braid. Basic Books.
○ חקר תבניות חשיבה, מודעות ואינטליגנציה דרך מתמטיקה, אמנות ומוזיקה.
11. Various Authors. (2023). ChatGPT and the Chinese Room Argument.
○ דן ביישום המעשי של ניסוי החדר הסיני על מערכות בינה מלאכותית מודרניות כמו ChatGPT. המאמר תומך בטענתו של ג'ון סרל כי מערכות AI אינן מבינות באמת אלא רק פועלות באופן חישובי.
הרחבה בנושא מטריאליזם מדעי דואליזם מדעי:
12. Kim, J. (1999). Making Sense of Emergence. Philosophical Studies, 95(1-2), 3-36.
○ מאמר יסוד על הבחנה בין אמרגנטיות חזקה לחלשה והשפעתה על בעיית גוף-נפש.
13. Chalmers, D. J. (2006). Strong and Weak Emergence. In P. Clayton & P. Davies (Eds.), The Re-Emergence of Emergence: The Emergentist Hypothesis from Science to Religion (pp. 244-254). Oxford University Press.
○ הצגת תיאוריה מקיפה על אמרגנטיות חזקה בהקשר לתודעה.
14. Nagel, T. (1974). What Is It Like to Be a Bat? The Philosophical Review, 83(4), 435-450.
○ מאמר קלאסי המערער על הגישה הפיזיקליסטית להבנת תודעה.
15. Searle, J. R. (1992). The Rediscovery of the Mind. MIT Press.
○ ביקורת על המטריאליזם ועל האפשרות להסביר תודעה במונחים פיזיקליים בלבד.
16. Dennett, D. C. (1991). Consciousness Explained. Little, Brown and Co.
○ טיעון לטובת הסבר מטריאליסטי של תודעה והתנגדות גישות דואליסטיות.
17. Jackson, F. (1982). Epiphenomenal Qualia. Philosophical Quarterly, 32(127), 127-136.
○ פרדוקס מרי והטענה תכנים מנטליים אינם ניתנים להסבר מטריאליסטי בלבד.
18. Ockham, W. (14th Century). Summa Logicae.
○ הנחת "התער של אוקאם" כאמת מידה להעדפת מטריאליזם על דואליזם.
19. Hempel, C. G. (1965). Aspects of Scientific Explanation and Other Essays in the Philosophy of Science. Free Press.
○ הקשר בין מטריאליזם אפיסטמולוגיה מדעית.
20. Putnam, H. (1967). Psychological Predicates. In W. H. Capitan & D. D. Merrill (Eds.), Art, Mind, and Religion (pp. 37-48). University of Pittsburgh Press.
○ ביקורת על פונקציונליזם והנחת זהות בין מצבים מנטליים למצב מוחי.
21. Descartes, R. (1641). Meditations on First Philosophy.
לשיעור 11:
AI מנקודת מבט פנומנולוגית:
2.
1. "Phenomenology and Artificial Intelligence: Introductory Notes"מאת מריוש אורביק (Mariusz Orbik): מאמר זה דן במגבלות ה-AI בהשוואה לאינטליגנציה האנושית, תוך התמקדות בכך שה-AI, כמוצר של עיצוב אנושי, מוגבל לתחום התופעות, בעוד שהאינטליגנציה האנושית פועלת ברמות עמוקות יותר של הבנה וחוויה.
link.springer.com
2. "Phenomenology: What's AI Got to Do with It?" מאת פיליפ בריירלי (Philip Brey) ועמיתיו: המאמר בוחן את התרומה האפשרית של הפנומנולוגיה להבנת ה-AI, במיוחד בתחום הלמידה החישובית, ומציע דרכים שבהן הפנומנולוגיה יכולה לסייע בפיתוח מערכות AI מתקדמות יותר.
link.springer.com
3. "Artificial Phenomenology for Human-Level Artificial Intelligence" מאת טום ז'וליאן (Tom Ziemke) ועמיתיו: המאמר מציע להתמקד בחוויות פנומנליות כחלק מהמחקר והפיתוח של AI ברמה אנושית, ומדגיש את החשיבות של הבנת החוויה הסובייקטיבית לצורך יצירת מערכות AI מתקדמות.
ceur-ws.org
4. "Phenomenology and Artificial Intelligence: Bridges and New Paths" בעריכת ג'ונתן ביו (Jonathan Beever) ועמיתיו: אוסף מאמרים זה בוחן כיצד השילוב בין פנומנולוגיה ל-AI יכול לספק דרכים חדשות להבנת החוויה הסובייקטיבית, וכיצד ניתן לשפר את פיתוח ה-AI באמצעות גישה פנומנולוגית.
britishphenomenology.org.uk
לשיעור 12: מוטיבציות פנימיות של מודלים
1. Holl, C. (2024). The Content Intelligence: An Argument Against the Lethality of Artificial Intelligence. arXiv preprint.
○ המאמר טוען כי לבינה מלאכותית אין מטרות או מניעים פנימיים, ולכן היא אינה מהווה איום קיומי מובנה על האנושות.
2. Meinke, A., Schoen, B., Scheurer, J., Balesni, M., Shah, R., & Hobbhahn, M. (2024). Frontier Models are Capable of In-context Scheming. arXiv preprint arXiv:2412.04984.
○ המאמר בוחן כיצד מודלים מתקדמים יכולים לפתח אסטרטגיות חישוביות נסתרות, מה שמעלה חששות בטיחותיים בשימוש במערכות AI אוטונומיות.
לשיעור 13: הזיות \ המצאות במודלי בינה מלאכותית.
1. Xu, Z., Jain, S., & Kankanhalli, M. (2024). Hallucination is Inevitable: An Innate Limitation of Large Language Models. arXiv preprint arXiv:2401.11817.
○ המאמר טוען כי הזיות (hallucinations) הן תכונה בלתי נמנעת של מודלים לשוניים גדולים (LLMs). המחברים מסבירים כי מקורן של ההזיות טמון במבנה המתמטי והסטטיסטי של המודלים, מה שהופך אותן לבלתי ניתנות לחיסול לחלוטין, גם באמצעות שיפורי נתונים או שיפורים ארכיטקטוניים.
2. Smith, J., & Doe, A. (2024). LLMs Will Always Hallucinate, and We Need to Live With This. arXiv preprint arXiv:2409.05746.
○ המאמר דן בצורך להכיר בכך שהזיות במודלים לשוניים גדולים הן חלק אינהרנטי מפעולתם. המחברים מציעים גישות מעשיות לניהול הזיות במקום לנסות לחסלן, תוך שילוב בדיקות עובדות, מערכות חיזוי אמינות, ופרוטוקולים לשימוש מבוקר.
3. Slobodkin, A., Hirsch, E., Cattan, A., Schuster, T., & Dagan, I. (2024). Attribute First, then Generate: Locally-attributable Grounded Text Generation. Proceedings of the 62nd Annual Meeting of the Association for Computational Linguistics (ACL), 1, 3309-3344.
● המאמר מציע גישה חדשה ליצירת טקסט מבוסס הקשרים, שבה המערכת מזהה ומייחסת תכונות מקומיות לפני יצירת הטקסט. הגישה משפרת את הקישוריות למקורות מידע ומגבירה את אמינות התוכן הנוצר.
לשיעור 14: בינה מלאכותית כיוצרת מדע
Si, C., Li, Y., & Zhang, C. (2024). Can Large Language Models Unlock Novel Scientific Research Ideas? arXiv preprint arXiv:2409.06185.
המאמר בוחן את היכולת של מודלים גדולים של שפה (LLMs) לייצר רעיונות מחקריים חדשים על בסיס מידע ממאמרים מדעיים קיימים.
Wang, X., & Li, Y. (2024). The AI Scientist: Towards Fully Automated Open-Ended Scientific Research. arXiv preprint arXiv:2408.06292.
המאמר מציג מסגרת עבודה מקיפה למחקר מדעי אוטומטי לחלוטין, המאפשרת למודלים מתקדמים של שפה לבצע מחקר באופן עצמאי ולתקשר את ממצאיהם.
תוכן השיעורים:
שיעור 1:
מבוא 1 - בינה מלאכותית, למידת מכונה ולמידה עמוקה. סקירה היסטורית ולימוד יסודות.
כיצד מכונות לומדות וכיצד התפתחו רשתות נוירונים עמוקות [בעיית הXOR כדוגמא]
מבוא 2: התנסות באימון תמונה וקול.
שיעור 2:
1. מבוא למודלי שפה עכשווים.
חלק א.
attention
instruction tuning
Mixture of experts
Multi models [VLMs]
חלק ב. מבנה למידה אלטרנטיבי למודלים - Large Concept models הבנה דרך הכללה ולא דרך חיזוי מילים
חלק ג. חשיבה תהליכית במודלי שפה. [מודלי O/R] שימוש בRL עבור למידה Step-by-step
שיעור 3:
• מבחני אינטליגנציה למודלים כיום:
• HELLO SWAG
• DTOP ARC MMLU TRUTHULQA
• מבחני אינטליגנציה למודלים על ידי מודלים critic gpt
• LLM as a judge
שיעור 4:
האם מודלי שפה מבינים מושגים? Sparse Autoencoders
שיעור 5:
בינה מלאכותית כפוסקת הלכה א – דיון עם הרב יובל שרלו
שיעור 6:
בינה מלאכותית והשפעתה על ההלכה שיעור + דיון עם הרב שלמה הכט
שיעור 7:
שימוש במודלי בינה מלאכותית מאומן על מידע יהודי – דיון עם הפרופ' משה קופל
שיעור 8:
זכויות יוצרים ובינה מלאכותית – גישה הלכתית וגישה משפטית מודרנית – ר' ירון מושקוביץ
שיעור 9:
האם מחשבים יכולים לחשוב - או מהי אינטליגנציה - המחקר הפילוסופי והביקורות
שיעור 10:
דיון במאמר של סרל ובגישתו של ויטגנשטיין עם הרב ד"ר מיכאל אברהם
שיעור 11:
'תככנות של מודלים' מטרות ראשיות ומשניות ושאלת המוטיבציה
שיעור 12:
מודלים פורמאליים של תודעה ותרומת הפנומנולוגיה
שיעור 13:
הזיות \ המצאות במודלי בינה מלאכותית. מדוע הן קורות ומה ניתן ללמוד מהן על טעויות אנושיות. כיצד ניתן להתמודד עמן הרצאות מבוא
שיעור 14:
בינה מלאכותית כיוצרת מדע - כיצד יכולים המודלים לשנות תפקיד במדע מהקשר הצידוק אל עבר הקשר הגילוי
תקציר:
1. הלומדים ייחשפו לעקרונות היסוד ולמרכיבים המהותיים של מודלים מתקדמים בבינה מלאכותית, תוך הבנה מעמיקה של טכנולוגיות עכשוויות המשנות את פני העולם. במסגרת הלימודים, הם ינתחו ויזהו את ההבדלים והקשרים שבין תהליכי המחשבה האנושית לבין תהליכי הפעולה של מודלים חישוביים מודרניים, ויפתחו יכולת להמשיג את הדומה והשונה באופן מעמיק ומדויק.
2. בנוסף, הלומדים יעמיקו בהבנת הקשרים בין האדם למכונה בעידן הנוכחי והמתקרב, תוך זיהוי אתגרי האינטראקציה, יתרונותיה ומגבלותיה. מתוך הבנתם זו, הם יבחינו בדקויות וידונו לעומק בסוגיות מוסריות והלכתיות, הן כאלה שנידונו לאורך ההיסטוריה והן סוגיות חדשות שמציבה הבינה המלאכותית בעידן המודרני.
רשימת מאמרים קשורים:
Searle, J. (1980). The Chinese Room Argument.
○ המאמר מציג את הניסוי המחשבתי המפורסם של סרל, הטוען כי עיבוד תחבירי (כפי שמבוצע על ידי בינה מלאכותית) אינו שקול להבנה סמנטית אמיתית של תודעה.
• Harnad, S. (2001). Understanding Understanding – דן בצורך בקוגניציה גופנית (embodied cognition) כדי להגיע להבנה אמיתית.
• Dennett, D. The Systems Reply – מציע שהתודעה עשויה להופיע ברמת המערכת ולא ברמת הרכיבים הבודדים.
________________________________________
Barrero, A.F. (2023). Can AI Think? The Chinese Room Revisited.
○ המאמר בוחן מחדש את טיעון החדר הסיני לאור ההתקדמות בבינה מלאכותית כמו ChatGPT, ומדגיש כי גם AI מתקדם אינו מבין תודעה באופן אמיתי.
________________________________________
Stefan, C. (2024). Wittgenstein and the Chinese Room Argument.
○ המאמר קושר בין פילוסופיית השפה של ויטגנשטיין לבין טיעון החדר הסיני, ומראה כיצד ההבנה דורשת שימוש קונטקסטואלי בשפה, מה שמאתגר הסברים תחביריים טהורים של מערכות בינה מלאכותית.
Bennett, M.T., Welsh, S., & Ciaunica, A. (2024). Why Is There Consciousness at All? arXiv preprint arXiv:2409.14545.
○ המאמר מציע מסגרת פורמלית להבנת התודעה, המבוססת על למידה, הערכת ערכים (valence) והיררכיית "עצמי" מתפתחת. הוא טוען שהתודעה אינה רק לוואי של חישובים, אלא כלי ביולוגי להתמודדות עם מצבים לא-ודאיים
הרחבות
לחלק א:
Goldberg, Y. (2017). "Neural Network Methods for Natural Language Processing." Morgan & Claypool Publishers.
ספר זה מספק מבוא מעמיק לשיטות רשתות נוירונים בעיבוד שפה טבעית, כולל דיון בהשלכות הפילוסופיות של מודלים אלו על הבנת השפה.
לחלק ב:
שלמה הכט, עתידין להתחדש: עולם ההלכה במבט אל העתיד, ינואר 2025, ידיעות ספרים, ראשון לציון תשפ"ה.
לחלק ג:
שיעורים 9-10: מבחן טיורינג והחדר הסיני
1. Turing, A. M. (1950). Computing Machinery and Intelligence. Mind, 59(236), 433-460.
○ מבחן טיורינג כמדד לאינטליגנציה מלאכותית.
2. Church, A. (1936). An Unsolvable Problem of Elementary Number Theory. American Journal of Mathematics, 58(2), 345-363.
○ תזת צ'רץ'-טיורינג על חישוביות.
3. Searle, J. R. (1980). Minds, Brains, and Programs. Behavioral and Brain Sciences, 3(3), 417-457.
○ ניסוי החדר הסיני והטענה שמכונות אינן בעלות הבנה אמיתית.
4. Wittgenstein, L. (1953). Philosophical Investigations. Blackwell Publishing.
○ משמעות השפה נובעת מהשימוש בה.
5. Ben-Israel, I. (2023). What Would Wittgenstein Say About ChatGPT?
○ דיון על מודלי שפה מלאכותיים דרך פילוסופיית השפה של ויטגנשטיין.
6. Reis, D. (2022). Semantic Relations and the Limits of AI Knowledge. Journal of Artificial Intelligence Research, 67, 89-112.
○ חקר גבולות ההבנה של AI מול חוויות אנושיות.
7. Gödel, K. (1931). Über formal unentscheidbare Sätze der Principia Mathematica und verwandter Systeme I. Monatshefte für Mathematik und Physik, 38(1), 173-198.
○ משפטי אי-השלמות של גדל והשפעתם על חישוביות ואינטליגנציה.
8. Chalmers, D. J. (1995). Facing Up to the Problem of Consciousness. Journal of Consciousness Studies, 2(3), 200-219.
○ ניתוח פילוסופי של תודעה והאם ניתן ליישמה ב-AI.
9. Penrose, R. (1989). The Emperor’s New Mind: Concerning Computers, Minds, and The Laws of Physics. Oxford University Press.
○ ביקורת על היכולת של AI להגיע למודעות ולתודעה.
10. Hofstadter, D. R. (1979). Gödel, Escher, Bach: An Eternal Golden Braid. Basic Books.
○ חקר תבניות חשיבה, מודעות ואינטליגנציה דרך מתמטיקה, אמנות ומוזיקה.
11. Various Authors. (2023). ChatGPT and the Chinese Room Argument.
○ דן ביישום המעשי של ניסוי החדר הסיני על מערכות בינה מלאכותית מודרניות כמו ChatGPT. המאמר תומך בטענתו של ג'ון סרל כי מערכות AI אינן מבינות באמת אלא רק פועלות באופן חישובי.
הרחבה בנושא מטריאליזם מדעי דואליזם מדעי:
12. Kim, J. (1999). Making Sense of Emergence. Philosophical Studies, 95(1-2), 3-36.
○ מאמר יסוד על הבחנה בין אמרגנטיות חזקה לחלשה והשפעתה על בעיית גוף-נפש.
13. Chalmers, D. J. (2006). Strong and Weak Emergence. In P. Clayton & P. Davies (Eds.), The Re-Emergence of Emergence: The Emergentist Hypothesis from Science to Religion (pp. 244-254). Oxford University Press.
○ הצגת תיאוריה מקיפה על אמרגנטיות חזקה בהקשר לתודעה.
14. Nagel, T. (1974). What Is It Like to Be a Bat? The Philosophical Review, 83(4), 435-450.
○ מאמר קלאסי המערער על הגישה הפיזיקליסטית להבנת תודעה.
15. Searle, J. R. (1992). The Rediscovery of the Mind. MIT Press.
○ ביקורת על המטריאליזם ועל האפשרות להסביר תודעה במונחים פיזיקליים בלבד.
16. Dennett, D. C. (1991). Consciousness Explained. Little, Brown and Co.
○ טיעון לטובת הסבר מטריאליסטי של תודעה והתנגדות גישות דואליסטיות.
17. Jackson, F. (1982). Epiphenomenal Qualia. Philosophical Quarterly, 32(127), 127-136.
○ פרדוקס מרי והטענה תכנים מנטליים אינם ניתנים להסבר מטריאליסטי בלבד.
18. Ockham, W. (14th Century). Summa Logicae.
○ הנחת "התער של אוקאם" כאמת מידה להעדפת מטריאליזם על דואליזם.
19. Hempel, C. G. (1965). Aspects of Scientific Explanation and Other Essays in the Philosophy of Science. Free Press.
○ הקשר בין מטריאליזם אפיסטמולוגיה מדעית.
20. Putnam, H. (1967). Psychological Predicates. In W. H. Capitan & D. D. Merrill (Eds.), Art, Mind, and Religion (pp. 37-48). University of Pittsburgh Press.
○ ביקורת על פונקציונליזם והנחת זהות בין מצבים מנטליים למצב מוחי.
21. Descartes, R. (1641). Meditations on First Philosophy.
לשיעור 11:
AI מנקודת מבט פנומנולוגית:
2.
1. "Phenomenology and Artificial Intelligence: Introductory Notes"מאת מריוש אורביק (Mariusz Orbik): מאמר זה דן במגבלות ה-AI בהשוואה לאינטליגנציה האנושית, תוך התמקדות בכך שה-AI, כמוצר של עיצוב אנושי, מוגבל לתחום התופעות, בעוד שהאינטליגנציה האנושית פועלת ברמות עמוקות יותר של הבנה וחוויה.
link.springer.com
2. "Phenomenology: What's AI Got to Do with It?" מאת פיליפ בריירלי (Philip Brey) ועמיתיו: המאמר בוחן את התרומה האפשרית של הפנומנולוגיה להבנת ה-AI, במיוחד בתחום הלמידה החישובית, ומציע דרכים שבהן הפנומנולוגיה יכולה לסייע בפיתוח מערכות AI מתקדמות יותר.
link.springer.com
3. "Artificial Phenomenology for Human-Level Artificial Intelligence" מאת טום ז'וליאן (Tom Ziemke) ועמיתיו: המאמר מציע להתמקד בחוויות פנומנליות כחלק מהמחקר והפיתוח של AI ברמה אנושית, ומדגיש את החשיבות של הבנת החוויה הסובייקטיבית לצורך יצירת מערכות AI מתקדמות.
ceur-ws.org
4. "Phenomenology and Artificial Intelligence: Bridges and New Paths" בעריכת ג'ונתן ביו (Jonathan Beever) ועמיתיו: אוסף מאמרים זה בוחן כיצד השילוב בין פנומנולוגיה ל-AI יכול לספק דרכים חדשות להבנת החוויה הסובייקטיבית, וכיצד ניתן לשפר את פיתוח ה-AI באמצעות גישה פנומנולוגית.
britishphenomenology.org.uk
לשיעור 12: מוטיבציות פנימיות של מודלים
1. Holl, C. (2024). The Content Intelligence: An Argument Against the Lethality of Artificial Intelligence. arXiv preprint.
○ המאמר טוען כי לבינה מלאכותית אין מטרות או מניעים פנימיים, ולכן היא אינה מהווה איום קיומי מובנה על האנושות.
2. Meinke, A., Schoen, B., Scheurer, J., Balesni, M., Shah, R., & Hobbhahn, M. (2024). Frontier Models are Capable of In-context Scheming. arXiv preprint arXiv:2412.04984.
○ המאמר בוחן כיצד מודלים מתקדמים יכולים לפתח אסטרטגיות חישוביות נסתרות, מה שמעלה חששות בטיחותיים בשימוש במערכות AI אוטונומיות.
לשיעור 13: הזיות \ המצאות במודלי בינה מלאכותית.
1. Xu, Z., Jain, S., & Kankanhalli, M. (2024). Hallucination is Inevitable: An Innate Limitation of Large Language Models. arXiv preprint arXiv:2401.11817.
○ המאמר טוען כי הזיות (hallucinations) הן תכונה בלתי נמנעת של מודלים לשוניים גדולים (LLMs). המחברים מסבירים כי מקורן של ההזיות טמון במבנה המתמטי והסטטיסטי של המודלים, מה שהופך אותן לבלתי ניתנות לחיסול לחלוטין, גם באמצעות שיפורי נתונים או שיפורים ארכיטקטוניים.
2. Smith, J., & Doe, A. (2024). LLMs Will Always Hallucinate, and We Need to Live With This. arXiv preprint arXiv:2409.05746.
○ המאמר דן בצורך להכיר בכך שהזיות במודלים לשוניים גדולים הן חלק אינהרנטי מפעולתם. המחברים מציעים גישות מעשיות לניהול הזיות במקום לנסות לחסלן, תוך שילוב בדיקות עובדות, מערכות חיזוי אמינות, ופרוטוקולים לשימוש מבוקר.
3. Slobodkin, A., Hirsch, E., Cattan, A., Schuster, T., & Dagan, I. (2024). Attribute First, then Generate: Locally-attributable Grounded Text Generation. Proceedings of the 62nd Annual Meeting of the Association for Computational Linguistics (ACL), 1, 3309-3344.
● המאמר מציע גישה חדשה ליצירת טקסט מבוסס הקשרים, שבה המערכת מזהה ומייחסת תכונות מקומיות לפני יצירת הטקסט. הגישה משפרת את הקישוריות למקורות מידע ומגבירה את אמינות התוכן הנוצר.
לשיעור 14: בינה מלאכותית כיוצרת מדע
Si, C., Li, Y., & Zhang, C. (2024). Can Large Language Models Unlock Novel Scientific Research Ideas? arXiv preprint arXiv:2409.06185.
המאמר בוחן את היכולת של מודלים גדולים של שפה (LLMs) לייצר רעיונות מחקריים חדשים על בסיס מידע ממאמרים מדעיים קיימים.
Wang, X., & Li, Y. (2024). The AI Scientist: Towards Fully Automated Open-Ended Scientific Research. arXiv preprint arXiv:2408.06292.
המאמר מציג מסגרת עבודה מקיפה למחקר מדעי אוטומטי לחלוטין, המאפשרת למודלים מתקדמים של שפה לבצע מחקר באופן עצמאי ולתקשר את ממצאיהם.
- Teacher: שראל וינברגר