אלישע והזוויות

היום אנחנו נשאל את השאלה הידועה: האם החייזרים התבוניים שאנו בונים יקחו לנו את כל העבודות?מוזמנים ליצור קשר:elishas.angles@gmail.com https://t.me/ElishasAngleshttps://elishasangles.substack.com/לינקים מהפרק:ההרצאה של דניאל שרייבר:https://youtu.be/5gqtckj0Ohc?t=2048סאם אלטמן על AGIhttps://www.youtube.com/watch?v=xXCBz_8hM9w&t=2772shttps://www.windowscentral.com/artificial-intelligence/openai-chatgpt/sam-altman-gpt-5-fails-to-meet-agi-still-missing-somethingפרוייקט AI 2027https://ai-2027.com/https://www.reddit.com/r/singularity/comments/1p2eqv7/ai2027_author_admits_things_seem_to_be_going/הרכבים של WAYMOhttps://cleantechnica.com/2025/12/03/car-crashes-are-a-public-health-crisis-autonomous-cars-are-the-cure/https://www.businessinsider.com/driverless-cruise-car-stuck-wet-concrete-san-francisco-av-robotaxi-2023-8https://www.reddit.com/r/Construction/comments/1clsbzz/self_driving_car_stuck_in_construction_site/https://www.youtube.com/watch?v=tWPG8alh2Bsעורכי דין משתמשים ב-AIhttps://www.law.co.il/news/2025/08/10/lawyer-fined-after-submitting-ai-made-case-law/https://www.mako.co.il/news-law/e9f61eb3e8509910/Article-4a3ee854a199a91026.htmאליה סוצקובר - סוף עידן הסקייל, חזרה לעידן המחקרhttps://www.youtube.com/watch?v=aR20FWCCjAs This is a public episode. If you would like to discuss this with other subscribers or get access to bonus episodes, visit elishasangles.substack.com

בפרק הזה נתחיל לבצר את מקומו של האדם בעולם שבו ה-AI מתפשט יותר ויותר. והפעם - על חשיבותה ומקומה של האותנטיות האנושית. למה היא חשובה, ואיך היא תשפיע על הכניסה של AI למערכות המוכרות שלנו?מוזמנים ליצור קשר:elishas.angles@gmail.com https://elishasangles.substack.com/ https://t.me/ElishasAngles לינקים מהפרק:לפטר או לשכור עובדים בעידן ה-AI?https://www.geektime.co.il/ceo-is-stoked-about-ai-doing-the-work-of-700-people-after-laying-off-700/ https://www.geektime.co.il/the-ceo-that-bragged-about-replacing-humans-with-ai-now-wants-them-back/ טור ב-SCIENCE על אתיקה רובוטית:https://www.science.org/doi/10.1126/science.1151606 גבר הולך לאיבוד דרך GPT:https://www.youtube.com/watch?v=cFRuiVw4pKshttps://www.youtube.com/watch?v=_d08BZmdZu8 https://www.youtube.com/watch?v=otAWu-bLv0Q אפליקציות למערכות יחסים - סטטיסטיקות:https://techcrunch.com/2025/08/12/ai-companion-apps-on-track-to-pull-in-120m-in-2025/https://www.cyberlink.com/blog/trending-topics/3932/ai-companion-appתביעות נגד אפליקציות AI:https://www.reuters.com/sustainability/boards-policy-regulation/google-ai-firm-must-face-lawsuit-filed-by-mother-over-suicide-son-us-court-says-2025-05-21/https://edition.cnn.com/2024/10/30/tech/teen-suicide-character-ai-lawsuithttps://www.spiegel.de/international/zeitgeist/artificial-intelligence-a-deadly-love-affair-with-a-chatbot-a-e5498031-c2b0-4da4-9192-65da9d3f40d6https://edition.cnn.com/2025/08/26/tech/openai-chatgpt-teen-suicide-lawsuithttps://www.bbc.com/news/articles/cgerwp7rdlvo This is a public episode. If you would like to discuss this with other subscribers or get access to bonus episodes, visit elishasangles.substack.com

שלום כולם, וברוכים הבאים לאלישע והזוויות. היום ה-9 לספטמבר 2025, ט"ז אלול תשפ"ה, ואנחנו ב"זווית אקטואלית" בנושא גיוס חרדים. הפעם הקודמת והיחידה שעשיתי "זווית אקטואלית" היה לפני כשנה, בהקשר של המתח שבין שחרור החטופים והשמדת חמאס. הדברים שנאמרו בו עדיין רלוונטיים היום על אף כל ההתפתחויות מאז, ומוזמנים לחזור ולהאזין\לקרוא. ולמי שלא מכיר את הפודקאסט שלי ומגיע לכאן בפעם הראשונה - נעים להכיר, ד"ר אלישע רוזנצוויג, ובפודקאסט הזה אני מנסה לבחון נושאים חשובים לעומק, מתוך גישה שאומרת שמגיעים לאמת דרך הסתכלות על המציאות מזוויות מרובות, רק ביחד מספקות לנו תמונה מלאה.היום אנחנו נדבר על גיוס חרדים, ונראה שאין צורך לפרט כאן על הצורך האקוטי שיש לנו בהגדלת מעגלי הגיוס, ובפרט הגיוס החרדי. רובנו מכירים אנשים שעשו מאות ימי מילואים מאז טבח השביעי באוקטובר, וחלקנו גם מכירים כאלו שהעומס הזה הביא לפגיעה במשפחה ואף לקריסה כלכלית. אם היתה מלחמה שיכלה להבהיר שאנו חייבים שכולם יקחו חלק בנשיאת האלונקה הלאומית והבטחונית, הרי שהמלחמה שאנו מצויים בה היום היא זו.ועדיין, אל מול הציפייה הזו, מנהיגי הציבור החרדי מתעקשים שלציבור שלהם מגיע פטור עקרוני משירות בצה"ל, כיוון שאותו הציבור עושה דבר חשוב לא פחות - לימוד תורה. לימוד התורה הזה מגן, לטענתם, על העם היהודי ומדינתו על ידי חיזוק הקשר עם בורא עולם. על משקל האמירה של אחד העם "יותר משהיהודים שמרו על השבת, השבת שמרה על היהודים", הם אומרים שלימוד התורה מסייע לנו באופנים מטאפיזיים, ושכל פגיעה בלימוד התורה תפגע קשות בעם ובמדינה, בטחונית ובכלל.בגלל שאנחנו מתווכחים על הנושא הזה תוך כדי לחימה, כשהצורך גדול והעומס על חיילי המילואים כבד מנשוא, הוא נמצא הרבה בחדשות, והויכוחים עליו אינטנסיביים יותר וטעונים יותר ממה שהיינו רגילים בעבר. ועדיין, באופן מהותי לא השתנה בויכוח הזה הרבה אם משווים את הטיעונים של כל אחד מהצדדים היום לאלו שלפני עשור או שלושה עשורים. נראה לפעמים שאין עוד מה לומר בנושא. ועדיין, יש כמה זוויות ששווה לבחון גם לאחר כל מה שנאמר. ספיציפית, אם תאזינו לפרק כולו מתחילה ועד סוף, אני מאמין שתצאו עם כמה תובנות. קודם כל, אני אנסה להראות שהמצב הוא כמות שהוא בגלל שיתוף פעולה מכל חלקי הציבור בשימור שלו. כל קבוצה בעם החליטה, לפחות עד לאחרונה, שגיוס חרדים הוא לא דבר כזה חשוב. הדבר השני שאני מקווה לשכנע אתכם בו הוא שאנחנו בעיצומה של תקופת התבגרות. מדינה כמו סטרטאפ, וכל מי שעבד בסטרטאפ יודע שתהליכי עבודה שהיו מצויינים כשהייתם שלושה אנשים במרתף של ההורים לא עובדים כשאתם שלושים אנשים במשרד קטן ברמת-גן, ובטח לא כשאתם שלוש-מאות עובדים שתופסים קומה בעזריאלי ומפוזרים על פני שתי יבשות. התבגרות של מדינה, כמו התבגרות של סטרטאפ, היא תמיד אירוע קשה, כי חייבים להחליף שיטות ותהליכי עבודה שהתרגלנו אליהם, ובייחוד כאלו שבעבר היו מתכון להצלחה והיום עוצרים אותנו מלהתקדם.לפני שנכנס לנושא עצמו, שלוש הקדמות קצרות. קודם כל, מילה על הרקע הצבאי שלי. התגייסתי לסדיר בתותחנים ב-1996 במסגרת מסלול ההסדר, ושירתתי במילואים עד 2007, כך שהספקתי לשרת במלחמת לבנון השניה. ב-2007 יצאתי לחו"ל ללימודי דוקטורט, וכשחזרתי ארצה ב-2011 הודעתי לצה"ל שחזרתי - והם הודיעו לי בתמורה שאין צורך שאחזור ליחידה. זה הסיפור שלי - אם המידע הזה רלוונטי למישהו בהערכת נקודת המבט שאציג כאן, רק רציתי שיהיה בפניכם.שנית, כפי שאפשר לצפות מפודקאסט כמו שלי, המוקד שלי יהיה הרעיונות המנחים את הדיון כמו גם כוחות המאקרו. לצידן יש כמובן המון המון פוליטיקה, כזו שהיא מאד אישית, ייצרית, מלאת שקרים וחסרת כל הצדקה עקרונית. אבל כמו שאני תמיד אומר, הפוליטיקאים שמנווטים את הדרך הם שיקוף של הציבור ששלח אותם, והם מקדמים את האג'נדה שלהם בעזרת פנייה לרעיונות ואידיאלים שהציבור שלהם מאמין בהם, או לכל הפחות רוצה להאמין שהוא מאמין בהם. הדינמיקות הללו הם המוקד, והם העיקר מבחינתי.והקדמה שלישית ואחרונה - אני עומד לעשות המון הכללות בפודקאסט היום. לדבר על "החרדים" זה כמו לדבר על "החילונים", וזה כמובן יכול להיות מאד לא מדוייק ולהביא לטעויות גסות. בתוך הציבור החרדי יש המון קבוצות ותתי-קבוצות, ויש גם חרדים שמתגייסים לצבא וכאלו שעובדים למחייתם ומשלמים מיסים וכן הלאה. רק השבוע היה פיגוע בירושלים, שבו חייל חרדי היה חלק ממי שניטרל את האירוע. אבל כיוון שאנחנו מנסים להתמקד ביער ולא בעצים, מקווה שתסלחו לי על ההכללות. אם תרצו דיוק של הקבוצה, אגיד שאני מדבר על מנהיגי כל אחד מהציבורים, ועל הציבור שפועל על פי עצת אותם מנהיגים. נניח, במקרה החרדי, הרי שמדובר ברבנים המובילים בציבור הליטאי, החסידי והספרדי כשהם מעודדים אותם לא להתגייס או אפילוט לשקול גיוס. זו הדמוגרפיה שאנו נעסוק בה היום.בואו נתחיל, ונעשה זאת במקום הטבעי של הדיון: בציבור החרדי.הציבור החרדי הוא, מזוויות מסויימות, סיפור הצלחה. בתגובה לשואה, הציבור החרדי ראה לעצמו שליחות - לשקם את מה שהנאצים השמידו. הנאצים השמידו את עולם התורה האירופאי, ובתגובה לכך הם ראו לעצמם מטרה להשלים את מה שנחסר. וכך כותבת ד"ר מיכל שאול, שכתבה ספר בנושא:"כינונה של יהדות תורנית רוחנית בארץ-ישראל, גדולה יותר מאשר זו שנחרבה באירופה, נחשבה ל"זיכרון כבוד" המשמעותי וההנצחה הראויה ביותר לזכר הנרצחים. לפי תפישתה העצמית, החברה החרדית היא ההמשך האותנטי ביותר לעולם שחרב, ועצם קיומה ושגשוגה הם צורת ההנצחה הראויה והמשמעותית ביותר לקורבנות השואה. המשנה החרדית בעניין זה סדורה: אם השואה הייתה גלגול היסטורי נוסף של מלחמה בתורת ישראל ובמקיימיה, ועיקר החורבן היה בהעלאתם למוקד של רבנים ובני ישיבות ובחורבן בתי מדרשות ובתי כנסיות, הרי שהנקמה המשמעותית בנאצים והנצחת "מורשת" הקורבנות היא בחיזוקו של עולם התורה."כשמסתכלים על הסיפור היהודי באופן הזה, אז כן, הציבור החרדי הוא סיפור הצלחה, לפחות בעיני עצמו. כמות האנשים שלומדים כיום תורה, שיכולים להקדיש את חייהם ללימוד תורה, הוא גדול מעל ומעבר למה שאי פעם היה באירופה, ומה שבכלל היה ניתן לדמיין שם, ולכן בכך הציבור החרדי הצליח לתקן במשהו את ההרס והחורבן שהיטלר הותיר אחריו.ניתן להבין את היעד הזה ואת השאיפה הזו בעיקר בשנים הראשונות, בעשורים הראשונים שאחרי השואה. בעולם שכזה, כשאתה מיעוט דמוגרפי גם במדינה היהודית שהוקמה סביבך, הגיוני שתראה את עצמך כשומר על גחלת העבר שלא תכבה. המנגנון להשגת היעד הזה הוא בניית גטו, שמורת טבע מוגנת מן העולם שבחוץ, שבתוכה תוכל לגדל, כמו באינקובטור, את מה שנותר מן העולם הישן. כשאתה קטן, ההשפעה שלך על הציבוריות הישראלית היא מינורית, ושאר הציבור גם הוא יכול לאפשר לך להתכנס בגטו ולעזוב אותך לנפשך.אבל מה שאפשר לעשות כשאתה קטן אי אפשר לעשות גם כשאתה גדול. תחשבו על אותו הסטרטאפ שהזכרתי קודם: הבעיות של ניהול מאות אנשים מגיעות דווקא בגלל ההצלחה המדהימה של שלוש המייסדים שהתחילו בגראז' של ההורים. מהרגע שהציבור החרדי הצליח במשימה שלקח על עצמו, הוא נהיה גם קרבן של ההצלחה הזו. כלומר, ההצלחה מאתגרת את האידיאל, ודורשת התנהגות אחרת, הרחבה של האידיאל. האידיאל הזה היה אידיאל של שיקום ההריסות, אבל מה עושים ביום שבו השיקום הסתיים - איך ממשיכים משם? ספיציפית, ההצלחה דורשת לקיחת אחריות גדולה יותר על מה שיש היום, על מה שקורה במדינה כולה. אי אפשר להתמקד רק בתחזוק הגטו כשהגטו מכיל כבר 20 אחוזים מהמדינה, שכן החלטות פנימיות של הגטו משפיעות כבר מערכתית גם על אלו שמחוצה לו.לפעמים אנשים אומרים את הטיעון הזה ממקום אזרחי או ציוני, אבל אני רוצה לחדד ולומר שאני מתכוון אליו ממקום תורני דווקא. החרדים אומרים שהם רואים בלימוד התורה ערך עליון, וזה מה הם רוצים לקדם מעל הכל. אבל גם הם יודעים שבתורה יש עוד מצוות - ומה עם כל השאר? גם החרדים יודעים שיש בתורה מצווה להשתתף במלחמת הגנה על העם, מה שקרוי "עזרת ישראל מיד צר". על מצווה שכזו אומרת הגמרא, ובעקבותיה פוסק הרמב"ם, שכולם יוצאים להילחם, אפילו כאלו שלרוב היו מקבלים פטור, כמו חתן וכלה ביום חתונתם. אני מזכיר את הדברים לא כדי לצלול לפולמוס על שירות צבאי במישור הדתי שלו, אלא כדי להצביע על העובדה הברורה מאליה, שיש הרבה אידיאלים שהתורה דורשת שאנשים יפעלו למענם, לא רק אחד. התורה מכירה בכך שבחיים צריך לעשות שיקלול תמורות: לקבוע יחס המרה בין שני אידיאלים. נניח, בין עוד לומד תורה לבין עוד חייל בשטח. גם מישהו בתוך הציבור החרדי, שחרד לקיים את דבר ה', צריך לשאול - כמה לומדי תורה צריך כדי שגם אנחנו, החרדים, נצטרך להתחיל להפריש בחורים מהקהילה לשירות בצבא? גם החרדים, הרי, מאמינים בכך שאין סומכים על הנס, שיש לעשות השתדלות, ושהיסטורית במלחמות המתוארות בתנ"ך ובמדרשים רוב עם ישראל יצא למלחמה בעוד שמיעוטו - שבט לוי - שימש כעתודה הרוחנית. כיוון שכך, שאלת האיזון חייבת להישאל פנימית, ללא כל קשר ללחצים חיצוניים של המערכת הפוליטית והמשפטית.במצב בריא, השאלה הזו היתה עולה למועצת חכמי התורה או כל גוף רבני אחר שרוצה להתמודד באופן אמיתי עם המציאות. יש גם לשער שהתשובות שהגוף הזה היה מגיע אליהן היו שונות ממה שאני הייתי מגיע אליהם או ממה שהממשלה תרצה לקדם, וזה צפוי ובסדר גמור. אבל בפועל - השאלה אפילו לא נשאלת, והדיון אינו מתחיל להתחיל. ההנהגה החרדית מסרבת להודות שמשהו השתנה בעולם שמחייב התייחסות חדשה, ולכן כל ההתייחסות שלהם לאירועי התקופה נעשית דרך פריזמה טקטית צרה.הדברים הללו אולי אינם מפתיעים במיוחד כשחושבים על העובדה שמדובר בחברה שמרנית, כזו שבנויה על אתוס של "עושים היום מה שעשינו אתמול". אבל האמת היא שדווקא ממקום של רצון לשמר את לימוד התורה היה ראוי שנראה דיון מעמיק יותר אצל החרדים פנימה. נניח שהמטרה היא להגדיל תורה ולהאדירה - מה הדרך לעשות זאת לאורך עשרות ומאות שנים, ולא רק לאורך הקדנציה הקרובה? איך משקללים לתכנית את הכעס מהציבור שמסביב, זה שמתקצב הרבה מהפעילות התורנית דרך המיסים, ואיך מתמודדים עם השפעותיו לטווח ארוך? אם "אין קמח אין תורה", אז כיצד דואגים שיהיה מספיק קמח, כלומר כלכלה יציבה, כדי לתקצב את הפעילות התורנית הזו? וכן הלאה וכן הלאה.מה שקורה בפועל הוא בדיוק להיפך, ובמקום להתחשב בתלות בחברה שמסביב נראה שהנהגת החרדים עסוקה בעיקר בביצור העמדה שלהם מאז ומתמיד, ובאופנים שרק מסכנים את הגטו עוד יותר. הנהגת הציבור החרדי מצהירה "לעולם לא", ומשחררת את תלמידיה לחופשת בין הזמנים בתקופה שמילואימניקים משרתים ללא הפסקה מאות ימים. "נמות ולא נתגייס" היא אומרת, בעודה מגוננת אפילו על אלו שאינם לומדים באופן אדוק. היא מצהירה שאין אפשרות לבטל תורה למען הצבא, אבל משחררת אנשים לפעול לקידום המועמדים שלהם בבחירות המקומיות תחת הכותרת "האחיכם יבואו למלחמה ואתם תשבו פה?" וזה רק קמצוץ ממה שאנו חשופים לו בציבור, וממה שאני שומע מכמה אנשים שאני מכיר בתוך הציבור הזה, המצב שם אינו שונה.כל מה שתיארתי כאן הוא על אחריות החרדים בלבד. אנחנו אמנם בתקופת התבגרות, אבל גם אין מקום להתנשאות כאן מצידי - מדובר באנשים בוגרים שנושאים באחריות למעשיהם, ובעיקר ממנהיגים של ציבור אידיאליסטי הייתי רוצה להאמין שאפשר לצפות למשהו מעמיק יותר, מרחיק ראות יותר. בשורה התחתונה, ככל שהטרנדים הדמוגרפיים ימשיכו באותו הכיוון, הלחצים על הציבור הזה יגברו. מדובר, כפי שאמרתי, במחיר ההצלחה, וזה אומר שעבור החרדים יש כאן מילכוד 22 - או להפוך את הטרנד הדמוגרפי או לשנות את מימוש אידיאל הגטו שלהם. הכוחות הדמוגרפיים הם חזקים כל כך וברורים כל כך שזה יקרה בסופו של דבר - השאלה היא רק באיזה מחיר, ואיך להיערך לשלם אותו.זו, אם כן, הטרוניה הגדולה שלי על החרדים - ומכאן אפשר לעבור לשאר הקבוצות באוכלוסיה. להטיל את כל האחריות למצב על החרדים זו תהיה טעות, כיוון שהמצב שבו אנו מצויים היום הוא תוצאה גם של ההתנהגות הציבורית הכללית, מימין ומש

שלום כולם, וברוכים הבאים ל"אלישע והזוויות". היום אנחנו בזווית אישית עם אלון אורינג, איש הייטק ומרצה באוניברסיטת רייכמן. רציתי לשוחח איתו כדי להבין איך נראית מהפכת ה-AI משני צידי המתרס של עולם התוכנה: גם הצד האקדמי, שמכשיר תלמידים, וגם הצד המעשי, שקולט אותם ועסוק גם הוא בלנסות ולהבין את היכולות החדשות והאתגרים החדשים שהכלים הללו מספקים לנו.לאלו מכם שהגיעו לכאן בפעם הראשונה – נעים להכיר, ד"ר אלישע רוזנצוויג, ד"ר למדעי המחשב, וכאן ב"אלישע והזוויות" אני משלב עונות שלמות שצוללות לנושא מסויים ובוחנות אותו מהמון זוויות, לצד ראיונות עם אנשים מעניינים, כמו נניח השיחה היום עם אלון. העונה השניה שבה אני מצוי היום עוסקת בשאלה – "האם הבינה המלאכותית באמת ראויה לשם תבונה", אז אם הנושא הזה מעניין אתכם, מוזמנים להאזין מהפרק הראשון של העונה השניה (זמין גם בשאר הפלטפורמות, כמו יוטוב וספוטיפיי וכן הלאה), גם להצטרף לאתר הפודקאסט או לערוץ הטלגרם שלי. שיהיה המשך שבוע מצויין! This is a public episode. If you would like to discuss this with other subscribers or get access to bonus episodes, visit elishasangles.substack.com

הפעם ישבתי לשיחה עם אלישב רבינוביץ', יועץ פיננסי, לדיון שהשתרע מהדברים הגדולים של כסף וכלכלה וסוציאליזם מול קפיטליזם - ועד לטיפים קונקרטיים שיכולים לעזור לכל אחד מאיתנו לטפל בעצמו ובמשפחתו לטווח הארוך. לינק לערוץ של אלישב: ⁠https://t.me/elishav_rabinovich⁠ ולינק לערוץ של “אלישע והזוויות”: https://t.me/ElishasAngles This is a public episode. If you would like to discuss this with other subscribers or get access to bonus episodes, visit elishasangles.substack.com

בפרק הזה, אני פורע את החוב שהתחייבתי לו לפני מספר פרקים, ומציג את הביקורת שלי על גישתו של יובל נוח הררי בספרו "נקסוס" על הבינה המלאכותית.מוזמנים להאזין!ליצירת קשר:⁠elishas.angles@gmail.com⁠⁠https://elishasangles.substack.com/⁠⁠https://t.me/ElishasAngles⁠ This is a public episode. If you would like to discuss this with other subscribers or get access to bonus episodes, visit elishasangles.substack.com

היום אנחנו מדברים עם אלכס בקאלו, קריין האולפן הפתוח המסקר את "תיקי האלפים", ומגיש בערוץ TOV אקטואליה יהודית. בשיחה שלנו, דיברנו על המדיות החדשות - כמו הפודקאסטים - המתחרות במדיות המסורתיות, ומה עושים אזרחים שרוצים לדעת מה באמת קורה בנושאים חשובים שעל סדר היום.לינק לאולפן הפתוח של תיקי האלפים:⁠https://www.youtube.com/@kinneretbarashi864/streams⁠פרטי הפודקאסט, למעוניינים: מייל - ⁠elishas.angles@gmail.com⁠טלגרם - ⁠https://t.me/ElishasAngles⁠ This is a public episode. If you would like to discuss this with other subscribers or get access to bonus episodes, visit elishasangles.substack.com

שלום כולם, וברוכים הבאים ל"אלישע והזוויות". היום ה-15 ליולי 2025, יט תמוז תשפ"ה, ואנחנו בעונה השניה פרק 13!בטח שמתם לב שלקח לי זמן להוציא את הפרק הזה, אבל יש לי תירוץ טוב. האמת, יש לי שלל תירוצים: המלחמה עם איראן, הילדים שיצאו לחופש, הדבר הזה שקוראים לו "עבודה" שפה ושם מתחנן לקצת תשומת לב… אבל האמת היא שיש סיבה אחת שמרחפת מעל הכל, והיא שהפרק הזה היה קשה לכתיבה. טיוטות רבות עברו עליו עד שהוא התכנס ליצירת המופת שלפניכם, ואני יכול רק לקוות שתהנו מהתוצר.אחת הסיבות שהפרק הזה היה מאתגר לכתיבה היתה שבהמון נקודות ראיתי כיצד אני גולש מתחומי המדע והאינטואיציה אל תוך מחוזות הפילוסופיה, והגלישה הזו היתה מדרון חלקלק. לכן, הפרק מעוצב באופן שרק יצעד על גדות הצוק אבל ימנע מליפול לתהום הפילוסופיה. לאורך הפרק אני רק אתן קריאת כיוון לכמה מהמקומות שהפילוסופיה ממתינה בסבלנות למי שרוצה להרחיב, ואשאיר את ההשלמות של העניין לכם, המאזינים. מה שכן, מי שירצה לכתוב לי את מחשבותיו באחד מן הצינורות המקובלים - מייל, אתר, ערוץ טלגרם - אני כמובן שמח לנהל את השיחה הזו, אז לא להתבייש…ו-זהו עם ההקדמות! בואו ניגש לפרק עצמו.בפרקים האחרונים דיברנו על פונקציית המטרה, וראינו שהמחשבים זקוקים לכך שבני האדם יספקו להם את פונקציית המטרה הזו, וגם ינטרו ויגבילו את התנהגויות ה-AI בדרך להשגת המטרה. בכל מקום שבני האדם מסירים את מבטם, יש סיכוי שה-AI ינוע באופן עיוור לכיוונים שנוגדים את כוונות בני האדם. אפילו שבני האדם הגדירו את פונקציות המטרה, הן תמיד רק ניסוח חלקי של המטרות האנושיות, ובנוסף בני אדם עסוקים כל הזמן בגילוי ועדכון המטרות שלהם. כיוון שכך, המכונות זקוקות כל הזמן לאינפוזיה מתחדשת של מטרות כדי להשאר רלוונטיות, וככל שהכח שנתון בידם גדול יותר, כך התלות שלהם במשוב הזה מבני האדם גדלה.איפה ראינו משהו כזה בעבר? נכון, ראינו את זה בפרקים 6 ו-7, שם התמקדנו בדאטה שהמכונות זקוקות לה. ראינו שם שאימון של מערכות AI חייב להיעשות על בסיס דאטה אנושי דווקא, ושאי אפשר לשים את רוב כובד המשקל של האימון על דאטה סינתטי שנוצר על ידי מכונה אחרת. וכשמחברים את שני הפרמטרים הללו יחד אנו מקבלים את התובנה הראשונה של הפרק: שמסיבה כלשהי, השורה התחתונה היא שהמכונה לא מסוגלת לעשות את מחזור החשיבה המלא שבני אדם עושים, לפחות לא בפרדיגמות השולטות כיום. היא יכולה לפעול באופן מרשים מאד בתוך מסגרות של מטרות ודאטה שהוגדרו לה מראש, אבל את המסגרות עצמן היא לא מסוגלת לייצר. ובהתחשב בכך שבני אדם עושים זאת באופן טבעי לגמרי, שווה לשאול - מדוע? מה בדיוק חסר למכונה שיש לנו, ומה בדיוק היא מקבלת מאיתנו?גם כאן, חלקים מהתשובה נרמזו לאורך העונה. בתור התחלה, בפרקים 6 ו-7 הרחבנו על כך שיש אינסוף דרכים להסתכל על העולם ולדבר עליו, ורק חלק קטן מהם מעניין את בני האדם. כשהבינה המלאכותית משתמשת בשפה האנושית, היא בעצם מסתמכת באופן כבד מאד על האופן הספיציפי שבו בני אדם ממשיגים את העולם, כפי שראינו בפרק החמישי. ובפרקים האחרונים ראינו שהאבחנה הזו תקפה גם לגביי פונקציית המטרה: יש אינסוף פונקציות מטרה שניתן להגדיר ולאמץ - אבל רק חלק קטן מהם משקף מטרות שבני האדם יזדהו איתן. אי אפשר לדעת באופן רציונלי טהור איזה פלח הוא הפלח המעניין, ולכן המכונה חייבת שנספק לה את השפה, התמונות, התיוגים והמטרות שלנו.מאותה הסיבה, גם לאחר שסיפקנו לה את כל המידע הזה, יש לה עדיין רק שבריר מהתמונה השלמה, גרסה מפוקסלת של מציאות רציפה. גם אם נאכיל אותה את האינטרנט כולו, לא יהיה בכך יותר מייצוג חלקי בלבד של התפיסה האנושית את המציאות, ולכן באופן עקרוני התלות של המכונה בבני אדם בשר-ודם לנצח לא תסתיים. פעמים רבות חוקרים מתמכרים לרעיון שמספיק שנחפש מתחת לפנס, בדאטה שכבר אספנו, וכל פעם מחדש מתברר שהידע שאספנו הוא חלקי בלבד. נניח, הנה דוגמה יפה ששמעתי לפני הרבה שנים במהלך הדוקטורט שלי. בארצות הברית של אמריקה החליטה חברת מזון מסויימת להוציא מוצר חדש - פאי קלאסי, אבל קטן, פאי אישי במקום הגודל המשפחתי הרגיל. כשהם שאלו את עצמם כמה לייצר מכל סוג - פאי אוכמניות, פאי תפוחים וכן הלאה - היה להם ברור שלפאי התפוחים יהיה הביקוש הגבוה ביותר. כל הסטטיסטיקות הראו שזהו הפאי הפופולרי במדינה, עד כדי כך שיש אפילו ביטוי שכזה, As american as apple pie . אלא שלמרבה ההפתעה, כשהשיקו את המוצר החדש הם ראו נפילה במכירות של פאי תפוחים. לאחר מחקר נוסף הם גילו את הסיבה - מסתבר שפאי התפוחים מעולם לא היה הפאי האהוב על רוב האנשים - הוא פשוט הפאי שרוב האנשים לא שונאים. ולכן, הפאי המשפחתי תמיד התכנס לפאי תפוחים, הפאי שאמא לילדים יכולה לקנות בידיעה שאף אחד לא יתלונן. אבל ברגע שהיתה לאנשים אפשרות לקנות משהו אישי, הם הלכו לכיוונים אחרים. אתם מבינים - כל הדאטה המצטבר מן העבר לא הצליח לעלות על הנקודה הזו, ורק המשוב הישיר מבני האדם חשף אותה.את כל המלל ששפכתי פה אפשר בעצם לתמצת ולומר פשוט כך: בני האדם הם הלקוחות של המכונות, והלקוח תמיד צודק. ואמנם המוכר יכול לנחש מה הלקוח ירצה מחר, אבל זה לעולם לא יצא מכלל ניחוש. הרי הלקוח עצמו לא עקבי במה הוא רוצה ולא תמיד יודע מה הוא רוצה, אז מה לנו שנלין על המכונות?אלא שאם באמת זה היה עיקר ההבדל, זה נשמע קצת שרירותי. מה מיוחד בבני אדם, שהם זוכים לקבוע את המיסגור של המחשבים? למה שלא ניתן למשהו אחר להיות הלקוח, לקבוע את הדאטה המעניין ואת המטרות הרלוונטיות. אולי ניתן לאיזה רובוט נחמד לעשות זאת?השאלה הזו מובילה אותנו לעוד הבדל שורשי בין בינה מלאכותית כיום לבין בני אדם, ושהזכרנו בקצרה בפרק התשיעי: כדי לבחור מטרות לא מספיק כח חישובי, צריכים תודעה. כלומר, את בני האדם יכולים להחליף גם ישויות אחרות, כמו חייזרים, כלבים ודולפינים. אפילו מחשבים עתידיים יוכלו לעשות זאת אם תהיה להם תודעה. אבל עד אז - האפשרות הזו איננה חלק מארגז הכלים של המכונות.העובדה שאי אפשר להגדיר מטרות ללא שימוש בתודעה זה דבר ברור מאליו, מעצם ההגדרה של מה זו "מטרה". כך לדוגמה במילון ספיר המקוון ההגדרה היא "דבר שרוצים להשׂיגו", באתר מילוג ההגדרה היא "תוצאה רצויה", ובויקיפדיה הלכו על "משהו שרוצים בהשגתו". בשלושת ההגדרות מופיע הפועל "רצה" - רצון, ורק ישויות בעלות תודעה יכולות לרצות דברים. ולמי שחושב שאני פשוט עושה כאן התקטננות לשונית, הוא מוזמן לנסות את כוחו בהגדרה של המילה "מטרה" ללא הישענות, באופן ישיר או עקיף, על קיומו של רצון. אני מזכיר לכם את התהום הפילוסופית שלפתחנו, כן?לא רק המטרות שלנו, אלא גם הדאטה שאנו מספקים לְמערכות הבינה המלאכותית צבוע בצבעי התודעה שלנו. השפה שלנו, בתור התחלה, מעוצבת על ידי התודעה שלנו, ומותאמת דווקא לחוויה האנושית. מילים כמו "אהבה" ו"שנאה" משקפים תחושות שלא קיימות ללא תודעה. מילים כמו "שולחן" נשמעות בתחילה כאילו הן מתארות מציאות אובייקטיבית, אבל בני אדם מחליטים איפה משהו מפסיק להיות שולחן ומתחיל להיות "כסא" או, לחילופין, "אוהל". על גבי השפה הזו נבנים גם כל התיוגים שאנו עושים לדאטה שאנו מספקים למחשבים - לתמונות, לסרטונים וכן הלאה. ובנוסף, התמונות והסרטונים הללו עצמם מצולמים ומוסרטים על ידינו, עם דגשים אנושיים - איפה הפוקוס של המצלמה בסצינה בסרט, מה המרחק שהיא תופסת ואפילו דברים כמו טווח גלי האור שהמצלמה מסוגלת לקלוט - הכל ספוג ומודרך על ידי הדברים שמעניינים בני אדם, האופן שבו בני האדם מתממשקים איתם וכן הלאה - כלומר שמושפעים מהתודעה שלהם, שלנו.ושלא תחשבו שהרצונות הללו והבחירות הללו הן סתם קפריזה אנושית. יש להן עוגן הישרדותי חזק שעוצב לאורך ההיסטוריה הארוכה של המין האנושי, ובכך הם גם משקפים אמיתות מסויימות על המציאות. דברים ברוח זו אומר ד"ר ג'ורדן פיטרסון בקטע הבא, עוד מימיו כפרופסור לפסיכולוגיה באוניברסיטה בקנדה, לגביי חוקר בשם בינסוואגר:"מה שאנו תופסים הם, בראש ובראשונה, לא רשמים של טעם, צליל, ריח או מגע. אפילו לא דברים או חפצים, אלא משמעויות, מה המשמעות של הדבר עבורכם... הדרך שרובכם חושבים על האופן שבו אתם מעבדים מפגש עם חפצים בעולם, הולכת ככה: שיש חפצים בעולם, אתם רואים את החפצים, אתם חושבים על החפצים, אתם מעריכים את החפצים, אתם מחליטים כיצד לפעול ביחס לחפצים, ואז אתם פועלים. נכון?... אבל זה שגוי! זה לא עובד ככה...מה שבינדסוונגר טוען הוא שמה שאתם רואים בעולם הן משמעויות, וקודם מתרחש זיהוי המשמעות ורק אז מגיע זיהוי החפץ... בני אדם חייבים לתפוס משמעויות קודם כי אנחנו רוצים לשרוד, להישאר בחיים… העולם מלא בדברים האלה שיש להם משמעות שרלוונטיות להישרדות שלכם. ומה שאתם תופסים קודם הוא הרלוונטיות של הדפוס החיצוני להישרדות הזו..."זו הסיבה העמוקה יותר, אם כן, שהמכונה לא יכולה להיות מקור הדאטה ופונקציות המטרה. המכונה לא רוצה דבר, אפילו לא לשרוד, ולכן כל פונקציות המטרה שקולות בפניה וכל ייצוגי המציאות טובות בעיניה באותה מידה. גם לאחר שהיא קיבלה אל קרבה פונקציות מטרה כאלו ואחרות, היא עדיין לא רוצה אותן, אלא פשוט מבצעת את מה שמוגדר אצלה בתוכנה. בסוף אנחנו תמיד חוזרים לכך שרק יצורים בעלי תודעה יכולים לחלץ את המכונה מן האפאתיות הזו, להגדיר מה טוב ומה רע, מה המאפיינים במציאות שראויים לתשומת לב, ולאיזה כיוון כדאי לנוע.ההשפעות של התודעה על הדיון שלנו הן רחבות מאד. התודעה פותחת בפני האדם סוגי חשיבה שחסומים לגמרי עבור מערכות חסרות תודעה, כמו המחשבים של היום, ואזכיר כאן רק עוד אחת. כיוון שאין להם תודעה, ההתנהגות של מכונות ורובוטים בהווה נקבעת באופן דטרמיניסטי על ידי העבר, בדיוק כמו העתיד של דוממים אחרים כמו אבנים פשוטות. לעומת זאת, יצורים בעלי תודעה מסוגלים לפעול מכח העתיד - מתוך שאיפה להגיע לעתיד מדומיין שלא בא לעולם עדיין וקיים רק במחשבותיהם. רק כך נולדים להם סיפורים מעוררי-השראה על אנשים שהצליחו כנגד כל הסיכויים, שלא נתנו לעבר שלהם להכתיב להם את עתידם. "אם תרצו, אין זו אגדה" אמר הרצל, והניע תהליכים ליצירת מדינה שלא היתה קיימת 2000 שנה עבור עם חסר-מדינה שהיה מפוזר בגלות. כיוון שאבנים ורובוטים פועלים רק מכח העבר וההווה, הם חייבים שאנחנו נספק להם פונקציות מטרה, ייצוג מתמטי בהווה שיכול לגרום למחשב להתנהג כאילו הוא מכוון אל עבר עתיד כלשהו.הדברים שאמרתי כאן רומזים, כפי שאולי שמתם לב, לרעיון שלבני אדם יש רצון חופשי, free will, מנגנון שמאפשר להם להשתחרר מהדטרמינזם שהטבע הרגיל - והמחשבים - כבולים בו. האם אתם מאמינים שיש לבני אדם רצון חופשי שכזה, או שלדעתכם גם בני אדם שבויים של העבר והכל קבוע מראש? עם כל זה שהפיתוי הוא גדול לפתוח סוגרים ארוכים ולדבר על הנושא, אני התחייבתי להתאפק, ומילה זו מילה.זרמנו עד הנקודה הזו עם ההנחה שמחשבים אינם בעלי תודעה. אבל האם הם יכולים להיות כאלו?אולי. אולי לא. קשה מאד לדעת כיוון שאנחנו בקושי מבינים מה זו תודעה ואיך היא מתהווה במוח שלנו. נכון, אנחנו יודעים לזהות במוח שלנו את האזורים שמופעלים בזמן שאנחנו בתודעה מוגברת - לאזור הזה קוראים קליפת המוח, cerebral cortex באנגלית - אבל האם כל תודעה חייבת להתממש באופן הזה? אין לנו באמת מושג. אני מניח שלכם יש תודעה ואתם מניחים שלי יש כזו, בעיקר בגלל שאנחנו דומים זה לזה, אבל אולי גם למיקרופון שאני מדבר אליו עכשיו יש תודעה ואני פשוט לא יודע לזהות זאת? איך ניתן בכלל לדעת?לכן, הפרק הזה מכוון למשהו צנוע יותר: שנסכים, לפחות, שזה הרף שצריך לחצות אותו כדי שמחשב יוכל לחשוב כמו בני אדם. לא מספיק לנו מבחן טיורינג, אלא אנחנו חייבים שתהיה לו תודעה. לא מספיק לנו לבחון את ההתנהגות החיצונית של המערכת אחרי שבנינו אותה, כפי שטיורינג רצה, אלא אנחנו חייבים להציב גם דרישות למנגנון הפנימי שלה. יש דברים, כמובן, שהיא מסוגלת לעשות גם ללא תודעה - גם מחשבון כיס יכול לחשב חישובים שבני אדם לא מסוגלים - אבל תודעה היא מצרך קריטי כדי לחשוב כמו בני אדם.בנוסף אני חוש

לכבוד המלחמה באיראן ההתלכדות הישראלית המפורסמת התרחשה, אבל אני בטוח שברגע שנסיים אותה בהצלחה אנחנו נחזור להתווכח ולריב כרגיל. ולכן, לכבוד המאורע הזה הפרק הזה של "זווית אישית" יוקדש לשיחה עם אורי רוקני, איש הייטק שעוסק בזמנו הפנוי בבנייה והעברה של סדנאות שיח כאן במדינה המסוכסכת שלנו.ליצירת קשר עם אורי כדי לחלוק רעיונות או לארגן פעילות, מוזמנים לכתוב למייל: uri.rokni@gmail.comולמי שעדיין לא הצטרף או יודע - הנה פרטי הפודקאסט:מייל: elishas.angles@gmail.comערוץ הטלגרם: https://t.me/ElishasAnglesורישום לאתר הפודקאסט - כן, האתר שלנו! This is a public episode. If you would like to discuss this with other subscribers or get access to bonus episodes, visit elishasangles.substack.com

היום נעסוק בשאלה - מה קורה כשאנו מספקים למערכות ה-AI פונקציית מטרה. האם האופן שבו המחשבים משתמשים בפונקציה דומה לאיך שבני אדם מקדמים את המטרות שלהם? ומה ההשלכות של ההבדלים בין בני האדם לבין המחשבים בהקשר הזה? על הדרך, גם נכיר את חוק גודהארט המצויין.מוזמנים להאזין!אתר הפודקאסט והמייל:https://elishasangles.substack.com/ elishas.angles@gmail.com לינקים נוספים מהפרק:רמאות במשחק שח:https://time.com/7259395/ai-chess-cheating-palisade-research/ חוק גודהארט:https://he.wikipedia.org/wiki/%D7%97%D7%95%D7%A7_%D7%92%D7%95%D7%93%D7%94%D7%90%D7%A8%D7%98 אפקט הקוברה:https://economicpoint.com/goodharts-law הביקורת של פרנסואה שולה - AI אינו תבוני, הוא פשוט זוכר המון דברים בעל פה:https://youtu.be/rl7B-LHiaNo איך עוברים את מבחן טיורינג:https://arxiv.org/pdf/2310.20216 הבינה המלאכותית משתפרת בחירטוטים משכנעים במקום בלדייק:https://arxiv.org/abs/2409.12822  This is a public episode. If you would like to discuss this with other subscribers or get access to bonus episodes, visit elishasangles.substack.com

בפרק הזה נדבר, כפי שכתוב בכותרת, על פונקציית המטרה, והדברים שהרעיון הפשוט שלה מסתיר ומגלם בתוכו.מוזמנים להצטרף לאתר ו\או לאתר הפודקאסט, כמו גם ליצור קשר במייל!מייל:⁠elishas.angles@gmail.com⁠טלגרם:⁠https://t.me/ElishasAngles⁠אתר:⁠https://elishasangles.substack.com/⁠לינקים מהפרק:מחולל התמונות של גוגל:⁠https://www.vox.com/future-perfect/2024/2/28/24083814/google-gemini-ai-bias-ethics⁠⁠https://www.theguardian.com/technology/2024/mar/08/we-definitely-messed-up-why-did-google-ai-tool-make-offensive-historical-images⁠⁠https://www.theguardian.com/technology/2024/feb/28/google-chief-ai-tools-photo-diversity-offended-users⁠לשחק שח עם GPT:⁠https://nicholas.carlini.com/writing/2023/chess-llm.html⁠ניקולאס קאר, "כלוב הזכוכית":⁠https://www.roughtype.com/?p=5306⁠הגיליוטינה של דייויד יום:⁠https://en.wikipedia.org/wiki/Is%E2%80%93ought_problem⁠ This is a public episode. If you would like to discuss this with other subscribers or get access to bonus episodes, visit elishasangles.substack.com

היום אנחנו נציג את הקונספט של תכונות מתהוות, Emergent Properties, ודרכו ננסה לפרוץ את המחסום שהוצב בפני ה-AI בפרק השמיני. האם מערכת טיפשה יכולה, בסדרי גודל מסויימים, להפוך לתבונית?מוזמנים ליצור קשר ולהצטרף לאתר הפודקאסט, וגם לטלגרם החדש!⁠elishas.angles@gmail.com⁠⁠https://elishasangles.substack.com/⁠⁠https://t.me/ElishasAngles⁠לינקים מהפודקאסט:שיחה שלי עם תמיר דורטל: ⁠https://youtu.be/cxTXE3m31PQ?si=3sxTub1pf8dK84py⁠שיחה עם מנכ"ל אנתרופיק:⁠https://www.youtube.com/watch?v=GrloGdp5wdc⁠שיחה עם מנכ"ל OpenAI:⁠https://www.youtube.com/watch?v=nSM0xd8xHUM&t=742s⁠בין מים לקרח:⁠https://phys.org/news/2012-09-chemists-smallest-molecules-ice-crystal.html⁠אריסטו על הנמלים:⁠http://web.documentacatholicaomnia.eu/03d/-384_-322,_Aristoteles,_08_History_of_Animals,_EN.pdf⁠סטיגמרגיה:⁠https://en.wikipedia.org/wiki/Stigmergy⁠ This is a public episode. If you would like to discuss this with other subscribers or get access to bonus episodes, visit elishasangles.substack.com

הפעם ניפגש עם רותם אורג, המייסד של ארגון בשם "ליבראל". אני משוחח כאן עם רותם על הארגון שהקים, המצב בצד הליברלי של המפה בארצות הברית, ובייחוד איך ישראל וישראלים צריכים לגשת אליהם כדי לבנות קשרים חזקים וברי קיימא.מוזמנים להאזין! פרטי התקשרות עם אתר ארגון ליבראל, והמשתמש של רותם ב-X:⁠https://www.librael.org/⁠⁠https://x.com/WashingtonExp⁠ This is a public episode. If you would like to discuss this with other subscribers or get access to bonus episodes, visit elishasangles.substack.com

בפרק הזה של "זווית אישית", שוחחתי עם ד"ר רועי יוזביץ' על הנושא של העונה השניה: מה זה AI והאם הוא באמת תבוני, לדעתו? על הדרך גם דיברנו על משחק גו, יצירתיות של מערכות AI, עתיד מקצוע התכנות וגם - קסמים.מוזמנים להאזין! This is a public episode. If you would like to discuss this with other subscribers or get access to bonus episodes, visit elishasangles.substack.com

שלום כולם וברוכים הבאים לאלישע והזוויות, היום ה-16 לפברואר 2025, י"ח שבט, ואנחנו בעונה שניה על בינה מלאכותית, בפרק מספר 9!נתחיל בכמה עדכונים. קודם כל, אני שמח לשתף שהפודקאסט עבר את 20 אלף ההאזנות בספוטיפיי! ויש עוד כמה אלפים בפלטפורמות האחרות, אז אני משער שבסה"כ עברנו יחד את רף ה-25 אלף. רציתי לקחת רגע להודות לכם על שאתם כאן איתי במסעות שלי, ולעודד אתכם לשתף את הפודקאסט עם חברים, מכרים, עוקבי טוויטר וכן הלאה.חוץ מזה, ובלי קשר לנקודת הציון החשובה הזו, יש לנו לוגו חדש לפודקאסט! חשבתי שהגיע הזמן לשדרג את המותג, ואני מקווה שאתם אוהבים אותו. תודה רבה לגיסתי שעיצבה הלוגו, אז אם מישהו מעוניין בפרטים שלה, מוזמנים לכתוב לי בפרטי ואני אקשר ביניכם.בפרק הקודם, פרשתי בפניכם את הטיעון הסקפטי הפשוט שקובע שבאופן מהותי, מחשבים אינם יכולים לחשוב, וכיוון שכל AI שיש לנו היום הוא בסוף תוכנה שרצה על מחשב, כל פרוייקט ה-AI נדון לכישלון. וכשאני אומר "נדון לכישלון" אני כמובן לא מתכוון לכפור בערך ובעוצמה של הכלים המדהימים שאנו קוראים להם AI. מערכות הבינה המלאכותית עשו - וימשיכו לעשות - מהפכה בכל העולם בלי קשר לאיך נקרא להן. יש כאלו שרואים בהן את שורשיה של מהפכה בסדר גודל של המהפכה התעשייתית, ויש סיכוי שהם צודקים בזה. אבל גודל המהפכה אינו בהכרח אומר שהמערכות הללו זכאיות לשם התואר "תבונה". אין ספק שהשם AI מתגלגל בקלילות מהלשון, והוא גם עוזר לייצר השראה לאלפי חוקרים ומתכנתים בעולם, שקמים כל בוקר במטרה לקדם חזון של בניית מוח סינתטי. אבל התיזה משבוע שעבר - בא נקרא לה התיזה ה"סקפטית" - קובעת שמדובר באשליה ותו לא, מופע קסמים שמהתל בנו. הצגנו את הדברים בהשראת המאמרים של מארק הלפרן, שלא המציא את הטיעון אבל ניסח אותו באופן אלגנטי, ואם אתם לא זוכרים את הפרטים, אני מזמין אתכם להאזין שוב לפרק השמיני, ולחזור לכאן כשהדברים יושבים לכם טוב בראש.ואם כבר הזכרתי את הפרק הקודם, שווה שתכירו פרט טריוויה חשוב לגביי העמדה הסקפטית של הלפרן. אחד המנסחים הראשונים שלה היה ג'ון סרל (John Searle), פרופסור לשעבר באוניברסיטת ברקלי, שהציג אותה על ידי שימוש במשל המכונה "החדר הסיני". לא נכנס לפרטי המשל כאן, אבל הוא דומה קצת להשראה ששאבתי בפרק הקודם ממופעי קסמים. כיוון שמדובר במשל קלאסי וידוע, רציתי שתכירו את השם למקרה שמישהו יזכיר אותו פעם בפניכם. שלא תגידו שאני לא דואג לכם, כן? אצרף כאן לינק לפרטי המשל למי שירצה להרחיב.אל מול הטיעון הסקפטי שדנו בו בפרק הקודם אפשר להציב כמה תגובות. אפשר לנתח את הטיעון עצמו, ולבדוק איפה יש טעויות או קפיצות לוגיות, נקודות תורפה שיאפשרו לנו להחליש אותו. אם נדָמֶה את הטיעון כסוג של גדר שתוחמת את המחשבים לאזור שאין בו אינטליגנציה, אפשר לחפש פרצות בגדר. גישות כאלו אנחנו נסקור בפרקים הבאים. היום, אני רוצה לדון בתגובה מסוג אחר.כמה מאזינים פנו אלי אחרי הפרק ושאלו - רגע, אבל מה עם המוח האנושי? גם המוח הוא בסוף מכונה פיזית, שמבוססת על סיגנלים חשמליים בין תאי-עצב הקרויים נוירונים. לכל הרוחות, כל מערכות ה-AI של היום בנויות על תשתית שקוראים לה רשתות נוירונים, ארכיטקטורות שעוצבו בהשראת המוח האנושי. אז, אם אנחנו מצליחים לחשוב בעזרת המוח, אז זה אומר שקיימת ארכיטקטורה כלשהי של מחשבים שתוכל לחשוב, הלא כן?כשחשבתי על השאלה הזו, הייתי חייב להיות כנה עם עצמי: מדעי המוח הם מטרופולין סואן של רעיונות וגילויים מדעיים, ואני לא מתחיל בכלל לגרד את הידע הנרחב בנושא. וחוץ מזה, אם היינו רוצים לשטוח את כל נושא הקשר שבין בינה מלאכותית לבין המוח, היינו צריכים להכניס לכאן מומחים מהמון תחומי ידע לגביי המוח האנושי - פסיכולוגים, נוירולוגים, מומחים לאבולוציה וכאלו שיכולים לספר לנו על המוח של קופים וכלבים ומה אנחנו יודעים על היכולת שלהם לחשוב, וכן הלאה. ולכן, מה שהחלטתי לעשות היום הוא בעיקר לפתוח צהר לאיך אני ניגש לחשיבה על עניין ההקבלה שבין המוח לבין בינה מלאכותית, עם כמה דוגמאות ממש בפינצטה, ובתקווה שזה יעזור לכם ויתן לכם כלים טובים לארגון הידע שלכם בנושא. בנוסף, בפרקים הבאים אנחנו ניגע בעוד נושאים המשיקים למה שאנו יודעים היום על המוח, לפחות זו התכנית שלי, אז אני מקווה שהפרק הזה לא יהיה סוף פסוק בעניין.אז, מאיפה נתחיל? נראה לי שהדבר הראשון שצריך לומר הוא שבמסגרת העונה שלנו, יש משמעות מיוחדת להזדקקות למוח.. שכן בעצם הצגת השאלה אנחנו סוטים במידה מסויימת מדרכו של טיורינג וחושפים חולשה בפרוייקט שלו. הרי טיורינג שאף להתמקד רק בביטויים החיצוניים של אינטליגנציה וחשיבה, והוא נמנע באופן מכוון מלהזדקק לשאלה איך שתיהן מתממשות אצל בני האדם. טיורינג קיווה בכך לדלג קדימה לפתרון בלי להבין את מהות הדבר שהוא מנסה לפתור - לבנות מערכות חושבות בלי להגדיר מראש מה זו חשיבה. אבל מה שה"גישה הסקפטית" טענה באופן מאד משכנע הוא שכאשר מסתכלים מתחת למכסה המנוע ומבינים איך מחשבים עובדים, אשליית החשיבה שלהם מתנפצת. כיוון שכך, מי שרוצה לייצב את החזית הזו נדרש בעצם לשכנע אותנו שהמוח האנושי, שכולנו מסכימים שמסוגל לחשוב, זהה למחשבים מבחינה מהותית כלשהי. הבעיה היא שבכך הוא שובר את המסך שטיורינג הציב, מסך שמפריד מראש בין ה"מה" שאנו חווים, לבין ה"איך" שנסתר מעינינו.אז בסדר, יש כאן ניצחון בקרב קטן מול "מסך הבּערות" שטיורינג ניסה להציב. אבל מהרגע שפרצנו את מסך הבערות, הויכוח שבין הגישה הסקפטית לגישה האופטימית עובר לחזית אחרת. בעלי הטיעון ה"אופטימי", אלו שסבורים שבינה מלאכותית יכולה להיות תבונית באמת, באים ואומרים: הלפרן, וגם ג'ון סרל - אתם ושכמותכם משחקים מלוכלך. על הבמה יש לא קוסם אחד אלא שניים - הבינה המלאכותית כמובן, אבל גם הבינה הביולוגית האנושית. בפרק הקודם דאגתם לחשוף את הטריקים של הקוסם המלאכותי, תוך כדי שייחסתם יכולות חשיבה מהותניות למוח האנושי. אבל בכך אתם רק ממנפים יתרון לא הוגן שיש למוח האנושי, והוא שאנו לא יודעים איך בדיוק הוא עובד. אם תרימו את מכסה המנוע של המוח הביולוגי ותביטו פנימה, אם נתחיל לחפור לעומק באופן שבו הוא עובד, אנחנו נחשוף שהמוח שלנו דומה מאד למחשב, דומה מדי, ושגורל שניהם תמיד יהיה זהה.ובהחלט, זהו טיעון מאד אִינְטואִיטִיבִי ששווה דיון. כפי שאמרנו, מערכות בינה מלאכותית כיום בנויים באופן דומה מאד למוח. שניהם מבצעים חישובים על ידי תקשורת בין נוירונים המאורגנים בצורה של רשת. אצל שניהם, הנוירונים עוברים כיול בתהליכים של למידה לאורך זמן עד שהם מגיעים לתפקוד ראוי. ואצל שניהם - וזה החלק שמתקשר ישירות לפרק הקודם - אצל שניהם הנוירונים פועלים באופן מכני, דטרמיניסטי וחסר חשיבה. כל נוירון פשוט מגיב לַגִירויים שהוא מקבל מהסביבה. אז, ידידי הסקפטים, אתם יודעים מה? כל הכבוד לכם שכיתרתם את המחשבים והוכחתם שלעולם לא יוכלו לפרוץ את גבולות הדטרמיניזם ולחשוב באמת, אבל עכשיו הגיע הזמן שתשימו לב שכשהתקנתם את המנעול על דלת הגדר, על הדרך גם כלאתם את עצמכם ואת המוח האנושי באותו כלוב לוגי. אם הטיעון שלכם חזק מספיק כדי להוכיח שמחשבים לא יהיו מסוגלים לחשוב לעולם, אז באותה מידה הוא מראה שמה שהמוח האנושי עושה כבר היום איננו חשיבה. תקראו לזה מה שאתם רוצים, אבל אין משהו מהותי במוח הביולוגי, ובחשיבה האנושית, שלא יכול להתממש במחשב מבוסס סיליקון עם תוכנה מתוחכמת.הטיעון הזה נשמע חזק, אבל ניסוח טוב יותר לכך הוא שיש לו פוטנציאל להיות טיעון חזק, פוטנציאל להיות תשובה ניצחת כלפי הסקפטיים. הקביעה "מחשבים שקולים מהותית למוחות" איננה עובדה, אלא היפותיזה. יש להיפותיזה הזו הרבה תומכים, ויש להם סיבות טובות לחשוב כן. מצד שני יש גם הבדלים חשובים בין המערכות השונות, ולכן סימן השאלה עדיין שם. ומתוך סימן השאלה הזה עולים הרבה כיוונים מעניינים לבחינת הנושא.בואו נתחיל מהכיוון האופטימי. להוכיח שהמוח שקול ב-100% למחשבים זה כמובן לא אפשרי, אבל מתוך ההצלחות של GPT אפשר בהחלט לקבל הרבה רעיונות והשראה לגביי איך שהמוח האנושי עובד. אני אזכיר לכם ש-GPT, כל שהוא מאומן לעשות זה לעשות auto-complete, השלמה של המילה הבאה, לפי כל המילים הקודמות שהיו בשיחה. אתם הכרתם את הפיצ'ר הזה ממזמן כשכתבתם הודעות טקסט בנייד, ו-GPT פשוט שם את זה על סטרואידים. אז, בהינתן שזה כל מה שזה עושה, זה מפתיע באופן מטורף שגישה שכזו מספיק עוצמתית כדי לנהל שיחה משכנעת עם בני אדם, ולהצליח פעמים רבות במבחן טיורינג! מה אפשר ללמוד מזה שזה המצב? ובכן, כיוון שהטבע אוהב להיות חסכוני במשאבים ואנרגיה, אולי אפשר להסיק מכאן שחלקים מסויימים מיכולת הדיבור האנושית דורשים מכניזמים הרבה יותר פשוטים ממה שחשבנו. וכך, נניח, אומר הפילוסוף נד בלוק, פרופסור באוניברסיטת ניו יורק, בראיון שנתן לאחרונה:"אני לא יודע אם אפשר ללמוד ממערכות ה-AI לגביי המבנה של השפה האנושית, אבל הן בוודאי לימדו אותנו המון על חשיבה אנושית, ובייחוד אלו חלקים מהשכל אולי מנצלים טכניקה פשוטה יחסית של auto-complete. זו תגלית חשובה ביותר."אז, זו דוגמה אחת לאופן שבו ההקבלה בין המוח לבין המחשב יכולה להאיר אור חדש על תפקודו של המוח. ואם זה המצב, מאד קל להתמכר לרעיון שהשניים דומים מאד באופן פעולתם. ולמי שרוצה להאזין לשיחה המרתקת עם פרופ' בלוק, אני אשים את הלינק לשיחה הזו שלו בתיאור הפרק.אבל לצד נקודות הדמיון, יש גם הבדלים חשובים. נניח, בואו ניקח לדוגמא את ההבדל הבולט ביותר בין השניים - העובדה שהמוח הוא מערכת ביולוגית שמוטמעת בגוף האדם בעוד מחשבים עשויים מסיליקון וכלואים בקופסא מלבנית משעממת. אולי האינסטינקט שלכם הוא שזה עניין שולי, ושמה שחשוב בסוף הוא האלמנטים המהותיים יותר של המערכת, כמו מפת הקשרים בין הנוירונים, הרגישות והכמות שלהם, סוג המידע שהמחשב חשוף אליו והכמות שלו, וכן הלאה. קשה להבין למה שהחומר שממנו המוח עשוי יהיה כזה חשוב - על פניו, נראה שמדובר רק במאפיין היסטורי מקרי, פרי תהליכים אבולוציוניים. אבל מסתבר שיש חוקרים רציניים שלא חושבים כך. קחו לדוגמא את הדיון הבא שהתרחש לפני כמה חודשים בנושא שמשיק לנושא שלנו: האם מכונות יכולות להיות בעלות תודעה כמו בני אדם.אחד הדוברים בדיבייט הזה היה אניל סת', מדען מוח בריטי ופרופסור לנוירו-קוגניציה חישובית וקוגניטיבית באוניברסיטת סאסקס. במסגרת השיחה, המראיין הציע את התרגיל החשיבתי הבא, שאמורה להוכיח שתודעה סינתטית היא אפשרית: נדמיין עתיד שבו נוכל לבצע ניתוח מוח בזמן שהפציינט ער, ובכל שלב להחליף בָּמוח נוירון ביולוגי בודד בנוירון סיליקוני בודד, וככה נחליף אותם אחד אחד עד שכולם יוחלפו. אנחנו ניגש לניתוח הזה כמובן כשיש בידינו נוירון סינתטי מושלם. בנוסף, כדי לוודא שאנחנו לא הורסים כלום, אחרי כל החלפה של נוירון הפציינט אומר לנו ברוגע, "הי חברים, אני עוד כאן! זה עדיין אני, יוסי!" - ובכך מרגיע אותנו שהתודעה שלו עדיין שם, יציבה כתמיד. אם נצליח לעשות משהו כזה, נראה שזה יוכיח מעל כל ספק שניתן לבנות מחשב בעל תודעה! הרי בסוף התהליך הזה כל הנוירונים במוח הם עכשיו עשויים מסיליקון והתודעה עדיין שם, אז - זה שקול…בתגובה לשאלה הזו, פרופסור סת' הסביר ששאלות תיאוריטיות כאלו נשמעות טוב, ומאוד מגניבות בתור שעשוע אינטלקטואלי. אבל כשחוקרים אותן לעומק מגלים שהן יותר מטעות מאשר עוזרות לברר את הנושא. הן מְמָסְכות את המאפיינים הקריטיים של המוח שימנעו ממצב כזה להיות אפשרי אי פעם, מאפיינים שממוטטים את המסגרת הקונספטואלית של השאלה לפני שאפילו מתחילים לחשוב עליה. והנה ציטוט של דבריו בתוספת כמה מילות קישור והבהרה, ואחר כך אשמיע לכם את המקור:"המוח אינו מערכת שאתה יכול פשוט להחליף בו רכיבים באופן הזה… אני חושב שהמוח הינו מערכת מהסוג שאי אפשר להפריד בה בין מה שהיא עושה, הפונקציונליות שלה, לבין מה שהיא, התשתית החומרית הביולוגית. בוא נסתכל על המקרה שהבאת. הרי לפעמים נוירון ביולוגי מופעל ומשחרר סיגנל לנוירונים השכנים שלו לא בגלל שהוא עשה אי

פרק 3 ואחרון מתוך 3 בנושא - כיצד ההתנתקות הניעה תהליכי עומק בציונות הדתית (ובימין בכלל) שפרצו לשטח ברפורמה המשפטית? ובפרק הזה אנחנו גם דנים בסערת הסרבנות, ובאופן שבו מה שקרה לציונות הדתית בהתנתקות קורה היום לצד הליברלי במפה.תודה על ההאזנה - כל משוב יתקבל בברכה! This is a public episode. If you would like to discuss this with other subscribers or get access to bonus episodes, visit elishasangles.substack.com

פרק 2 מתוך 3 בנושא - כיצד ההתנתקות הניעה תהליכי עומק בציונות הדתית (ובימין בכלל) שפרצו לשטח ברפורמה המשפטית?ממשיכים את השיחה עם עמית מנדלבוים, איש הייטק מהציונות הדתית שהתנגד להתנתקות וגם לרפורמה, כדי לדבר על רחשי הציבור הציוני דתי ומה הרבה אנשים לא מבינים על הקשר שבין הטראומה של ההתנתקות לבין הרפורמה המשפטית.אל תעצרו כאן - הפרק השלישי והאחרון זמין גם כן! This is a public episode. If you would like to discuss this with other subscribers or get access to bonus episodes, visit elishasangles.substack.com

כיצד ההתנתקות הניעה תהליכי עומק בציונות הדתית (ובימין בכלל) שפרצו לשטח ברפורמה המשפטית? הפעם אני משוחח עם עמית מנדלבוים, איש הייטק מהציונות הדתית שהתנגד להתנתקות וגם לרפורמה, כדי לדבר על רחשי הציבור הציוני דתי ומה הרבה אנשים לא מבינים על הקשר שבין הטראומה של ההתנתקות לבין הרפורמה המשפטית.זהו פרק 1 מתוך 3 בנושא - שני הפרקים הנוספים יצאו גם כן, והפיצול נועד לנוחות ההאזנה. מוזמנים להיכנס לאתר (elishasangles.substack.com) ולראות את שני הפרקים הנוספים - לא רציתי להציק לכם עם מבול של מיילים סתם בשל העניין הטכני הפעוט הזה…ושימו לב - לוגו חדש!כרגיל, מוזמנים להגיב כאן או לכתוב לי למייל elishas.angles@gmail.com. This is a public episode. If you would like to discuss this with other subscribers or get access to bonus episodes, visit elishasangles.substack.com

שלום כולם, וברוכים הבאים לאלישע והזוויות, עונה שניה פרק מספר 8! היום ה-5 בינואר, 2025, - שנה אזרחית חדשה, פרק חדש! עומד להיות לנו פרק מאד שאפתני, כפי שתראו, אז אני חושב שזו תהיה אחלה דרך לפתוח את השנה כאן בפודקאסט.לכבוד האירוע, אני רוצה שוב לעודד אתכם, כפי שעשיתי בפרק שעבר, לבקר ולהירשם באתר האינטרנט של הפודקאסט, כדי שתקבלו מייל כשיוצא פרק, וגם תוכלו לראות את כל התמונות והדיאגרמות שמוזכרות בעונה. בנוסף, יש גם מייל לפודקאסט (elishas.angles@gmail.com) - אם מישהו רוצה לשלוח, אני תמיד שמח לקבל מכם משוב, ואני מנסה לענות לכל מי שכותב. הלינקים השונים לכל הדברים הללו נמצאים בתיאור הפרק, אז - מוזמנים!אני רוצה להתחיל את הפרק בסקירה ממעוף הציפור של מה שראינו עד כה, כדי למקם איפה אנחנו. לאורך העונה, דיברנו הרבה על מבחן טיורינג כדוגמה הקלאסית למבחן שמזהה תבונה. מבחן טיורינג אמנם קיבל מקום של כבוד בפנתאון המבחנים לזיהוי אינטלגנציה מלאכותית, אבל מאז 1950 ועד ימינו אנשים הציעו חלופות. חלקן היוו שידרוגים או שינויים על בסיס מבחן טיורינג, וחלקן פנו לכיוונים אחרים. אם ניקח כמה ניסוחים מהשנים האחרונות, אז יש את גארי מרקוס, פסיכולוג וחוקר קוגניציה, שהציע לאתגר מחשבים בצפיה בוידאו ולאחר מכן שיענו על שאלות ביחס למה שהוצג בוידאו. יש את מוסטאפה סולימאן, יזם בתחום ה-AI ומוביל תחום ה-AI במיקרוסופט, שהציע לתת ל-AI סכום של 100K דולר, ולתת לו משימה להרוויח מיליון דולר. אם המחשב יצליח במשימה, אז הוא ייחשב בינה מלאכותית. ויש גם את יובל נוח הררי. בכמה ראיונות שנתן, הררי הגדיר AI באופן רחב הרבה יותר - כמערכת שיודעת להתקדם אל עבר יעד נתון ולהתמודד עם האקראיות של המציאות מסביב בדרך לשם. דרך אגב, אני מתכנן להקדיש פרק עתידי לדברים של יובל נוח הררי בעניין - הוא מייצג גישה מסויימת לשיח על AI שנראה לי חשוב להתייחס אליה - אבל כרגע אנחנו נסתפק בדברים שהוא אמר באופן כללי.כפי שאתם מבינים, יש הרבה הצעות שם בחוץ לאיך נזהה AI אמיתי, בינה מלאכותית אמיתית. אבל למרות כל הוריאציות השונות, יש משהו אחד שמשותף לכל התיאורים החלופיים ששיתפתי עד כה: כולם מציבים מבחן שמתמקד בביצועים של המכונה, ביכולות מוחצנות שניתנות למדידה. טיורינג התמקד בשיח אנושי זורם, ואחרים מתמקדים ביכולת להרוויח כסף או לנתח ולהסביר התרחשויות בוידאו. לצד הפוקוס הזה על התוצרים, יש גם את החלק השני והמשלים של ההצעות השונות: חוסר עניין מוחלט במה שקורה בתוך הקופסא השחורה שאנחנו בוחנים. אם זה עובד - אם זה מייצר תוצרים ששקולים לתוצרים האנושיים - אז לא אכפת לנו איך. יש כאן הנחה סמויה, שהמבחנים שאנו נאמץ כדי לבדוק את המכונות הם כל כך מאתגרים, שהדרך היחידה להצליח בהם תהיה אם המנוע שבתוך הקופסה יהיה, אפקטיבית, יישות תבונית.אבל, מה אם הכל זו עבודה בעיניים? תחשבו רגע על מופע קוסמים. כשאתם הולכים לצפות במופע שכזה, נניח של אמן חושים כמו ליאור סושרד, אתם צופים בבן אדם עושה דברים שנראים, מבחוץ, כמו כישוף אותנטי: קריאת מחשבות, חיזוי העתיד, וכן הלאה. אבל אתם לא יוצאים מהאולם בסוף הערב באמונה שהוא אכן מכשף, אלא בעיקר סקרנים לדעת מה הטריקים שהוא הפעיל בלי ששמתם לב, כדי לגרום למראית עין של כישוף. אתם גם יודעים, אם למדתם פעם איזה קסם או שניים, שאם הוא היה מגלה לכם את הטריק, כל המסתורין היה נעלם מיד, והיה מוחלף בהערכה עמוקה ליכולות אחרות של הקוסם: הביצוע המדוייק, ניווט תשומת הלב של הקהל כדי שהאשליה תהיה מושלמת, וכן הלאה. אז אולי זה מה שקורה גם עם מערכות ה-AI - אולי ההתמקדות שלנו בביצועים מבחוץ פשוט מאפשרת לנו להתמכר לאשליה של חשיבה? אולי בעצם מבט מאחורי הפרגוד יחשוף שהקוסם מארץ עוץ אינו מכשף אלא רק שרלטן?אז, זה מה שאנחנו נעשה כאן היום - אני אציג את הטיעון הסקפטי החזק ביותר שאני מכיר ביחס לתבוניות של מערכות ה-AI שסובבות אותנו. האמת היא, אני עומד ללכת רחוק הרבה מעבר לזה: אני אטען שמחשבים, באופן מהותי וסופני, לא חשבו בעבר, אינם יכולים לחשוב בהווה, וגם בעתיד לא יוכלו לחשוב, אפילו לא טיפה. ואולי, אולי יום יבוא והאדם יצליח לבנות מערכת מלאכותית שמסוגלת לחשוב - אבל מערכת כזו, אם וכאשר תבוא לעולם, לא תהיה על טהרת המחשבים.אני יודע ששמתי כאן יעד שאפתני מאד, כזה שנועד לקעקע את כל הפרוייקט של AI מראשיתו ועד סופו, ואנחנו נראה אם זה יצליח! וכמובן, אנחנו כאן ב-"אלישע והזוויות" אוהבים להציג דברים מזוויות שונות. אז, גם הפרק הזה לא יהיה סוף פסוק, ואנחנו נראה את הקונטרה לדברים שאציג כאן היום בפרקים הבאים. אז אם אתם אישית מאד מאמינים ב-AI כעתיד האנושות, אל תתייאשו ותעברו לפודקאסט אחר שיעשה לכם נעים בבטן. בסוף, הדרך הכי טובה להגיע לאמת היא לתת לרעיונות הפוכים להתנגש ולהתחכך, ולתת לניצוצות שיוצאים מההתנגשות להאיר לנו את הלילה בדרך אל היעד.והערה אחרונה, לפני שניגש לבשר של הפרק: השלד של הפרק הזה מגיע מתוך כמה מאמרים שקראתי, שכתב אדם בשם מארק הלפרן. הלפרן הוא יליד 1931, אבל ב-2020 הוא עדיין פרסם מאמרים בנושאי טכנולוגיה. הוא עבד לאורך חייו ב-IBM, ובמעבדות המחקר של פאלו אלטו, ובערוב ימיו עבר לכתיבה טכנית, ובין השאר פרסם כמה ספרים. המאמרים שלו על בינה מלאכותית (הנה אחד, ועוד אחד), המגיעים ממקום סקפטי, היו מרשימים בבהירותן. חשוב לומר שהמאמר האחרון שלו שמצאתי, מ-2020, פורסם לפני ש-GPT יצא, אבל המהות של הביקורת שלו עומדת במבחן הזמן. זה באמת היה פשוט תענוג למצוא משהו כזה, שנכתב על ידי אדם יחסית אלמוני למיטב ידיעתי, ולגלות יהלום נסתר שמתחבא לו אי שם ברשת. אז בואו נתחיל. לאורך הסדרה הזכרנו כל מני תכונות שנראה שהן חלק מהותי ממה שזה אומר לחשוב: אינדוקציה, דדוקציה, למידה ואולי עוד כמה שאני לא זוכר כרגע. לצורך הפרק הזה, אני רוצה להוסיף עוד אבחנה לגביי חשיבה: חשיבה היא המנוע שמאפשר לבני אדם לפתור בעיות באופן יצירתי. בואו ניקח לדוגמה את מה שקורה כשאתם מנסים למצוא את המפתחות של הרכב של בן או בת הזוג, רגע לפני שאתם יוצאים לסרט. אפשרות אחת היא לעבור כל ס"מ רבוע בבית ולבדוק אם המפתחות שם. אפשרות שניה היא לנסות לחשוב איפה הם הסתובבו באותו יום בבית ואיפה הגיוני שהם השאירו את המפתחות, ולמקד את החיפוש בהתאם. בשתי הגישות, מבחן התוצאה יהיה שהמפתחות ימצאו, אבל בניתוח התהליך אנחנו נראה שהגישה הראשונה לא מצריכה חשיבה, בעוד השניה כן. הגישה השניה דרשה ניווט מנטלי וסינון מושכל של כל האפשרויות התיאוריטיות לגביי מיקום המפתחות, כדי לצמצם את מרחב החיפוש למשהו הרבה יותר מפוקס.עם הרקע הזה, בואו נעבור להסתכל על המחשב, ולשאול את השאלה שטיורינג רצה להימנע ממנה: האם בתוך המחשב מתבצעת חשיבה?ובכן, למזלנו הרב אנחנו יודעים טוב מאד איך מחשבים עובדים. בני אדם כותבים תוכנה שמגדירה למחשב מה לעשות, והמחשב מבצע אותה. אני יודע שמה שאמרתי נשמע פשוט מאד, אבל שימו לב שוב לדברים: המחשב מבצע, תמיד, ללא לאות וללא סטייה, בדיוק את מה שאומרים לו. לא יותר, ולא פחות - בדיוק מה שאומרים לו. אם יקרה איזה פעם מצב שבו מחשב כלשהו יגיע לשורה בקוד שלו, והוא יבצע משהו אחר ממה שכתוב שם - היינו קובעים שמדובר בבאג, בוירוס, או כל דבר אחר שנחשב סטייה מההתנהלות התקינה של המכשיר. הדברים הללו נכונים בין אם הביצוע היה לקוי, ובין אם הביצוע היה מושלם אבל נעשו עוד דברים שלא נכללו בפקודה, נניח אם לחצתי על האות "א" ועל המסך הופיעו האותיות "אב". זה אחד הדברים היפים והמעצבנים במחשב: הוא תמיד מבצע בדיוק את מה שפקדו עליו לעשות. ומכיוון שכך, מתכנתים כמוני יודעים שאם התוכנה שלנו לא עובדת, אז בוודאות של 100% הטעות היא אצלנו, בקוד שנתנו לו.כלומר, מחשבים הן מכונות דטרמיניסטיות לחלוטין, ומכאן קצרה הדרך להסקת המסקנה שמחשבים אינם חושבים. בוודאי, מתרחשים בתוך המחשב המון חישובים, זה נכון, אבל המחשב עצמו אינו זה שמנווט ומחליט אילו חישובים לבצע. כל שהמחשב יודע לעשות הוא משהו אחד: לבצע באופן עיוור את הדברים שהוכתבו לו מבחוץ, על ידי המתכנת או המתכנתת. הוא לא מוסיף כלום על פני מה שהוא קיבל מבני האדם. שום תובנה לא מגיעה מתוך המחשב, אלא רק ממוחו של המתכנת שכתב את התוכנה, או ממוחם של אלו שמפעילים אותה.בואו נעצור לרגע ונבחן את הדברים - האם מה שאמרתי הוא נכון, שהמחשב עושה רק מה שאומרים לו? על פניו, זו עובדה שלא ניתן לחלוק עליה. ועדיין, יש שינסו לשכנע אתכם - ואולי גם את עצמם - שהמחשב מסוגל לחמוק מהדטרמיניזם שכפיתי עליו כאן, ובכך להזריק לו קורטוב של חשיבה. בואו נבחן שלוש כיוונים להצעות שכאלו כאן, כי מתוך זה שקצת נאתגר את מה שאמרתי, הדברים יתבהרו.כיוון אחד שאנשים מציעים בפורומים שונים הוא להצביע על מצבים, שעולים הרבה לאחרונה, שבהם המחשב משנה את הקוד שלו עצמו. נניח, לתת ל-GPT שיבחן את הקוד שלו, ויבצע מקצה שיפורים. האם גם אז נאמר שהקוד החדש מבצע את מה שאמרו לו בני האדם? האמת, זו שאלה יפה ומעניינת, שדורשת הרחבה מיוחדת, ולכן אני מתכנן להקדיש לה ולאספקטים שונים שלה פרק שלם, אולי אפילו הפרק הבא, אז בינתיים נשים אותה בצד ונתעלם ממנה באלגנטיות.הכיוון השני נוגע למשהו שורשי ונפוץ מאד בתוכנות מחשב ובמערכות AI במיוחד, והוא השימוש באקראיות כחלק מהתוכנה. לאלו שלא מכירים, בהרבה תוכנות ישנם קטעים שבהם התנהגות המחשב נקבעת על פי מספר אקראי שמהחשב מגריל. נניח שיש ארבע אפשרויות, המחשב יגריל מספר בין 1 ל-4 ולפי מה שיצא הוא יפעל. דוגמה ששמעתי בעניין פעם היה לגביי וייז, שאם המערכת רואה שיש שלושה מסלולים אפשריים בין נקודה א' ל-ב', שזמן הנסיעה בהם דומה, היא תגריל עבור כל נהג מספר אקראי ולפיו תחליט באיזו מן השלושה להדריך אותו. באופן הזה היא מפזרת את העומס בכבישים, במקום לעודד את כולם לנהוג באותה הדרך ולגרום לפקק.אם כן, יש כאלו שיכולים לטעון - אתה אמרת שהמחשב פועל באופן דטרמיניסטי, אבל הנה דוגמה למשהו לא דטרמיניסטי. יש אקראיות בתהליך! לא הכל אפשר לחזות מראש, ולא הכל נקבע על ידי המתכנת!הטענה הזו היא טענה יפה, אבל היא בו זמנית גם שומטת את הקרקע מתחת לטיעון שהמחשב עצמו חושב. הרי, הגרלת מספר והתנהלות לפי מה שיצא זו גם כן פעולה מֵכָנִית וחסרת חשיבה, אז העובדה שמחשבים מבצעים תהליכים כאלו אינה מעידה שהם חושבים. ובנוסף לכך, אפילו שהמתכנת לא יכול לִצְפות מראש מה יעלה בגורל הָגְרלה נתונה, בסופו של דבר הוא זה שכתב את שורת הקוד שפקדה על המכונה להתנהל כך. המכונה, כפי שאמרנו, רק עושה מה שאומרים לה, ושום דבר מעבר.הכיוון השלישי והאחרון, אולי הכיוון הכי נפוץ ששמעתי כהצדקה לעמדה שמחשב יכול לחשוב, הוא זה: זה לא נכון שהמתכנת אמר למחשב מה לעשות! הרי אתה בעצמך אמרת, אלישע, שה-AI לומד לבד, מתוך הדאטה, איך יש להתנהג? אם התוכנה לומדת לבד, אז היא בהחלט מכניסה כאן תובנות משל עצמה, דברים שהיא למדה עצמאית ושבני אדם לא קבעו עבורה. האם זה לא מוכיח את ההיפך ממה שטענת כאן, אלישע?גם כאן, מדובר בטיעון חביב, אבל הוא לא יותר מאשר הסחת דעת, אשליה מנטלית שאנחנו משלים בה את עצמנו. בואו נשים מחשבים בצד ותחשבו על האנאלוגיה הבאה: מכירים את דפי העבודה לילדים של "חיבור נקודות"? מדובר בדפים שבהם יש נקודות, לצד כל נקודה יש מספר, והילד צריך למתוח קו ישר בין כל שתי נקודות עם מספרים עוקבים. אם הוא מבצע את החיבור לפי הסדר הנכון, מִתגלַה לעיניו צורה יפה, ציור יפה של חיה או מכונית או משהו. עכשיו, נניח שאתם רואים ציור שכזה אחרי שהילד חיבר את הנקודות, ואני אשאל אתכם מי צייר את התמונה - מה תגידו?התגובה הראשונית שלכם אולי תהיה "הילד", בעיקר אם זה הילד שלכם ואתם קורנים מגאווה בילד הגאון שלכם. אבל מחשבה מעמיקה יותר תוביל אתכם להבין שמי שמיקם את הנקודות, מיספר אותם וכתב את ההוראות לפירוש הדף הוא זה שצייר את הציור. ובהחלט, אם תבקשו משניהם, ממי שהכין את הדף ומהילד, לצייר ציור על דף נקי, כנראה שממקם-הנקודות יצליח טוב יותר מהילד, שכן הוא זה שיוד

שלום כולם, וברוכים הבאים לאלישע והזוויות, עונה שניה פרק מספר שבע! היום ה-9 בדצמבר, 2024, ואנחנו נדבר היום על כל מני דברים, כולל מודלים שמאבדים את שפיותם! אז יהיה מעניין!חוץ מזה, הרבה זמן כבר שאני שוכח להדגיש, למי שמעוניין, את קיומו של אתר אינטרנט לפודקאסט: הלינק נמצא בתיאור הפרק בספוטיפיי או ביוטוב, ומי שנרשם לאתר מקבל מייל כשיוצא פרק חדש, וגם יכול לקרוא את התמלול של הפרק. במיוחד בעונה הזו, התמונות והייצוגים הויזואליים מאד עוזרים, אז יש אתר כזה, ובואו תירשמו!בואו נפתח את הפרק שלנו היום בשאלה, כדי לעורר את התיאבון: מה היה קורה אם היינו מאמנים את GPT על הפלט של GPT עצמו?כדי לוודא שכולנו מיישרים קו, בואו ואפרק את השאלה הזו לגורמים שלה, על פי כל הדברים שראינו בעונה עד כה. נתחיל בתזכורת על איך הכלי הזה שקוראים לו GPT נוצר. GPT זו בעצם מערכת AI ש"האכילו" אותה המון קטעי טקסט שכתבו בני אדם, היא חילצה את התבניות שחבויות בהם בתהליך אינדוקטיבי, באופן כזה שהיא יכולה להפעיל את התבניות בתהליך דדוקטיבי ולייצר טקסטים חדשים. לתהליך האינדוקציה נקרא "אימון" או "למידה", בעוד שלתהליך הדדוקציה נקרא “הפעלה” של המודל המאומן. ושווה לזכור - המודל הזה מתחיל טאבולה ראסה, נקי מכל מידע על שפה, ורק תהליך החשיפה לדאטה אנושי מעצב אותו, כמו פלסטלינה, כך שהטקסטים שהוא מייצר יהיו דומים לטקסטים שהוא אומן עליהם, כלומר טקסטים אנושיים.ובכן, נחזור עכשיו לשאלה שבה פתחתי. נניח שיש לי מודל שפה משלי בשם ג'פטו, שהוא בעצם GPT של היום. אז עכשיו אני יכול לבקש ממנו לייצר לי המון טקסטים בהמון נושאים, ואז לקחת אותם, ולהשתמש בהם כדי לאמן GPT חדש. אנחנו נקרא לו פינוקיו, שהרי בעצם ג'פטו כאן הוא זה שמאמן את פינוקיו, ובכך נופח בו חיים. ואז השאלה היא - באיזו איכות יהיו הטקסטים של פינוקיו? או במילים אחרות - האם פינוקיו יהיה ילד אמיתי, או רק בובה על חוטים?השאלה הזו תלווה אותנו לאורך הפרק היום, אבל עוד לפני זה היא מתקשרת לפרק שעבר. כפי שאתם זוכרים, דיברנו שם באופן נרחב על הקשיים שיש בהשגת דאטה שבני אדם ייצרו לצורך אימון של מודלים. כיוון שכך, החלום הרטוב של עולם ה-AI הוא שלא נזדקק לבני אדם במשימה הזו בהיקפים גדלים והולכים, וזאת משום שנוכל פשוט לבקש מה-AI של הדור הקודם לייצר לנו דאטה שכזה. אם ג'פטו יכול לייצר דאטה באיכות גבוהה דייה, כך שפינוקיו יהיה ילד ככל הילדים, אז גם אם יגמר כל הדאטה הזמין באינטרנט אפשר יהיה לייצר עוד דאטה סינתטי בקלות רבה, בלחיצת כפתור.בשל החשיבות הרבה של הנושא הזה, נעשו ניסויים מדעיים בעניין, ואני אסקור כמה מהם בהמשך הפרק. בינתיים, קחו אולי איזו דקה לחשוב מה קרה באותם ניסויים. האם התברר שפינוקיו הוא מודל שקול בעוצמתו לג'פטו? אולי הוא אפילו היה חזק ומדוייק יותר ביכולותיו? או שמא להיפך, הביצועים שלו התדרדרו והתכנסו למשהו בינוני? התשובות - בהמשך.בפרק שלנו היום אני רוצה להמשיך את מה שהתחלנו בפרק הקודם, ולטעון שההישענות על דאטה אנושי הינה עקב האכילס של מודלי ה-AI העדכניים. זה כמובן די מצחיק לחשוב שאני שוקל להציג טיעון שכזה, שכן ההישענות הזו היא גם פריצת הדרך שאיפשרה, בעשור האחרון, למהפכת ה-AI המדהימה שסביבנו. אבל תזכרו את מה שראינו בשבוע שעבר: שבדאטה שבני אדם מייצרים יש בהחלט המון מידע שיכול לעזור לנו לבנות כלי AI חזקים, אבל יש מקום להטיל ספק בשאלה אם זה מספיק כדי להגיע לבינה מלאכותית שהיא באמת תבונית. כלומר, הטיעון שלי יהיה שאנו צריכים עוד מהפכות משמעותיות ב-AI לפני שנוכל להגיע לבינה מלאכותית אמיתית, וכל עוד אנחנו מתעקשים להישען בעיקר על אימון מתוך דאטה, אנחנו מפספסים משהו גדול מאד בסיפור.כדי להדגים את זה, אני רוצה שנתחיל את המסע שלנו בניתוח מדוקדק יותר של מבחן טיורינג. כפי שאתם זוכרים, במבחן טיורינג יושב לו אדם - נניח, אישה - ומקבלת את תפקיד הבוחנת. היא מנהלת שיחה עם דמות כלשהי דרך צ'ט, ולאחר כמה דקות של שיחה מודיעה אם לדעתה מדובר במחשב או אדם. בחינה מדוקדקת של המבחן הזה תגלה משהו חשוב, שכבר רמזנו עליו בפרק השני של העונה: הגורם האנושי שבבדיקה הזו איננה חלק מהותי מהמבחן, אלא פשוט המדד הכי זמין לתבונה שיש בידינו. טיורינג השתמש במדד הזה של "האם המכונה הצליחה להתל בבוחנת" פשוט בשל הזמינות של המדד והאינטואטיביות שלו. המהות של מבחן טיורינג, לעומת זאת, זו הקביעה הבאה: שאם מכונה מפיקה פלט באיכות ששקולה לזה של פלט אנושי - אזי היישות הזו תיחשב תבונית.שווה להדגיש את החלק הראשון - שבדיקה אנושית של איכות הטקסט איננה המרכיב המהותי במבחן טיורינג - כיוון שבניסויים שנעשו מתברר שיש כל מני בעיות בלסמוך על עצמנו. איך לומר זאת בעדינות - אנחנו לא כאלה טובים בלזהות תבונה אנושית כמו שאנחנו חושבים. קחו לדוגמה את התוצאות של מאמר שיצא לפני כשנה, שבו ניסו כמה חוקרים לבדוק עד כמהGPT גרסה 4 מצליח לעבור את מבחן טיורינג. בניסוי הכי מוצלח שלהם, הצליח GPT לשכנע 50% מאלו שדיברו איתו דרך צ'ט שהוא בעצם בן-אדם, שזו באמת הצלחה מרשימה ביותר (מערכות ישנות יותר שפותחו בשנות ה-60 של המאה הקודמת, כמו ELIZA, הגיעו להצלחה של 22% בלבד). אבל באותו מאמר גם הופיע פרט אחר, חשוב לא פחות, שקשור לתמונת המראה לתוצאה הזו: באותו ניסוי, כאשר מן העבר השני של הצ'אט היו בני אדם ולא מכונה, הבוחנים זיהו שמדובר בבני אדם רק ב-66% מהפעמים. במילים אחרות, בשליש מהפעמים שהם דיברו עם בני אדם, חשבו הבוחנים האנושיים שמדובר דווקא במכונה! אז נכון, בני האדם היו משכנעים יותר מה-50% של GPT, אבל התוצאה הזו כשלעצמה מטילה צל כבד על הקונספט הבסיסי של מבחן טיורינג: שבני אדם יודעים לזהות חשיבה אנושית דרך צ'ט אינטרנטי.מדובר, כמובן, רק במאמר אחד, ואפשר לצלול לפרטיו ולאתגר אותו וכן הלאה. אבל הוא כן ממחיש שהמסנן האנושי איננו בהכרח מדוייק. ולכן, אפשר לשדרג את מבחן טיורינג אם נמצא דרכים אחרות לבחון את הפלט הזה, דרכים שאינם עוברות דרך הערכה אנושית סובייקטיבית. כך אולי נוכל לדייק יותר את ההערכות שלנו לגביי תבוניות המכונה. אבל - האם יש דרכים כאלו?התשובה היא כמובן שכן, יש כל מני דרכים אלטרנטיביות לבדוק את זה, ואת חלקן אנחנו גם נפגוש בפרקים עתידיים, אם הכל יצא לפי התכנית. היום ספיצפית אנחנו נלך על משהו קצת יותר מגניב, שכמו האקדח של צ'כוב כבר ראיתם במערכה הראשונה: הניסוי הזה עם ג'פטו ופינוקיו! שימו לב:* ג'פטו אומן על דאטה אנושי - זה נתון.* פינוקיו מאומן על דאטה שג'פטו יצר. גם זה נתון.* אז אם הפלט של ג'פטו הוא פלט ששקול לפלט אנושי - כלומר, אם ג'פטו עומד בדרישות מבחן טיורינג - פינוקיו אמור להיות שקול לג'פטו. כלומר, אם ג'פטו הצליח להטמיע אצלו בינה ששקולה לבינה אנושית, אז הביצועים של יציר כפיו, של פינוקיו, לא אמורים ליפול מאלו שלו עצמו. מש”ל.אולי זה היה קצת קשה לעקוב, אז בואו תנו לי רגע להציג את העניין מזווית אחרת, עם דימו ויזואלי שבטח יהיה אינטואטיבי יותר לרובכם. נניח שיש לכם תמונה שצייר חבר שלכם, ומכונת צילום. אתם לוקחים את התמונה, מצלמים עותק שלה במכונה, ואז משווים בין התמונה המקורית לבין התמונה המצולמת. אם מכונת הצילום מושלמת, לא אמור להיות הבדל בין שתי התמונות. ואם יש הבדל בין שתי התמונות, זה אומר שמשהו בפעולה של מכונת הצילום אינו מדוייק. זה המשל. הנמשל הוא שמכונת הצילום היא ה-AI שלנו, תמונת המקור היא דאטה האימון האנושי, והצילום שיוצא מהמכונה הוא הדאטה הסינתטי שה-AI מייצר בעצמו. עכשיו, אם יש לנו AI שתפס באופן מושלם את מהות השפה והשיח האנושיים, אז לא אמור להיות הבדל בין שני סוגי הדאטה. ולעומת זאת, אם יש הבדל ניכר בין התמונה המקורית לצילום, הרי שזה אומר שמשהו ב-AI שלנו איננו מדוייק; מכונת הצילום המתוחכמת שבנינו כנראה מכילה שריטות על הזכוכית שלה, שמעוותים את התוצרים שלה.זהו המבחן שאני מציע לשדרוג מבחן טיורינג - בואו נקרא לו כאן "מבחן הזוויות". וכיוון שעכשיו הוא יושב לנו טוב בראש, שווה לשאול - מה קורה שמפעילים אותו?ובכן, אני שמח לבשר לכם שאני לא היחיד שחשב עליו, ויש כמה מאמרים שיצאו בנושא. ב-2023, עמוק בתוך ההתלהבות מכל ה-GPT למיניהם, ישבו כמה חוקרים מאוניברסיטת רייס (RICE) שבטקסס, ועשו ניסוי דומה למה שתיארתי. הם לקחו מודלים מוכרים לייצור תמונות של פרצופים, וייצרו איתם הרבה תמונות של פרצופים. עם התמונות הללו הם אימנו מודל חדש, וייצרו איתו תמונות של פרצופים גם כן. וכך הלאה, דור אחרי דור של מודלים, כל דור מבוסס על תוצרי הדור הקודם. כלומר, הם בעצם עשו את "ניסוי ג'פטו ופינוקיו" שלנו שוב ושוב, בשרשרת, ובסוף התהליך הם בדקו מה האיכות של התמונות שכל דור ייצר.לקראת הניסוי, אני מדמיין לעצמי מה חשבו החוקרים שהם יקבלו. הגירסה האופטימית היתה כנראה שהתמונות בכל דור יהיו טובות כמו הדורות שקדמו להם. הגירסה הפסימית יותר היתה שהתמונות החדשות יפלו באיכותן, בגלל חוסרים כלשהם במודל, אבל יתייצבו על רמה סבירה כלשהי. ובכן, מה אתם חושבים שקרה?מה שקרה היה משהו אחר לחלוטין - גרסה פסימית על סטרואידים. בכל סבב שכזה, הביצועים של המודל הלכו והתדרדרו. התמונות שנוצרו לאחר כמה דורות הכילו עיוותים, פסים מוזרים שהחלו להופיע על הפרצופים שהמודל יצר: בגרסאות שונות של הניסוי המגוון האנושי שהמודלים יצרו בכל דור חדש הלך והצטמצם, והתכנס לאוסף תמונות שנראות מאד דומות זו לזו - תמונות של גברים ונשים לבנים עם שער כהה ועיניים מערביות, שמביטים ישר למצלמה ומחייכים. שימו לב כאן לאוסף התמונות שהיה בהתחלה…… לעומת אלו שנוצרו לאחר כמה דורות:בכל אופן, לתופעה הזו קראו כותבי המאמר, model autophagy disorder, ראשי תיבות MAD, כלומר אי-שפיות. בכך הם ניסו לומר - כשמתמידים בתהליך הזה לאורך זמן, המודלים מתנהגים כאילו הם מאבדים את שפיותם. בהקשרים אחרים יש שקראו לתופעה הזו Hapsburg AI, בהתייחסות לשושלת האפסברג האוסטרית, שמרוב זה שהם התחתנו כל הזמן בתוך המשפחה הם דיללו את היציבות הגנטית שלהם, פיתחו כל מני מוטציות מוזרות ואולי הדבר אף גרם להכחדת השושלת.שווה לשים לב במיוחד לעובדה שביצועי המודלים בניסוי נהיו גרועים יותר מדור אחד לשני. אם נניח היינו רואים שיש ירידה מג'פטו המקורי לפינוקיו בכמה אחוזים, אבל משם הדברים מתייצבים ושומרים על רמת איכות נתונה מדור אחד לדור הבא, זה היה סיפור אחר. במצב שכזה היינו אומרים - “אוקיי, הצלחנו לתפוס 80% מהיעד באופן מדוייק”. בפועל מה שהניסוי הזה המחיש הוא שה-AI לא באמת יודע להבחין בין עיקר לטפל ולסנן טעויות שהוא נחשף אליהם, ולכן כל דור של אימון רק מעצים את העיוותים שהוא ראה בדאטה של הדור הקודם. אם נחזור שוב למשל מכונת הצילום שלנו, נראה לי שברור לכולנו שיש הבדל בין מקרה שבו מכונת הצילום פשוט לא עובדת טוב עם דפים מקומטים, לבין מצב שבו יש שריטה על הזכוכית של מכונת הצילום עצמה. במקרה הראשון מדובר בבעיה מקומית ומוגבלת למקרים נדירים, שלא תפריע לרוב, בעוד במקרה השני זו בעיה שתשליך על כל הצילומים כולם, בלי יוצא מן הכלל. וזה מאד מטריד.לצד המאמר הזה, יצא גם מאמר נוסף ביולי השנה שבחן את הנושא במודלים חדשים יותר, ושהכותרת שלו אומרת הכל: "AI models collapse when trained on recursively generated data". "מודלי AI קורסים כאשר הם מאומנים על דאטה שמיוצר רקורסיבית". אצלם הם הריצו את הניסוי גם על מודלים שמייצרים טקסטים, וגם שם התגלה שהטקסטים נהיים גרועים יותר ויותר ככל שהדורות מתקדמים. וגם כאן, ההתדרדרות הגיעה בשתי תצורות: לטקסטים יבשים מצד אחד, שזה מזכיר את הפרצופים האחידים מהמאמר הקודם, וטקסטים משובשים בטירוף מצד שני. בתמונה שתראו כאן, נתנו למכונה תחילת משפט וביקשו שהיא תשלים אותו - שימו לב איך כל דור (Gen0, Gen1…) מציג התדרדרות באיכות ההשלמה, עד שזה בסוף מגיע לג’יבריש מוחלט.באותו מאמר, בנוסף לניסויים שהם הריצו, הם גם פיתחו באופן מסודר את התיאוריה האנאליטית שמסבירה למה זה קורה באופן עקבי במודלים הללו, ול