אלישע והזוויות

בפרק (הארוך) הזה נדבר על הפיתוי לשחרר ולתת ל-AI להחליט עבורנו... הכל. על הדרך ננסה גם להציע פתרון לשאלה - למה חשוב ללמוד דברים כשה-AI הזמין יודע אותם כבר?מוזמנים ליצור קשר:elishas.angles@gmail.com https://t.me/ElishasAngleshttps://elishasangles.substack.com/לינקים לאזכורים מהפרק:שוואב וברין על הבחירות הדמוקרטיותhttps://www.youtube.com/watch?v=ffvu6Mr1SVc&t=591sלארי אליסון על חזון ה-AIhttps://www.youtube.com/watch?v=EXUGGxf_GmUפאנופטיקוןhttps://en.wikipedia.org/wiki/Panopticonשיטור AI באנגליהhttps://www.telegraph.co.uk/news/2026/01/18/criminals-stopped-minority-report-style-policing-plans-aiג'ורדן פיטרסון על כך שמרקסיזם אמיתי לא נוסהhttps://www.youtube.com/watch?v=9Onj4Wx61ps&list=WLאפלטון על המצאת הכתבhttps://socrates.acadiau.ca/courses/engl/rcunningham/1103/Phaedrus.pdfמפלגת המחשבות, פרק 149, "הקו המשווה"https://www.youtube.com/watch?v=fRRP9O4c38k&list=PLv2rnAORLiVDMfsdXEgR8qbGz0jjnGFNC&t=394s This is a public episode. If you would like to discuss this with other subscribers or get access to bonus episodes, visit elishasangles.substack.com

היום אנחנו נדבר על הכניסה של AI לעולמות של תכנות. אם בפרק הקודם שאלנו באופן כללי האם ה-AI ישתלט לנו על כל העבודות, היום אנחנו נעשה זום-אין לתחום התכנות, אחד החזיתות המרתקות בתהליך הזה.מוזמנים ליצור קשר:elishas.angles@gmail.com https://t.me/ElishasAngleshttps://elishasangles.substack.com/לינקים לראיונות בפודקאסטים:eXplainable:https://youtu.be/WC8T-_JYIq0?si=qR4MENUdu77C5i6Chttps://open.spotify.com/episode/2819yorM64RXkpbSx4rP6o?si=7873cdf82b0a4411פופקורן:https://open.spotify.com/episode/1lSvmTuQjnvDYw9wLgxaRk?si=b8e93b5bb21d4c3eלינקים מהפרק:מאמר שכתבנו אני ואיתן ואגנר, במקור האנגלי ובגרסה עברית:https://towardsdatascience.com/human-wont-replace-python/https://docs.google.com/document/d/1Q4tqFAaF8s73mPC6mvmTIOwIPa1eFQIS9NxdBtRWprs/edit?usp=sharingדריו אמודיי, מנכ"ל אנתרופיק, על עתיד התכנות בעזרת AI:https://x.com/slow_developer/status/1899430284350616025ג'נסן הואנג, מנכ"ל נבידיה, על שפת התכנות החדשה - "אנוש":https://www.youtube.com/watch?v=SsNS3Xm9ig4&t=1940s This is a public episode. If you would like to discuss this with other subscribers or get access to bonus episodes, visit elishasangles.substack.com

היום אנחנו נשאל את השאלה הידועה: האם החייזרים התבוניים שאנו בונים יקחו לנו את כל העבודות?מוזמנים ליצור קשר:elishas.angles@gmail.com https://t.me/ElishasAngleshttps://elishasangles.substack.com/לינקים מהפרק:ההרצאה של דניאל שרייבר:https://youtu.be/5gqtckj0Ohc?t=2048סאם אלטמן על AGIhttps://www.youtube.com/watch?v=xXCBz_8hM9w&t=2772shttps://www.windowscentral.com/artificial-intelligence/openai-chatgpt/sam-altman-gpt-5-fails-to-meet-agi-still-missing-somethingפרוייקט AI 2027https://ai-2027.com/https://www.reddit.com/r/singularity/comments/1p2eqv7/ai2027_author_admits_things_seem_to_be_going/הרכבים של WAYMOhttps://cleantechnica.com/2025/12/03/car-crashes-are-a-public-health-crisis-autonomous-cars-are-the-cure/https://www.businessinsider.com/driverless-cruise-car-stuck-wet-concrete-san-francisco-av-robotaxi-2023-8https://www.reddit.com/r/Construction/comments/1clsbzz/self_driving_car_stuck_in_construction_site/https://www.youtube.com/watch?v=tWPG8alh2Bsעורכי דין משתמשים ב-AIhttps://www.law.co.il/news/2025/08/10/lawyer-fined-after-submitting-ai-made-case-law/https://www.mako.co.il/news-law/e9f61eb3e8509910/Article-4a3ee854a199a91026.htmאליה סוצקובר - סוף עידן הסקייל, חזרה לעידן המחקרhttps://www.youtube.com/watch?v=aR20FWCCjAs This is a public episode. If you would like to discuss this with other subscribers or get access to bonus episodes, visit elishasangles.substack.com

בפרק הזה נתחיל לבצר את מקומו של האדם בעולם שבו ה-AI מתפשט יותר ויותר. והפעם - על חשיבותה ומקומה של האותנטיות האנושית. למה היא חשובה, ואיך היא תשפיע על הכניסה של AI למערכות המוכרות שלנו?מוזמנים ליצור קשר:elishas.angles@gmail.com https://elishasangles.substack.com/ https://t.me/ElishasAngles לינקים מהפרק:לפטר או לשכור עובדים בעידן ה-AI?https://www.geektime.co.il/ceo-is-stoked-about-ai-doing-the-work-of-700-people-after-laying-off-700/ https://www.geektime.co.il/the-ceo-that-bragged-about-replacing-humans-with-ai-now-wants-them-back/ טור ב-SCIENCE על אתיקה רובוטית:https://www.science.org/doi/10.1126/science.1151606 גבר הולך לאיבוד דרך GPT:https://www.youtube.com/watch?v=cFRuiVw4pKshttps://www.youtube.com/watch?v=_d08BZmdZu8 https://www.youtube.com/watch?v=otAWu-bLv0Q אפליקציות למערכות יחסים - סטטיסטיקות:https://techcrunch.com/2025/08/12/ai-companion-apps-on-track-to-pull-in-120m-in-2025/https://www.cyberlink.com/blog/trending-topics/3932/ai-companion-appתביעות נגד אפליקציות AI:https://www.reuters.com/sustainability/boards-policy-regulation/google-ai-firm-must-face-lawsuit-filed-by-mother-over-suicide-son-us-court-says-2025-05-21/https://edition.cnn.com/2024/10/30/tech/teen-suicide-character-ai-lawsuithttps://www.spiegel.de/international/zeitgeist/artificial-intelligence-a-deadly-love-affair-with-a-chatbot-a-e5498031-c2b0-4da4-9192-65da9d3f40d6https://edition.cnn.com/2025/08/26/tech/openai-chatgpt-teen-suicide-lawsuithttps://www.bbc.com/news/articles/cgerwp7rdlvo This is a public episode. If you would like to discuss this with other subscribers or get access to bonus episodes, visit elishasangles.substack.com

שלום כולם, וברוכים הבאים לאלישע והזוויות. היום ה-9 לספטמבר 2025, ט"ז אלול תשפ"ה, ואנחנו ב"זווית אקטואלית" בנושא גיוס חרדים. הפעם הקודמת והיחידה שעשיתי "זווית אקטואלית" היה לפני כשנה, בהקשר של המתח שבין שחרור החטופים והשמדת חמאס. הדברים שנאמרו בו עדיין רלוונטיים היום על אף כל ההתפתחויות מאז, ומוזמנים לחזור ולהאזין\לקרוא. ולמי שלא מכיר את הפודקאסט שלי ומגיע לכאן בפעם הראשונה - נעים להכיר, ד"ר אלישע רוזנצוויג, ובפודקאסט הזה אני מנסה לבחון נושאים חשובים לעומק, מתוך גישה שאומרת שמגיעים לאמת דרך הסתכלות על המציאות מזוויות מרובות, רק ביחד מספקות לנו תמונה מלאה.היום אנחנו נדבר על גיוס חרדים, ונראה שאין צורך לפרט כאן על הצורך האקוטי שיש לנו בהגדלת מעגלי הגיוס, ובפרט הגיוס החרדי. רובנו מכירים אנשים שעשו מאות ימי מילואים מאז טבח השביעי באוקטובר, וחלקנו גם מכירים כאלו שהעומס הזה הביא לפגיעה במשפחה ואף לקריסה כלכלית. אם היתה מלחמה שיכלה להבהיר שאנו חייבים שכולם יקחו חלק בנשיאת האלונקה הלאומית והבטחונית, הרי שהמלחמה שאנו מצויים בה היום היא זו.ועדיין, אל מול הציפייה הזו, מנהיגי הציבור החרדי מתעקשים שלציבור שלהם מגיע פטור עקרוני משירות בצה"ל, כיוון שאותו הציבור עושה דבר חשוב לא פחות - לימוד תורה. לימוד התורה הזה מגן, לטענתם, על העם היהודי ומדינתו על ידי חיזוק הקשר עם בורא עולם. על משקל האמירה של אחד העם "יותר משהיהודים שמרו על השבת, השבת שמרה על היהודים", הם אומרים שלימוד התורה מסייע לנו באופנים מטאפיזיים, ושכל פגיעה בלימוד התורה תפגע קשות בעם ובמדינה, בטחונית ובכלל.בגלל שאנחנו מתווכחים על הנושא הזה תוך כדי לחימה, כשהצורך גדול והעומס על חיילי המילואים כבד מנשוא, הוא נמצא הרבה בחדשות, והויכוחים עליו אינטנסיביים יותר וטעונים יותר ממה שהיינו רגילים בעבר. ועדיין, באופן מהותי לא השתנה בויכוח הזה הרבה אם משווים את הטיעונים של כל אחד מהצדדים היום לאלו שלפני עשור או שלושה עשורים. נראה לפעמים שאין עוד מה לומר בנושא. ועדיין, יש כמה זוויות ששווה לבחון גם לאחר כל מה שנאמר. ספיציפית, אם תאזינו לפרק כולו מתחילה ועד סוף, אני מאמין שתצאו עם כמה תובנות. קודם כל, אני אנסה להראות שהמצב הוא כמות שהוא בגלל שיתוף פעולה מכל חלקי הציבור בשימור שלו. כל קבוצה בעם החליטה, לפחות עד לאחרונה, שגיוס חרדים הוא לא דבר כזה חשוב. הדבר השני שאני מקווה לשכנע אתכם בו הוא שאנחנו בעיצומה של תקופת התבגרות. מדינה כמו סטרטאפ, וכל מי שעבד בסטרטאפ יודע שתהליכי עבודה שהיו מצויינים כשהייתם שלושה אנשים במרתף של ההורים לא עובדים כשאתם שלושים אנשים במשרד קטן ברמת-גן, ובטח לא כשאתם שלוש-מאות עובדים שתופסים קומה בעזריאלי ומפוזרים על פני שתי יבשות. התבגרות של מדינה, כמו התבגרות של סטרטאפ, היא תמיד אירוע קשה, כי חייבים להחליף שיטות ותהליכי עבודה שהתרגלנו אליהם, ובייחוד כאלו שבעבר היו מתכון להצלחה והיום עוצרים אותנו מלהתקדם.לפני שנכנס לנושא עצמו, שלוש הקדמות קצרות. קודם כל, מילה על הרקע הצבאי שלי. התגייסתי לסדיר בתותחנים ב-1996 במסגרת מסלול ההסדר, ושירתתי במילואים עד 2007, כך שהספקתי לשרת במלחמת לבנון השניה. ב-2007 יצאתי לחו"ל ללימודי דוקטורט, וכשחזרתי ארצה ב-2011 הודעתי לצה"ל שחזרתי - והם הודיעו לי בתמורה שאין צורך שאחזור ליחידה. זה הסיפור שלי - אם המידע הזה רלוונטי למישהו בהערכת נקודת המבט שאציג כאן, רק רציתי שיהיה בפניכם.שנית, כפי שאפשר לצפות מפודקאסט כמו שלי, המוקד שלי יהיה הרעיונות המנחים את הדיון כמו גם כוחות המאקרו. לצידן יש כמובן המון המון פוליטיקה, כזו שהיא מאד אישית, ייצרית, מלאת שקרים וחסרת כל הצדקה עקרונית. אבל כמו שאני תמיד אומר, הפוליטיקאים שמנווטים את הדרך הם שיקוף של הציבור ששלח אותם, והם מקדמים את האג'נדה שלהם בעזרת פנייה לרעיונות ואידיאלים שהציבור שלהם מאמין בהם, או לכל הפחות רוצה להאמין שהוא מאמין בהם. הדינמיקות הללו הם המוקד, והם העיקר מבחינתי.והקדמה שלישית ואחרונה - אני עומד לעשות המון הכללות בפודקאסט היום. לדבר על "החרדים" זה כמו לדבר על "החילונים", וזה כמובן יכול להיות מאד לא מדוייק ולהביא לטעויות גסות. בתוך הציבור החרדי יש המון קבוצות ותתי-קבוצות, ויש גם חרדים שמתגייסים לצבא וכאלו שעובדים למחייתם ומשלמים מיסים וכן הלאה. רק השבוע היה פיגוע בירושלים, שבו חייל חרדי היה חלק ממי שניטרל את האירוע. אבל כיוון שאנחנו מנסים להתמקד ביער ולא בעצים, מקווה שתסלחו לי על ההכללות. אם תרצו דיוק של הקבוצה, אגיד שאני מדבר על מנהיגי כל אחד מהציבורים, ועל הציבור שפועל על פי עצת אותם מנהיגים. נניח, במקרה החרדי, הרי שמדובר ברבנים המובילים בציבור הליטאי, החסידי והספרדי כשהם מעודדים אותם לא להתגייס או אפילוט לשקול גיוס. זו הדמוגרפיה שאנו נעסוק בה היום.בואו נתחיל, ונעשה זאת במקום הטבעי של הדיון: בציבור החרדי.הציבור החרדי הוא, מזוויות מסויימות, סיפור הצלחה. בתגובה לשואה, הציבור החרדי ראה לעצמו שליחות - לשקם את מה שהנאצים השמידו. הנאצים השמידו את עולם התורה האירופאי, ובתגובה לכך הם ראו לעצמם מטרה להשלים את מה שנחסר. וכך כותבת ד"ר מיכל שאול, שכתבה ספר בנושא:"כינונה של יהדות תורנית רוחנית בארץ-ישראל, גדולה יותר מאשר זו שנחרבה באירופה, נחשבה ל"זיכרון כבוד" המשמעותי וההנצחה הראויה ביותר לזכר הנרצחים. לפי תפישתה העצמית, החברה החרדית היא ההמשך האותנטי ביותר לעולם שחרב, ועצם קיומה ושגשוגה הם צורת ההנצחה הראויה והמשמעותית ביותר לקורבנות השואה. המשנה החרדית בעניין זה סדורה: אם השואה הייתה גלגול היסטורי נוסף של מלחמה בתורת ישראל ובמקיימיה, ועיקר החורבן היה בהעלאתם למוקד של רבנים ובני ישיבות ובחורבן בתי מדרשות ובתי כנסיות, הרי שהנקמה המשמעותית בנאצים והנצחת "מורשת" הקורבנות היא בחיזוקו של עולם התורה."כשמסתכלים על הסיפור היהודי באופן הזה, אז כן, הציבור החרדי הוא סיפור הצלחה, לפחות בעיני עצמו. כמות האנשים שלומדים כיום תורה, שיכולים להקדיש את חייהם ללימוד תורה, הוא גדול מעל ומעבר למה שאי פעם היה באירופה, ומה שבכלל היה ניתן לדמיין שם, ולכן בכך הציבור החרדי הצליח לתקן במשהו את ההרס והחורבן שהיטלר הותיר אחריו.ניתן להבין את היעד הזה ואת השאיפה הזו בעיקר בשנים הראשונות, בעשורים הראשונים שאחרי השואה. בעולם שכזה, כשאתה מיעוט דמוגרפי גם במדינה היהודית שהוקמה סביבך, הגיוני שתראה את עצמך כשומר על גחלת העבר שלא תכבה. המנגנון להשגת היעד הזה הוא בניית גטו, שמורת טבע מוגנת מן העולם שבחוץ, שבתוכה תוכל לגדל, כמו באינקובטור, את מה שנותר מן העולם הישן. כשאתה קטן, ההשפעה שלך על הציבוריות הישראלית היא מינורית, ושאר הציבור גם הוא יכול לאפשר לך להתכנס בגטו ולעזוב אותך לנפשך.אבל מה שאפשר לעשות כשאתה קטן אי אפשר לעשות גם כשאתה גדול. תחשבו על אותו הסטרטאפ שהזכרתי קודם: הבעיות של ניהול מאות אנשים מגיעות דווקא בגלל ההצלחה המדהימה של שלוש המייסדים שהתחילו בגראז' של ההורים. מהרגע שהציבור החרדי הצליח במשימה שלקח על עצמו, הוא נהיה גם קרבן של ההצלחה הזו. כלומר, ההצלחה מאתגרת את האידיאל, ודורשת התנהגות אחרת, הרחבה של האידיאל. האידיאל הזה היה אידיאל של שיקום ההריסות, אבל מה עושים ביום שבו השיקום הסתיים - איך ממשיכים משם? ספיציפית, ההצלחה דורשת לקיחת אחריות גדולה יותר על מה שיש היום, על מה שקורה במדינה כולה. אי אפשר להתמקד רק בתחזוק הגטו כשהגטו מכיל כבר 20 אחוזים מהמדינה, שכן החלטות פנימיות של הגטו משפיעות כבר מערכתית גם על אלו שמחוצה לו.לפעמים אנשים אומרים את הטיעון הזה ממקום אזרחי או ציוני, אבל אני רוצה לחדד ולומר שאני מתכוון אליו ממקום תורני דווקא. החרדים אומרים שהם רואים בלימוד התורה ערך עליון, וזה מה הם רוצים לקדם מעל הכל. אבל גם הם יודעים שבתורה יש עוד מצוות - ומה עם כל השאר? גם החרדים יודעים שיש בתורה מצווה להשתתף במלחמת הגנה על העם, מה שקרוי "עזרת ישראל מיד צר". על מצווה שכזו אומרת הגמרא, ובעקבותיה פוסק הרמב"ם, שכולם יוצאים להילחם, אפילו כאלו שלרוב היו מקבלים פטור, כמו חתן וכלה ביום חתונתם. אני מזכיר את הדברים לא כדי לצלול לפולמוס על שירות צבאי במישור הדתי שלו, אלא כדי להצביע על העובדה הברורה מאליה, שיש הרבה אידיאלים שהתורה דורשת שאנשים יפעלו למענם, לא רק אחד. התורה מכירה בכך שבחיים צריך לעשות שיקלול תמורות: לקבוע יחס המרה בין שני אידיאלים. נניח, בין עוד לומד תורה לבין עוד חייל בשטח. גם מישהו בתוך הציבור החרדי, שחרד לקיים את דבר ה', צריך לשאול - כמה לומדי תורה צריך כדי שגם אנחנו, החרדים, נצטרך להתחיל להפריש בחורים מהקהילה לשירות בצבא? גם החרדים, הרי, מאמינים בכך שאין סומכים על הנס, שיש לעשות השתדלות, ושהיסטורית במלחמות המתוארות בתנ"ך ובמדרשים רוב עם ישראל יצא למלחמה בעוד שמיעוטו - שבט לוי - שימש כעתודה הרוחנית. כיוון שכך, שאלת האיזון חייבת להישאל פנימית, ללא כל קשר ללחצים חיצוניים של המערכת הפוליטית והמשפטית.במצב בריא, השאלה הזו היתה עולה למועצת חכמי התורה או כל גוף רבני אחר שרוצה להתמודד באופן אמיתי עם המציאות. יש גם לשער שהתשובות שהגוף הזה היה מגיע אליהן היו שונות ממה שאני הייתי מגיע אליהם או ממה שהממשלה תרצה לקדם, וזה צפוי ובסדר גמור. אבל בפועל - השאלה אפילו לא נשאלת, והדיון אינו מתחיל להתחיל. ההנהגה החרדית מסרבת להודות שמשהו השתנה בעולם שמחייב התייחסות חדשה, ולכן כל ההתייחסות שלהם לאירועי התקופה נעשית דרך פריזמה טקטית צרה.הדברים הללו אולי אינם מפתיעים במיוחד כשחושבים על העובדה שמדובר בחברה שמרנית, כזו שבנויה על אתוס של "עושים היום מה שעשינו אתמול". אבל האמת היא שדווקא ממקום של רצון לשמר את לימוד התורה היה ראוי שנראה דיון מעמיק יותר אצל החרדים פנימה. נניח שהמטרה היא להגדיל תורה ולהאדירה - מה הדרך לעשות זאת לאורך עשרות ומאות שנים, ולא רק לאורך הקדנציה הקרובה? איך משקללים לתכנית את הכעס מהציבור שמסביב, זה שמתקצב הרבה מהפעילות התורנית דרך המיסים, ואיך מתמודדים עם השפעותיו לטווח ארוך? אם "אין קמח אין תורה", אז כיצד דואגים שיהיה מספיק קמח, כלומר כלכלה יציבה, כדי לתקצב את הפעילות התורנית הזו? וכן הלאה וכן הלאה.מה שקורה בפועל הוא בדיוק להיפך, ובמקום להתחשב בתלות בחברה שמסביב נראה שהנהגת החרדים עסוקה בעיקר בביצור העמדה שלהם מאז ומתמיד, ובאופנים שרק מסכנים את הגטו עוד יותר. הנהגת הציבור החרדי מצהירה "לעולם לא", ומשחררת את תלמידיה לחופשת בין הזמנים בתקופה שמילואימניקים משרתים ללא הפסקה מאות ימים. "נמות ולא נתגייס" היא אומרת, בעודה מגוננת אפילו על אלו שאינם לומדים באופן אדוק. היא מצהירה שאין אפשרות לבטל תורה למען הצבא, אבל משחררת אנשים לפעול לקידום המועמדים שלהם בבחירות המקומיות תחת הכותרת "האחיכם יבואו למלחמה ואתם תשבו פה?" וזה רק קמצוץ ממה שאנו חשופים לו בציבור, וממה שאני שומע מכמה אנשים שאני מכיר בתוך הציבור הזה, המצב שם אינו שונה.כל מה שתיארתי כאן הוא על אחריות החרדים בלבד. אנחנו אמנם בתקופת התבגרות, אבל גם אין מקום להתנשאות כאן מצידי - מדובר באנשים בוגרים שנושאים באחריות למעשיהם, ובעיקר ממנהיגים של ציבור אידיאליסטי הייתי רוצה להאמין שאפשר לצפות למשהו מעמיק יותר, מרחיק ראות יותר. בשורה התחתונה, ככל שהטרנדים הדמוגרפיים ימשיכו באותו הכיוון, הלחצים על הציבור הזה יגברו. מדובר, כפי שאמרתי, במחיר ההצלחה, וזה אומר שעבור החרדים יש כאן מילכוד 22 - או להפוך את הטרנד הדמוגרפי או לשנות את מימוש אידיאל הגטו שלהם. הכוחות הדמוגרפיים הם חזקים כל כך וברורים כל כך שזה יקרה בסופו של דבר - השאלה היא רק באיזה מחיר, ואיך להיערך לשלם אותו.זו, אם כן, הטרוניה הגדולה שלי על החרדים - ומכאן אפשר לעבור לשאר הקבוצות באוכלוסיה. להטיל את כל האחריות למצב על החרדים זו תהיה טעות, כיוון שהמצב שבו אנו מצויים היום הוא תוצאה גם של ההתנהגות הציבורית הכללית, מימין ומש

שלום כולם, וברוכים הבאים ל"אלישע והזוויות". היום אנחנו בזווית אישית עם אלון אורינג, איש הייטק ומרצה באוניברסיטת רייכמן. רציתי לשוחח איתו כדי להבין איך נראית מהפכת ה-AI משני צידי המתרס של עולם התוכנה: גם הצד האקדמי, שמכשיר תלמידים, וגם הצד המעשי, שקולט אותם ועסוק גם הוא בלנסות ולהבין את היכולות החדשות והאתגרים החדשים שהכלים הללו מספקים לנו.לאלו מכם שהגיעו לכאן בפעם הראשונה – נעים להכיר, ד"ר אלישע רוזנצוויג, ד"ר למדעי המחשב, וכאן ב"אלישע והזוויות" אני משלב עונות שלמות שצוללות לנושא מסויים ובוחנות אותו מהמון זוויות, לצד ראיונות עם אנשים מעניינים, כמו נניח השיחה היום עם אלון. העונה השניה שבה אני מצוי היום עוסקת בשאלה – "האם הבינה המלאכותית באמת ראויה לשם תבונה", אז אם הנושא הזה מעניין אתכם, מוזמנים להאזין מהפרק הראשון של העונה השניה (זמין גם בשאר הפלטפורמות, כמו יוטוב וספוטיפיי וכן הלאה), גם להצטרף לאתר הפודקאסט או לערוץ הטלגרם שלי. שיהיה המשך שבוע מצויין! This is a public episode. If you would like to discuss this with other subscribers or get access to bonus episodes, visit elishasangles.substack.com

הפעם ישבתי לשיחה עם אלישב רבינוביץ', יועץ פיננסי, לדיון שהשתרע מהדברים הגדולים של כסף וכלכלה וסוציאליזם מול קפיטליזם - ועד לטיפים קונקרטיים שיכולים לעזור לכל אחד מאיתנו לטפל בעצמו ובמשפחתו לטווח הארוך. לינק לערוץ של אלישב: ⁠https://t.me/elishav_rabinovich⁠ ולינק לערוץ של “אלישע והזוויות”: https://t.me/ElishasAngles This is a public episode. If you would like to discuss this with other subscribers or get access to bonus episodes, visit elishasangles.substack.com

בפרק הזה, אני פורע את החוב שהתחייבתי לו לפני מספר פרקים, ומציג את הביקורת שלי על גישתו של יובל נוח הררי בספרו "נקסוס" על הבינה המלאכותית.מוזמנים להאזין!ליצירת קשר:⁠elishas.angles@gmail.com⁠⁠https://elishasangles.substack.com/⁠⁠https://t.me/ElishasAngles⁠ This is a public episode. If you would like to discuss this with other subscribers or get access to bonus episodes, visit elishasangles.substack.com

היום אנחנו מדברים עם אלכס בקאלו, קריין האולפן הפתוח המסקר את "תיקי האלפים", ומגיש בערוץ TOV אקטואליה יהודית. בשיחה שלנו, דיברנו על המדיות החדשות - כמו הפודקאסטים - המתחרות במדיות המסורתיות, ומה עושים אזרחים שרוצים לדעת מה באמת קורה בנושאים חשובים שעל סדר היום.לינק לאולפן הפתוח של תיקי האלפים:⁠https://www.youtube.com/@kinneretbarashi864/streams⁠פרטי הפודקאסט, למעוניינים: מייל - ⁠elishas.angles@gmail.com⁠טלגרם - ⁠https://t.me/ElishasAngles⁠ This is a public episode. If you would like to discuss this with other subscribers or get access to bonus episodes, visit elishasangles.substack.com

שלום כולם, וברוכים הבאים ל"אלישע והזוויות". היום ה-15 ליולי 2025, יט תמוז תשפ"ה, ואנחנו בעונה השניה פרק 13!בטח שמתם לב שלקח לי זמן להוציא את הפרק הזה, אבל יש לי תירוץ טוב. האמת, יש לי שלל תירוצים: המלחמה עם איראן, הילדים שיצאו לחופש, הדבר הזה שקוראים לו "עבודה" שפה ושם מתחנן לקצת תשומת לב… אבל האמת היא שיש סיבה אחת שמרחפת מעל הכל, והיא שהפרק הזה היה קשה לכתיבה. טיוטות רבות עברו עליו עד שהוא התכנס ליצירת המופת שלפניכם, ואני יכול רק לקוות שתהנו מהתוצר.אחת הסיבות שהפרק הזה היה מאתגר לכתיבה היתה שבהמון נקודות ראיתי כיצד אני גולש מתחומי המדע והאינטואיציה אל תוך מחוזות הפילוסופיה, והגלישה הזו היתה מדרון חלקלק. לכן, הפרק מעוצב באופן שרק יצעד על גדות הצוק אבל ימנע מליפול לתהום הפילוסופיה. לאורך הפרק אני רק אתן קריאת כיוון לכמה מהמקומות שהפילוסופיה ממתינה בסבלנות למי שרוצה להרחיב, ואשאיר את ההשלמות של העניין לכם, המאזינים. מה שכן, מי שירצה לכתוב לי את מחשבותיו באחד מן הצינורות המקובלים - מייל, אתר, ערוץ טלגרם - אני כמובן שמח לנהל את השיחה הזו, אז לא להתבייש…ו-זהו עם ההקדמות! בואו ניגש לפרק עצמו.בפרקים האחרונים דיברנו על פונקציית המטרה, וראינו שהמחשבים זקוקים לכך שבני האדם יספקו להם את פונקציית המטרה הזו, וגם ינטרו ויגבילו את התנהגויות ה-AI בדרך להשגת המטרה. בכל מקום שבני האדם מסירים את מבטם, יש סיכוי שה-AI ינוע באופן עיוור לכיוונים שנוגדים את כוונות בני האדם. אפילו שבני האדם הגדירו את פונקציות המטרה, הן תמיד רק ניסוח חלקי של המטרות האנושיות, ובנוסף בני אדם עסוקים כל הזמן בגילוי ועדכון המטרות שלהם. כיוון שכך, המכונות זקוקות כל הזמן לאינפוזיה מתחדשת של מטרות כדי להשאר רלוונטיות, וככל שהכח שנתון בידם גדול יותר, כך התלות שלהם במשוב הזה מבני האדם גדלה.איפה ראינו משהו כזה בעבר? נכון, ראינו את זה בפרקים 6 ו-7, שם התמקדנו בדאטה שהמכונות זקוקות לה. ראינו שם שאימון של מערכות AI חייב להיעשות על בסיס דאטה אנושי דווקא, ושאי אפשר לשים את רוב כובד המשקל של האימון על דאטה סינתטי שנוצר על ידי מכונה אחרת. וכשמחברים את שני הפרמטרים הללו יחד אנו מקבלים את התובנה הראשונה של הפרק: שמסיבה כלשהי, השורה התחתונה היא שהמכונה לא מסוגלת לעשות את מחזור החשיבה המלא שבני אדם עושים, לפחות לא בפרדיגמות השולטות כיום. היא יכולה לפעול באופן מרשים מאד בתוך מסגרות של מטרות ודאטה שהוגדרו לה מראש, אבל את המסגרות עצמן היא לא מסוגלת לייצר. ובהתחשב בכך שבני אדם עושים זאת באופן טבעי לגמרי, שווה לשאול - מדוע? מה בדיוק חסר למכונה שיש לנו, ומה בדיוק היא מקבלת מאיתנו?גם כאן, חלקים מהתשובה נרמזו לאורך העונה. בתור התחלה, בפרקים 6 ו-7 הרחבנו על כך שיש אינסוף דרכים להסתכל על העולם ולדבר עליו, ורק חלק קטן מהם מעניין את בני האדם. כשהבינה המלאכותית משתמשת בשפה האנושית, היא בעצם מסתמכת באופן כבד מאד על האופן הספיציפי שבו בני אדם ממשיגים את העולם, כפי שראינו בפרק החמישי. ובפרקים האחרונים ראינו שהאבחנה הזו תקפה גם לגביי פונקציית המטרה: יש אינסוף פונקציות מטרה שניתן להגדיר ולאמץ - אבל רק חלק קטן מהם משקף מטרות שבני האדם יזדהו איתן. אי אפשר לדעת באופן רציונלי טהור איזה פלח הוא הפלח המעניין, ולכן המכונה חייבת שנספק לה את השפה, התמונות, התיוגים והמטרות שלנו.מאותה הסיבה, גם לאחר שסיפקנו לה את כל המידע הזה, יש לה עדיין רק שבריר מהתמונה השלמה, גרסה מפוקסלת של מציאות רציפה. גם אם נאכיל אותה את האינטרנט כולו, לא יהיה בכך יותר מייצוג חלקי בלבד של התפיסה האנושית את המציאות, ולכן באופן עקרוני התלות של המכונה בבני אדם בשר-ודם לנצח לא תסתיים. פעמים רבות חוקרים מתמכרים לרעיון שמספיק שנחפש מתחת לפנס, בדאטה שכבר אספנו, וכל פעם מחדש מתברר שהידע שאספנו הוא חלקי בלבד. נניח, הנה דוגמה יפה ששמעתי לפני הרבה שנים במהלך הדוקטורט שלי. בארצות הברית של אמריקה החליטה חברת מזון מסויימת להוציא מוצר חדש - פאי קלאסי, אבל קטן, פאי אישי במקום הגודל המשפחתי הרגיל. כשהם שאלו את עצמם כמה לייצר מכל סוג - פאי אוכמניות, פאי תפוחים וכן הלאה - היה להם ברור שלפאי התפוחים יהיה הביקוש הגבוה ביותר. כל הסטטיסטיקות הראו שזהו הפאי הפופולרי במדינה, עד כדי כך שיש אפילו ביטוי שכזה, As american as apple pie . אלא שלמרבה ההפתעה, כשהשיקו את המוצר החדש הם ראו נפילה במכירות של פאי תפוחים. לאחר מחקר נוסף הם גילו את הסיבה - מסתבר שפאי התפוחים מעולם לא היה הפאי האהוב על רוב האנשים - הוא פשוט הפאי שרוב האנשים לא שונאים. ולכן, הפאי המשפחתי תמיד התכנס לפאי תפוחים, הפאי שאמא לילדים יכולה לקנות בידיעה שאף אחד לא יתלונן. אבל ברגע שהיתה לאנשים אפשרות לקנות משהו אישי, הם הלכו לכיוונים אחרים. אתם מבינים - כל הדאטה המצטבר מן העבר לא הצליח לעלות על הנקודה הזו, ורק המשוב הישיר מבני האדם חשף אותה.את כל המלל ששפכתי פה אפשר בעצם לתמצת ולומר פשוט כך: בני האדם הם הלקוחות של המכונות, והלקוח תמיד צודק. ואמנם המוכר יכול לנחש מה הלקוח ירצה מחר, אבל זה לעולם לא יצא מכלל ניחוש. הרי הלקוח עצמו לא עקבי במה הוא רוצה ולא תמיד יודע מה הוא רוצה, אז מה לנו שנלין על המכונות?אלא שאם באמת זה היה עיקר ההבדל, זה נשמע קצת שרירותי. מה מיוחד בבני אדם, שהם זוכים לקבוע את המיסגור של המחשבים? למה שלא ניתן למשהו אחר להיות הלקוח, לקבוע את הדאטה המעניין ואת המטרות הרלוונטיות. אולי ניתן לאיזה רובוט נחמד לעשות זאת?השאלה הזו מובילה אותנו לעוד הבדל שורשי בין בינה מלאכותית כיום לבין בני אדם, ושהזכרנו בקצרה בפרק התשיעי: כדי לבחור מטרות לא מספיק כח חישובי, צריכים תודעה. כלומר, את בני האדם יכולים להחליף גם ישויות אחרות, כמו חייזרים, כלבים ודולפינים. אפילו מחשבים עתידיים יוכלו לעשות זאת אם תהיה להם תודעה. אבל עד אז - האפשרות הזו איננה חלק מארגז הכלים של המכונות.העובדה שאי אפשר להגדיר מטרות ללא שימוש בתודעה זה דבר ברור מאליו, מעצם ההגדרה של מה זו "מטרה". כך לדוגמה במילון ספיר המקוון ההגדרה היא "דבר שרוצים להשׂיגו", באתר מילוג ההגדרה היא "תוצאה רצויה", ובויקיפדיה הלכו על "משהו שרוצים בהשגתו". בשלושת ההגדרות מופיע הפועל "רצה" - רצון, ורק ישויות בעלות תודעה יכולות לרצות דברים. ולמי שחושב שאני פשוט עושה כאן התקטננות לשונית, הוא מוזמן לנסות את כוחו בהגדרה של המילה "מטרה" ללא הישענות, באופן ישיר או עקיף, על קיומו של רצון. אני מזכיר לכם את התהום הפילוסופית שלפתחנו, כן?לא רק המטרות שלנו, אלא גם הדאטה שאנו מספקים לְמערכות הבינה המלאכותית צבוע בצבעי התודעה שלנו. השפה שלנו, בתור התחלה, מעוצבת על ידי התודעה שלנו, ומותאמת דווקא לחוויה האנושית. מילים כמו "אהבה" ו"שנאה" משקפים תחושות שלא קיימות ללא תודעה. מילים כמו "שולחן" נשמעות בתחילה כאילו הן מתארות מציאות אובייקטיבית, אבל בני אדם מחליטים איפה משהו מפסיק להיות שולחן ומתחיל להיות "כסא" או, לחילופין, "אוהל". על גבי השפה הזו נבנים גם כל התיוגים שאנו עושים לדאטה שאנו מספקים למחשבים - לתמונות, לסרטונים וכן הלאה. ובנוסף, התמונות והסרטונים הללו עצמם מצולמים ומוסרטים על ידינו, עם דגשים אנושיים - איפה הפוקוס של המצלמה בסצינה בסרט, מה המרחק שהיא תופסת ואפילו דברים כמו טווח גלי האור שהמצלמה מסוגלת לקלוט - הכל ספוג ומודרך על ידי הדברים שמעניינים בני אדם, האופן שבו בני האדם מתממשקים איתם וכן הלאה - כלומר שמושפעים מהתודעה שלהם, שלנו.ושלא תחשבו שהרצונות הללו והבחירות הללו הן סתם קפריזה אנושית. יש להן עוגן הישרדותי חזק שעוצב לאורך ההיסטוריה הארוכה של המין האנושי, ובכך הם גם משקפים אמיתות מסויימות על המציאות. דברים ברוח זו אומר ד"ר ג'ורדן פיטרסון בקטע הבא, עוד מימיו כפרופסור לפסיכולוגיה באוניברסיטה בקנדה, לגביי חוקר בשם בינסוואגר:"מה שאנו תופסים הם, בראש ובראשונה, לא רשמים של טעם, צליל, ריח או מגע. אפילו לא דברים או חפצים, אלא משמעויות, מה המשמעות של הדבר עבורכם... הדרך שרובכם חושבים על האופן שבו אתם מעבדים מפגש עם חפצים בעולם, הולכת ככה: שיש חפצים בעולם, אתם רואים את החפצים, אתם חושבים על החפצים, אתם מעריכים את החפצים, אתם מחליטים כיצד לפעול ביחס לחפצים, ואז אתם פועלים. נכון?... אבל זה שגוי! זה לא עובד ככה...מה שבינדסוונגר טוען הוא שמה שאתם רואים בעולם הן משמעויות, וקודם מתרחש זיהוי המשמעות ורק אז מגיע זיהוי החפץ... בני אדם חייבים לתפוס משמעויות קודם כי אנחנו רוצים לשרוד, להישאר בחיים… העולם מלא בדברים האלה שיש להם משמעות שרלוונטיות להישרדות שלכם. ומה שאתם תופסים קודם הוא הרלוונטיות של הדפוס החיצוני להישרדות הזו..."זו הסיבה העמוקה יותר, אם כן, שהמכונה לא יכולה להיות מקור הדאטה ופונקציות המטרה. המכונה לא רוצה דבר, אפילו לא לשרוד, ולכן כל פונקציות המטרה שקולות בפניה וכל ייצוגי המציאות טובות בעיניה באותה מידה. גם לאחר שהיא קיבלה אל קרבה פונקציות מטרה כאלו ואחרות, היא עדיין לא רוצה אותן, אלא פשוט מבצעת את מה שמוגדר אצלה בתוכנה. בסוף אנחנו תמיד חוזרים לכך שרק יצורים בעלי תודעה יכולים לחלץ את המכונה מן האפאתיות הזו, להגדיר מה טוב ומה רע, מה המאפיינים במציאות שראויים לתשומת לב, ולאיזה כיוון כדאי לנוע.ההשפעות של התודעה על הדיון שלנו הן רחבות מאד. התודעה פותחת בפני האדם סוגי חשיבה שחסומים לגמרי עבור מערכות חסרות תודעה, כמו המחשבים של היום, ואזכיר כאן רק עוד אחת. כיוון שאין להם תודעה, ההתנהגות של מכונות ורובוטים בהווה נקבעת באופן דטרמיניסטי על ידי העבר, בדיוק כמו העתיד של דוממים אחרים כמו אבנים פשוטות. לעומת זאת, יצורים בעלי תודעה מסוגלים לפעול מכח העתיד - מתוך שאיפה להגיע לעתיד מדומיין שלא בא לעולם עדיין וקיים רק במחשבותיהם. רק כך נולדים להם סיפורים מעוררי-השראה על אנשים שהצליחו כנגד כל הסיכויים, שלא נתנו לעבר שלהם להכתיב להם את עתידם. "אם תרצו, אין זו אגדה" אמר הרצל, והניע תהליכים ליצירת מדינה שלא היתה קיימת 2000 שנה עבור עם חסר-מדינה שהיה מפוזר בגלות. כיוון שאבנים ורובוטים פועלים רק מכח העבר וההווה, הם חייבים שאנחנו נספק להם פונקציות מטרה, ייצוג מתמטי בהווה שיכול לגרום למחשב להתנהג כאילו הוא מכוון אל עבר עתיד כלשהו.הדברים שאמרתי כאן רומזים, כפי שאולי שמתם לב, לרעיון שלבני אדם יש רצון חופשי, free will, מנגנון שמאפשר להם להשתחרר מהדטרמינזם שהטבע הרגיל - והמחשבים - כבולים בו. האם אתם מאמינים שיש לבני אדם רצון חופשי שכזה, או שלדעתכם גם בני אדם שבויים של העבר והכל קבוע מראש? עם כל זה שהפיתוי הוא גדול לפתוח סוגרים ארוכים ולדבר על הנושא, אני התחייבתי להתאפק, ומילה זו מילה.זרמנו עד הנקודה הזו עם ההנחה שמחשבים אינם בעלי תודעה. אבל האם הם יכולים להיות כאלו?אולי. אולי לא. קשה מאד לדעת כיוון שאנחנו בקושי מבינים מה זו תודעה ואיך היא מתהווה במוח שלנו. נכון, אנחנו יודעים לזהות במוח שלנו את האזורים שמופעלים בזמן שאנחנו בתודעה מוגברת - לאזור הזה קוראים קליפת המוח, cerebral cortex באנגלית - אבל האם כל תודעה חייבת להתממש באופן הזה? אין לנו באמת מושג. אני מניח שלכם יש תודעה ואתם מניחים שלי יש כזו, בעיקר בגלל שאנחנו דומים זה לזה, אבל אולי גם למיקרופון שאני מדבר אליו עכשיו יש תודעה ואני פשוט לא יודע לזהות זאת? איך ניתן בכלל לדעת?לכן, הפרק הזה מכוון למשהו צנוע יותר: שנסכים, לפחות, שזה הרף שצריך לחצות אותו כדי שמחשב יוכל לחשוב כמו בני אדם. לא מספיק לנו מבחן טיורינג, אלא אנחנו חייבים שתהיה לו תודעה. לא מספיק לנו לבחון את ההתנהגות החיצונית של המערכת אחרי שבנינו אותה, כפי שטיורינג רצה, אלא אנחנו חייבים להציב גם דרישות למנגנון הפנימי שלה. יש דברים, כמובן, שהיא מסוגלת לעשות גם ללא תודעה - גם מחשבון כיס יכול לחשב חישובים שבני אדם לא מסוגלים - אבל תודעה היא מצרך קריטי כדי לחשוב כמו בני אדם.בנוסף אני חוש

לכבוד המלחמה באיראן ההתלכדות הישראלית המפורסמת התרחשה, אבל אני בטוח שברגע שנסיים אותה בהצלחה אנחנו נחזור להתווכח ולריב כרגיל. ולכן, לכבוד המאורע הזה הפרק הזה של "זווית אישית" יוקדש לשיחה עם אורי רוקני, איש הייטק שעוסק בזמנו הפנוי בבנייה והעברה של סדנאות שיח כאן במדינה המסוכסכת שלנו.ליצירת קשר עם אורי כדי לחלוק רעיונות או לארגן פעילות, מוזמנים לכתוב למייל: uri.rokni@gmail.comולמי שעדיין לא הצטרף או יודע - הנה פרטי הפודקאסט:מייל: elishas.angles@gmail.comערוץ הטלגרם: https://t.me/ElishasAnglesורישום לאתר הפודקאסט - כן, האתר שלנו! This is a public episode. If you would like to discuss this with other subscribers or get access to bonus episodes, visit elishasangles.substack.com

היום נעסוק בשאלה - מה קורה כשאנו מספקים למערכות ה-AI פונקציית מטרה. האם האופן שבו המחשבים משתמשים בפונקציה דומה לאיך שבני אדם מקדמים את המטרות שלהם? ומה ההשלכות של ההבדלים בין בני האדם לבין המחשבים בהקשר הזה? על הדרך, גם נכיר את חוק גודהארט המצויין.מוזמנים להאזין!אתר הפודקאסט והמייל:https://elishasangles.substack.com/ elishas.angles@gmail.com לינקים נוספים מהפרק:רמאות במשחק שח:https://time.com/7259395/ai-chess-cheating-palisade-research/ חוק גודהארט:https://he.wikipedia.org/wiki/%D7%97%D7%95%D7%A7_%D7%92%D7%95%D7%93%D7%94%D7%90%D7%A8%D7%98 אפקט הקוברה:https://economicpoint.com/goodharts-law הביקורת של פרנסואה שולה - AI אינו תבוני, הוא פשוט זוכר המון דברים בעל פה:https://youtu.be/rl7B-LHiaNo איך עוברים את מבחן טיורינג:https://arxiv.org/pdf/2310.20216 הבינה המלאכותית משתפרת בחירטוטים משכנעים במקום בלדייק:https://arxiv.org/abs/2409.12822  This is a public episode. If you would like to discuss this with other subscribers or get access to bonus episodes, visit elishasangles.substack.com

בפרק הזה נדבר, כפי שכתוב בכותרת, על פונקציית המטרה, והדברים שהרעיון הפשוט שלה מסתיר ומגלם בתוכו.מוזמנים להצטרף לאתר ו\או לאתר הפודקאסט, כמו גם ליצור קשר במייל!מייל:⁠elishas.angles@gmail.com⁠טלגרם:⁠https://t.me/ElishasAngles⁠אתר:⁠https://elishasangles.substack.com/⁠לינקים מהפרק:מחולל התמונות של גוגל:⁠https://www.vox.com/future-perfect/2024/2/28/24083814/google-gemini-ai-bias-ethics⁠⁠https://www.theguardian.com/technology/2024/mar/08/we-definitely-messed-up-why-did-google-ai-tool-make-offensive-historical-images⁠⁠https://www.theguardian.com/technology/2024/feb/28/google-chief-ai-tools-photo-diversity-offended-users⁠לשחק שח עם GPT:⁠https://nicholas.carlini.com/writing/2023/chess-llm.html⁠ניקולאס קאר, "כלוב הזכוכית":⁠https://www.roughtype.com/?p=5306⁠הגיליוטינה של דייויד יום:⁠https://en.wikipedia.org/wiki/Is%E2%80%93ought_problem⁠ This is a public episode. If you would like to discuss this with other subscribers or get access to bonus episodes, visit elishasangles.substack.com

היום אנחנו נציג את הקונספט של תכונות מתהוות, Emergent Properties, ודרכו ננסה לפרוץ את המחסום שהוצב בפני ה-AI בפרק השמיני. האם מערכת טיפשה יכולה, בסדרי גודל מסויימים, להפוך לתבונית?מוזמנים ליצור קשר ולהצטרף לאתר הפודקאסט, וגם לטלגרם החדש!⁠elishas.angles@gmail.com⁠⁠https://elishasangles.substack.com/⁠⁠https://t.me/ElishasAngles⁠לינקים מהפודקאסט:שיחה שלי עם תמיר דורטל: ⁠https://youtu.be/cxTXE3m31PQ?si=3sxTub1pf8dK84py⁠שיחה עם מנכ"ל אנתרופיק:⁠https://www.youtube.com/watch?v=GrloGdp5wdc⁠שיחה עם מנכ"ל OpenAI:⁠https://www.youtube.com/watch?v=nSM0xd8xHUM&t=742s⁠בין מים לקרח:⁠https://phys.org/news/2012-09-chemists-smallest-molecules-ice-crystal.html⁠אריסטו על הנמלים:⁠http://web.documentacatholicaomnia.eu/03d/-384_-322,_Aristoteles,_08_History_of_Animals,_EN.pdf⁠סטיגמרגיה:⁠https://en.wikipedia.org/wiki/Stigmergy⁠ This is a public episode. If you would like to discuss this with other subscribers or get access to bonus episodes, visit elishasangles.substack.com

הפעם ניפגש עם רותם אורג, המייסד של ארגון בשם "ליבראל". אני משוחח כאן עם רותם על הארגון שהקים, המצב בצד הליברלי של המפה בארצות הברית, ובייחוד איך ישראל וישראלים צריכים לגשת אליהם כדי לבנות קשרים חזקים וברי קיימא.מוזמנים להאזין! פרטי התקשרות עם אתר ארגון ליבראל, והמשתמש של רותם ב-X:⁠https://www.librael.org/⁠⁠https://x.com/WashingtonExp⁠ This is a public episode. If you would like to discuss this with other subscribers or get access to bonus episodes, visit elishasangles.substack.com

בפרק הזה של "זווית אישית", שוחחתי עם ד"ר רועי יוזביץ' על הנושא של העונה השניה: מה זה AI והאם הוא באמת תבוני, לדעתו? על הדרך גם דיברנו על משחק גו, יצירתיות של מערכות AI, עתיד מקצוע התכנות וגם - קסמים.מוזמנים להאזין! This is a public episode. If you would like to discuss this with other subscribers or get access to bonus episodes, visit elishasangles.substack.com

שלום כולם וברוכים הבאים לאלישע והזוויות, היום ה-16 לפברואר 2025, י"ח שבט, ואנחנו בעונה שניה על בינה מלאכותית, בפרק מספר 9!נתחיל בכמה עדכונים. קודם כל, אני שמח לשתף שהפודקאסט עבר את 20 אלף ההאזנות בספוטיפיי! ויש עוד כמה אלפים בפלטפורמות האחרות, אז אני משער שבסה"כ עברנו יחד את רף ה-25 אלף. רציתי לקחת רגע להודות לכם על שאתם כאן איתי במסעות שלי, ולעודד אתכם לשתף את הפודקאסט עם חברים, מכרים, עוקבי טוויטר וכן הלאה.חוץ מזה, ובלי קשר לנקודת הציון החשובה הזו, יש לנו לוגו חדש לפודקאסט! חשבתי שהגיע הזמן לשדרג את המותג, ואני מקווה שאתם אוהבים אותו. תודה רבה לגיסתי שעיצבה הלוגו, אז אם מישהו מעוניין בפרטים שלה, מוזמנים לכתוב לי בפרטי ואני אקשר ביניכם.בפרק הקודם, פרשתי בפניכם את הטיעון הסקפטי הפשוט שקובע שבאופן מהותי, מחשבים אינם יכולים לחשוב, וכיוון שכל AI שיש לנו היום הוא בסוף תוכנה שרצה על מחשב, כל פרוייקט ה-AI נדון לכישלון. וכשאני אומר "נדון לכישלון" אני כמובן לא מתכוון לכפור בערך ובעוצמה של הכלים המדהימים שאנו קוראים להם AI. מערכות הבינה המלאכותית עשו - וימשיכו לעשות - מהפכה בכל העולם בלי קשר לאיך נקרא להן. יש כאלו שרואים בהן את שורשיה של מהפכה בסדר גודל של המהפכה התעשייתית, ויש סיכוי שהם צודקים בזה. אבל גודל המהפכה אינו בהכרח אומר שהמערכות הללו זכאיות לשם התואר "תבונה". אין ספק שהשם AI מתגלגל בקלילות מהלשון, והוא גם עוזר לייצר השראה לאלפי חוקרים ומתכנתים בעולם, שקמים כל בוקר במטרה לקדם חזון של בניית מוח סינתטי. אבל התיזה משבוע שעבר - בא נקרא לה התיזה ה"סקפטית" - קובעת שמדובר באשליה ותו לא, מופע קסמים שמהתל בנו. הצגנו את הדברים בהשראת המאמרים של מארק הלפרן, שלא המציא את הטיעון אבל ניסח אותו באופן אלגנטי, ואם אתם לא זוכרים את הפרטים, אני מזמין אתכם להאזין שוב לפרק השמיני, ולחזור לכאן כשהדברים יושבים לכם טוב בראש.ואם כבר הזכרתי את הפרק הקודם, שווה שתכירו פרט טריוויה חשוב לגביי העמדה הסקפטית של הלפרן. אחד המנסחים הראשונים שלה היה ג'ון סרל (John Searle), פרופסור לשעבר באוניברסיטת ברקלי, שהציג אותה על ידי שימוש במשל המכונה "החדר הסיני". לא נכנס לפרטי המשל כאן, אבל הוא דומה קצת להשראה ששאבתי בפרק הקודם ממופעי קסמים. כיוון שמדובר במשל קלאסי וידוע, רציתי שתכירו את השם למקרה שמישהו יזכיר אותו פעם בפניכם. שלא תגידו שאני לא דואג לכם, כן? אצרף כאן לינק לפרטי המשל למי שירצה להרחיב.אל מול הטיעון הסקפטי שדנו בו בפרק הקודם אפשר להציב כמה תגובות. אפשר לנתח את הטיעון עצמו, ולבדוק איפה יש טעויות או קפיצות לוגיות, נקודות תורפה שיאפשרו לנו להחליש אותו. אם נדָמֶה את הטיעון כסוג של גדר שתוחמת את המחשבים לאזור שאין בו אינטליגנציה, אפשר לחפש פרצות בגדר. גישות כאלו אנחנו נסקור בפרקים הבאים. היום, אני רוצה לדון בתגובה מסוג אחר.כמה מאזינים פנו אלי אחרי הפרק ושאלו - רגע, אבל מה עם המוח האנושי? גם המוח הוא בסוף מכונה פיזית, שמבוססת על סיגנלים חשמליים בין תאי-עצב הקרויים נוירונים. לכל הרוחות, כל מערכות ה-AI של היום בנויות על תשתית שקוראים לה רשתות נוירונים, ארכיטקטורות שעוצבו בהשראת המוח האנושי. אז, אם אנחנו מצליחים לחשוב בעזרת המוח, אז זה אומר שקיימת ארכיטקטורה כלשהי של מחשבים שתוכל לחשוב, הלא כן?כשחשבתי על השאלה הזו, הייתי חייב להיות כנה עם עצמי: מדעי המוח הם מטרופולין סואן של רעיונות וגילויים מדעיים, ואני לא מתחיל בכלל לגרד את הידע הנרחב בנושא. וחוץ מזה, אם היינו רוצים לשטוח את כל נושא הקשר שבין בינה מלאכותית לבין המוח, היינו צריכים להכניס לכאן מומחים מהמון תחומי ידע לגביי המוח האנושי - פסיכולוגים, נוירולוגים, מומחים לאבולוציה וכאלו שיכולים לספר לנו על המוח של קופים וכלבים ומה אנחנו יודעים על היכולת שלהם לחשוב, וכן הלאה. ולכן, מה שהחלטתי לעשות היום הוא בעיקר לפתוח צהר לאיך אני ניגש לחשיבה על עניין ההקבלה שבין המוח לבין בינה מלאכותית, עם כמה דוגמאות ממש בפינצטה, ובתקווה שזה יעזור לכם ויתן לכם כלים טובים לארגון הידע שלכם בנושא. בנוסף, בפרקים הבאים אנחנו ניגע בעוד נושאים המשיקים למה שאנו יודעים היום על המוח, לפחות זו התכנית שלי, אז אני מקווה שהפרק הזה לא יהיה סוף פסוק בעניין.אז, מאיפה נתחיל? נראה לי שהדבר הראשון שצריך לומר הוא שבמסגרת העונה שלנו, יש משמעות מיוחדת להזדקקות למוח.. שכן בעצם הצגת השאלה אנחנו סוטים במידה מסויימת מדרכו של טיורינג וחושפים חולשה בפרוייקט שלו. הרי טיורינג שאף להתמקד רק בביטויים החיצוניים של אינטליגנציה וחשיבה, והוא נמנע באופן מכוון מלהזדקק לשאלה איך שתיהן מתממשות אצל בני האדם. טיורינג קיווה בכך לדלג קדימה לפתרון בלי להבין את מהות הדבר שהוא מנסה לפתור - לבנות מערכות חושבות בלי להגדיר מראש מה זו חשיבה. אבל מה שה"גישה הסקפטית" טענה באופן מאד משכנע הוא שכאשר מסתכלים מתחת למכסה המנוע ומבינים איך מחשבים עובדים, אשליית החשיבה שלהם מתנפצת. כיוון שכך, מי שרוצה לייצב את החזית הזו נדרש בעצם לשכנע אותנו שהמוח האנושי, שכולנו מסכימים שמסוגל לחשוב, זהה למחשבים מבחינה מהותית כלשהי. הבעיה היא שבכך הוא שובר את המסך שטיורינג הציב, מסך שמפריד מראש בין ה"מה" שאנו חווים, לבין ה"איך" שנסתר מעינינו.אז בסדר, יש כאן ניצחון בקרב קטן מול "מסך הבּערות" שטיורינג ניסה להציב. אבל מהרגע שפרצנו את מסך הבערות, הויכוח שבין הגישה הסקפטית לגישה האופטימית עובר לחזית אחרת. בעלי הטיעון ה"אופטימי", אלו שסבורים שבינה מלאכותית יכולה להיות תבונית באמת, באים ואומרים: הלפרן, וגם ג'ון סרל - אתם ושכמותכם משחקים מלוכלך. על הבמה יש לא קוסם אחד אלא שניים - הבינה המלאכותית כמובן, אבל גם הבינה הביולוגית האנושית. בפרק הקודם דאגתם לחשוף את הטריקים של הקוסם המלאכותי, תוך כדי שייחסתם יכולות חשיבה מהותניות למוח האנושי. אבל בכך אתם רק ממנפים יתרון לא הוגן שיש למוח האנושי, והוא שאנו לא יודעים איך בדיוק הוא עובד. אם תרימו את מכסה המנוע של המוח הביולוגי ותביטו פנימה, אם נתחיל לחפור לעומק באופן שבו הוא עובד, אנחנו נחשוף שהמוח שלנו דומה מאד למחשב, דומה מדי, ושגורל שניהם תמיד יהיה זהה.ובהחלט, זהו טיעון מאד אִינְטואִיטִיבִי ששווה דיון. כפי שאמרנו, מערכות בינה מלאכותית כיום בנויים באופן דומה מאד למוח. שניהם מבצעים חישובים על ידי תקשורת בין נוירונים המאורגנים בצורה של רשת. אצל שניהם, הנוירונים עוברים כיול בתהליכים של למידה לאורך זמן עד שהם מגיעים לתפקוד ראוי. ואצל שניהם - וזה החלק שמתקשר ישירות לפרק הקודם - אצל שניהם הנוירונים פועלים באופן מכני, דטרמיניסטי וחסר חשיבה. כל נוירון פשוט מגיב לַגִירויים שהוא מקבל מהסביבה. אז, ידידי הסקפטים, אתם יודעים מה? כל הכבוד לכם שכיתרתם את המחשבים והוכחתם שלעולם לא יוכלו לפרוץ את גבולות הדטרמיניזם ולחשוב באמת, אבל עכשיו הגיע הזמן שתשימו לב שכשהתקנתם את המנעול על דלת הגדר, על הדרך גם כלאתם את עצמכם ואת המוח האנושי באותו כלוב לוגי. אם הטיעון שלכם חזק מספיק כדי להוכיח שמחשבים לא יהיו מסוגלים לחשוב לעולם, אז באותה מידה הוא מראה שמה שהמוח האנושי עושה כבר היום איננו חשיבה. תקראו לזה מה שאתם רוצים, אבל אין משהו מהותי במוח הביולוגי, ובחשיבה האנושית, שלא יכול להתממש במחשב מבוסס סיליקון עם תוכנה מתוחכמת.הטיעון הזה נשמע חזק, אבל ניסוח טוב יותר לכך הוא שיש לו פוטנציאל להיות טיעון חזק, פוטנציאל להיות תשובה ניצחת כלפי הסקפטיים. הקביעה "מחשבים שקולים מהותית למוחות" איננה עובדה, אלא היפותיזה. יש להיפותיזה הזו הרבה תומכים, ויש להם סיבות טובות לחשוב כן. מצד שני יש גם הבדלים חשובים בין המערכות השונות, ולכן סימן השאלה עדיין שם. ומתוך סימן השאלה הזה עולים הרבה כיוונים מעניינים לבחינת הנושא.בואו נתחיל מהכיוון האופטימי. להוכיח שהמוח שקול ב-100% למחשבים זה כמובן לא אפשרי, אבל מתוך ההצלחות של GPT אפשר בהחלט לקבל הרבה רעיונות והשראה לגביי איך שהמוח האנושי עובד. אני אזכיר לכם ש-GPT, כל שהוא מאומן לעשות זה לעשות auto-complete, השלמה של המילה הבאה, לפי כל המילים הקודמות שהיו בשיחה. אתם הכרתם את הפיצ'ר הזה ממזמן כשכתבתם הודעות טקסט בנייד, ו-GPT פשוט שם את זה על סטרואידים. אז, בהינתן שזה כל מה שזה עושה, זה מפתיע באופן מטורף שגישה שכזו מספיק עוצמתית כדי לנהל שיחה משכנעת עם בני אדם, ולהצליח פעמים רבות במבחן טיורינג! מה אפשר ללמוד מזה שזה המצב? ובכן, כיוון שהטבע אוהב להיות חסכוני במשאבים ואנרגיה, אולי אפשר להסיק מכאן שחלקים מסויימים מיכולת הדיבור האנושית דורשים מכניזמים הרבה יותר פשוטים ממה שחשבנו. וכך, נניח, אומר הפילוסוף נד בלוק, פרופסור באוניברסיטת ניו יורק, בראיון שנתן לאחרונה:"אני לא יודע אם אפשר ללמוד ממערכות ה-AI לגביי המבנה של השפה האנושית, אבל הן בוודאי לימדו אותנו המון על חשיבה אנושית, ובייחוד אלו חלקים מהשכל אולי מנצלים טכניקה פשוטה יחסית של auto-complete. זו תגלית חשובה ביותר."אז, זו דוגמה אחת לאופן שבו ההקבלה בין המוח לבין המחשב יכולה להאיר אור חדש על תפקודו של המוח. ואם זה המצב, מאד קל להתמכר לרעיון שהשניים דומים מאד באופן פעולתם. ולמי שרוצה להאזין לשיחה המרתקת עם פרופ' בלוק, אני אשים את הלינק לשיחה הזו שלו בתיאור הפרק.אבל לצד נקודות הדמיון, יש גם הבדלים חשובים. נניח, בואו ניקח לדוגמא את ההבדל הבולט ביותר בין השניים - העובדה שהמוח הוא מערכת ביולוגית שמוטמעת בגוף האדם בעוד מחשבים עשויים מסיליקון וכלואים בקופסא מלבנית משעממת. אולי האינסטינקט שלכם הוא שזה עניין שולי, ושמה שחשוב בסוף הוא האלמנטים המהותיים יותר של המערכת, כמו מפת הקשרים בין הנוירונים, הרגישות והכמות שלהם, סוג המידע שהמחשב חשוף אליו והכמות שלו, וכן הלאה. קשה להבין למה שהחומר שממנו המוח עשוי יהיה כזה חשוב - על פניו, נראה שמדובר רק במאפיין היסטורי מקרי, פרי תהליכים אבולוציוניים. אבל מסתבר שיש חוקרים רציניים שלא חושבים כך. קחו לדוגמא את הדיון הבא שהתרחש לפני כמה חודשים בנושא שמשיק לנושא שלנו: האם מכונות יכולות להיות בעלות תודעה כמו בני אדם.אחד הדוברים בדיבייט הזה היה אניל סת', מדען מוח בריטי ופרופסור לנוירו-קוגניציה חישובית וקוגניטיבית באוניברסיטת סאסקס. במסגרת השיחה, המראיין הציע את התרגיל החשיבתי הבא, שאמורה להוכיח שתודעה סינתטית היא אפשרית: נדמיין עתיד שבו נוכל לבצע ניתוח מוח בזמן שהפציינט ער, ובכל שלב להחליף בָּמוח נוירון ביולוגי בודד בנוירון סיליקוני בודד, וככה נחליף אותם אחד אחד עד שכולם יוחלפו. אנחנו ניגש לניתוח הזה כמובן כשיש בידינו נוירון סינתטי מושלם. בנוסף, כדי לוודא שאנחנו לא הורסים כלום, אחרי כל החלפה של נוירון הפציינט אומר לנו ברוגע, "הי חברים, אני עוד כאן! זה עדיין אני, יוסי!" - ובכך מרגיע אותנו שהתודעה שלו עדיין שם, יציבה כתמיד. אם נצליח לעשות משהו כזה, נראה שזה יוכיח מעל כל ספק שניתן לבנות מחשב בעל תודעה! הרי בסוף התהליך הזה כל הנוירונים במוח הם עכשיו עשויים מסיליקון והתודעה עדיין שם, אז - זה שקול…בתגובה לשאלה הזו, פרופסור סת' הסביר ששאלות תיאוריטיות כאלו נשמעות טוב, ומאוד מגניבות בתור שעשוע אינטלקטואלי. אבל כשחוקרים אותן לעומק מגלים שהן יותר מטעות מאשר עוזרות לברר את הנושא. הן מְמָסְכות את המאפיינים הקריטיים של המוח שימנעו ממצב כזה להיות אפשרי אי פעם, מאפיינים שממוטטים את המסגרת הקונספטואלית של השאלה לפני שאפילו מתחילים לחשוב עליה. והנה ציטוט של דבריו בתוספת כמה מילות קישור והבהרה, ואחר כך אשמיע לכם את המקור:"המוח אינו מערכת שאתה יכול פשוט להחליף בו רכיבים באופן הזה… אני חושב שהמוח הינו מערכת מהסוג שאי אפשר להפריד בה בין מה שהיא עושה, הפונקציונליות שלה, לבין מה שהיא, התשתית החומרית הביולוגית. בוא נסתכל על המקרה שהבאת. הרי לפעמים נוירון ביולוגי מופעל ומשחרר סיגנל לנוירונים השכנים שלו לא בגלל שהוא עשה אי

פרק 3 ואחרון מתוך 3 בנושא - כיצד ההתנתקות הניעה תהליכי עומק בציונות הדתית (ובימין בכלל) שפרצו לשטח ברפורמה המשפטית? ובפרק הזה אנחנו גם דנים בסערת הסרבנות, ובאופן שבו מה שקרה לציונות הדתית בהתנתקות קורה היום לצד הליברלי במפה.תודה על ההאזנה - כל משוב יתקבל בברכה! This is a public episode. If you would like to discuss this with other subscribers or get access to bonus episodes, visit elishasangles.substack.com

פרק 2 מתוך 3 בנושא - כיצד ההתנתקות הניעה תהליכי עומק בציונות הדתית (ובימין בכלל) שפרצו לשטח ברפורמה המשפטית?ממשיכים את השיחה עם עמית מנדלבוים, איש הייטק מהציונות הדתית שהתנגד להתנתקות וגם לרפורמה, כדי לדבר על רחשי הציבור הציוני דתי ומה הרבה אנשים לא מבינים על הקשר שבין הטראומה של ההתנתקות לבין הרפורמה המשפטית.אל תעצרו כאן - הפרק השלישי והאחרון זמין גם כן! This is a public episode. If you would like to discuss this with other subscribers or get access to bonus episodes, visit elishasangles.substack.com

כיצד ההתנתקות הניעה תהליכי עומק בציונות הדתית (ובימין בכלל) שפרצו לשטח ברפורמה המשפטית? הפעם אני משוחח עם עמית מנדלבוים, איש הייטק מהציונות הדתית שהתנגד להתנתקות וגם לרפורמה, כדי לדבר על רחשי הציבור הציוני דתי ומה הרבה אנשים לא מבינים על הקשר שבין הטראומה של ההתנתקות לבין הרפורמה המשפטית.זהו פרק 1 מתוך 3 בנושא - שני הפרקים הנוספים יצאו גם כן, והפיצול נועד לנוחות ההאזנה. מוזמנים להיכנס לאתר (elishasangles.substack.com) ולראות את שני הפרקים הנוספים - לא רציתי להציק לכם עם מבול של מיילים סתם בשל העניין הטכני הפעוט הזה…ושימו לב - לוגו חדש!כרגיל, מוזמנים להגיב כאן או לכתוב לי למייל elishas.angles@gmail.com. This is a public episode. If you would like to discuss this with other subscribers or get access to bonus episodes, visit elishasangles.substack.com