אלישע והזוויות

היום אנחנו נשאל את השאלה הידועה: האם החייזרים התבוניים שאנו בונים יקחו לנו את כל העבודות?

מוזמנים ליצור קשר:

[email protected] 

https://t.me/ElishasAngles

https://elishasangles.substack.com/

לינקים מהפרק:

ההרצאה של דניאל שרייבר:

https://youtu.be/5gqtckj0Ohc?t=2048

סאם אלטמן על AGI

https://www.youtube.com/watch?v=xXCBz_8hM9w&t=2772s

https://www.windowscentral.com/artificial-intelligence/openai-chatgpt/sam-altman-gpt-5-fails-to-meet-agi-still-missing-something

פרוייקט AI 2027

https://ai-2027.com/

https://www.reddit.com/r/singularity/comments/1p2eqv7/ai2027_author_admits_things_seem_to_be_going/

הרכבים של WAYMO

https://cleantechnica.com/2025/12/03/car-crashes-are-a-public-health-crisis-autonomous-cars-are-the-cure/

https://www.businessinsider.com/driverless-cruise-car-stuck-wet-concrete-san-francisco-av-robotaxi-2023-8

https://www.reddit.com/r/Construction/comments/1clsbzz/self_driving_car_stuck_in_construction_site/

https://www.youtube.com/watch?v=tWPG8alh2Bs

עורכי דין משתמשים ב-AI

https://www.law.co.il/news/2025/08/10/lawyer-fined-after-submitting-ai-made-case-law/

https://www.mako.co.il/news-law/e9f61eb3e8509910/Article-4a3ee854a199a91026.htm

אליה סוצקובר - סוף עידן הסקייל, חזרה לעידן המחקר

https://www.youtube.com/watch?v=aR20FWCCjAs

This is a public episode. If you would like to discuss this with other subscribers or get access to bonus episodes, visit elishasangles.substack.com

בפרק הזה נתחיל לבצר את מקומו של האדם בעולם שבו ה-AI מתפשט יותר ויותר. והפעם - על חשיבותה ומקומה של האותנטיות האנושית. למה היא חשובה, ואיך היא תשפיע על הכניסה של AI למערכות המוכרות שלנו?

מוזמנים ליצור קשר:

[email protected] 

https://elishasangles.substack.com/ 

https://t.me/ElishasAngles 

לינקים מהפרק:

לפטר או לשכור עובדים בעידן ה-AI?

https://www.geektime.co.il/ceo-is-stoked-about-ai-doing-the-work-of-700-people-after-laying-off-700/ 

https://www.geektime.co.il/the-ceo-that-bragged-about-replacing-humans-with-ai-now-wants-them-back/ 

טור ב-SCIENCE על אתיקה רובוטית:

https://www.science.org/doi/10.1126/science.1151606 

גבר הולך לאיבוד דרך GPT:

https://www.youtube.com/watch?v=cFRuiVw4pKs

https://www.youtube.com/watch?v=_d08BZmdZu8 

https://www.youtube.com/watch?v=otAWu-bLv0Q 

אפליקציות למערכות יחסים - סטטיסטיקות:

https://techcrunch.com/2025/08/12/ai-companion-apps-on-track-to-pull-in-120m-in-2025/

https://www.cyberlink.com/blog/trending-topics/3932/ai-companion-app

תביעות נגד אפליקציות AI:

https://www.reuters.com/sustainability/boards-policy-regulation/google-ai-firm-must-face-lawsuit-filed-by-mother-over-suicide-son-us-court-says-2025-05-21/

https://edition.cnn.com/2024/10/30/tech/teen-suicide-character-ai-lawsuit

https://www.spiegel.de/international/zeitgeist/artificial-intelligence-a-deadly-love-affair-with-a-chatbot-a-e5498031-c2b0-4da4-9192-65da9d3f40d6

https://edition.cnn.com/2025/08/26/tech/openai-chatgpt-teen-suicide-lawsuit

https://www.bbc.com/news/articles/cgerwp7rdlvo

This is a public episode. If you would like to discuss this with other subscribers or get access to bonus episodes, visit elishasangles.substack.com

שלום כולם, וברוכים הבאים לאלישע והזוויות. היום ה-9 לספטמבר 2025, ט"ז אלול תשפ"ה, ואנחנו ב"זווית אקטואלית" בנושא גיוס חרדים.

הפעם הקודמת והיחידה שעשיתי "זווית אקטואלית" היה לפני כשנה, בהקשר של המתח שבין שחרור החטופים והשמדת חמאס. הדברים שנאמרו בו עדיין רלוונטיים היום על אף כל ההתפתחויות מאז, ומוזמנים לחזור ולהאזין\לקרוא. ולמי שלא מכיר את הפודקאסט שלי ומגיע לכאן בפעם הראשונה - נעים להכיר, ד"ר אלישע רוזנצוויג, ובפודקאסט הזה אני מנסה לבחון נושאים חשובים לעומק, מתוך גישה שאומרת שמגיעים לאמת דרך הסתכלות על המציאות מזוויות מרובות, רק ביחד מספקות לנו תמונה מלאה.

היום אנחנו נדבר על גיוס חרדים, ונראה שאין צורך לפרט כאן על הצורך האקוטי שיש לנו בהגדלת מעגלי הגיוס, ובפרט הגיוס החרדי. רובנו מכירים אנשים שעשו מאות ימי מילואים מאז טבח השביעי באוקטובר, וחלקנו גם מכירים כאלו שהעומס הזה הביא לפגיעה במשפחה ואף לקריסה כלכלית. אם היתה מלחמה שיכלה להבהיר שאנו חייבים שכולם יקחו חלק בנשיאת האלונקה הלאומית והבטחונית, הרי שהמלחמה שאנו מצויים בה היום היא זו.

ועדיין, אל מול הציפייה הזו, מנהיגי הציבור החרדי מתעקשים שלציבור שלהם מגיע פטור עקרוני משירות בצה"ל, כיוון שאותו הציבור עושה דבר חשוב לא פחות - לימוד תורה. לימוד התורה הזה מגן, לטענתם, על העם היהודי ומדינתו על ידי חיזוק הקשר עם בורא עולם. על משקל האמירה של אחד העם "יותר משהיהודים שמרו על השבת, השבת שמרה על היהודים", הם אומרים שלימוד התורה מסייע לנו באופנים מטאפיזיים, ושכל פגיעה בלימוד התורה תפגע קשות בעם ובמדינה, בטחונית ובכלל.

בגלל שאנחנו מתווכחים על הנושא הזה תוך כדי לחימה, כשהצורך גדול והעומס על חיילי המילואים כבד מנשוא, הוא נמצא הרבה בחדשות, והויכוחים עליו אינטנסיביים יותר וטעונים יותר ממה שהיינו רגילים בעבר. ועדיין, באופן מהותי לא השתנה בויכוח הזה הרבה אם משווים את הטיעונים של כל אחד מהצדדים היום לאלו שלפני עשור או שלושה עשורים. נראה לפעמים שאין עוד מה לומר בנושא. ועדיין, יש כמה זוויות ששווה לבחון גם לאחר כל מה שנאמר. ספיציפית, אם תאזינו לפרק כולו מתחילה ועד סוף, אני מאמין שתצאו עם כמה תובנות. קודם כל, אני אנסה להראות שהמצב הוא כמות שהוא בגלל שיתוף פעולה מכל חלקי הציבור בשימור שלו. כל קבוצה בעם החליטה, לפחות עד לאחרונה, שגיוס חרדים הוא לא דבר כזה חשוב. הדבר השני שאני מקווה לשכנע אתכם בו הוא שאנחנו בעיצומה של תקופת התבגרות. מדינה כמו סטרטאפ, וכל מי שעבד בסטרטאפ יודע שתהליכי עבודה שהיו מצויינים כשהייתם שלושה אנשים במרתף של ההורים לא עובדים כשאתם שלושים אנשים במשרד קטן ברמת-גן, ובטח לא כשאתם שלוש-מאות עובדים שתופסים קומה בעזריאלי ומפוזרים על פני שתי יבשות. התבגרות של מדינה, כמו התבגרות של סטרטאפ, היא תמיד אירוע קשה, כי חייבים להחליף שיטות ותהליכי עבודה שהתרגלנו אליהם, ובייחוד כאלו שבעבר היו מתכון להצלחה והיום עוצרים אותנו מלהתקדם.

לפני שנכנס לנושא עצמו, שלוש הקדמות קצרות. קודם כל, מילה על הרקע הצבאי שלי. התגייסתי לסדיר בתותחנים ב-1996 במסגרת מסלול ההסדר, ושירתתי במילואים עד 2007, כך שהספקתי לשרת במלחמת לבנון השניה. ב-2007 יצאתי לחו"ל ללימודי דוקטורט, וכשחזרתי ארצה ב-2011 הודעתי לצה"ל שחזרתי - והם הודיעו לי בתמורה שאין צורך שאחזור ליחידה. זה הסיפור שלי - אם המידע הזה רלוונטי למישהו בהערכת נקודת המבט שאציג כאן, רק רציתי שיהיה בפניכם.

שנית, כפי שאפשר לצפות מפודקאסט כמו שלי, המוקד שלי יהיה הרעיונות המנחים את הדיון כמו גם כוחות המאקרו. לצידן יש כמובן המון המון פוליטיקה, כזו שהיא מאד אישית, ייצרית, מלאת שקרים וחסרת כל הצדקה עקרונית. אבל כמו שאני תמיד אומר, הפוליטיקאים שמנווטים את הדרך הם שיקוף של הציבור ששלח אותם, והם מקדמים את האג'נדה שלהם בעזרת פנייה לרעיונות ואידיאלים שהציבור שלהם מאמין בהם, או לכל הפחות רוצה להאמין שהוא מאמין בהם. הדינמיקות הללו הם המוקד, והם העיקר מבחינתי.

והקדמה שלישית ואחרונה - אני עומד לעשות המון הכללות בפודקאסט היום. לדבר על "החרדים" זה כמו לדבר על "החילונים", וזה כמובן יכול להיות מאד לא מדוייק ולהביא לטעויות גסות. בתוך הציבור החרדי יש המון קבוצות ותתי-קבוצות, ויש גם חרדים שמתגייסים לצבא וכאלו שעובדים למחייתם ומשלמים מיסים וכן הלאה. רק השבוע היה פיגוע בירושלים, שבו חייל חרדי היה חלק ממי שניטרל את האירוע. אבל כיוון שאנחנו מנסים להתמקד ביער ולא בעצים, מקווה שתסלחו לי על ההכללות. אם תרצו דיוק של הקבוצה, אגיד שאני מדבר על מנהיגי כל אחד מהציבורים, ועל הציבור שפועל על פי עצת אותם מנהיגים. נניח, במקרה החרדי, הרי שמדובר ברבנים המובילים בציבור הליטאי, החסידי והספרדי כשהם מעודדים אותם לא להתגייס או אפילוט לשקול גיוס. זו הדמוגרפיה שאנו נעסוק בה היום.

בואו נתחיל, ונעשה זאת במקום הטבעי של הדיון: בציבור החרדי.

הציבור החרדי הוא, מזוויות מסויימות, סיפור הצלחה. בתגובה לשואה, הציבור החרדי ראה לעצמו שליחות - לשקם את מה שהנאצים השמידו. הנאצים השמידו את עולם התורה האירופאי, ובתגובה לכך הם ראו לעצמם מטרה להשלים את מה שנחסר. וכך כותבת ד"ר מיכל שאול, שכתבה ספר בנושא:

"כינונה של יהדות תורנית רוחנית בארץ-ישראל, גדולה יותר מאשר זו שנחרבה באירופה, נחשבה ל"זיכרון כבוד" המשמעותי וההנצחה הראויה ביותר לזכר הנרצחים. לפי תפישתה העצמית, החברה החרדית היא ההמשך האותנטי ביותר לעולם שחרב, ועצם קיומה ושגשוגה הם צורת ההנצחה הראויה והמשמעותית ביותר לקורבנות השואה. המשנה החרדית בעניין זה סדורה: אם השואה הייתה גלגול היסטורי נוסף של מלחמה בתורת ישראל ובמקיימיה, ועיקר החורבן היה בהעלאתם למוקד של רבנים ובני ישיבות ובחורבן בתי מדרשות ובתי כנסיות, הרי שהנקמה המשמעותית בנאצים והנצחת "מורשת" הקורבנות היא בחיזוקו של עולם התורה."

כשמסתכלים על הסיפור היהודי באופן הזה, אז כן, הציבור החרדי הוא סיפור הצלחה, לפחות בעיני עצמו. כמות האנשים שלומדים כיום תורה, שיכולים להקדיש את חייהם ללימוד תורה, הוא גדול מעל ומעבר למה שאי פעם היה באירופה, ומה שבכלל היה ניתן לדמיין שם, ולכן בכך הציבור החרדי הצליח לתקן במשהו את ההרס והחורבן שהיטלר הותיר אחריו.

ניתן להבין את היעד הזה ואת השאיפה הזו בעיקר בשנים הראשונות, בעשורים הראשונים שאחרי השואה. בעולם שכזה, כשאתה מיעוט דמוגרפי גם במדינה היהודית שהוקמה סביבך, הגיוני שתראה את עצמך כשומר על גחלת העבר שלא תכבה. המנגנון להשגת היעד הזה הוא בניית גטו, שמורת טבע מוגנת מן העולם שבחוץ, שבתוכה תוכל לגדל, כמו באינקובטור, את מה שנותר מן העולם הישן. כשאתה קטן, ההשפעה שלך על הציבוריות הישראלית היא מינורית, ושאר הציבור גם הוא יכול לאפשר לך להתכנס בגטו ולעזוב אותך לנפשך.

אבל מה שאפשר לעשות כשאתה קטן אי אפשר לעשות גם כשאתה גדול. תחשבו על אותו הסטרטאפ שהזכרתי קודם: הבעיות של ניהול מאות אנשים מגיעות דווקא בגלל ההצלחה המדהימה של שלוש המייסדים שהתחילו בגראז' של ההורים. מהרגע שהציבור החרדי הצליח במשימה שלקח על עצמו, הוא נהיה גם קרבן של ההצלחה הזו. כלומר, ההצלחה מאתגרת את האידיאל, ודורשת התנהגות אחרת, הרחבה של האידיאל. האידיאל הזה היה אידיאל של שיקום ההריסות, אבל מה עושים ביום שבו השיקום הסתיים - איך ממשיכים משם? ספיציפית, ההצלחה דורשת לקיחת אחריות גדולה יותר על מה שיש היום, על מה שקורה במדינה כולה. אי אפשר להתמקד רק בתחזוק הגטו כשהגטו מכיל כבר 20 אחוזים מהמדינה, שכן החלטות פנימיות של הגטו משפיעות כבר מערכתית גם על אלו שמחוצה לו.

לפעמים אנשים אומרים את הטיעון הזה ממקום אזרחי או ציוני, אבל אני רוצה לחדד ולומר שאני מתכוון אליו ממקום תורני דווקא. החרדים אומרים שהם רואים בלימוד התורה ערך עליון, וזה מה הם רוצים לקדם מעל הכל. אבל גם הם יודעים שבתורה יש עוד מצוות - ומה עם כל השאר? גם החרדים יודעים שיש בתורה מצווה להשתתף במלחמת הגנה על העם, מה שקרוי "עזרת ישראל מיד צר". על מצווה שכזו אומרת הגמרא, ובעקבותיה פוסק הרמב"ם, שכולם יוצאים להילחם, אפילו כאלו שלרוב היו מקבלים פטור, כמו חתן וכלה ביום חתונתם. אני מזכיר את הדברים לא כדי לצלול לפולמוס על שירות צבאי במישור הדתי שלו, אלא כדי להצביע על העובדה הברורה מאליה, שיש הרבה אידיאלים שהתורה דורשת שאנשים יפעלו למענם, לא רק אחד. התורה מכירה בכך שבחיים צריך לעשות שיקלול תמורות: לקבוע יחס המרה בין שני אידיאלים. נניח, בין עוד לומד תורה לבין עוד חייל בשטח. גם מישהו בתוך הציבור החרדי, שחרד לקיים את דבר ה', צריך לשאול - כמה לומדי תורה צריך כדי שגם אנחנו, החרדים, נצטרך להתחיל להפריש בחורים מהקהילה לשירות בצבא? גם החרדים, הרי, מאמינים בכך שאין סומכים על הנס, שיש לעשות השתדלות, ושהיסטורית במלחמות המתוארות בתנ"ך ובמדרשים רוב עם ישראל יצא למלחמה בעוד שמיעוטו - שבט לוי - שימש כעתודה הרוחנית. כיוון שכך, שאלת האיזון חייבת להישאל פנימית, ללא כל קשר ללחצים חיצוניים של המערכת הפוליטית והמשפטית.

במצב בריא, השאלה הזו היתה עולה למועצת חכמי התורה או כל גוף רבני אחר שרוצה להתמודד באופן אמיתי עם המציאות. יש גם לשער שהתשובות שהגוף הזה היה מגיע אליהן היו שונות ממה שאני הייתי מגיע אליהם או ממה שהממשלה תרצה לקדם, וזה צפוי ובסדר גמור. אבל בפועל - השאלה אפילו לא נשאלת, והדיון אינו מתחיל להתחיל. ההנהגה החרדית מסרבת להודות שמשהו השתנה בעולם שמחייב התייחסות חדשה, ולכן כל ההתייחסות שלהם לאירועי התקופה נעשית דרך פריזמה טקטית צרה.

הדברים הללו אולי אינם מפתיעים במיוחד…

This is a public episode. If you would like to discuss this with other subscribers or get access to bonus episodes, visit elishasangles.substack.com

שלום כולם, וברוכים הבאים ל"אלישע והזוויות". היום אנחנו בזווית אישית עם אלון אורינג, איש הייטק ומרצה באוניברסיטת רייכמן. רציתי לשוחח איתו כדי להבין איך נראית מהפכת ה-AI משני צידי המתרס של עולם התוכנה: גם הצד האקדמי, שמכשיר תלמידים, וגם הצד המעשי, שקולט אותם ועסוק גם הוא בלנסות ולהבין את היכולות החדשות והאתגרים החדשים שהכלים הללו מספקים לנו.

לאלו מכם שהגיעו לכאן בפעם הראשונה – נעים להכיר, ד"ר אלישע רוזנצוויג, ד"ר למדעי המחשב, וכאן ב"אלישע והזוויות" אני משלב עונות שלמות שצוללות לנושא מסויים ובוחנות אותו מהמון זוויות, לצד ראיונות עם אנשים מעניינים, כמו נניח השיחה היום עם אלון. העונה השניה שבה אני מצוי היום עוסקת בשאלה – "האם הבינה המלאכותית באמת ראויה לשם תבונה", אז אם הנושא הזה מעניין אתכם, מוזמנים להאזין מהפרק הראשון של העונה השניה (זמין גם בשאר הפלטפורמות, כמו יוטוב וספוטיפיי וכן הלאה), גם להצטרף לאתר הפודקאסט או לערוץ הטלגרם שלי.

שיהיה המשך שבוע מצויין!

This is a public episode. If you would like to discuss this with other subscribers or get access to bonus episodes, visit elishasangles.substack.com

הפעם ישבתי לשיחה עם אלישב רבינוביץ', יועץ פיננסי, לדיון שהשתרע מהדברים הגדולים של כסף וכלכלה וסוציאליזם מול קפיטליזם - ועד לטיפים קונקרטיים שיכולים לעזור לכל אחד מאיתנו לטפל בעצמו ובמשפחתו לטווח הארוך.

לינק לערוץ של אלישב: ⁠https://t.me/elishav_rabinovich⁠

ולינק לערוץ של “אלישע והזוויות”: https://t.me/ElishasAngles

This is a public episode. If you would like to discuss this with other subscribers or get access to bonus episodes, visit elishasangles.substack.com

בפרק הזה, אני פורע את החוב שהתחייבתי לו לפני מספר פרקים, ומציג את הביקורת שלי על גישתו של יובל נוח הררי בספרו "נקסוס" על הבינה המלאכותית.

מוזמנים להאזין!

ליצירת קשר:

⁠[email protected]⁠

⁠https://elishasangles.substack.com/⁠

⁠https://t.me/ElishasAngles⁠

This is a public episode. If you would like to discuss this with other subscribers or get access to bonus episodes, visit elishasangles.substack.com

היום אנחנו מדברים עם אלכס בקאלו, קריין האולפן הפתוח המסקר את "תיקי האלפים", ומגיש בערוץ TOV אקטואליה יהודית. בשיחה שלנו, דיברנו על המדיות החדשות - כמו הפודקאסטים - המתחרות במדיות המסורתיות, ומה עושים אזרחים שרוצים לדעת מה באמת קורה בנושאים חשובים שעל סדר היום.

לינק לאולפן הפתוח של תיקי האלפים:

⁠https://www.youtube.com/@kinneretbarashi864/streams⁠

פרטי הפודקאסט, למעוניינים:

מייל - ⁠[email protected]⁠

טלגרם - ⁠https://t.me/ElishasAngles⁠

This is a public episode. If you would like to discuss this with other subscribers or get access to bonus episodes, visit elishasangles.substack.com

שלום כולם, וברוכים הבאים ל"אלישע והזוויות". היום ה-15 ליולי 2025, יט תמוז תשפ"ה, ואנחנו בעונה השניה פרק 13!

בטח שמתם לב שלקח לי זמן להוציא את הפרק הזה, אבל יש לי תירוץ טוב. האמת, יש לי שלל תירוצים: המלחמה עם איראן, הילדים שיצאו לחופש, הדבר הזה שקוראים לו "עבודה" שפה ושם מתחנן לקצת תשומת לב… אבל האמת היא שיש סיבה אחת שמרחפת מעל הכל, והיא שהפרק הזה היה קשה לכתיבה. טיוטות רבות עברו עליו עד שהוא התכנס ליצירת המופת שלפניכם, ואני יכול רק לקוות שתהנו מהתוצר.

אחת הסיבות שהפרק הזה היה מאתגר לכתיבה היתה שבהמון נקודות ראיתי כיצד אני גולש מתחומי המדע והאינטואיציה אל תוך מחוזות הפילוסופיה, והגלישה הזו היתה מדרון חלקלק. לכן, הפרק מעוצב באופן שרק יצעד על גדות הצוק אבל ימנע מליפול לתהום הפילוסופיה. לאורך הפרק אני רק אתן קריאת כיוון לכמה מהמקומות שהפילוסופיה ממתינה בסבלנות למי שרוצה להרחיב, ואשאיר את ההשלמות של העניין לכם, המאזינים. מה שכן, מי שירצה לכתוב לי את מחשבותיו באחד מן הצינורות המקובלים - מייל, אתר, ערוץ טלגרם - אני כמובן שמח לנהל את השיחה הזו, אז לא להתבייש…

ו-זהו עם ההקדמות! בואו ניגש לפרק עצמו.

בפרקים האחרונים דיברנו על פונקציית המטרה, וראינו שהמחשבים זקוקים לכך שבני האדם יספקו להם את פונקציית המטרה הזו, וגם ינטרו ויגבילו את התנהגויות ה-AI בדרך להשגת המטרה. בכל מקום שבני האדם מסירים את מבטם, יש סיכוי שה-AI ינוע באופן עיוור לכיוונים שנוגדים את כוונות בני האדם. אפילו שבני האדם הגדירו את פונקציות המטרה, הן תמיד רק ניסוח חלקי של המטרות האנושיות, ובנוסף בני אדם עסוקים כל הזמן בגילוי ועדכון המטרות שלהם. כיוון שכך, המכונות זקוקות כל הזמן לאינפוזיה מתחדשת של מטרות כדי להשאר רלוונטיות, וככל שהכח שנתון בידם גדול יותר, כך התלות שלהם במשוב הזה מבני האדם גדלה.

איפה ראינו משהו כזה בעבר? נכון, ראינו את זה בפרקים 6 ו-7, שם התמקדנו בדאטה שהמכונות זקוקות לה. ראינו שם שאימון של מערכות AI חייב להיעשות על בסיס דאטה אנושי דווקא, ושאי אפשר לשים את רוב כובד המשקל של האימון על דאטה סינתטי שנוצר על ידי מכונה אחרת. וכשמחברים את שני הפרמטרים הללו יחד אנו מקבלים את התובנה הראשונה של הפרק: שמסיבה כלשהי, השורה התחתונה היא שהמכונה לא מסוגלת לעשות את מחזור החשיבה המלא שבני אדם עושים, לפחות לא בפרדיגמות השולטות כיום. היא יכולה לפעול באופן מרשים מאד בתוך מסגרות של מטרות ודאטה שהוגדרו לה מראש, אבל את המסגרות עצמן היא לא מסוגלת לייצר. ובהתחשב בכך שבני אדם עושים זאת באופן טבעי לגמרי, שווה לשאול - מדוע? מה בדיוק חסר למכונה שיש לנו, ומה בדיוק היא מקבלת מאיתנו?

גם כאן, חלקים מהתשובה נרמזו לאורך העונה. בתור התחלה, בפרקים 6 ו-7 הרחבנו על כך שיש אינסוף דרכים להסתכל על העולם ולדבר עליו, ורק חלק קטן מהם מעניין את בני האדם. כשהבינה המלאכותית משתמשת בשפה האנושית, היא בעצם מסתמכת באופן כבד מאד על האופן הספיציפי שבו בני אדם ממשיגים את העולם, כפי שראינו בפרק החמישי. ובפרקים האחרונים ראינו שהאבחנה הזו תקפה גם לגביי פונקציית המטרה: יש אינסוף פונקציות מטרה שניתן להגדיר ולאמץ - אבל רק חלק קטן מהם משקף מטרות שבני האדם יזדהו איתן. אי אפשר לדעת באופן רציונלי טהור איזה פלח הוא הפלח המעניין, ולכן המכונה חייבת שנספק לה את השפה, התמונות, התיוגים והמטרות שלנו.

מאותה הסיבה, גם לאחר שסיפקנו לה את כל המידע הזה, יש לה עדיין רק שבריר מהתמונה השלמה, גרסה מפוקסלת של מציאות רציפה. גם אם נאכיל אותה את האינטרנט כולו, לא יהיה בכך יותר מייצוג חלקי בלבד של התפיסה האנושית את המציאות, ולכן באופן עקרוני התלות של המכונה בבני אדם בשר-ודם לנצח לא תסתיים. פעמים רבות חוקרים מתמכרים לרעיון שמספיק שנחפש מתחת לפנס, בדאטה שכבר אספנו, וכל פעם מחדש מתברר שהידע שאספנו הוא חלקי בלבד.

נניח, הנה דוגמה יפה ששמעתי לפני הרבה שנים במהלך הדוקטורט שלי. בארצות הברית של אמריקה החליטה חברת מזון מסויימת להוציא מוצר חדש - פאי קלאסי, אבל קטן, פאי אישי במקום הגודל המשפחתי הרגיל. כשהם שאלו את עצמם כמה לייצר מכל סוג - פאי אוכמניות, פאי תפוחים וכן הלאה - היה להם ברור שלפאי התפוחים יהיה הביקוש הגבוה ביותר. כל הסטטיסטיקות הראו שזהו הפאי הפופולרי במדינה, עד כדי כך שיש אפילו ביטוי שכזה, As american as apple pie . אלא שלמרבה ההפתעה, כשהשיקו את המוצר החדש הם ראו נפילה במכירות של פאי תפוחים. לאחר מחקר נוסף הם גילו את הסיבה - מסתבר שפאי התפוחים מעולם לא היה הפאי האהוב על רוב האנשים - הוא פשוט הפאי שרוב האנשים לא שונאים. ולכן, הפאי המשפחתי תמיד התכנס לפאי תפוחים, הפאי שאמא לילדים יכולה לקנות בידיעה שאף אחד לא יתלונן. אבל ברגע שהיתה לאנשים אפשרות לקנות משהו אישי, הם הלכו לכיוונים אחרים. אתם מבינים - כל הדאטה המצטבר מן העבר לא הצליח לעלות על הנקודה הזו, ורק המשוב הישיר מבני האדם חשף אותה.

את כל המלל ששפכתי פה אפשר בעצם לתמצת ולומר פשוט כך: בני האדם הם הלקוחות של המכונות, והלקוח תמיד צודק. ואמנם המוכר יכול לנחש מה הלקוח ירצה מחר, אבל זה לעולם לא יצא מכלל ניחוש. הרי הלקוח עצמו לא עקבי במה הוא רוצה ולא תמיד יודע מה הוא רוצה, אז מה לנו שנלין על המכונות?

אלא שאם באמת זה היה עיקר ההבדל, זה נשמע קצת שרירותי. מה מיוחד בבני אדם, שהם זוכים לקבוע את המיסגור של המחשבים? למה שלא ניתן למשהו אחר להיות הלקוח, לקבוע את הדאטה המעניין ואת המטרות הרלוונטיות. אולי ניתן לאיזה רובוט נחמד לעשות זאת?

השאלה הזו מובילה אותנו לעוד הבדל שורשי בין בינה מלאכותית כיום לבין בני אדם, ושהזכרנו בקצרה בפרק התשיעי: כדי לבחור מטרות לא מספיק כח חישובי, צריכים תודעה. כלומר, את בני האדם יכולים להחליף גם ישויות אחרות, כמו חייזרים, כלבים ודולפינים. אפילו מחשבים עתידיים יוכלו לעשות זאת אם תהיה להם תודעה. אבל עד אז - האפשרות הזו איננה חלק מארגז הכלים של המכונות.

העובדה שאי אפשר להגדיר מטרות ללא שימוש בתודעה זה דבר ברור מאליו, מעצם ההגדרה של מה זו "מטרה". כך לדוגמה במילון ספיר המקוון ההגדרה היא "דבר שרוצים להשׂיגו", באתר מילוג ההגדרה היא "תוצאה רצויה", ובויקיפדיה הלכו על "משהו שרוצים בהשגתו". בשלושת ההגדרות מופיע הפועל "רצה" - רצון, ורק ישויות בעלות תודעה יכולות לרצות דברים. ולמי שחושב שאני פשוט עושה כאן התקטננות לשונית, הוא מוזמן לנסות את כוחו בהגדרה של המילה "מטרה" ללא הישענות, באופן ישיר או עקיף, על קיומו של רצון. אני מזכיר לכם את התהום הפילוסופית שלפתחנו, כן?

לא רק המטרות שלנו, אלא גם הדאטה שאנו מספקים לְמערכות הבינה המלאכותית צבוע בצבעי התודעה שלנו. השפה שלנו, בתור התחלה, מעוצבת על ידי התודעה שלנו, ומותאמת דווקא לחוויה האנושית. מילים כמו "אהבה" ו"שנאה" משקפים תחושות שלא קיימות ללא תודעה. מילים כמו "שולחן" נשמעות בתחילה כאילו הן מתארות מציאות אובייקטיבית, אבל בני אדם מחליטים איפה משהו מפסיק להיות שולחן ומתחיל להיות "כסא" או, לחילופין, "אוהל". על גבי השפה הזו נבנים גם כל התיוגים שאנו עושים לדאטה שאנו מספקים למחשבים - לתמונות, לסרטונים וכן הלאה. ובנוסף, התמונות והסרטונים הללו עצמם מצולמים ומוסרטים על ידינו, עם דגשים אנושיים - איפה הפוקוס של המצלמה בסצינה בסרט, מה המרחק שהיא תופסת ואפילו דברים כמו טווח גלי האור שהמצלמה מסוגלת לקלוט - הכל ספוג ומודרך על ידי הדברים שמעניינים בני אדם, האופן שבו בני האדם מתממשקים איתם וכן הלאה - כלומר שמושפעים מהתודעה שלהם, שלנו.

ושלא תחשבו שהרצונות הללו והבחירות הללו הן סתם קפריזה אנושית. יש להן עוגן הישרדותי חזק שעוצב לאורך ההיסטוריה הארוכה של המין האנושי, ובכך הם גם משקפים אמיתות מסויימות על המציאות. דברים ברוח זו אומר ד"ר ג'ורדן פיטרסון בקטע הבא, עוד מימיו כפרופסור לפסיכולוגיה באוניברסיטה בקנדה, לגביי חוקר בשם בינסוואגר:

"מה שאנו תופסים הם, בראש ובראשונה, לא רשמים של טעם, צליל, ריח או מגע. אפילו לא דברים או חפצים, אלא משמעויות, מה המשמעות של הדבר עבורכם... הדרך שרובכם חושבים על האופן שבו אתם מעבדים מפגש עם חפצים בעולם, הולכת ככה: שיש חפצים בעולם, אתם רואים את החפצים, אתם חושבים על החפצים, אתם מעריכים את החפצים, אתם מחליטים כיצד לפעול ביחס לחפצים, ואז אתם פועלים. נכון?... אבל זה שגוי! זה לא עובד ככה...

מה שבינדסוונגר טוען הוא שמה שאתם רואים בעולם הן משמעויות, וקודם מתרחש זיהוי המשמעות ורק אז מגיע זיהוי החפץ... בני אדם חייבים לתפוס משמעויות קודם כי אנחנו רוצים לשרוד, להישאר בחיים… העולם מלא בדברים האלה שיש להם משמעות שרלוונטיות להישרדות שלכם. ומה שאתם תופסים קודם הוא הרלוונטיות של הדפוס החיצוני להישרדות הזו..."

זו הסיבה העמוקה יותר, אם כן, שהמכונה לא יכולה להיות מקור הדאטה ופונקציות המטרה. המכונה לא רוצה דבר, אפילו לא לשרוד, ולכן כל פונקציות המטרה שקולות בפניה וכל ייצוגי המציאות טובות בעיניה באותה מידה. גם לאחר שהיא קיבלה אל קרבה פונקציות מטרה כאלו ואחרות, היא עדיין לא רוצה אותן, אלא פשוט מבצעת את מה שמוגדר אצלה בתוכנה. בסוף אנחנו תמיד חוזרים לכך שרק יצורים בעלי תודעה יכולים לחלץ את המכונה מן האפאתיות הזו, להגדיר מה טוב ומה רע, מה המאפיינים במציאות שראויים לתשומת לב, ולאיזה כיוון כדאי לנוע.

ההשפעות של התודעה על הדיון שלנו הן רחבות מאד. התודעה פותחת בפני האדם סוגי חשיבה שחסומים לגמרי עבור מערכות חסרות תודעה, כמו המחשבים של היום, ואזכיר כאן רק עוד אחת. כיוון שאין להם תודעה, ההתנהגות של מכונות ורובוטים ב…

This is a public episode. If you would like to discuss this with other subscribers or get access to bonus episodes, visit elishasangles.substack.com

לכבוד המלחמה באיראן ההתלכדות הישראלית המפורסמת התרחשה, אבל אני בטוח שברגע שנסיים אותה בהצלחה אנחנו נחזור להתווכח ולריב כרגיל. ולכן, לכבוד המאורע הזה הפרק הזה של "זווית אישית" יוקדש לשיחה עם אורי רוקני, איש הייטק שעוסק בזמנו הפנוי בבנייה והעברה של סדנאות שיח כאן במדינה המסוכסכת שלנו.

ליצירת קשר עם אורי כדי לחלוק רעיונות או לארגן פעילות, מוזמנים לכתוב למייל: [email protected]

ולמי שעדיין לא הצטרף או יודע - הנה פרטי הפודקאסט:

מייל: [email protected]ערוץ הטלגרם: https://t.me/ElishasAngles

ורישום לאתר הפודקאסט - כן, האתר שלנו!

This is a public episode. If you would like to discuss this with other subscribers or get access to bonus episodes, visit elishasangles.substack.com

היום נעסוק בשאלה - מה קורה כשאנו מספקים למערכות ה-AI פונקציית מטרה. האם האופן שבו המחשבים משתמשים בפונקציה דומה לאיך שבני אדם מקדמים את המטרות שלהם? ומה ההשלכות של ההבדלים בין בני האדם לבין המחשבים בהקשר הזה? על הדרך, גם נכיר את חוק גודהארט המצויין.

מוזמנים להאזין!

אתר הפודקאסט והמייל:

https://elishasangles.substack.com/ 

[email protected] 

לינקים נוספים מהפרק:

רמאות במשחק שח:

https://time.com/7259395/ai-chess-cheating-palisade-research/ 

חוק גודהארט:

https://he.wikipedia.org/wiki/%D7%97%D7%95%D7%A7_%D7%92%D7%95%D7%93%D7%94%D7%90%D7%A8%D7%98 

אפקט הקוברה:

https://economicpoint.com/goodharts-law 

הביקורת של פרנסואה שולה - AI אינו תבוני, הוא פשוט זוכר המון דברים בעל פה:

https://youtu.be/rl7B-LHiaNo 

איך עוברים את מבחן טיורינג:

https://arxiv.org/pdf/2310.20216 

הבינה המלאכותית משתפרת בחירטוטים משכנעים במקום בלדייק:

https://arxiv.org/abs/2409.12822 

This is a public episode. If you would like to discuss this with other subscribers or get access to bonus episodes, visit elishasangles.substack.com