עושים טכנולוגיה עם ד״ר יובל דרור I רשת עושים היסטוריה

צ'אטבוטים אוהבים להתנצל. הם מתנצלים כל הזמן. הם ממהרים להתנצל. אין להם שום בעיה להתנצל. אפילו כשאין להם על מה להתנצל הם מתנצלים. אבל התנצלות היא לא סתם רצף של מילים. היא אירוע לשוני ייחודי שיש לו משמעות מיוחדת, השפעה מיוחדת, ושעומדת מאחוריו כוונה. אבל לבוטים האלו אין כוונה. אם הם לא מתכוונים לשום דבר, ולמילים שלהם באמת משמעות, למה הם מתנצלים ולמה אנחנו כל כך מתרשמים מההתנצלויות האלו?

מחקר שפורסם באחרונה צולל אל ההתנצלויות של הבוטים, מנתח אותן וחוזר עם מסקנה מפתיעה: לא רק שההתנצלויות האלו ריקות, הן מטעות ומסוכנות ויתכן שהן מחייבות הרחבה או לכל הפחות שינוי בהגדרת אחד המושגים החשובים ביותר שבאמצעותם אנחנו מבינים את הבוטים: "בולשיט".

קישורים:
פוסט ברדיט: אני בושה
https://www.reddit.com/r/GeminiAI/comments/1lxqbxa/i_am_actually_terrified

מחקר: צ'אטבוט בולשיט
https://arxiv.org/abs/2501.09910

מחקר: ChatGPT הוא בולשיט
https://link.springer.com/article/10.1007/s10676-024-09775-5

מחקר: משחקי דמיון של צ'אטבוטים
https://journals.publishing.umich.edu/ergo/article/id/4668

ᐧ

בחודשים האחרונים פורסמו יותר ויותר אירועים שבהם אנשים שמתכתבים עם ChatGPT ובוטים אחרים, מפתחים דלוזיות, פסיכוזות ולעתים נקלעים לתוך מחילות של הזיה. בפרק בפרק הקודם התמקדתי בשאלה "איך זה קורה", הפעם אתמקד בשאלה אחרת: "למה זה קורה".
תחילה אנסה להסביר מדוע אין טעם לבקש מהבוטים לספק הסבר שיבהיר למה הם עושים את מה שהם עושים ואחר כך אציג השערה שאני חושב שמסבירה למה חלק מהמשתמשים מוצאים את עצמם מדברים עם הבוטים האלו ובהדרגה גולשים תוך מחוזות ההזיה.


קישורים:
מיני סדרה: ריפלי
https://www.imdb.com/title/tt11016042

כלי בינה מלאכותית עושים נזקים
https://arstechnica.com/information-technology/2025/07/ai-coding-assistants-chase-phantoms-destroy-real-user-data/

למה אסור לסמוך על הבוטים שמסבירים את עצמם
https://arstechnica.com/ai/2025/08/why-its-a-mistake-to-ask-chatbots-about-their-mistakes/

מדריך הפרומפטים של חברת אנת'רופיק
https://docs.anthropic.com/en/home

מאות מיליוני בני אדם משתמשים בצ'אטבוטים וזה לא מפתיע לגלות שחלקם מפגינים התנהגויות שיש בהן, למשל, מן ההתמכרות. אחרי הכל מבין מיליארדי בני האדם שאוכלים שוקולד, יהיו כמה שיתמכרו לשוקולד, מבין מיליארדי בני האדם שעושים קניות, יהיו כמה שיתמכרו לקניות, שלא לדבר על כך שלפעמים הבעיות שאנחנו רואים הן התוצאה ולא הסיבה. כלומר, בגלל שיש לי אישיות התמכרותית אני מבלה עשר שעות בצפייה בטלוויזיה. זה לא בגלל שהטלוויזיה "גרמה לי" להתמכר אליה אלא בגלל שאם זו לא היתה טלוויזיה זה כנראה היה משהו אחר.
כך חשבתי על העניין עד לא מזמן אבל בחודשים האחרונים אני עוקב אחרי תופעה שהולכת ומתפשטת ברחבי העולם ואני מתחיל לשנות את דעתי: משתמשים ובעיקר בני משפחותיהם, מדווחים על אירועים פסיכוטיים, אירועים של הזיות, של פרנויה וניתוק מהמציאות, שמתרחשים אחרי סשנים ארוכים של שיחות עם הבוטים השונים.
מה קורה במקרים האלו? האם אפשר למצוא דפוס משותף בשיחות שמתחילות כשיחה רגילות ובתוך זמן קצר יחסית הופכות לשיחות שנראה שיצאו מתוך הזיה? אני אספר על מחקר של קבוצת חוקרים בריטים שמספק קצה חוט להבנת הדינמיקה הרעילה הזו רגע לפני שננסה להבין למה האירועים האלו בכלל מתרחשים.

קישורים:
סיפורו אל אלן ברוקס
https://www.nytimes.com/2025/08/08/technology/ai-chatbots-delusions-chatgpt.html

רדיט: ChatGPT מעורר פסיכוזה
https://www.reddit.com/r/ChatGPT/comments/1kalae8/chatgpt_induced_psychosis

רולינג-סטונס: אנשים מאבדים את היקרים להם לטובת בינה מלאכותית
https://www.rollingstone.com/culture/culture-features/ai-spiritual-delusions-destroying-human-relationships-1235330175/

סרטון הווידאו של משקיע הון הסיכון ג'ף לואיס
https://x.com/GeoffLewisOrg/status/1945212979173097560

מחקר: שגעון טכנולוגי בשניים
https://arxiv.org/abs/2507.19218

תקציר: כמי שבילה חלק ניכר מילדותו באולמות משחקי הוידאו של תל-אביב, הייתי בטוח שאני מכיר את רוב מכונות המשחק הפופולאריות, אבל סרט דוקומנטרי ישן על התרבות היפנית, הציג בפניי משחק שלא ידעתי על קיומו. מקורותיו של המשחק נטועים בצרפת של לפני המהפכה הצרפתית. הוא חצה את האוקיינוס לארה"ב ומשם, כעבור כ-150 שנה, הוא הגיע ליפן ואז השתלט עליה לחלוטין.
עד לא מכבר היפנים הוציאו על המשחק סכום כסף השווה ל-4% מהתוצר הלאומי הגולמי של המדינה כולה, כ-200 מיליארד דולר או פי 30 מכלל ההכנסות של תעשיית ההימורים בלאס-ווגאס. מה סוד הקסם של המשחק שכבר 100 שנה שולט בה ביד רמה, כיצד היאקוזה קשור אליו ומדוע היפנים כל כך אוהבים אותו? זהו סיפורו המשוגע של "פצ'ינקו", סיפור על טכנולוגיה ותרבות, פשע ודיפלומטיה, היסטוריה ופוליטיקה.

הפרק שודר לראשונה באוקטובר 2021.


קישורים:
מצב תעשיית הפצ'ינקו
https://agbrief.com/news/japan/26/11/2024/pachinko-market-to-continue-steady-decline-until-2028-research/

סרטו של וים ונדרס, "טוקיו-גה".
https://www.imdb.com/title/tt0090182

סרטו של אוזו, The Flavor of Green Tea over Rice
https://www.youtube.com/watch?v=AO-1aZQ-uUY

ניתוח תרבות יפן בעיניי שעות הפנאי של אזרחיה
https://www.amazon.com/Culture-Japan-through-Leisure-Transition/dp/0791437914

בשנים 2005 ועד 2023, זינק מספר הסטודנטים האמריקאים שלמדו בחוגים למדעי המחשב בכ-400%, החוגים האלו היו נחשקים גם בישראל, אבל בשנה האחרונה המגמה התהפכה ומספר הסטודנטים האמריקאים שביקשו ללמוד מדעי המחשב גדל ב-0.2 אחוזים בלבד ועל פי ההערכות בשנים הבאות שיעור הסטודנטים החדשים יחל לצנוח.
אחת הסיבות לכך היא שהמועמדים והמועמדות הצעירים והצעירות מודאגים ממה שקורה בשוק: הביקוש למפתחים נמצא בירידה, מספר המשרות הפתוחות שמיועדות לג'וניורים הולך ופוחת כשבמקביל מספר המפוטרים הולך וגדל. המגמה הזו מתסכלת ונוגדת את האינטואיציה. אחרי הכל, ללמוד קוד, ללמוד תכנות נחשב במשך שנים ל"מקצוע העתיד", למקצוע הבטוח, אבל מערכות הבינה המלאכותית מאיימות על הדור החדש של כותבי וכותבות הקוד ונדמה שהסיבה לכך היא תזה שהשתלטה על עמק הסיליקון.
התזה הזו קובעת שהדרך לבינה מלאכותית כללית עוברת דרך בניית מפתח על-אנושי, superhuman coder. המפתח העל-אנושי יוכל לבצע משימות קידוד במהירות וביעילות גדולה יותר מהמפתחים האנושיים ומהרגע שזה יקרה, המוטיבציה להעסיק מפתחים אנושיים תצנח פלאים. במקביל, המפתח העל-אנושי יופנה אל הקוד שלו עצמו: הוא ישפר אותו, יתחיל לפתור בעיות חדשות ובתוך זמן קצר נגיע אל בינה מלאכותית כללית ואחריה לסופר-בינה מלאכותית. מתי החלק של המפתח העל-אנושי צפוי לקרות? על פי חלק מהתחזיות זה עניין של שנה-שנתיים.
זה החלק השלישי והאחרון בסדרה בת שלושה חלקים שעוסקת בשינוי שעומד לטלטל את עולמם של הכותבים, הסטודנטים, המרצים והמפתחים. 

קישורים:
פרויקט 2027
https://ai-2027.com

התחזית שחוזה את הסערה
https://www.nytimes.com/2025/04/03/technology/ai-futures-project-ai-2027.html

המחקר של ארגון METR
https://arxiv.org/abs/2503.14499

בעשורים האחרונים מורים נאלצו להתמודד עם אינסוף מהפכות. בהתחלה זה היה המחשב האישי, ה-PC, אחר כך זו היתה האינטרנט ואחריהם הגיעו הרשתות החברתיות, הטלפונים הסלולריים ואז האפליקציות בטלפונים הסלולריים. בכל פעם המורים נדרשו ללמוד טכנולוגיה חדשה, בכל פעם הם נדרשו להתמודד עם האתגרים שהיא מציבה. עכשיו זו הבינה המלאכותית ולכן מנהלים, מורים, מרצים – כולם נדרשים להכיר ואז לשלוט בה. 

העניין הוא שמערכות הבינה המלאכותית ובייחוד הבוטים הכותבים, הם לא דומים בשום דבר לטכנולוגיות של העבר. הן יצור חדש שמצויד ביכולות חדשות שמובילות לאיומים חדשים, כאלו שהמערכת, בייחוד מערכת ההשכלה הגבוהה, עוד לא נתקלה בהן בעבר. אני משתדל לא להשתמש בשפה דרמטית סתם ובלי סיבה אבל לדעתי, מהפכת הבינה המלאכותית עשויה למוטט את מערכת ההשכלה כפי שאנחנו מכירים אותה וההשפעות של ההתמוטטות הזו עלולות לגלוש אל שוק העבודה.

זה החלק השני בסדרה בת שלושה חלקים שעוסקת בשינוי הגדול ביותר שעומד לטלטל את עולמם של הכותבים, הסטודנטים והמרצים והמפתחים. השינוי הזה לא רחוק; למעשה, הוא כבר כאן.

קישורים:
כולם מרמים את דרכם ללימודים
https://nymag.com/intelligencer/article/openai-chatgpt-ai-cheating-education-college-students-school.html

הטקסונומיה של בלום
https://shorturl.at/gL72r

הופעת ChatGPT הובילו לירידות של 99% במניית Chegg
https://gizmodo.com/chegg-is-on-its-last-legs-after-chatgpt-sent-its-stock-down-99-2000522585

מה משותף למשחק וידאו יפני, ביולוג בריטי, עורך דין אמריקאי ואדולף היטלר? איך כל זה קשור לאחד האירועים שעיצבו את תרבות האינטרנט כפי שהיא היום?

כל זאת ועוד ב5.8, פרק הלייב של עושים טכנולוגיה: https://grayclub.co.il/event/493/12718/

ההתקדמות בעולם הבינה המלאכותית היא מהירה ורחבה ובתקופה האחרונה המערכות שמייצרות סרטוני וידאו משכו תשומת לב רבה, אבל אולי בגלל שאני אוהב כתיבה טובה דווקא ההתפתחויות בתחום מערכות הבינה המלאכותית הכותבות מושכות את תשומת הלב שלי.

חלק עצום מהחברה, התרבות, הכלכלה, המשפט, למעשה הציוויליזציה המערבית כולה, כולם מבוססים על כתיבה. אתה מנסח חוזים, חותם על תצהירים, כותב מאמרים אפילו שולח הודעות ווטסאפ – הכל מבוסס על כתיבה. אבל מה קורה מהרגע שבו הכותב האנושי נעלם, מה קורה מהרגע שאין בו עוד צורך מכיוון שמערכות הבינה המלאכותית כותבות עבורו ובמקומו? כמו הרבה דברים אחרים שקשורים בבינה מלאכותית, במחשבה ראשונה אתה אומר לעצמך "גן-עדן! מי צריך את המטלה המעיקה, הארוכה והמאוד מעייפת של כתיבה. שהמערכות האלו יעסקו בכתיבה וישחררו אותי לעשות דברים אחרים!". אבל כמו הרבה דברים אחרים שקשורים בבינה מלאכותית, במחשבה שנייה אתה מבין שגן העדן שחשבת עליו, עשוי להתגלות כאשליה.

זה החלק הראשון בסדרה בת שלושה חלקים שעוסקת בשינוי הגדול ביותר שעומד לטלטל את עולמם של הכותבים, הסטודנטים, המרצים והמפתחים – הוא יטלטל גם את עולמכם. ולא, השינוי הזה ממש לא רחוק; למעשה, הוא כבר כאן.

קישורים:
הבינה המלאכותית מסמנת את מותו של המחבר
https://www.noemamag.com/ai-signals-the-death-of-the-author

רולאן בארת' בעידן אפקוליפסת הרובוטים
https://aicopyright.substack.com/p/reading-roland-barthes-in-the-robot

יש מעט מאוד חברות שאפשר לומר עליהן שהן באמת מהפכניות אבל 23andMe היתה אחת מהן. היא הפכה אירוע שבמשך שנים נחשב לרפואי, יקר ומסובך, לאירוע צרכני-קמעונאי, זול ונטול מאמץ – אבחון גנטי. למעשה, היא הפכה את עצם האבחון למשחק חברתי, לאירוע פופ שבו התהדרו משפיענים וסלבריטאים.
אבל למרות שזכתה לתמיכה של אחד ממייסדי גוגל, למרות שהונפקה בנאסד"ק ונסחרה בשיאה לפי שווי של 6 מיליארד דולר, למרות שהיא ניתחה את המידע הגנטי של יותר מ-15 מיליון אמריקאים, מה שתיאורטית יכול היה לאפשר לה להאיץ באופן משמעותי את קצב פיתוח התרופות, היא פשטה את הרגל. אבל למה?
האם מדובר בסתם חוסר מזל או שמא יש פה לקח עסקי ואולי גם טכנולוגי? לא פחות חשוב מכך, האם אנחנו יכולים ללמוד משהו מהכישלון של 23andMe על אחת ההבטחות הגדולות ביותר של העשורים האחרונים: אבחון גנטי אישי שיוביל לרפואה מותאמת אישית? וגם, ואיך כל הדבר הזה קשור לשאלה שמעסיקה את כולנו: מי אנחנו, מי אנחנו באמת? האם בכלל אפשר לענות על השאלה הזו באמצעות בדיקה גנטית?

קישורים:
אני ובעלי דודנים
https://www.thecut.com/2018/12/23andme-informed-me-my-husband-and-i-are-related.html

למה אני לא מוחק את המידע שלי
https://reason.com/2025/03/26/why-im-not-deleting-my-23andme-genetic-data

המחקר האוסטרלי על ערכות ה-DNA
https://bmjopen.bmj.com/content/13/12/e074205

פורבס: בדיקות גנטיות – הטוב הרע והיקר
https://www.forbes.com/sites/forbesbooksauthors/2024/02/13/genetic-testing-the-good-the-bad-and-the-costly/

למה אני מתחרטת שעשיתי בדיקה גנטית
https://www.theguardian.com/technology/2024/nov/30/why-i-regret-using-23andme-i-gave-up-my-dna-just-to-find-out-im-british

פטריק מק'גי סיקר את חברת "אפל" עבור העיתון הכלכלי "הפייננשל טיימס" ובסוף מאי 2025 הוא פרסם ספר שבו הוא מנסה לפרק את הקשר הבלתי יאמן בין שתי מעצמות על: אפל וסין. הספר נקרא Apple in China.

במהלך הספר, שמבוסס על שיחות עם 200 מרואיינים, 90% מהם עובדים לשעבר באפל, ועל הרבה מאוד מסמכים פנימיים, מק'גי משרטט את מערכת היחסים בין אפל וסין. מצד אחד, הקשר בין השתיים, האופן שבו אפל בנתה את אופרציית התפעול המדהימה וחסרת התקדים שלה בסין, אפשר לאפל לייצר את האייפונים בכזו יעילות, מהירות ובעיקר עם שולי רווח שאין להם מקבילה בעולם הסלולרי. מצד שני, מבלי שהיא הבינה או תכננה, אפל קשרה את גורלה עם מדינה דיקטטורית וחסרת רחמים ואז בנתה אותה כמעצמת-על שמאיימת להשתלט על העולם. 

באפל מיהרו לטעון שהספר מלא באי-דיוקים, אז מיהרתי לקרוא אותו. 
הספר, מדהים.

קישורים":
הספר: "אפל בסין"
https://www.amazon.com/Apple-China-Capture-Greatest-Company/dp/1668053373

האם אפל יכולה לייצר אייפונים בארה"ב?
https://www.wired.com/2016/03/trump-wont-get-apple-make-iphones-shouldnt