שלום כולם, וברוכים הבאים לאלישע והזוויות, עונה שניה פרק מספר 8! היום ה-5 בינואר, 2025, - שנה אזרחית חדשה, פרק חדש! עומד להיות לנו פרק מאד שאפתני, כפי שתראו, אז אני חושב שזו תהיה אחלה דרך לפתוח את השנה כאן בפודקאסט.

לכבוד האירוע, אני רוצה שוב לעודד אתכם, כפי שעשיתי בפרק שעבר, לבקר ולהירשם באתר האינטרנט של הפודקאסט, כדי שתקבלו מייל כשיוצא פרק, וגם תוכלו לראות את כל התמונות והדיאגרמות שמוזכרות בעונה. בנוסף, יש גם מייל לפודקאסט ([email protected]) - אם מישהו רוצה לשלוח, אני תמיד שמח לקבל מכם משוב, ואני מנסה לענות לכל מי שכותב. הלינקים השונים לכל הדברים הללו נמצאים בתיאור הפרק, אז - מוזמנים!

אני רוצה להתחיל את הפרק בסקירה ממעוף הציפור של מה שראינו עד כה, כדי למקם איפה אנחנו. לאורך העונה, דיברנו הרבה על מבחן טיורינג כדוגמה הקלאסית למבחן שמזהה תבונה. מבחן טיורינג אמנם קיבל מקום של כבוד בפנתאון המבחנים לזיהוי אינטלגנציה מלאכותית, אבל מאז 1950 ועד ימינו אנשים הציעו חלופות. חלקן היוו שידרוגים או שינויים על בסיס מבחן טיורינג, וחלקן פנו לכיוונים אחרים. אם ניקח כמה ניסוחים מהשנים האחרונות, אז יש את גארי מרקוס, פסיכולוג וחוקר קוגניציה, שהציע לאתגר מחשבים בצפיה בוידאו ולאחר מכן שיענו על שאלות ביחס למה שהוצג בוידאו. יש את מוסטאפה סולימאן, יזם בתחום ה-AI ומוביל תחום ה-AI במיקרוסופט, שהציע לתת ל-AI סכום של 100K דולר, ולתת לו משימה להרוויח מיליון דולר. אם המחשב יצליח במשימה, אז הוא ייחשב בינה מלאכותית. ויש גם את יובל נוח הררי. בכמה ראיונות שנתן, הררי הגדיר AI באופן רחב הרבה יותר - כמערכת שיודעת להתקדם אל עבר יעד נתון ולהתמודד עם האקראיות של המציאות מסביב בדרך לשם. דרך אגב, אני מתכנן להקדיש פרק עתידי לדברים של יובל נוח הררי בעניין - הוא מייצג גישה מסויימת לשיח על AI שנראה לי חשוב להתייחס אליה - אבל כרגע אנחנו נסתפק בדברים שהוא אמר באופן כללי.

כפי שאתם מבינים, יש הרבה הצעות שם בחוץ לאיך נזהה AI אמיתי, בינה מלאכותית אמיתית. אבל למרות כל הוריאציות השונות, יש משהו אחד שמשותף לכל התיאורים החלופיים ששיתפתי עד כה: כולם מציבים מבחן שמתמקד בביצועים של המכונה, ביכולות מוחצנות שניתנות למדידה. טיורינג התמקד בשיח אנושי זורם, ואחרים מתמקדים ביכולת להרוויח כסף או לנתח ולהסביר התרחשויות בוידאו. לצד הפוקוס הזה על התוצרים, יש גם את החלק השני והמשלים של ההצעות השונות: חוסר עניין מוחלט במה שקורה בתוך הקופסא השחורה שאנחנו בוחנים. אם זה עובד - אם זה מייצר תוצרים ששקולים לתוצרים האנושיים - אז לא אכפת לנו איך. יש כאן הנחה סמויה, שהמבחנים שאנו נאמץ כדי לבדוק את המכונות הם כל כך מאתגרים, שהדרך היחידה להצליח בהם תהיה אם המנוע שבתוך הקופסה יהיה, אפקטיבית, יישות תבונית.

אבל, מה אם הכל זו עבודה בעיניים? תחשבו רגע על מופע קוסמים. כשאתם הולכים לצפות במופע שכזה, נניח של אמן חושים כמו ליאור סושרד, אתם צופים בבן אדם עושה דברים שנראים, מבחוץ, כמו כישוף אותנטי: קריאת מחשבות, חיזוי העתיד, וכן הלאה. אבל אתם לא יוצאים מהאולם בסוף הערב באמונה שהוא אכן מכשף, אלא בעיקר סקרנים לדעת מה הטריקים שהוא הפעיל בלי ששמתם לב, כדי לגרום למראית עין של כישוף. אתם גם יודעים, אם למדתם פעם איזה קסם או שניים, שאם הוא היה מגלה לכם את הטריק, כל המסתורין היה נעלם מיד, והיה מוחלף בהערכה עמוקה ליכולות אחרות של הקוסם: הביצוע המדוייק, ניווט תשומת הלב של הקהל כדי שהאשליה תהיה מושלמת, וכן הלאה. אז אולי זה מה שקורה גם עם מערכות ה-AI - אולי ההתמקדות שלנו בביצועים מבחוץ פשוט מאפשרת לנו להתמכר לאשליה של חשיבה? אולי בעצם מבט מאחורי הפרגוד יחשוף שהקוסם מארץ עוץ אינו מכשף אלא רק שרלטן?

אז, זה מה שאנחנו נעשה כאן היום - אני אציג את הטיעון הסקפטי החזק ביותר שאני מכיר ביחס לתבוניות של מערכות ה-AI שסובבות אותנו. האמת היא, אני עומד ללכת רחוק הרבה מעבר לזה: אני אטען שמחשבים, באופן מהותי וסופני, לא חשבו בעבר, אינם יכולים לחשוב בהווה, וגם בעתיד לא יוכלו לחשוב, אפילו לא טיפה. ואולי, אולי יום יבוא והאדם יצליח לבנות מערכת מלאכותית שמסוגלת לחשוב - אבל מערכת כזו, אם וכאשר תבוא לעולם, לא תהיה על טהרת המחשבים.

אני יודע ששמתי כאן יעד שאפתני מאד, כזה שנועד לקעקע את כל הפרוייקט של AI מראשיתו ועד סופו, ואנחנו נראה אם זה יצליח! וכמובן, אנחנו כאן ב-"אלישע והזוויות" אוהבים להציג דברים מזוויות שונות. אז, גם הפרק הזה לא יהיה סוף פסוק, ואנחנו נראה את הקונטרה לדברים שאציג כאן היום בפרקים הבאים. אז אם אתם אישית מאד מאמינים ב-AI כעתיד האנושות, אל תתייאשו ותעברו לפודקאסט אחר שיעשה לכם נעים בבטן. בסוף, הדרך הכי טובה להגיע לאמת היא לתת לרעיונות הפוכים להתנגש ולהתחכך, ולתת לניצוצות שיוצאים מההתנגשות להאיר לנו את הלילה בדרך אל היעד.

והערה אחרונה, לפני שניגש לבשר של הפרק: השלד של הפרק הזה מגיע מתוך כמה מאמרים שקראתי, שכתב אדם בשם מארק הלפרן. הלפרן הוא יליד 1931, אבל ב-2020 הוא עדיין פרסם מאמרים בנושאי טכנולוגיה. הוא עבד לאורך חייו ב-IBM, ובמעבדות המחקר של פאלו אלטו, ובערוב ימיו עבר לכתיבה טכנית, ובין השאר פרסם כמה ספרים. המאמרים שלו על בינה מלאכותית (הנה אחד, ועוד אחד), המגיעים ממקום סקפטי, היו מרשימים בבהירותן. חשוב לומר שהמאמר האחרון שלו שמצאתי, מ-2020, פורסם לפני ש-GPT יצא, אבל המהות של הביקורת שלו עומדת במבחן הזמן. זה באמת היה פשוט תענוג למצוא משהו כזה, שנכתב על ידי אדם יחסית אלמוני למיטב ידיעתי, ולגלות יהלום נסתר שמתחבא לו אי שם ברשת.

אז בואו נתחיל. לאורך הסדרה הזכרנו כל מני תכונות שנראה שהן חלק מהותי ממה שזה אומר לחשוב: אינדוקציה, דדוקציה, למידה ואולי עוד כמה שאני לא זוכר כרגע. לצורך הפרק הזה, אני רוצה להוסיף עוד אבחנה לגביי חשיבה: חשיבה היא המנוע שמאפשר לבני אדם לפתור בעיות באופן יצירתי. בואו ניקח לדוגמה את מה שקורה כשאתם מנסים למצוא את המפתחות של הרכב של בן או בת הזוג, רגע לפני שאתם יוצאים לסרט. אפשרות אחת היא לעבור כל ס"מ רבוע בבית ולבדוק אם המפתחות שם. אפשרות שניה היא לנסות לחשוב איפה הם הסתובבו באותו יום בבית ואיפה הגיוני שהם השאירו את המפתחות, ולמקד את החיפוש בהתאם. בשתי הגישות, מבחן התוצאה יהיה שהמפתחות ימצאו, אבל בניתוח התהליך אנחנו נראה שהגישה הראשונה לא מצריכה חשיבה, בעוד השניה כן. הגישה השניה דרשה ניווט מנטלי וסינון מושכל של כל האפשרויות התיאוריטיות לגביי מיקום המפתחות, כדי לצמצם את מרחב החיפוש למשהו הרבה יותר מפוקס.

עם הרקע הזה, בואו נעבור להסתכל על המחשב, ולשאול את השאלה שטיורינג רצה להימנע ממנה: האם בתוך המחשב מתבצעת חשיבה?

ובכן, למזלנו הרב אנחנו יודעים טוב מאד איך מחשבים עובדים. בני אדם כותבים תוכנה שמגדירה למחשב מה לעשות, והמחשב מבצע אותה. אני יודע שמה שאמרתי נשמע פשוט מאד, אבל שימו לב שוב לדברים: המחשב מבצע, תמיד, ללא לאות וללא סטייה, בדיוק את מה שאומרים לו. לא יותר, ולא פחות - בדיוק מה שאומרים לו. אם יקרה איזה פעם מצב שבו מחשב כלשהו יגיע לשורה בקוד שלו, והוא יבצע משהו אחר ממה שכתוב שם - היינו קובעים שמדובר בבאג, בוירוס, או כל דבר אחר שנחשב סטייה מההתנהלות התקינה של המכשיר. הדברים הללו נכונים בין אם הביצוע היה לקוי, ובין אם הביצוע היה מושלם אבל נעשו עוד דברים שלא נכללו בפקודה, נניח אם לחצתי על האות "א" ועל המסך הופיעו האותיות "אב". זה אחד הדברים היפים והמעצבנים במחשב: הוא תמיד מבצע בדיוק את מה שפקדו עליו לעשות. ומכיוון שכך, מתכנתים כמוני יודעים שאם התוכנה שלנו לא עובדת, אז בוודאות של 100% הטעות היא אצלנו, בקוד שנתנו לו.

כלומר, מחשבים הן מכונות דטרמיניסטיות לחלוטין, ומכאן קצרה הדרך להסקת המסקנה שמחשבים אינם חושבים. בוודאי, מתרחשים בתוך המחשב המון חישובים, זה נכון, אבל המחשב עצמו אינו זה שמנווט ומחליט אילו חישובים לבצע. כל שהמחשב יודע לעשות הוא משהו אחד: לבצע באופן עיוור את הדברים שהוכתבו לו מבחוץ, על ידי המתכנת או המתכנתת. הוא לא מוסיף כלום על פני מה שהוא קיבל מבני האדם. שום תובנה לא מגיעה מתוך המחשב, אלא רק ממוחו של המתכנת שכתב את התוכנה, או ממוחם של אלו שמפעילים אותה.

בואו נעצור לרגע ונבחן את הדברים - האם מה שאמרתי הוא נכון, שהמחשב עושה רק מה שאומרים לו? על פניו, זו עובדה שלא ניתן לחלוק עליה. ועדיין, יש שינסו לשכנע אתכם - ואולי גם את עצמם - שהמחשב מסוגל לחמוק מהדטרמיניזם שכפיתי עליו כאן, ובכך להזריק לו קורטוב של חשיבה. בואו נבחן שלוש כיוונים להצעות שכאלו כאן, כי מתוך זה שקצת נאתגר את מה שאמרתי, הדברים יתבהרו.

כיוון אחד שאנשים מציעים בפורומים שונים הוא להצביע על מצבים, שעולים הרבה לאחרונה, שבהם המחשב משנה את הקוד שלו עצמו. נניח, לתת ל-GPT שיבחן את הקוד שלו, ויבצע מקצה שיפורים. האם גם אז נאמר שהקוד החדש מבצע את מה שאמרו לו בני האדם? האמת, זו שאלה יפה ומעניינת, שדורשת הרחבה מיוחדת, ולכן אני מתכנן להקדיש לה ולאספקטים שונים שלה פרק שלם, אולי אפילו הפרק הבא, אז בינתיים נשים אותה בצד ונתעלם ממנה באלגנטיות.

הכיוון השני נוגע למשהו שורשי ונפוץ מאד בתוכנות מחשב ובמערכות AI במיוחד, והוא השימוש באקראיות כחלק מהתוכנה. לאלו שלא מכירים, בהרבה תוכנות ישנם קטעים שבהם התנהגות המחשב נקבעת על פי מספר אקראי שמהחשב מגריל. נניח שיש ארבע אפשרויות, המחשב יגריל מספר בין 1 ל-4 ולפי מה שיצא הוא יפעל. דוגמה ששמעתי בעניין פעם היה לגביי וייז, שאם המערכת רואה שיש שלושה מסלולים אפשריים בין נקודה א' ל-ב', שזמן הנסיעה בהם דומה, היא תגריל עבור כל נהג מספר אקראי ולפיו תחליט באיזו מן השלושה להדריך אותו. באופן הזה היא מפזרת את העומס בכבישים, במקום לעודד את כולם לנהוג באותה הדרך ולגרום לפקק.

אם כן, יש כאלו שיכולים לטעון - אתה אמרת שהמחשב פועל באופן דטרמיניסטי, אבל הנה דוגמה למשהו לא דטרמיניסטי. יש אקראיות בתהליך! לא הכל אפשר לחזות מראש, ולא הכל נקבע על ידי המתכנת!

הטענה הזו היא טענה יפה, אבל היא בו זמנית גם שומטת את הקרקע מתחת לטיעון שהמחשב עצמו חושב. הרי, הגרלת מספר והתנהלות לפי מה שיצא זו גם כן פעולה מֵכָנִית וחסרת חשיבה, אז העובדה שמחשבים מבצעים תהליכים כאלו אינה מעידה שהם חושבים. ובנוסף לכך, אפילו שהמתכנת לא יכול לִצְפות מראש מה יעלה בגורל הָגְרלה נתונה, בסופו של דבר הוא זה שכתב את שורת הקוד שפקדה על המכונה להתנהל כך. המכונה, כפי שאמרנו, רק עושה מה שאומרים לה, ושום דבר מעבר.

הכיוון השלישי והאחרון, אולי הכיוון הכי נפוץ ששמעתי כהצדקה לעמדה שמחשב יכול לחשוב, הוא זה: זה לא נכון שהמתכנת אמר למחשב מה לעשות! הרי אתה בעצמך אמרת, אלישע, שה-AI לומד לבד, מתוך הדאטה, איך יש להתנהג? אם התוכנה לומדת לבד, אז היא בהחלט מכניסה כאן תובנות משל עצמה, דברים שהיא למדה עצמאית ושבני אדם לא קבעו עבורה. האם זה לא מוכיח את ההיפך ממה שטענת כאן, אלישע?

גם כאן, מדובר בטיעון חביב, אבל הוא לא יותר מאשר הסחת דעת, אשליה מנטלית שאנחנו משלים בה את עצמנו. בואו נשים מחשבים בצד ותחשבו על האנאלוגיה הבאה: מכירים את דפי העבודה לילדים של "חיבור נקודות"? מדובר בדפים שבהם יש נקודות, לצד כל נקודה יש מספר, והילד צריך למתוח קו ישר בין כל שתי נקודות עם מספרים עוקבים. אם הוא מבצע את החיבור לפי הסדר הנכון, מִתגלַה לעיניו צורה יפה, ציור יפה של חיה או מכונית או משהו. עכשיו, נניח שאתם רואים ציור שכזה אחרי שהילד חיבר את הנקודות, ואני אשאל אתכם מי צייר את התמונה - מה תגידו?

התגובה הראשונית שלכם אולי תהיה "הילד", בעיקר אם זה הילד שלכם ואתם קורנים מגאווה בילד הגאון שלכם. אבל מחשבה מעמיקה יותר תוביל אתכם להבין שמי שמיקם את הנקודות, מיספר אותם וכתב את ההוראות לפירוש הדף הוא זה שצייר את הציור. ובהחלט, אם תבקשו משניהם, ממי שהכין את הדף ומהילד, לצייר ציור על דף נקי, כנראה שממקם-הנקודות יצליח טוב יותר מהילד, שכן הוא זה שיודע איך לצייר. כל שהילד יודע לעשות הוא למתוח קו ישר בין שני נקודות, ואיך לספור מ-1 עד 20 לפי הסדר. עבור ילד בגיל 3 זה אכן אתגר ומאמץ - כל הכבוד לו על התוצאה! - אבל מי שמייחס לילד את היכולת לצייר חיות ומכוניות בשל ההצלחה לחבר בין הנקודות - האדם הזה מפספס את המהות של מה זו היצירתיות שנדרשת כדי לצייר.

אם זה המשל, אז כך גם בנמשל. שהרי אפשר לומר שהמחשב "למד" משהו "בעצמו" רק אם אנחנו נחליט לשכוח, במכוון, את ההיסטוריה. אז בואו ונזכיר לעצמנו אותה: אנחנו - בני אדם - סיפקנו למכונה את הדאטה, אחרי שאנחנו - בני אדם - תייגנו אותו, כפי שדיברנו בפרק השישי. ואנחנו - בני האדם - גם כתבנו את הקוד שהורה למערכת איך ללמוד: הדרכנו אותה אילו כלים סטטיסטיים להשתמש בהן כדי לחלץ תובנות סטטיסטיות מהדאטה, ואיך לבצע את תהליך הדדוקציה ולקודד את התובנות הללו אצלה במודל. כלומר, כל צעד כאן, ממש כל צעד, הוגדר במדוייק מראש על ידי בני אדם, והמכונה פשוט פועלת כפי שהורו לה, ולא שום דבר מעבר. היא אולי מקבלת ציון 100 בביצועים, אבל 0 בסולם החשיבה.

אם נקבל את כל מה שאמרנו עד כה, נראה שאין מנוס מן המסקנה שמחשבים אינם חושבים, ושלא משנה מה יהיה החידוש הבא שיצא מעמק הסיליקון לא נקבל AGI אמיתי. אלא שאם אנחנו כנים עם עצמנו, אנחנו חייבים לאתגר את הטיעון הזה בצורה מאד רצינית מתוך המציאות שסביבנו. אנחנו חייבים לשאול: איך אפשר לומר ש-AI זו פיקציה, שמחשבים חושבים זו פיקציה, כשאנחנו רואים כל יום דברים מדהימים חדשים שמחשבים מסוגלים לעשות, דברים שמתחרים ואף עוקפים בסיבוב את הגאונים הגדולים באנושות? במילים אחרות - אתה אולי יודע להתפלסף בצורה משכנעת, אלישע, אבל נראה שהמציאות חזקה מכל טיעון.

אני מודה שהשאלה הזו, האתגר הזה, גם כובש אותי לפעמים. זה הרי היופי במבחן טיורינג ודומיו: הוא ממנף את החוייה שלנו כבני אדם, את הממשק שלנו עם המכונה ועם התוצרים שלה, כדי לשכנע אותנו שהיא תבונית באופן בלתי-אמצעי. ובאמת, החוויה של עבודה עם GPT יכולה להיות מהפנטת לפעמים, וקשה להשתחרר מהכישוף שהיא מטילה עלינו ברמה החוויתית. הדרך להתיר את הכישוף היא אותה הדרך שבה אפשר להוכיח שליאור סושארד אינו מכשף: להסביר איך המחשבים עושים את מה שהם עושים, ללא שאנו נזקקים ל"תבלין הסודי" ושמו חשיבה.

אם נסתכל על ההתקדמות האנושית לאורך ההיסטוריה, אפשר לראות שאנו מנסים באופן קבוע לצמצם את הצורך שלנו בחשיבה כדי להתמודד עם אתגרי העולם ולהשיג את היעדים שלנו. חשיבה היא משאב יקר ונדיר, ולכן כשאנו יכולים לצמצם את כמות המאמץ המנטלי שצריך כדי לבצע משימה נתונה - אנחנו נעשה זאת. כדי לראות את אחד הדרכים שזה קורה בו, אני רוצה להתחיל משאלה חשבונית פשוטה. אני רוצה שתקחו רגע ותענו לי על השאלה הבאה: כמה זה 543 כפול מאה?

את השאלה הזו אתם יכולים לפתור לפחות בשתי צורות. צורה אחת היא לעשות הרבה תרגילי חיבור פשוטים, 543 ועוד 543 ועוד 543, כל פעם לחשב את התוצאה, ואז להמשיך לתרגיל החיבור הבא עד שתמצאו את התוצאה הסופית אחרי 100 פעמים. הצורה השניה היא פשוטה יותר: להוסיף שני אפסים בסוף המספר 543, ולקבל את התשובה הנכונה - 54 אלף ו-300, בדיוק.

אם הייתי צריך לנחש, הייתי אומר ש-100% מכם בחר בשיטה השניה. הסיבה שבחרתם בזה היא כיוון שזה הכי מהר וקל, ואת הטריק הזה למדתם מתישהו ביסודי, אולי כשלימדו אתכם את לוח הכפל, אז זה כבר ממש אצלכם בדם. אבל אם הייתי מבקש מכם להוכיח שזה מדוייק, שהטריק הזה עובד תמיד, האם הייתם יודעים לעשות את זה?

חלקכם כן, חלקכם לא. וגם מבין אלו שענו "כן", לא בטוח כמה זמן היה לוקח לכם לעלות על הטריק הזה בעצמכם אם לא הייתם מכירים אותו קודם לכן.

אולי נראה לכם שהטריק הזה ברור לגמרי, אז לאלו שרוצים אתגר טיפה יותר קשה, בואו ניקח טריק מוכר אחר - איך יודעים אם מספר מתחלק בשלוש? סוכמים את הספרות שלו ובודקים אם הסכום מתחלק בשלוש, נכון? גם כאן - טריק ידוע מהיסודי, קל מאד לביצוע. אבל האם אתם חושבים שהייתם עולים עליו לבד? האם אתם יודעים להוכיח אותו היום? מוזמנים לקחת קצת זמן ולנסות. אני מצרף בפרק הכתוב את ההוכחה שאני פיתחתי לטריק היפה הזה (זה לא חשוב לצרכי הבנת הפרק… סתם משתף)

מה שעולה מן הדוגמאות הללו הוא העובדה המעניינת הבאה: שאפשר לקחת בעיה שדורשת חשיבה, ולמצוא טריקים וקיצורי דרך שמאפשרים לפתור אותה בעזרת הרבה פחות חשיבה. ל"שינמוך" הזה של האתגר יש גם השלכות בשטח על מי יכול לפתור את הבעיות הללו, ובאיזו מהירות: לפני שהטריק של הוספת האפסים הפך לידע כללי, כנראה שבחורה עם תואר שני במתמטיקה היתה מצליחה לחשב 543 כפול 100 מהר יותר מבחורה שלא סיימה בגרות. עכשיו שהטריק הפך לידע כללי, יש לשתיהן סיכוי שווה לענות ראשונים, וגם ברור ששתיהן ישתמשו בטריק ולא יבזבזו זמן על חישוב מאה פעולות חיבור. כלומר, קרה כאן דבר מעניין: הכפלה ב-100 הפכה לדבר שאפשר לעשות בלי לחשוב, אלא פשוט כריפלקס מכני במוח: להוסיף שני אפסים ולראות מה יצא. והשינוי במשימה הזו קרה בזכות חשיבה, מתישהו בעבר הרחוק מאד, כשמתמטיקאי כלשהו חשב הרבה, עלה על הטריק הזה, ושיתף אותו עם העולם. זה דומה קצת שוב למשל שלנו מוקדם יותר, על הילד שמצייר על ידי חיבור נקודות שמישהו אחר מיקם עבורו - אני אתן לכם לעשות את הקישור לבד.

עכשיו, בואו נקשר את הדברים לנושא שלנו. מה שאמרנו בסיפור הפשוט של הכפלה במאה נכון באותה המידה ביחס לכל תוכנת מחשב שאי פעם נכתבה בהיסטוריה של המחשבים. תוכנת מחשב היא, כפי שאמרנו, סדרת הוראות שמכוונת להשגת תוצאות מסויימות, ושאפשר לבצע אותן באופן דטרמיניסטי ומכני. אמנם תוכנות נכתבות בשפת מחשב, אבל בסוף מדובר בסדרת הוראות, וגם אני ואתם יכולים לבצע אותן במקום המחשב באופן ידני. נניח, אם בא למישהו מכם לשחק שח ברמה גבוהה, הנה מרשם עם הצלחה מובטחת: לפני כל מהלך שלכם, קחו תוכנה למשחק שח-מט ברמה עולמית; קראו את הפקודות שבקוד שלה; בצעו אותן לפי הסדר; ובסוף תקבלו את המהלך הבא שמומלץ לעשות. לא צריך להפעיל כאן מחשב, אלא רק לפעול לפי ההוראות. המהלכים שתעשו ישקפו בדיוק את המהלכים שהמחשב עם התוכנה הזו היה עושה, בלי שום שינוי או סטייה. רמת המשחק שלכם, אני מבטיח, תעלה פלאים, וזאת בלי שהפעלתם גרם אחד של חשיבה על המשחק.

אלא מה? יש סיבה למה אף אחד מאיתנו לא עושה את הטריק הזה, וזו אותה הסיבה שבגללה אנחנו לא עושים את זה עם אף תוכנת מחשב. כי סדרת ההוראות הזו היא מאאאד ארוכה, מאאאד משעממת, וחשוב לעשות אותה במדוייק ולא לטעות בדרך. מאד יכול להיות שתוכנת השח שדיברתי עליה תדרוש כמה מיליוני פעולות חשבון פשוט כדי לבצע מהלך בודד - נראה לכם שזה יהיה כיף או שווה להשקיע חודש שלם של חישובים, ללא שינה או הפסקת קפה, כדי לבצע מהלך אחד במשחק השח? כנראה שלא. מה שאנחנו היינו רוצים זה מכשיר, שיש לו את התכונות הבאות:

(א) הוא טוב בלבצע באופן מדוייק סדרת הוראות טכנית מדוקדקת.

(ב) הוא לא מתעייף או משתעמם מלעשות את הדברים הללו, גם אם צריך לעשות הרבה מהם ולאורך הרבה זמן רצוף.

(ג) ו-הוא מסוגל לבצע הוראות שכאלו ממש מהר.

אבל רגע - יש מכשיר שכזה, וקוראים לו - המחשב! ווואלה. איזה צירוף מקרים שיש לנו מכשיר בדיוק עם התכונות הללו. ושווה להדגיש כאן שוב, שהתכונות הללו לא מאפיינות תהליך חשיבה או מכשיר שיכול לחשוב. אפשר אולי אפילו לומר שהן מייצגות את ההיפך הגמור מְחָשיבה - תהליך של ציות עיוור ומֶכָני להוראות מבחוץ, ללא הטלת ספק. המחשב עושה הרבה דברים חשובים, שחוסכים לנו המון זמן ומאמץ, אבל דבר אחד לא כלול בהם: תרומה עצמאית משלו לפתרון הבעיה.

אם כן, אפשר לענות עכשיו על השאלה ששאלנו קודם: אם מחשבים אינם מסוגלים לחשוב, אלא רק לעשות את מה שאומרים להם, אז איך הם יכולים לעשות דברים מטורפים במורכבותם שרק יצורים תבוניים אמורים להיות מסוגלים לעשות? התשובה היא, שבני אדם חכמים, מתישהו בעבר, פיתחו שיטות מכניות לפתרון בעיות מורכבות, ובכך הסירו את הצורך בחשיבה כדי לבצע אותן. ומהרגע שהשיטות המכניות הללו באו לעולם, הן הפכו לדבר שמחשבים, שאינם מסוגלים לחשוב, יכולים לקחת עליו אחריות. מאותו הרגע אפשר לקודד את המכניקה הזו בקוד מחשב, ולתת למחשב לחסוך לנו זמן יקר ולחשב אותו במקומנו. ונראה לי שווה להביא כאן את הציטוט של דבריו של הלפרן בעניין, שמסכם זאת באופן יפה:

"דווקא משום שהמחשב אינו רשאי לסטות כמלוא הנימה מרצף המצבים המוקצים לו, ניתן להשתמש בו לביצוע אלגוריתמים ארוכים מאוד, המבצעים משימות החורגות בהרבה מיכולת האדם הבודד. וכיוון שהוא מתאים לכך, אנו מתחילים, באופן פרדוקסלי, לשמוע טענות שהמחשב חושב— זהו טיעון פרדוקסלי כיוון שהאיכות המיוחדת של המחשב היא בכך שהוא אינו חושב. מחשב הוא המכונה הראשונה שבנינו, שברור שאינה חושבת… המחשב נראה כמי שחושב בדיוק משום שאינו יכול "לחשוב בעצמו". זהו כלי הקיבול המושלם, וגם המֶבָצֶע המושלם, של המחשבה האנושית המשומרת – של המחשבה שנלכדה ו"הוקפאה" בצורת אלגוריתמי תוכנה."

אותו הפרדוקס שהלפרן מדבר עליו, הוא "אשליית הכישוף" שהזכרנו קודם, ועכשיו, לאור כל מה שעברנו יחד בפרק הזה, אנחנו יכולים גם להבין סוף סוף את מקור האשלייה. מה שאנו פוגשים כשאנו רואים את המחשב עושה דברים מתוחכמים הוא אכן תוצר של חשיבה. כשטיורינג ותומכיו אומרים שבני אדם מסוגלים לזהות אינטלגנציה כשהם נמצאים במגע איתה, הם במידה מסויימת צודקים. אלא שמה שהם מפספסים הוא בזיהוי האינטלגנציה שהם נמצאים איתה במגע. כפי שאמר הלפרן בציטוט שבדיוק הבאתי, המחשב הוא "כלי הקיבול המושלם, וגם המֶבָצֶע המושלם, של המחשבה האנושית המשומרת". לא המחשב הוא תבוני אלא בני האדם שתכנתו אותו, ועם התבונה שלהם אנחנו נפגשים כשאנו משתמשים ב-GPT ודומיו.

נכון זה מגניב? אני אישית ממש אהבתי את התיאור הזה, כי הוא מצליח לחבר את כל חלקי הפאזל באופן שגם מקורקע באופנים שבהם מחשבים עובדים בפועל, וגם מסביר את החוויה שלנו. התיאור הזה מאפשר לי, אישית, ליהנות ממופע החושים של מוצרי ה-AI החדשים שיוצאים כל הזמן, ועדיין לזכור בסוף החוויה שמדובר סה"כ בטריקים מגניבים שממנפים תובנות אנושיות עמוקות שהצלחנו לקודד בתוכנה, ולא מעבר. וכפי שתראו, כשנגיע לדבר על התחזיות האפוקליפטיות של אנשים כמו יובל נוח הררי, העוגנים החזקים שפיתחנו בפרק הזה יהיו לנו לעזר רב, להבין אילו סכנות ה-AI באמת מציב בפנינו ואילו לא.

אז, זהו להיום. יש עוד הרבה להרחיב בנושא הזה. הלפרן עצמו מעלה נקודות נוספות שמאירות אור חדש על חלק מהתחושות שלנו שיש ב-AI תבונה אמיתית, ואני מקווה לשתף אותן בפרקים הבאים. בינתיים, אני באמת ממליץ לכם לקרוא את הדברים אצלו, ומי שלא זורם עם אנגלית, שיתן את הטקסטים של המאמרים שלו לקלאוד או GPT שיתרגמו אותם. אני מקווה שהפרק הזה גם יתן לכם בסיס ראשוני חזק להבנת הגישה שלו, ויהפוך את הקריאה לזורמת.

בינתיים, אני רוצה להדגיש לסיום את הנקודות הקריטיות שעלו בפרק הזה: מחשבים יכולים לעשות רק מה שאומרים להם לעשות, ולכן בהכרח שהם לא חושבים. מה שהם כן עושים זה להיות כלי קיבול נייטרלי לקבלת החוכמה האנושית המרשימה. את אלו שאומרים שהמחשב חושב אפשר להמשיל, לפי מה שראינו היום, למי ששם בובת גרב על היד וגורם לה לדבר ולזוז, אבל שוכח שבעצם היד שמניעה את הבובה זו היד שלו, ומתחיל להאמין שיש לה חיים משלה. זה אולי מגניב להאמין בזה, אבל מעבר למגניבות אין כאן דבר מלבד אשליה עצמית.

באופן עמוק יותר, הטיעון שעלה כאן הוא שכדי לחשוב, צריך להיות ליישות החושבת עוד משהו: יכולת לבחור לאן לנווט את מאמצי האנאליזה והלוגיקה שלה. יכולת להחליט דברים כמו מה לנסות ומה לזרוק, מה לזכור ומה לשכוח. למחשבים אין את היכולת הזו, בעוד בני אדם עושים את זה כל הזמן, ועוד כשכל שיש להם בראש הוא מטרה מופשטת, תחושת בטן כלשהי, שגם אותה הם יכולים לבחור לשנות יום אחד. ואם אתם מרגישים שהדברים שאמרתי כרגע מתחילים קצת לזלוג מעבר למדע ולתוך עולם האמונות על מהות האדם והמטאפיזיקה, אתם לא טועים - בהמשך העונה אנחנו נראה שבעצם בשורש הדברים אי אפשר להתחמק מלגעת גם באספקטים הללו. אבל הפרק הזה היה עמוס מספיק, אני חושב, ולכן אשחרר אתכם בלי להעמיס עוד.

אז, ממש לסיום, אני רוצה לשאול: האם בזאת הוכחנו את מה שהיה להוכיח, ואין תקווה למכונות חושבות?

לא אלמן ישראל, ויש כאלו שחושבים שהדברים שאמרנו היום, שכולם על פני השטח נראים נכונים, אינם באמת סוף פסוק בנושא שלנו, ושעדיין יש דרך לייצר מכונות חושבות. חלקם סבורים שמחשבים שיכולים לשנות את הקוד של עצמם זה המפתח לבינה מלאכותית. אחרים שואבים השראה מהמוח האנושי וטוענים - גם המוח האנושי הוא מכונה דטרמיניסטית, ועובדה שהוא מסוגל לחשוב… ויש כמובן הצעות נוספות. אז, בפרקים הבאים אנחנו נסקור חלק מההצעות הללו, ונראה זוויות שונות שלהם, כמובן!

ועד אז, להתראות… ביי…

This is a public episode. If you would like to discuss this with other subscribers or get access to bonus episodes, visit elishasangles.substack.com