מי לא מכיר את Airalo? סטארטאפ קטן וחמוד שהציל אותנו מהנבזיות של חברות סלולר בישראל, שהבטיח גלישה זולה בחו"ל בלי כאב ראש, בלי סים פיזי, בלי למשכן כליה. אחרי טיול קצר באירופה אני מרגיש שמשהו שם נסדק. הקליטה פשוט זייפה ברמה שהיא לא הייתה 40% מהזמן. ולמה אני כזה דרמטי? כי האמנתי בהם מהרגע הראשון, המלצתי עליהם תחת כל עץ רענן, הרווחתי מהם מאות דולרים ב-affiliate fees, עד כדי שלא שילמתי על גלישה בחו"ל במשך תקופה.

שבעים ושניים אלף דולר. זו לא מקדמה על בית. זו לא מכונית יוקרה. זה החשבון שמפתח אחד קיבל... על טסט. טעות קוד אחת, לולאה אינסופית שנשכחה, שרצה רק כמה שעות וכמעט פירקה לו את החברה. היום נצלול לתוך סיוט של כל מפתח: חשבון ענן מפתיע, של חמש, שש, ואפילו שבע ספרות שהופכות חלום של סטארטאפ מבטיח לקטסטרופה פיננסית.

ממודל פסיבי של שאלה-תשובה למודל פרואקטיבי של ביצוע משימות, המעבר מצ'אטבוטים לסוכנים הואץ השבוע עם ההכרזה על ChatGPT Agent. יכולת שהייתה שמורה למנויי Pro ו-200 דולר לחודש, זמינה עכשיו למנויי Plus ב-20 דולר לחודש, שזה קצת יותר מ-12 מיליון מנויים.

הסיפור הזה מתחיל, כמו סיפורים רבים בעידן הדיגיטלי, בפוסט אחד ברשת X. ציוץ. יריית הפתיחה בדרמה שתזעזע את עמק הסיליקון ותהפוך לדבר המדובר ביותר בעולם הטכנולוגיה, תחת הכינוי הבלתי נמנע "סוהאם-גייט". במרכז הסערה עומד אדם אחד Soham Parekh, מהנדס תוכנה הודי צעיר ומוכשר להפליא, שהפך לסמל, לרוח רפאים במכונה של עולם הטכנולוגיה המודרני.

קרה לכם פעם ששאלתם את הבוס שאלה של כן/לא, וקיבלתם בתגובה הרצאה של חצי שעה? זה מתיש, נכון? וגם יקר, במיוחד אם הבוס הזה הוא מודל AI שגובה תשלום לפי מילה. גוגל בעצמה מודה שמודלי חשיבה יכולים להיות יקרים פי 6 מעיבוד רגיל, איטיים, ולפעמים תקועים ב-Loop אינסופי שהופך מודלים ללא-שמישים עבור הרבה יישומים בעולם האמיתי. הפתרון החדש והאלגנטי לבעיה הזו הוא מודלים היברידיים ו"תקציב המחשבה" שמאפשר לנו סוף סוף לשלוט בעוצמת החשיבה של ה-AI.

דמיינו שאתם רוצים לבנות גורד שחקים, אבל במקום לשכור חברת בנייה אחת ענקית, אתם פשוט פותחים קריאה באינטרנט. כל אחד יכול לבוא, עם פטיש, עם מברג, עם טרקטור קטן מהגינה, ולעזור. כל אחד עובד בזמן שלו, בקצב שלו, ואתם איכשהו צריכים לוודא שהבניין לא מתמוטט. נשמע כמו כאוס, נכון? ובכן, חברה בשם PrimeIntellect עשתה ממש את זה, אבל עם מודל AI של שלושים ושניים מיליארד פרמטרים.

ה-22 ביוני אלפיים עשרים וחמש, ייחשב בוודאות יום היסטורי. יום שהתעכב לפחות עשור. ההשקה של רובוטקסי באוסטין, עיר כתר הקטיפה יכולה לעצב מחדש את המדרכות והערים שלנו, וגם לטלטל מודל בעלות וניידות של מאה שנה.

תחשבו רגע על התלמיד הכי חכם בכיתה. זה שיכול לצטט לכם מילה במילה כל ספר שהוא אי פעם קרא. מרשים, נכון? עכשיו תדמיינו שבשביל לענות על כל שאלה, לא משנה כמה פשוטה, הוא חייב לקרוא מחדש את כל הספרים בספרייה. כל פעם מחדש. פתאום זה נשמע פחות יעיל. ובכן, זה פחות או יותר מודל טרנספורמר. הארכיטקטורה הזו, שהיא הבסיס ל-ChatGPT ולרוב מודלי השפה הגדולים, היא מדהימה, אבל יש לה עקב אכילס רציני. מנגנון ה"קשב" (Attention) שלה, שמאפשר לה להסתכל על כל מילה בהקשר של כל מילה אחרת, דורש כוח חישוב שעולה בריבוע עם אורך הרצף. וזה לא בעיה של אהלן-אהלן. זה חסם אמיתי שמונע מאיתנו להשתמש במודלים האלה כדי לנתח ספר שלם או את כל הקוד בפרויקט שלנו במכה אחת. אבל בשקט בשקט, מתחת לרדאר, צומחת לה אלטרנטיבה עם פילוסופיה אחרת לגמרי: מודלי ה-State-Space.

מתי בפעם האחרונה שמעתם על בעיה במתמטיקה שאף אחד לא הצליח לשפר במשך חמישים ושש שנה? אני מדבר על תקופה שקדמה לנחיתה על הירח. עכשיו תדמיינו שבוקר אחד, אתם קמים ומגלים שבינה מלאכותית של גוגל, כזו שעוד לא שמעתם עליה, פשוט... עשתה את זה. זה בדיוק מה שקרה עם AlphaEvolve.

על קלוד קוד של אנתרופיק והאם עורך הקוד כמו שאנחנו מכירים אותו עומד להיעלם?