עושים טכנולוגיה עם ד״ר יובל דרור I רשת עושים היסטוריה

בשבועות האחרונים הוליווד נעצרה לאחר שאל התסריטאים ששובתים הצטרפו גם השחקנים. חלפו 60 שנה מאז שהתרחשה בהוליווד שביתה משותפת שכזו. בהתחלה חשבתי, "מה אכפת לי, צרות של אמריקאים", אבל בהדרגה אני מבין שמה שקורה שם צריך לעניין אותנו, צריך לעניין את כולנו.
התסריטים והשחקנים נאבקים בשתי טכנולוגיות ובשינויים שהן הביאו לתעשייה שלהם. הראשונה היא טכנולוגיית הסטרימינג שהובילה לשינוי קיצוני במודל העסקי של התעשייה וכיום היא מעמידה בסכנה את היכולת של אלפי אנשים להתפרנס מעבודתם ככותבים. השניה היא הבינה המלאכותית, שלמרות שהיא נמצאת רק בחיתוליה, ברור שההשלכות שלה עשויות להיות רחבות, משמעותיות ודרמטיות אפילו יותר מהטכנולוגיה הראשונה.
בהוליווד טוענים שמה שקורה שם הוא רק הפרומו לסרט שמחכה לרבים מאיתנו: לעורכי דין ולרואי חשבון, למתכנתים ולאנשי השיווק, למעצבים גרפיים, למנהלים ולאנשי הפיננסים. גם אלו עשויים יום אחד לעלות על במה ולקרוא לחבריהם: "אנחנו חייבים לשבות עכשיו אחרת מכונות יחליפו אותנו!". האם הם צודקים?

קישורים:
הפרק הראשון בעונה השישית של "מראה שחורה"
https://www.dexerto.com/tv-movies/black-mirror-season-6-joan-is-awful-episode-1-explained-2177609

המודל של הסטרימינג שבור
https://www.vulture.com/2023/06/streaming-industry-netflix-max-disney-hulu-apple-tv-prime-video-peacock-paramount.html

Elevenlabs
https://elevenlabs.io

"מלחמת הזרמים", פרק ב"עושים היסטוריה"
https://www.osimhistoria.com/osimhistoria/oh_ep_300

בקיץ 2023 נשברו שיאי חום ברחבי העולם ורבים נזכרים באפוקליפסה האקלימית שמוצגת בסרטים כמו כמו "עולם המים", "היום שאחרי מחר" או "רכבת הקרח". בסרטים האלו וברבים אחרים, הסביבה לא דומה בשום דבר לסביבה הדינאמית והירוקה שאנחנו מכירים: או שהיא מוצפת במים בגלל הפשרת הקטבים או שהיא מדבר שממה, מקום חם ובוער שאין בשמיים שלו ענן אחד לרפואה.
אל מול העתיד השחור והמפחיד הזה מבקשת תנועת הסולארפאנק להציב אלטרנטיבה. הסולארפאנק היא תנועה אופטימית – אולי אופטימית מדי – שאנשיה מאמינים שלמרות הנזקים האיומים שהסבנו לכדור הארץ, עדיין ניתן לבנות עתיד אחר, עתיד שבו בני האדם לא מנסים לנצל ולשעבד את הטבע לצורכיהם אלא כזה שבו בני האדם חיים בהרמוניה עם הטבע בין השאר בגלל שהם משתמשים בטכנולוגיות שלא מנסות לשדוד את הטבע, לפרק או להמית אותו. למעשה, בעתיד שהתנועה מדמיינת, הטכנולוגיות יהיו מתקדמות ומועילות לא פחות מהטכנולוגיות שיש לנו היום.
האם זה אפשרי?

קישורים:
ביל גייטס מסביר את הבעיה עם הסוללות
https://www.gatesnotes.com/It-Is-Surprisingly-Hard-to-Store-Energy

עתידיים אפשריים ולא עתידים חלופיים
https://solarpunkmagazine.com/what-sets-solarpunk-apart-alternative-vs-possible-futures

בווקנדה אין פרברים
https://time.com/5889324/movies-climate-change

מניפסט סולארפאנק בעברית
https://solarpunkisrael.com/manifest

האם סולארפאנק יכולה להציל את העולם?
https://www.publicbooks.org/can-solarpunk-save-the-world

סולארפאנק – תקווה רדיקלית
https://www.resilience.org/stories/2022-12-20/solarpunk-radical-hope

אחד היתרונות הגדולים של מערכות הבינה המלאכותית הג'נרטיביות הוא שהן מייצרות תוצרים במהירות, ביעילות וללא הפסקה אבל צריך להודות על האמת שלפחות בשלב הזה, חלק לא מבוטל מהתוצרים שלהן הוא בינוני.
חלק ניכר מהטקסטים שמייצרות מערכות כמו ChatGPT, Bard ודומיהן הם חיוורים, משעממים ומנוסחים בשפה תאגידית אפורה ומתישה – וזה עוד לפני שהזכרנו את ההזיות של המערכות האלו שגורמות לכך שחלק מהטקסטים שהן מייצרות הם פשוט שקרים מוחלטים.
אז מה קורה כאשר נותנים למיליארדי גולשים גישה לכלים שבאמצעותם הם יכולים לייצר תכנים שמצד אחד הם בינוניים ומצד שני, אתם יודעים, הם איכשהו עוברים?
התשובה לשאלה הזו ניתנת בימים אלו ממש: האינטרנט מתמלאת במהירות בפרופילים מזויפים, אתרי תוכן, טקסטים, כתבות, ספרים וביקורות ואפילו במוצרים שנמכרים באתרי מסחר אלקטרוני, כולם מיוצרים על ידי מערכות בינה מלאכותית. התוכן הזה, אם להיות עדין, הוא Junk, הוא זבל, זבל שבהתחלה ירעיל אותנו ואז ירעיל את המערכות שבהן אנחנו משתמשים.

קישורים:
מתי ייגמר הטקסט לאימון מערכות הבינה המלאכותית? מחקר
https://arxiv.org/pdf/2211.04325.pdf

המחקר של אתר NewsGuard
https://www.newsguardtech.com/special-reports/ai-tracking-center/

ספרים שנוצרו על ידי מערכות בינה מלאכותית משתלטים על אמזון
https://www.vice.com/en/article/v7b774/ai-generated-books-of-nonsense-are-all-over-amazons-bestseller-lists

זבל מבוסס בינה מלאכותית מציף את Etsy
https://www.theatlantic.com/technology/archive/2023/06/ai-chatgpt-side-hustle/674415/

בנק ההשקעות JP Morgan תובע את מנכ"לית Frank
https://www.forbes.com/sites/alexandralevine/2023/01/11/jp-morgan-fake-customers-frank-charlie-javice/?sh=3b95363014d4


בינג דיווח שבארד סגור
https://www.theverge.com/2023/3/22/23651564/google-microsoft-bard-bing-chatbots-misinformation

ᐧ

לשני מייסדי חברת "זום", לא זו שכולנו מכירים, "זום פיצה", היה חזון: להקים חברה שבה רובוטים יכינו פיצות שהחלק האחרון של אפייתן יבוצע בדרכים, בתוך המכונית שמובילה את הפיצה כך שהיא תגיע אל הלקוח כשהיא חמה ולוהטת. הכל יש כאן: מייסדים כריזמטיים, טכנולוגיה חדשנית, רובוטיקה, בינה מלאכותית ואפילו סכום עתק של קרוב לחצי מיליארד דולר שגויס, בין השאר, מהמשקיע האגדי, מאסיושי (מאסה) סון. רק דבר אחד חסר: פיצה.

קישורים:
פורבס: פגשו את הסטארט-אפ שעשוי להפוך לאמזון של המזון
https://www.forbes.com/sites/brittainladd/2018/08/11/the-amazon-of-food/?sh=3d1044c67d3f

מדוע המודל של זום פיצה גאוני
https://www.inc.com/wanda-thibodeaux/heres-why-pizza-company-zumes-cook-en-route-model-is-genius-but-might-not-be-the.html

זום פיצה – כתבת הווידאו של אתר Engadget
https://www.youtube.com/watch?v=TkhWonFm-Lw

ההשקעה של סופטבנק בזום פיצה השתבשה
https://www.bloomberg.com/news/articles/2020-02-13/inside-the-firings-at-softbank-s-robot-pizza-startup

מה השתבש בזום-פיצה?
https://www.businessinsider.com/inside-story-what-went-wrong-softbank-backed-zume-pizza-2020-1



ᐧ

כשאנחנו חושבים על שבבים אנחנו חושבים אלו שנמצאים במחשבים שלנו, בטלפון הנייד, בקונסולת המשחקים שלנו - ובצדק, אלו הם שבבים, שבבים חמודים. אבל יש שבבים אחרים, כאלו שנמצאים במערכות הגנה, שמפעילים טילים חכמים, כלי נשק מתקדמים. כדי לבנות צבאות מודרניים שמצוידים בכלי נשק מתוחכמים, כדי לאמן מערכות בינה מלאכותית מתקדמות – אתה זקוק לשבבים חזקים, מהירים ומתקדמים.
התובנה הזו מייצרת מתח אדיר בין ארצות הברית לסין בגלל שאם יש לך שאיפות להפוך למעצמה עולמית – ולסין יש כאלו שאיפות – אתה חייב לשים את היד שלך על שבבים, ואם יש לך שאיפות למנוע מסין מלהפוך למעצמה שכזו – ולארצות הברית יש שאיפה שכזו – אתה חייב למנוע ממנה מלהשיג שליטה על שבבים.
זו הסיבה שבשנים האחרונות ארה"ב וגם האיחוד האירופי נקלעו להתגוששות טכנולוגית ובינלאומית עם סין, התגוששות שגוררת את העולם למלחמה קרה שרק הולכת ומחריפה, מלחמה שעשויה לזלוג מהזירה האסטרטגית והצבאית לזירה שלנו, של האזרחים.

קישורים

All Better
https://www.allbetter.co.il/NewTechSm/OsimTechnologia

השליטה באנרגיה והאבולוציה האנושית
https://www.bbc.com/news/science-environment-56544239

מיהי ASML ומה היא עושה?
https://www.firstpost.com/world/asml-holdings-dutch-company-that-has-monopoly-over-global-semiconductor-industry-12030422.html

מה המשמעות של מהלכי ממשל ביידן?
https://carnegieendowment.org/2022/10/27/biden-s-unprecedented-semiconductor-bet-pub-88270

איך סין מעצבת מחדש את תעשיית השבבים שלה
https://www.nytimes.com/2023/05/11/technology/china-us-chip-controls.html

ראיתי את הפנים של אלוהים במפעל שבבים
https://www.wired.com/story/i-saw-the-face-of-god-in-a-tsmc-factory

עזרא קליין מראיין את כריס מילר
https://www.nytimes.com/2023/04/04/podcasts/transcript-ezra-klein-interviews-chris-miller.html

הספר Chip War
https://www.amazon.com/Chip-War-Worlds-Critical-Technology/dp/1982172002

מנכ"ל חברת OpenAI שעומדת מאחורי "דאלי2" ו-ChatGPT הגיע לישראל וענה על כמה שאלות. במקביל, חברת "אפל" השיקה לראשונה מזה שנים רבות מוצר חדש בקטגוריה חדשה, משקפי מציאות רבודה, Vision Pro. שני האירועים האלו מצדיקים פרק בונוס מיוחד, פרק פופאפ שבו אני מציג כמה מחשבות על שני האירועים המעניינים האלו. ספוליר: אירוע אחד היה קצת יותר מרשים מהשני.

קישורים:
השיחה עם סם אלטמן ואיליה סוקצבר באוניברסיטת תל-אביב
https://www.youtube.com/watch?v=VWUhASix9ws

אפל משיקה משקפי מציאות רבודה
https://www.youtube.com/watch?v=TX9qSaGXFyg

לאורך רוב ההיסטוריה המתועדת בני האדם היו דתיים והאמינו באלוהים, יהיה אשר יהיה. באירופה היו תקופות ארוכות שבהן האפיפיור היה האדם החזק בעולם, אדם עם צבא, אדם שבשמו יצאו למלחמות. היום זה נשמע כמו חלום רחוק, כי במאתיים השנים האחרונות החברה המערבית עברה תהליך מהיר של חילון, אבל הדת לא נעלמה.
בעשורים האחרונים סוציולוגים וחוקרי תרבות מצביעים על העובדה שהשיח התיאולוגי והמיסטי מופיע בשדות שלכאורה מנוגדים לעולם הדת והאמונה. ואכן, דימויים, מטאפורות וטענות דתיות מתפשטים בעולם המדע והטכנולוגיה.
אבל האם מדע וטכנולוגיה הם ההפך מדת ואמונה? לא ממש. במובנים רבים הם המשכם המתבקש ודווקא בתקופה האחרונה הקשר בין הצדדים הולך ומתחזק עד שלרגע נדמה שטכנולוגיה היא עצמה סוג של דת; דת חילונית, אבל דת.

קישורים:
אלוהים במכונה
https://www.theguardian.com/technology/2017/apr/18/god-in-the-machine-my-strange-journey-into-transhumanism

יש להאט במרוץ לבניית בינה מלאכותית דמוית אל
https://www.ft.com/content/03895dc4-a3b7-481e-95cc-336a524f2ac2

טראמפ חנן את מייסד כנסיית הבינה המלאכותית
https://www.zdnet.com/article/trump-pardoned-church-of-ai-founder-so-i-went-there-to-worship/

הספר "אלוהים, אדם, חיה, מכונה"
https://www.amazon.com/God-Human-Animal-Machine-Technology/dp/0385543824

ᐧ

מסיושי (מאסה) גייס בשנים האחרונות סכום חסר תקדים של יותר מ-200 מיליארד דולר לשתי קרנות הון סיכון שהשקיעו במאות חברות טכנולוגיה מובילו ברחבי העולם. החזון שלו היה פשוט: לבנות קבוצת אחזקות ("סופטבנק") שתשלוט בחברות שיפתחו את הדור הבא של מערכות הבינה המלאכותית. חברות ומדינות השקיעו בקרן הון הסיכון שלו והוא השקיע מיליארדי דולרים בחברות סטארט-אפ. אבל מה קרה בשנה וחצי האחרונות כאשר הבועה התפוצצה? זהו סיפור נפילתו של מי שעד לא מזמן היה ממליך המלכים האמיתי של עמק הסיליקון.

קישורים:
How SoftBank ate the world
https://www.wired.co.uk/article/softbank-vision-fund

The most powerful person in Silicon Valley
https://www.fastcompany.com/90285552/the-most-powerful-person-in-silicon-valley

Inside the Eccentric, Relentless Deal-Making of Masayoshi Son
https://www.bloomberg.com/news/features/2018-01-02/inside-the-eccentric-unstoppable-deal-making-of-masayoshi-son

בתוך השנה הנוראית של Vision Fund
https://www.businessinsider.com/inside-softbank-vision-funds-awful-year-former-employees-rival-vcs-2022-12

מאסה חייב 5.1 מיליארד דולר לסופטבנק
https://www.themarker.com/wallstreet/2023-02-08/ty-article/.premium/00000186-31d1-d361-a19e-7df738330000

האם ניתן, האם צריך ללמד את מערכות בינה מלאכותית את מה המשמעות של מה שהן כותבות? על פניו נראה שהן יודעות על מה הן מדברות. אחרי הכל, אני קורא את התשובות של ChatGPT והבוט הזה מתנסח בצורה יפה וכותב משפטים נהדרים. סביר להניח שאם הוא כותב כאלו משפטים הוא מבין את המשפטים, לא? אז זהו, שכנראה שלא. אוקיי, אז מה, האם זה חשוב?
מצד אחד יש קבוצה גדולה של חוקרים שטוענים שללא פריצת דרך טכנולוגית המערכות האלו לעולם לא יבינו את המשמעות של מה שהן כותבות מה שאומר שלא נוכל לסמוך עליהן. איך אתה יכול לסמוך על מערכת שמייצרת טקסט שהיא עצמה לא מבינה את המשמעות שלו?
אבל בצד השני יש קבוצה אחרת של חוקרים שטוענת שכדי להפיק טקסט טוב, הגיוני ובעל משמעות, כדי לספק שירות מועיל ויעיל, כמו נניח השירות של ChatGPT, המערכות האלו לא צריכות להבין את המשמעות של המלים כמו שאנחנו מבינים אותן ושיכול להיות שהמודלים האלו גילו משהו שאנחנו עוד לא גילינו בנוגע לאיך שפה עובדת, מהי הבנה ואיך נוצרת משמעות.
כדי להסביר מדוע הסוגיה הזו כל כך מרתקת, דרמטית וחשובה נשתמש בסינים, בתמנונים וגם בכמה תוכים אקראיים.

קישורים:
מאמר "תוכים הסתברותיים"
https://dl.acm.org/doi/pdf/10.1145/3442188.3445922

אתה לא תוכי וצ'אטבוטים אינם אנושיים
https://nymag.com/intelligencer/article/ai-artificial-intelligence-chatbots-emily-m-bender.html

עזרא קליין מראיין את גארי מרקוס
https://www.nytimes.com/2023/01/06/podcasts/transcript-ezra-klein-interviews-gary-marcus.html

המקרה המסקרן של אינטליגנציית השכל הישר
https://www.amacad.org/publication/curious-case-commonsense-intelligence

בינה מלאכותית ומגבלות השפה
https://www.noemamag.com/ai-and-the-limits-of-language/

בינה מלאכותית משתלטת על השפה. האם לסמוך עליה?
https://www.nytimes.com/2022/04/15/magazine/ai-language.html?referringSource=articleShare

איך ChatGPT עובדת? הטקסט של סטיבן וולפרם
https://writings.stephenwolfram.com/2023/02/what-is-chatgpt-doing-and-why-does-it-work/

מדוע מודלי השפה הגדולים לא יבינו שפה
https://jeremyhadfield.com/why-llms-will-not-understand-language

ההרצאה של יאן לקון באוניברסיטת NYU
https://www.youtube.com/watch?v=x10964w00zk

קישור לאתר הקריירה של חברת Indoor Robotics : https://www.indoor-robotics.com/careers/

מאמצע 2019 ועמוק אל תוך 2020, הופיעו עשרות בני ובנות נוער במרפאות ברחבי העולם כשהם מפגינים הפרעות מוטוריות ששכיחות בקרב אנשים שסובלים מתסמונת טורט. על פניו אין בכך שום דבר מוזר עד שמבינים שכל זה לא הגיוני.
תסמונת טורט מתגלה בגילאים צעירים בדרך כלל בגילאי 3-8 אבל פה מדובר בבני נוער שבבת-אחת פיתחו את הטיקים האלו. אלו גם לא היו טיקים שאופייניים לטורט. הם היו הרבה יותר מורכבים ומוזרים ואם בכל זה לא די, רוב הפניות הגיעו מצד הורים של בנות ולא של בנים, עובדה משונה בהינתן שהתסמונת הזו שכיחה פי ארבע יותר בקרב בנים. כאן הגיעו בעיקר בנות. פי עשרים יותר בנות.
מאמר שפורסם באוגוסט 2021 בכתב העת המדעי Brain ושעליו חתומים כמה מהמומחים הגדולים בעולם בתחום, טוען שהתופעה הזו שנצפתה במקומות שונים בעולם דוגמת ארה"ב, קנדה, אוסטרליה, דנמרק, צרפת, איטליה וגרמניה, היא בכלל לא טורט אלא סוג חדש של מחלה סוציוגנית המונית, כזה שהמקור שלה הוא מדיה חברתית. המאמר הזה הוביל למהומה שעדיין לא שכחה.
ברוכים הבאים לתיק המוזר של הטיקים בטיקטוק. סליחה.


קישורים:
הערוץ של יאן זימרמן
https://www.youtube.com/@gewitterimkopf/videos

מאמר: "תפסיקו עם זה! זה לא טורט!"
https://academic.oup.com/brain/article/145/2/476/6356504

למה בנות נוער מפתחות סימפטומים דמויי טורט
https://www.theguardian.com/media/2021/nov/16/the-unknown-is-scary-why-young-women-on-social-media-are-developing-tourettes-like-tics

בנות נוער מפתחות סימפטומים דמויי טורט. הרופאים טוענים שיתכן שטיקטוק קשורה לכך
https://www.wsj.com/amp/articles/teen-girls-are-developing-tics-doctors-say-tiktok-could-be-a-factor-11634389201

הם ראו סרטון ביוטיוב ואז סבלו מטורט
https://www.wired.co.uk/article/tourettes-youtube-jan-zimmermann

טיקטוק טורט – מגפה בתוך מגפה
https://movementdisorders.onlinelibrary.wiley.com/doi/full/10.1002/mdc3.13316

"60 דקות" אוסטרליה: תעלומה רפואית
https://www.youtube.com/watch?v=ra4-gmQT_50

מהי היסטריה המונית
https://www.medicalnewstoday.com/articles/322607