עושים טכנולוגיה

אני לא יודע [עושים טכנולוגיה]


Listen Later

אחת הבעיות הגדולות עם מערכות הבינה המלאכותית החדשות היא שקשה לסמוך עליהן ויש לכך שתי סיבות עיקריות: הראשונה היא שאנחנו לא יודעים למה הן פועלות בדרך שבה הן פועלות, למה הן נתנו לנו תשובה א' ולא תשובה ב' והשנייה היא שלא רק שאנחנו לא יודעים מה קורה בתוכן, לפעמים הן מנפיצות תשובות, ממציאות תשובות שאין בינן ובין המציאות שום קשר. 
אבל למה זה קורה? למה אנחנו לא מבינים מה קורה בתוך המערכות האלו ולמה הבוטים מתקשים לומר "אני לא יודע"? ובכן אפילו על השאלות האלו קשה לענות ובכל זאת זה מה שאני אנסה לעשות: אנסה גם להסביר את בעיית "אני לא יודע" וגם אספר על התקדמות מעניינת באחת הגזרות, התקדמות ששופכת אור על האופן שבו המערכות האלו פועלות מה שאולי יאפשר לנו קצת יותר לסמוך עליהן. אולי. 

קישורים:
אנת'רופיק מסבירה מה קורה בתוך המודל שלה
https://www.anthropic.com/research/mapping-mind-language-model

בעיית ההזיות: הסבר
https://masterofcode.com/blog/hallucinations-in-llms-what-you-need-to-know-before-integration

הבלוג של קובוס גריילינג
https://cobusgreyling.medium.com







...more
View all episodesView all episodes
Download on the App Store

עושים טכנולוגיהBy רשת עושים היסטוריה

  • 4.1
  • 4.1
  • 4.1
  • 4.1
  • 4.1

4.1

31 ratings


More shows like עושים טכנולוגיה

View all
עושים היסטוריה עם רן לוי Osim Historia With Ran Levi by רשת עושים היסטוריה

עושים היסטוריה עם רן לוי Osim Historia With Ran Levi

152 Listeners

גיקונומי by ראם שרמן ודורון ניר

גיקונומי

82 Listeners

עושים חשבון Osim Heshbon by רשת עושים היסטוריה

עושים חשבון Osim Heshbon

22 Listeners

חיות כיס Hayot Kiss by כאן | Kan

חיות כיס Hayot Kiss

142 Listeners

המעבדה The Lab by כאן | Kan

המעבדה The Lab

22 Listeners

מנועי הכסף by Calcalist כלכליסט

מנועי הכסף

37 Listeners

האינטרסנטים by TheMarker

האינטרסנטים

85 Listeners

התשובה עם דורון פישלר Hatshuva With Doron Fishler by רשת עושים היסטוריה

התשובה עם דורון פישלר Hatshuva With Doron Fishler

177 Listeners

הצוללת by גלובס - Globes

הצוללת

16 Listeners

בזמן שעבדתם by mako מאקו

בזמן שעבדתם

91 Listeners

עוד יום Another Day Podcast by כאן | Kan

עוד יום Another Day Podcast

37 Listeners

הכותרת by ynet

הכותרת

118 Listeners

אחד ביום by N12

אחד ביום

297 Listeners

חוץ לארץ by הארץ

חוץ לארץ

65 Listeners

פשוט AI by Benny Farber

פשוט AI

8 Listeners