ExplAInable

פרק נוסף בתחום הלמידה החיזוקית, הפעם צוללים לפרטים הטכניים עם התאוריה מאחורי
Replay Buffer
סוכן, יכול ללמוד רק מהפעולות שלו - מה שנקרא

On Policy
או למידה גם מפעולות של סוכנים אחרים, מה שנקרא

Off Policy
בגישת הריפליי באפר, שומרים "הקלטה" של פעולות עבר ותוצאות עבר - ודוגמים מתוכן לצרכי הלמידה.

שירלי תספר לנו על המחקר שלה לגבי השפעת גודל הבאפר, והשיפור בתוצאות של אימוני מודלי
RL

פרק זה הוא חסות מיוחד בשיתוף אנבידיה, שמוקדש לג'וניורים.

אנבידיה הפיקה את כנס ה
GTC
עם דגש מיוחד השנה של גנרטיב - להרשמה לחצו פה

בפרק ראיינו חמישה דאטא סיינטיסטים טריים: צחי מורד, טלחיים דמארי, נתי מגור, דין עזרא ואבי חביב.

בפרק זה אירחנו את איתן נצר, מ

data heroes

לדבר על בחירה חכמה של דגימות לצורך אימון מודלים.

אנחנו בעידן הדאטא, נאספים טרות של אירועים מדי יום - אבל המודל שלנו לאו דווקא מרוויח מכל השפע הזה.
האם אפשר להגיע לביצועים דומים עם שבריר הדאטא ובחירה חכמה של הדגימה ?

איתן יספר לנו על גישת ה

core set

שחקר, והחליט לימים להקים את דאטאהירוז על מנת להנגיש את הטכנולוגיה.

מבין המשקיעים בחברה, נמצא גם
Andrew Ng

שהוא מאמין גדול ב

Data Centric AI

קישורים:

• https://dataheroes.ai/
• https://dataheroes.ai/introduction-to-coresets/

בפרק זה נציג את אתגר הלווינות החדש בסדרת MAFAT Challenge.

אירחנו את ליאל ממפא"ת ואת שי ועידן מ-Webiks.

דיברנו על מהפכת החלל, האתגר בזיהוי אובייקטים מתצלומי לוויין במאפיינים שונים וההבדלים ביחס לגילוי אובייקטים קלאסיים.

קישור לתחרות:
https://codalab.lisn.upsaclay.fr/competitions/9603

זיהוי אנומליות הוא נושא שימושי למגוון בעיות, זיהוי סנסורים דפוקים, אאוטליירים בדאטא או התנהגות חשודה.

הבעיה היא שזיהוי אנמליות בפני עצמו הא לא תמיד שימושי, אם אין פעולה שאפשר לבצע בעקבות החריגה.

נדבר על הגישות הקלאסיות לאנומלי, כגון

* Density estimation

* Auto regressive

* Distance based measures

ועל הבעייתיות שנובעת מחישוב מרחקים במימדים גבוהים.

אנדרס יציג את הגישה ההירכית שעבדה להם בריסקיפייד, המבוססת על אימון מספר גדול (6000) של מודלים ברמות שונות, והפעלת לוגיקה סטטיסטית על החריגות של כל מודל בפני עצמו.

הגישה שונה מגישות קודמות, שכן כל מודל משויך למטריקה - אזי אפשר לא רק לחזות אנומליות , אלא גם להסביר מדוע זו אנומליה ולסנן אך ורק לאנומליות עבורן יש פעולה שאפשר לנקוט.

קישורים:

problems and challenges related to anomaly detection on big data

The Curse of Dimensionality

Andres’ talk about their "new approach"

פרק זה הוא פרק סולו של אורי, בוא הוא יספר על החוויה שלו בפתיחת משרת ג'וניור בארגמקס.

המשרה זכתה לחשיפה גבוהה ברשתות החברתיות והגיעה ל40 אלף איש בעקבות שיטת הגיוס הלא שגרתית.

אורי יספר על מבחן הבית, ההיענות המפתיעה של מועמדים והביקורות שקיבל מקולגות לתחום.

באם יש לכם נסיון או מומחיות בתחום גיוס הג'וניורים, נשמח לפידבק בקבוצת הטלגרם שלנו

https://t.me/explainablepodcast

לעיון במבחן הבית:

https://argmax.ml/jr

בפרק זה אירחנו את חי מרון מ

nvidia

לדבר על עיבוד גרפים עם רשתות נוירונים.

נדבר על ישומים של גרפים בחיים האמיתיים, ועל ההבדל האינהרנטי שבין גרף לבין "תמונה" או מטריצה כללית.

נדבר על 4 הגישות הרווחות למידול

1. שיטות ספקטרליות
2. מודלי העברת הודעות
3. רשתות אקוויורינטיות
4. וכמובן, טרנספורמרים

לקריאה נוספת:

https://www.cs.mcgill.ca/~wlh/grl_book/files/GRL_Book.pdf

הרצאה של חגי על יצוג גרפים כסימטריות

https://www.youtube.com/watch?v=k3E3XyMtQcA&list=PL7VfmMOOwNlJ5PndlhiMwjvqDTA6m1Z9i&index=2&t=120s

בפרק קודם דיברנו על קודקס, מודל השפה שמאחורי

Github Co-Pilot

בפרק זה, החלטנו להעמיק ולראיין את ערן יהב, חוקר באקדמיה והמוח מאחורי

TabNine

ואורי אלון, פוסט דוקטורט בתחום שחוקר את הנושא הרבה לפני שזה היה מגניב.

נדבר על ההיסטוריה של התחום, גישות מבוססות גרפים, דקדוק ומה הקשר בין שפת התכנות ליכולת החיזוי.

כמו כן נדבר על אתגרים מוצריים ב

TabNine

ועל המעטפת הנדרשת להפיכת מודל למוצר שאנשים משתמשים בו ומרוצים ממנו.

נראה שעולם המודלים הגיעה לבשלות, לא פעם יוצא לנסות כמה מודלים שונים ולהגיע לאותן מטריקות.

הטרנד של

data centric ai

שמוביל
Andrew Ng

דוגל בגישה שהפוקוס צריך לעבור לבחירה נכונה של הדאטא, ויצירה חכמה של דאטא סינטתי יותר מאשר אופטימיזציה של מודלים.

סיגל שקד תספר לנו על הגישה החדשה וההבדלי מונחים אל מול גישות קלאסיות של

resampling / augmentation

קישורים רלוונטים:

• imbalanced-learn
• TGAN
• CTGAN
• TABDDPM
• SDV

Commercial: gretel, datomize

בפרק זה אירחנו את שי פרח ממכון וייצמן, מומחה להוראת המדעים.

בעידן שלנו, ללמוד לתכנת זה כישור יסוד כמו קריאה וכתיבה בעידן המחשב.

האם הגיע המקום לחשיבה בשיטת

ai4all

על משקל תנועת ה

coding4all

הפופולארי.

דיברנו על הכשרות בתחום הבינה המלאכותית בתוכנית הלימודים.

מה ההבדל בין "מדעי המחשב הקלאסי" לבין אפיון בעיה כ"למידת מכונה" מנקודת המבט של המהנדס.