Sign up to save your podcasts
Or
Share [115] על RLHF ומודלי שפה גדולים
Share to email
Share to Facebook
Share to X
Share to email
Share to Facebook
Share to X
Or
[115] על RLHF ומודלי שפה גדולים
בפרק זה החליפו מייק ותמיר את התובנות החידודים והשאלות הפתוחות שלהם בניסיון להבין איך מתחברים עולם ה RL ועולם ה LLM (קרי RLHF). ב 2024 השתנתה הפרדיגמה - בתחילה יצירת מודל reward כדי לעשות אימון נוסף ל LLM אחרי ה pretraining שלו באמצעות PPO. ולאחר מכן הוחלף ה PPO בRLHF.
בעוד רוב מודלי ה reasoning של החברות הגדולות (chatgpt, claude, gemini) עדיין באפילה - נדבר על איך לדעתנו RLHF יכול לשמש בתהליך.
View all episodes
By Tamir Nave, Mike Erlihson, Uri Goren, Hila Paz Herszfang
5
11 ratings
בפרק זה החליפו מייק ותמיר את התובנות החידודים והשאלות הפתוחות שלהם בניסיון להבין איך מתחברים עולם ה RL ועולם ה LLM (קרי RLHF). ב 2024 השתנתה הפרדיגמה - בתחילה יצירת מודל reward כדי לעשות אימון נוסף ל LLM אחרי ה pretraining שלו באמצעות PPO. ולאחר מכן הוחלף ה PPO בRLHF.
בעוד רוב מודלי ה reasoning של החברות הגדולות (chatgpt, claude, gemini) עדיין באפילה - נדבר על איך לדעתנו RLHF יכול לשמש בתהליך.
More shows like ExplAInable
View all
גיקונומי
93 Listeners
עושים היסטוריה עם רן לוי Osim Historia With Ran Levi
156 Listeners
חיות כיס Hayot Kiss
142 Listeners
מנועי הכסף
39 Listeners
האינטרסנטים
82 Listeners
התשובה עם דורון פישלר Hatshuva With Doron Fishler
196 Listeners
בזמן שעבדתם
102 Listeners
אחד ביום
313 Listeners
הכותרת
115 Listeners
מפלגת המחשבות
97 Listeners
חוץ לארץ
81 Listeners
הפודקאסט של נדב פרי
50 Listeners
השקעות לעצלנים - פודקאסט על כסף, השקעות והחיים עצמם
26 Listeners
מיכה סטוקס מגיש: שוק ההון. בורסה. וול סטריט. השקעות. מסחר
6 Listeners
הקרנף - עם יואב רבינוביץ׳
23 Listeners