Sign up to save your podcasts
Or
Share על RLHF ומודלי שפה גדולים
Share to email
Share to Facebook
Share to X
Share to email
Share to Facebook
Share to X
Or
על RLHF ומודלי שפה גדולים
בפרק זה החליפו מייק ותמיר את התובנות החידודים והשאלות הפתוחות שלהם בניסיון להבין איך מתחברים עולם ה RL ועולם ה LLM (קרי RLHF). ב 2024 השתנתה הפרדיגמה - בתחילה יצירת מודל reward כדי לעשות אימון נוסף ל LLM אחרי ה pretraining שלו באמצעות PPO. ולאחר מכן הוחלף ה PPO בRLHF.
בעוד רוב מודלי ה reasoning של החברות הגדולות (chatgpt, claude, gemini) עדיין באפילה - נדבר על איך לדעתנו RLHF יכול לשמש בתהליך.
View all episodes
By Tamir Nave & Uri Goren
5
11 ratings
בפרק זה החליפו מייק ותמיר את התובנות החידודים והשאלות הפתוחות שלהם בניסיון להבין איך מתחברים עולם ה RL ועולם ה LLM (קרי RLHF). ב 2024 השתנתה הפרדיגמה - בתחילה יצירת מודל reward כדי לעשות אימון נוסף ל LLM אחרי ה pretraining שלו באמצעות PPO. ולאחר מכן הוחלף ה PPO בRLHF.
בעוד רוב מודלי ה reasoning של החברות הגדולות (chatgpt, claude, gemini) עדיין באפילה - נדבר על איך לדעתנו RLHF יכול לשמש בתהליך.
More shows like ExplAInable
View all
עושים חשבון Osim Heshbon
24 Listeners
עושים היסטוריה עם רן לוי Osim Historia With Ran Levi
164 Listeners
חיות כיס Hayot Kiss
129 Listeners
הפודקאסט של גיא קצוביץ'
11 Listeners
עושים טכנולוגיה
35 Listeners
מנועי הכסף
37 Listeners
חצי שעה של השראה עם ערן גפן
11 Listeners
התשובה עם דורון פישלר Hatshuva With Doron Fishler
205 Listeners
הצוללת
23 Listeners
בזמן שעבדתם
91 Listeners
אחד ביום
306 Listeners
מפלגת המחשבות
81 Listeners
המנגנון - The Mechanism
14 Listeners
פשוט AI
13 Listeners
TrashTech (טראשטק)
5 Listeners