היום נעסוק בשאלה - מה קורה כשאנו מספקים למערכות ה-AI פונקציית מטרה. האם האופן שבו המחשבים משתמשים בפונקציה דומה לאיך שבני אדם מקדמים את המטרות שלהם? ומה ההשלכות של ההבדלים בין בני האדם לבין המחשבים בהקשר הזה? על הדרך, גם נכיר את חוק גודהארט המצויין.

מוזמנים להאזין!

אתר הפודקאסט והמייל:

https://elishasangles.substack.com/ 

[email protected] 

לינקים נוספים מהפרק:

רמאות במשחק שח:

https://time.com/7259395/ai-chess-cheating-palisade-research/ 

חוק גודהארט:

https://he.wikipedia.org/wiki/%D7%97%D7%95%D7%A7_%D7%92%D7%95%D7%93%D7%94%D7%90%D7%A8%D7%98 

אפקט הקוברה:

https://economicpoint.com/goodharts-law 

הביקורת של פרנסואה שולה - AI אינו תבוני, הוא פשוט זוכר המון דברים בעל פה:

https://youtu.be/rl7B-LHiaNo 

איך עוברים את מבחן טיורינג:

https://arxiv.org/pdf/2310.20216 

הבינה המלאכותית משתפרת בחירטוטים משכנעים במקום בלדייק:

https://arxiv.org/abs/2409.12822 

This is a public episode. If you would like to discuss this with other subscribers or get access to bonus episodes, visit elishasangles.substack.com