בסדרת הפרקים המיוחדת בכנס NodeTLV 2025, אירחנו את רותם פינצ'ובר, היום בתפקידה Senior AI Scientist בחברת Intuit. רותם, שמגיעה עם ניסיון עשיר בעולמות הפינטק והריסק, לוקחת אותנו למסע אל תוך "המוח" של מודלי השפה ומסבירה מדוע פיתוח AI דורש היום הרבה יותר מאלגוריתמיקה חכמה – הוא דורש אחריות אתית.על מה דיברנו...מהו תפקיד Data Scientist בעידן ה-GenAI?כיצד המעבר ממודלים חיזויים קלאסיים לפיתוח "המוח" שמאחורי מודלי השפה משנה את הדרך שבה מוצרים הופכים לחכמים יותר.צלילה לעולמות ה-Fairness: הבנת המושג הבסיסי – מדוע מודלים שמתאמנים על ה"דאטה של העולם" סופגים לתוכם הטיות חברתיות, ואיך זה משפיע על התוצאות שאנחנו מקבלים.הטיות באפליקציות פינטק רגישות: רותם מסבירה את ההבחנה הקריטית בין הבחנה מותרת (כמו שימוש במיקום גיאוגרפי לצורכי מס) לבין אפליה אסורה בקבלת החלטות על הלוואות ואשראי.סוגי הטיות נפוצים כיום: החל מהטיות מגדריות וגילאיות בסינון קורות חיים ועד לסטריאוטיפים מקצועיים ביצירת תמונות ותוכן.מדידת הטיות ומטריקות מקצועיות: איך הופכים מושג מופשט למספר? היכרות עם בנצ'מרקים בתעשייה ושימוש ב-Judge LLM כדי לבחון הוגנות בצורה השוואתית.אסטרטגיות למאבק ודרכים פרקטיות להתמודדות:1. שיפור וניקוי של ה-Training Data.2. הטמעת System Prompts חזקים שמנחים את המודל להתעלם מפרמטרים מטים.3. מעבר לתשובות דטרמיניסטיות במקומות בעלי סיכון גבוה (High Risk).האם קיים Trade-Off? הדילמה בין הפחתת הטיות לבין ביצועי המודל, במיוחד במקרים שבהם דאטה דמוגרפי הוא קריטי לדיוק (כמו באבחון רפואי).האינטרס העסקי והמוניטין: מדוע חברות ענק משקיעות משאבים ב-Fairness כדי למנוע פגיעה במותג ובשורת הרווח.תפקיד המפתח וה-Data Scientist בקידום שימוש אתי: החשיבות של "Stay Educated", ביצוע בדיקות פנימיות מותאמות ל-Use Case הספציפי, והתמודדות עם איומים חדשים כמו Prompt Injections.גיוון בתעשייה: על חשיבותן של נשים בתחום הדאטה ותנועת WiDS (Women in Data Science) כחלק בלתי נפרד מיצירת טכנולוגיה שוויונית יותר.