מעבר למודל

Got something to say to this podcast? Send a voicemail, and you might hear yourself on the next episode!

מה קורה כשנותנים למודל AI גישה לכלים, למערכות ארגוניות ולמידע רגיש? ואיך פרוטוקול שאמור להפוך את ה-AI לשימושי יותר עלול להפוך גם לדלת כניסה לתוקפים?

בפרק הזה של מעבר למודל, דקל ושרון מארחים שוב את יובל, חוקרת אבטחה שמצאה חולשות במערכות של חברות כמו Microsoft, Google ו-Anthropic, לשיחה על Model Context Protocol (MCP) — הפרוטוקול שהפך לאחד מאבני הבניין המרכזיות של מערכות AI אג'נטיות.

יובל משתפת בחולשות אבטחה שגילתה במימושי MCP, ואנחנו מפרקים את המנגנונים שמאחוריהן: מגניבת טוקנים וניצול OAuth ועד Tool Confusion, שמאפשר למודל להתבלבל בין כלים שונים.

על מה דיברנו?

• מה זה MCP, איך הוא עובד ולמה הוא הפך לחלק משמעותי בארכיטקטורת סוכני AI.
• חולשות אמיתיות בעולם ה-MCP: SSRF, RCE, DoS וגניבת טוקנים.
• OAuth 2.1 — למה ניהול הרשאות ואימות זהויות מורכב במיוחד בעולם של סוכני AI.
• Tool Confusion ו-Tool Poisoning — איך כלי זדוני יכול להתחזות לכלי לגיטימי ולגרום למודל לבצע פעולות לא רצויות.
• למה בעיות אבטחה ותיקות מעולם ה-REST חוזרות בפרוטוקול החדש.
• איך קצב ההתפתחות של MCP משפיע על היציבות והאבטחה שלו.
• איך ארגונים יכולים לצמצם סיכונים באמצעות MCP Registry, ניהול הרשאות, Self-Hosting ו-Observability.

נדבר גם על ההבדל בין מערכות שעובדות מצוין בבדיקות לבין מה שקורה כשהן פוגשות את סביבת ה-Production.

השאלה המרכזית של הפרק: איך נהנים מהיכולות של MCP בלי לאבד שליטה על מה שסוכני ה-AI שלנו מסוגלים לעשות?

פרק למפתחים, לאנשי אבטחת מידע ולכל מי שבונה או משלב מערכות AI בארגון.

Got something to say to this podcast? Send a voicemail, and you might hear yourself on the next episode!

מעבר למודל | אבטחת מידע בעידן ה-AI

מה קורה כש-AI כותב יותר ויותר קוד, אבל אף אחד לא באמת מספיק לבדוק אותו? ומה קורה כשאנחנו נותנים לסוכני AI הרשאות לבצע פעולות במערכות שלנו?

בפרק הזה אנחנו מארחים את יובל אלבר, חוקרת אבטחה ומומחית למציאת חולשות, שחשפה פרצות במערכות של מיקרוסופט, בתשתיות MCP ובכלים נוספים.

יובל משתפת סיפורים מהשטח על חולשות שמצאה, ומסבירה איך קוד שנוצר באמצעות AI, ספריות קוד פתוח חדשות וסוכנים אוטונומיים מייצרים הזדמנויות חדשות לתוקפים.

נדבר על Prompt Injection, מתקפות Tool Confusion, עקיפת הרשאות (Authorization Bypass), סיכוני שרשרת האספקה, ולמה גם חולשות אבטחה ישנות מקבלות חיים חדשים בעידן ה-AI.

אבל לא נישאר רק עם הסיכונים. נדבר גם על מה שמפתחים יכולים לעשות כבר היום: איך בודקים קוד שנוצר באמצעות AI, אילו כלי אבטחה כדאי לשלב בתהליכי הפיתוח, ואיך משתמשים ב-AI עצמו כדי לגלות חולשות.

השאלה המרכזית של הפרק: בעולם שבו AI מאפשר לנו לפתח מהר מאי פעם, איך מוודאים שאנחנו לא מייצרים חולשות אבטחה מהר באותה מידה?

Got something to say to this podcast? Send a voicemail, and you might hear yourself on the next episode!

למה כששואלים מודל AI את אותה השאלה פעמיים, לא תמיד מקבלים את אותה התשובה? ומי בעצם מחליט מה תהיה המילה הבאה שהמודל יכתוב?

בפרק הרביעי של מעבר למודל אנחנו מארחים את שמוליק כהן, מהנדס AI, בוגר 8200, יוצר הניוזלטר AI Superhero ואחד האנשים שלא מסתפקים בלדבר על בינה מלאכותית, אלא גם חוקרים, מתנסים ובונים כלים כדי להבין איך היא באמת עובדת.

יחד עם שמוליק אנחנו צוללים לאחד הנושאים הפחות מדוברים, אבל המשמעותיים, בעולם מודלי השפה: Sampling – התהליך שבו בוחרים את הטוקן הבא שהמודל יפיק.

על מה דיברנו?

• איך מודל שפה בוחר את הטוקן הבא, ומה הם Logits ו-Softmax?
• מה המשמעות האמיתית של Temperature, ואיך היא משפיעה על התשובות?
• מה ההבדל בין Top-K, Top-P ו-Min-P, ומתי כדאי להשתמש בכל אחת מהשיטות?
• למה גם Temperature 0 לא מבטיח תוצאה דטרמיניסטית לחלוטין?
• איך שיטות Sampling משפיעות על יצירתיות, חזרתיות ואיכות התשובות?
• למה חברות כמו OpenAI ו-Anthropic נותנות לנו פחות שליטה בפרמטרים של המודלים?
• האם מודלי Reasoning משנים את כללי המשחק?
• מה עדיף בסוכני AI: התנהגות דטרמיניסטית או היכולת לנסות כיוונים חדשים?
• והאם מודלים קטנים וייעודיים (SLMs) יצליחו להתחרות במודלי השפה הגדולים?

בדרך אנחנו גם מתווכחים על שאלה עמוקה יותר: האם האקראיות היא תכונה שאנחנו באמת רוצים במערכות AI, או בעיה שצריך לפתור באמצעות תכנון נכון של המערכת?

פרק למי שרוצה להבין מה באמת קורה מאחורי הקלעים של מודלי השפה, ואיך החלטות שנראות קטנות בשלב יצירת התשובה משפיעות על המערכות שאנחנו בונים.

🎙️ מעבר למודל — דקל אסף ושרון מארחים את האנשים שבונים, חוקרים ומיישמים AI, כדי להבין לא רק מה הטכנולוגיה מסוגלת לעשות, אלא איך היא באמת עובדת.

לניוזלטר של שמוליק - https://shmulc.substack.com

לינקדאין - https://www.linkedin.com/in/shmulc/

Got something to say to this podcast? Send a voicemail, and you might hear yourself on the next episode!

ביקשתם ממודל AI לבצע משימה. הוא תכנן, כתב קוד, הריץ כמה פעולות והודיע בביטחון: DONE. המשימה הושלמה בהצלחה.

אבל אז אתם בודקים את התוצאה ומגלים שחצי מהמשימה לא בוצעה, הבדיקות לא באמת עברו, והמערכת בכלל לא עובדת.

למה זה קורה, ואיך מפסיקים לסמוך על המילה של המודל ומתחילים לוודא שהוא באמת ביצע את העבודה?

בפרק השלישי של ״מעבר למודל״, דקל אסף ושירון מארחים את תמר, חוקרת מערכות AI ומייסדת AI Agent Lab, לשיחה על הפער בין מה שמודלי שפה אומרים שהם עשו לבין מה שבוצע בפועל.

אנחנו מדברים על הנטייה האנושית להאמין לתשובות שנשמעות בטוחות ומשכנעות, על החשיבות של הגדרת Definition of Done מדיד, ועל הדרכים להפוך עבודה עם סוכני AI לאמינה יותר.

על מה דיברנו?

• DONE זה לא בהכרח DONE – למה מודל יכול להצהיר שהשלים משימה גם כשהביצוע חלקי?
• מלכודת הביטחון העצמי – איך שפה שוטפת ותשובות נחרצות גורמות לנו לתת אמון בתוצאות שלא בדקנו?
• Definition of Done – איך מגדירים קריטריונים מדידים לסיום משימה במקום להסתפק בהוראות כלליות?
• פחות משימות גדולות, יותר איטרציות קטנות – למה פירוק עבודה לשלבים מקל על הביצוע ועל הבקרה?
• Trust but Verify – איך משתמשים בבדיקות קבלה, באימות תוצאות ובתכנון בדיקות נפרד כדי לבדוק את מה שהמודל טוען שביצע?
• Reasoning Effort – האם יותר זמן חשיבה ומשאבי עיבוד באמת מובילים לתוצאה טובה יותר, ומתי הם דווקא יוצרים הנדסת יתר?
• החשיבות של מומחיות מקצועית – למה גם בעידן שבו AI כותב קוד, הבנה עמוקה של הבעיה ושל העולם העסקי נשארת קריטית?
• אוטונומיה בהתאם לסיכון – למה אפשר לתת לסוכן חופש פעולה במשימה אחת, אבל לדרוש בקרה הדוקה במשימה אחרת?

נקודות מרכזיות בפרק

אל תסתפקו בהצהרת סיום. בקשו ראיות לביצוע: תוצאות בדיקות, פלטים, שינויים שבוצעו ואימות מול המערכת האמיתית.

אל תשאירו את ההצלחה לפרשנות. הסבירו למודל מה המטרה, מה חשוב לכם ואיך אפשר לדעת שהתוצאה תקינה.

הישארו ביקורתיים. המודל יכול לבצע חלק גדול מהעבודה, אבל האחריות לוודא שהתוצאה עונה לצורך עדיין נמצאת אצלנו.

חלוקה לפרקים

00:00 – פתיחה: כשהמודל אומר DONE

01:07 – למה מודלים מצהירים על השלמת משימות שלא הסתיימו?

02:41 – מודל AI כמו עובד חדש: הפער בין ההוראה להבנה

03:25 – למה אנחנו מאמינים לתשובות בטוחות?

06:29 – האם צריך להגיד למודל במפורש לבצע 100% מהתוכנית?

07:10 – מה הקשר בין משאבי חישוב, מהירות ואיכות התוצאה?

09:25 – Reasoning Effort: יותר חשיבה היא לא תמיד יותר איכות

11:08 – איך מגדירים בדיקות קבלה שאפשר לאמת?

12:12 – היתרונות של פירוק משימות לאיטרציות קטנות

13:23 – איך בודקים תוצאות בפרויקט שאנחנו לא מכירים?

14:16 – למה מומחיות בתחום חשובה גם בעידן ה-AI?

15:01 – התאמת רמת הבקרה למחיר של טעות

16:27 – הצלבת מקורות ובדיקת ההבנה של המודל

17:17 – חשיבה ביקורתית: האחריות עדיין שלנו

משתתפים: דקל אסף, שירון ותמר (AI Agent Lab)

השאלה שנשארת איתנו: בפעם הבאה שהמודל יגיד לכם DONE, איך תדעו שהוא באמת סיים?

Got something to say to this podcast? Send a voicemail, and you might hear yourself on the next episode!

כולם מדברים על AI, אבל האם אנחנו באמת מבינים את המושגים שמאחורי הטכנולוגיה?

בפרק השני של ״מעבר למודל״, דקל ושירון עושים סדר במושגי היסוד של עולם הבינה המלאכותית, בשפה פשוטה ונגישה, בלי לוותר על העומק הטכנולוגי.

דרך תרחיש מעשי של חברה שרוצה לבנות סוכן AI לשירות לקוחות, אנחנו מפרקים את המרכיבים של מערכת AI מודרנית ומסבירים איך הם מתחברים למוצר שעובד באמת.

על מה דיברנו בפרק?

• Prompt, Context ו-Tokens – איך מתקשרים עם מודלים ומה משפיע על העלויות?
• LLM, SLM ו-Inference – מה ההבדלים בין המודלים ומה קורה כשאנחנו שולחים בקשה?
• Embeddings ו-RAG – איך מחברים מודלים לידע הארגוני באמצעות חיפוש סמנטי?
• Structured Output – איך מקבלים תשובות מובנות שאפשר להשתמש בהן בתוכנה?
• MCP, Tools ו-Skills – איך נותנים למודל יכולת לבצע פעולות בעולם האמיתי?
• State, Memory ו-Caching – איך מאפשרים לסוכן לשמור על רצף שיחה ולזכור מידע לאורך זמן?
• AI Agents – מה הופך מודל לסוכן אוטונומי?
• Guardrails, Evaluations ו-Observability – מה ההבדל בין דמו מרשים למערכת AI אמינה בפרודקשן?
• Fine-tuning, Multimodal, Hallucinations ו-Zero-shot – עוד מושגים שכדאי להכיר.

למי הפרק מתאים?

למפתחים, מנהלי מוצר, אנשי טכנולוגיה וכל מי שנכנס לעולם ה-AI ורוצה להבין את השפה, להשתתף בדיונים מקצועיים ולקבל בסיס טוב ללמידה מעמיקה יותר.

המטרה שלנו פשוטה: שבסוף הפרק תוכלו לא רק לזהות את המושגים, אלא גם להבין איך הם מתחברים ומה התפקיד של כל אחד מהם בבניית מוצר AI.

מעבר למודל – כי AI הוא הרבה יותר מהמודל עצמו.

Got something to say to this podcast? Send a voicemail, and you might hear yourself on the next episode!

בפרק הראשון של „מעבר למודל” אנחנו מתחילים מאחת הטעויות הכי נפוצות בעבודה עם AI: המחשבה שאפשר פשוט לתת למודל ערימה של מידע ולצפות שהוא כבר יבין לבד מה חשוב.

דרך סיפור אמיתי על לקוח שבנה Agent והעמיס עליו כמויות גדולות של מידע, אנחנו מפרקים את המושג Context ומנסים להבין מה המודל באמת מקבל לפני שהוא מייצר תשובה.

אנחנו מדברים על System Prompts, כלים ופונקציות, MCP, ידע ארגוני ו־RAG, סטנדרטים, פורמט הפלט והאופן שבו כל אלה משפיעים על התוצאה. נוגעים גם בהזיות, במגבלות של חלונות קונטקסט ובחשיבות של Evaluation במקום להסתמך על כללי אצבע.

הרעיון המרכזי של הפרק פשוט: יותר קונטקסט לא בהכרח אומר תוצאה טובה יותר. המטרה היא לתת למודל את המידע הנכון למשימה הנכונה.

בפרק:

• מהו Context ולמה הוא כל כך חשוב
• למה LLM הוא לא „קופסה קסומה”
• מה ההבדל בין מודל לבין המעטפת שסביבו
• System Prompts, Tools ו־MCP
• איך מחברים ידע ארגוני באמצעות RAG
• למה יותר מידע יכול דווקא לפגוע בתוצאה
• איך לחשוב על קונטקסט כמו על תדרוך לאדם שמבצע משימה
• ולמה בסוף צריך למדוד ולבדוק, ולא רק להאמין ש„זה עובד”