In questo episodio di SAMUPodcast, Samuel Algherini e Valen Tagliabue entrano nel tema della sicurezza nell’AI generativa, analizzando vulnerabilità concrete e scenari di attacco reali.
Si parla di prompt injection, modelli probabilisticii, differenza tra security e safety, e di come gli attaccanti possano sfruttare debolezze tecniche e fattori umani attraverso social engineering e manipolazione psicologica.
Valen porta la sua esperienza diretta nel mondo della sicurezza, offrendo una lettura lucida di come oggi le aziende percepiscono (e spesso sottovalutano) i rischi legati all’uso di modelli e agenti AI.
La conversazione tocca anche il ruolo dei team di sicurezza, il valore dei programmi di bug bounty, le motivazioni degli attaccanti e le sfide future della cybersecurity applicata all’intelligenza artificiale.
Un episodio per capire perché la sicurezza nell’AI non è un dettaglio tecnico, ma una priorità strategica, e perché consapevolezza e formazione continua sono oggi indispensabili.
Iscrivetevi al canale per sostenerlo!!Non mi resta che augurarvi... buon ascolto!
=======================================
Samuel AlgheriniLinkedIn: www.linkedin.com/in/samuel-algherini/ =======================================
Valen Tagliabuehttps://www.linkedin.com/in/valen-tagliabue-7a1870228/
YouTube: https://youtu.be/jX3AjvwiZOk
Apple Podcast: https://podcastsconnect.apple.com/my-podcasts/show/samu-podcast/e58085f5-db29-4bf8-bf81-91d7dfe3771d
Sezioni
00:00 Introduzione all'Intelligenza Artificiale Generativa e Sicurezza
02:59 Prompt Injection e Vulnerabilità dei Sistemi
07:18 Nuove Pratiche di Sicurezza per AI Generativa
13:18 Pericoli e Attacchi: Comprendere il Rischio
18:39 Sicurezza, Safety e Alignment nei Modelli di AI
23:15 Sicurezza e vulnerabilità nei modelli AI
26:40 Attacchi e ingegneria sociale
29:51 Rischi e potenzialità delle AI generative
32:14 Sicurezza aziendale e AI
35:07 Scenari di attacco futuri
43:10 Fiducia e Sicurezza nell'Intelligenza Artificiale
45:46 Bug Bounty: Opportunità e Sfide
50:47 Vulnerabilità Critiche e Manipolazione Psicologica
54:53 Red Team e Blue Team: La Sicurezza Aziendale
57:34 Motivazione e Opportunità nell'Intelligenza Artificiale
#AI #PromptInjection #GenerativeAI #Cybersecurity #Jailbreak #IntelligenzaArtificiale