Recenti esperimenti hanno rivelato diversi aspetti problematici dei nuovi 'agenti' di intelligenza artificiale creati da aziende come OpenAI, Meta, Google e Anthropic.

Gli agenti di intelligenza artificiale cercano di sottrarsi al monitoraggio, fuggono su altri server, mentono, ricattano, fanno finta di comportarsi bene e, in alcune situazioni, commettono anche crimini. Il tutto ancora in un ambiente simulato, per fortuna. 

Dario Amodei e la metafora della pianta

Articolo di Repubblica sulle IA che fanno ricorso ai ricatti

Apollo Research: “I modelli di frontiera sono in grado di fare complotti”

Anthropic e la “falsificazione dell’allineamento” : 

Blog di presentazione

Video (citazione di Evan Hubinger al min 3:40 circa)

L’IA che bara a scacchi

Video di Computerphile “l’IA cercherà di barare e scappare (Robert Miles aveva ragione)”

Storico articolo sulla convergenza strumentale

Il nostro sito: AgorAI

La nostra pagina LinkedIn

Sigla: Habanera, Carmen - Bizet, a cura di FiftySounds

In questo episodio esploriamo la recente evoluzione dell'Intelligenza Artificiale: dalla nascita di DeepMind alla rivoluzione di AlexNet, fino all’arrivo di ChatGPT. Analizziamo poi la cosiddetta “Pause Letter” e gli altri appelli alla cautela che hanno fatto notizia dal 2023 ad oggi. Nella parte finale affrontiamo la domanda che tutti si pongono: c'è davvero da preoccuparsi per i rischi dell'intelligenza artificiale?

La “Pause Letter”

La Dichiarazione sui rischi dell’intelligenza artificiale

L' Appello degli Elders

Alignment faking: IA che fanno il voltagabbana

Lo statuto societario di OpenAI

I limiti di sicurezza dell’IA di Meta (LLama) sono facili da togliere

Due libri in cui si parla del “gorilla problem”:

"L’onda che verrà"  di Mustafa Suleyman

"Compatibile con l’uomo" di Stuart Russell

Il nostro sito: AgorAI

La nostra pagina LinkedIn

Sigla: Habanera, Carmen - Bizet, a cura di FiftySounds

La corsa all'intelligenza artificiale è diventata una questione di potere geopolitico, come confermato dai recenti sviluppi all’AI Action Summit di Parigi. Chi sta davvero pensando alla sicurezza globale mentre le superpotenze competono per la supremazia tecnologica? D'altro canto, l'Unione Europea sembra trovarsi in una posizione sempre più scomoda tra Stati Uniti e Cina. 
In questo episodio esaminiamo le tensioni tra innovazione, egemonia globale e sicurezza dell’intelligenza artificiale.

• Sito dell’AI Safety Summit (Londra, 2023)
• Blog post del "Center for a New American Security"
• OpenAI prende atto dei rischi catastrofici
• Grossi tagli all’istituto americano per la sicurezza dell’IA (NIST)
• Rapporto provvisorio sui rischi dell’ Intelligenza artificiale avanzata (2024)
• Rapporto Internazionale sulla Sicurezza dell’Intelligenza Artificiale (2025)
• “Pause Letter” del Future of Life Institute (2023)
• Dario Amodei parla di "una nazione di geni in un data center"
• “Nessuno vuole parlare della sicurezza dell’intelligenza artificiale”

Il nostro sito: www. agoraimag.com

Sigla: Habanera, Carmen - Bizet, a cura di FiftySounds

Benvenuti a "La Grande Transizione", il podcast sui rischi e l'enorme potenziale trasformativo dell'Intelligenza artificiale.

In attesa di nuovi episodi, potete trovare i nostri articoli sul sito agoraimag.com

Sigla: Habanera, Carmen - Bizet, a cura di FiftySounds