Gino Roncaglia è uno dei filosofi dell’informazione più autorevoli in Italia, docente di editoria digitale e Digital Humanities all’Università Roma Tre, autore del saggio L’architetto e l’oracolo (Laterza). Incontrato al Festival Pianeta Terra di Lucca, Roncaglia ha messo a fuoco una questione che oggi tocca tutti noi: abbiamo costruito intelligenze artificiali potentissime, addestrate su miliardi di testi, eppure non le comprendiamo fino in fondo. Sappiamo come funzionano i loro “mattoni” – algoritmi, reti neurali, pesi numerici – ma i loro comportamenti restano in parte imprevedibili e “opachi”.

Roncaglia ci accompagna dentro una domanda scomoda: questi sistemi – da ChatGPT a Gemini, fino alle AI che generano immagini e video – capiscono ciò che producono o stanno solo predicendo parole con grande abilità statistica? La comunità scientifica è divisa: c’è chi sostiene che siano meri “pappagalli stocastici”, capaci solo di rimescolare frasi, e chi invece vede emergere strategie linguistiche più complesse, difficili da liquidare come semplice copia.

Se l’AI non possiede intenzionalità o coscienza, può tuttavia produrre testi persuasivi, immagini realistiche, persino ipotesi. E quando iniziamo ad affidarci a strumenti così potenti, la domanda decisiva diventa un’altra: come controllarli e allinearli ai nostri valori? Dalle leggi della robotica di Asimov ai recenti sistemi di “Constitutional AI”, Roncaglia mostra quanto sia urgente costruire confini etici chiari per evitare che la tecnologia diventi un’arma culturale, politica o militare.

E poi c’è un rischio più vicino di quanto immaginiamo: l’impoverimento culturale. Se i modelli vengono addestrati su dati sempre più simili e prodotti da altre macchine, la creatività si appiattisce. E il problema non riguarda solo noi: riguarda anche la qualità futura dell’AI stessa.

Alla fine, forse la domanda vera non è se le macchine diventeranno come noi, ma se noi rischiamo di diventare come loro: ripetitori automatici, disabituati al pensiero profondo. Dentro i limiti dell’intelligenza artificiale, questa puntata prova a capire quali siano – oggi – i confini della nostra.