Hai mai cercato una legge su ChatGPT? Un avvocato l'ha fatto — e ha citato in tribunale quattro sentenze della Corte di Cassazione che non sono mai esistite.
Numeri di sentenza, date, massime giuridiche dettagliate: tutto perfetto, tutto inventato dal modello linguistico.
Le ha copiate nelle sue memorie difensive e depositate davanti a un giudice, senza mai verificarle.
Il tribunale lo ha sanzionato per colpa grave: quei precedenti erano, parole del giudice, «costruiti dalla macchina».
Non è un caso isolato — un altro tribunale italiano aveva già censurato un legale per uso acritico di output generati dall'intelligenza artificiale.
Il tasso di allucinazione dei principali modelli linguistici supera il trentacinque percento: più di una risposta fattuale su tre può contenere elementi inventati.
Ma il vero problema non è tecnico.
È che usiamo ChatGPT come se fosse Google, trattando un generatore di testo come un motore di ricerca.
L'interfaccia sembra identica — barra di ricerca, domanda, risposta — ma il meccanismo sotto è opposto.
Google ti porta alle fonti.
ChatGPT ti scrive una risposta che sembra vera, senza aver mai cercato nulla.
Il punto è questo:
- Se usi ChatGPT per cercare informazioni legali, mediche o finanziarie, lo stai usando per la cosa sbagliata — serve per ragionare, non per recuperare fatti
- L'interfaccia è progettata per ispirare fiducia, ma i disclaimer dicono il contrario: c'è un conflitto strutturale tra l'esperienza d'uso e le avvertenze
- Più i modelli migliorano nella forma, più le allucinazioni diventano difficili da smascherare — la responsabilità di chi li usa non diminuisce, aumenta
- La soluzione è brutalmente analogica: verificare sempre, ogni volta
Fonti e approfondimenti
- Sentenza Tribunale di Siracusa, 20 febbraio 2026 — quattro precedenti di Cassazione inesistenti generati da ChatGPT
- Sentenza Tribunale di Torino, 16 settembre 2025 — prima censura italiana per uso acritico di output AI
- Visual Capitalist — tassi di allucinazione dei principali modelli linguistici
⠀
⠀
Prodotto con AI, direzione editoriale umana — klaro.fm
⠀
⠀
Hosted on Acast. See acast.com/privacy for more information.