Good morning privacy!

Un milione di persone ogni settimana parla di suicidio e altri comportamenti autolesionistici mentre usa ChatGPT.
Lo ha reso noto la stessa società che gestisce il servizio di AI generativa più popolare del mondo lo scorso 27 ottobre insieme a una serie di altri dati su altri generi di conversazione, ovviamente meno preoccupanti ma non certo rassicuranti.
La sigla e ne parliamo.

[SIGLA]

È una classica situazione da bicchiere mezzo vuoto o mezzo pieno a seconda i punti di vista o, considerata l’ora, da tazzina di caffè con un caffè troppo corto o corto quasi al punto giusto.
Stiamo parlando dei dati che OpenAI ha pubblicato nei giorni scorsi, dati che essenzialmente, dicono due cose: che le conversazioni su ChatGPT restano in un numero rilevante di casi pericolose ma che sono sensibilmente meno pericolose che in passato perché la società si sta impegnando a affrontare e gestire questo genere di problemi.
Alcuni numeri, però, mettono i brividi.
Il primo è appunto quello di quel milione di persone in soli sette giorni che manifesterebbe propositi o intenzioni suicida o autolesioniste mentre usa ChatGPT.
Oggettivamente tante, anzi tantissime se si considera l’oggetto delle conversazioni e se si tiene conto della facilità con la quale, talvolta, si passa dalle parole ai fatti come hanno raccontato alcuni drammatici episodi.
Gli altri numeri, pure importanti, naturalmente, appaiono meno gravi.
Quello, analogo, degli utenti che manifestano "livelli elevati di attaccamento emotivo a ChatGPT" e quello da centinaia di migliaia di persone che mostrano segni di psicosi o mania nelle loro conversazioni settimanali.
Tutti fenomeni gravi e preoccupanti.
Ma, per chi voglia guardare la tazzina di caffè piena al punto giusto, tutti numeri inferiori a quelli di qualche mese fa e, naturalmente, di quelli che si sarebbero registrati, se fossero stati misurati con le stesse metriche, al momento del debutto.
OpenAI, insomma, e i numeri appena pubblicati in un’operazione di trasparenza comunque apprezzabile lo confermano, sta lavorando per contenere questo genere di fenomeni.
Tanto per fare un esempio, i dati suggeriscono che il nuovo modello GPT-5 ha ridotto le risposte indesiderate, nel caso di utenti che manifestano propositi suicida o autolesionisti, del 52% rispetto al GPT-4°.
Bene, naturalmente.
Difficile dire se anche benissimo, non conoscendo il numero delle risposte indesiderate che ChatGPT continua a dare agli utenti che usandolo parlano di suicidio.
E però la domanda da porsi probabilmente è un’altra e, bene dirlo subito, non riguarda solo ChatGPT e OpenAI ma l’intero universo dei chatbot.
Milioni di persone ogni settimana, conversando solo con ChatGPT evidenziano propositi suicida e autolesionisti, mostrano livelli elevati di attaccamento emotivo a ChatGPT e segni di psicosi o mania.
E se questa è la situazione in casa OpenAI è verosimile che non sia diversa quella che va in scena sulle pagine degli altri fornitori di servizi analoghi.
Uno scenario oggettivamente pericoloso con rischi, probabilmente, da considerarsi elevati se non in termini assoluti, in relazione alla natura degli interessi in gioco.
La domanda con la quale salutarci questa mattina, quindi, a me pare debba essere: siamo certi che servizi del genere possano essere distribuiti liberamente fuori da ogni regola che identifichi gli standard oltre i quali il rischio deve considerarsi insostenibile e imponga guardrails precisi a tutela degli utenti, a cominciare dai più giovani.
Personalmente non credo si possa andare avanti così, utilizzando il mercato come se si trattasse di un laboratorio nel quale sperimentare le proprie soluzioni e le persone come cavie.
Ma parliamone.

Buona giornata e, naturalmente, goodmorningprivacy!

"Si tratta di un utilizzo non autorizzato della mia interpretazione di 'Danger Zone'. Nessuno mi ha chiesto il permesso, che avrei negato, e chiedo che la mia registrazione su questo video venga rimossa immediatamente."
Ferma, decisa e determinata.
È la richiesta che Kenny Loggins ha inviato alla Casa Bianca dopo che Trump aveva utilizzato la sua musica come colonna sonora del video, generato con l’intelligenza artificiale, in risposta alla protesta No Kings che ha riempito sabato scorso le piazze americane.
Prima la sigla e poi ne parliamo davanti al solito caffè.

[SIGLA]

Il video ha fatto il giro del mondo suscitando reazioni diverse dal divertimento all’ironia, passando per la critica e lo stupore.
Donald Trump, Presidente degli Stati Uniti d’America, alla guida di un aereo da combattimento di quelli protagonisti di Top Gun, celeberrimo film con Tom Cruise che scarica tonnellate di una sostanza marrone facilmente identificabile sui manifestanti che invocano rispetto per la libertà e la democrazia.
La colonna sonora del video era Danger Zone, già colonna sonora proprio di Top Gun, interpretata da Kenny Loggins.
Ma una cosa è la propria musica che fa da colonna sonora a un film campione di incassi e una cosa completamente diversa è se finisce, complice anche l’intelligenza artificiale, a fare da colonna sonora a un video nel quale il tuo Presidente, alla cloche di un jet da guerra ricopre di escrementi i suoi oppositori.
"Non riesco a immaginare perché qualcuno dovrebbe volere che la propria musica venga usata o associata a qualcosa creato con il solo scopo di dividerci. Troppe persone stanno cercando di separarci e dobbiamo trovare nuovi modi per unirci. Siamo tutti americani e siamo tutti patriottici. Non esiste un 'noi e loro': non è quello che siamo, né quello che dovremmo essere. Siamo tutti noi. Siamo tutti sulla stessa barca e spero che possiamo abbracciare la musica come un modo per celebrare e unire ognuno di noi".
Sono le parole con le quali il cantautore americano ha pubblicamente spiegato la sua decisione di richiedere l’immediata rimozione della sua musica dal video pubblicato dalla Casa Bianca.
Difficile non condividerle.
Difficile non essere d’accordo.
È, d’altra parte, quello che da questa parte dell’oceano chiamiamo diritto morale d’autore.
L’autore e solo l’autore può decidere chi può fare cosa con la propria musica.
È un fatto, innanzitutto, di identità personale, specie quando l’utilizzo dell’altrui musica può dare a pensare che l’associazione sia figlia di una condivisione da parte dell’autore del contenuto al quale è associata.
Eppure, specie da quando la generazione di contenuti multimediali artificiali impazza il fenomeno dell’associazione di musica a questo o quel contenuto, un’associazione, normalmente, priva di qualsiasi preventiva autorizzazione.
E non è tanto e soltanto una questione di soldi, di diritti pagati o non pagati, di licenze.
Ma anche e soprattutto, proprio come la storia di Kenny Loggins e del video di Trump suggerisce una questione di principio, di ideali, di identità personale, di messaggi che non si condividono e ai quali non si vuole essere associati.
Una questione, spesso, sin qui, sottovalutata, anzi, di frequente dimenticata.
C’è da augurarsi che l’inciampo della Casa Bianca e la pronta e bella reazione di Loggins, valgano a sollevare il problema e a correre ai ripari.
E, naturalmente, quello che vale per la musica, vale anche e a maggior ragione per l’immagine di chicchessia che non dovrebbe poter essere utilizzata per generare qualsivoglia tipo di contenuto che veicoli messaggi, battute e dichiarazioni nei quali il titolare dell’immagine non si riconosce, che non gli appartengono, ai quali semplicemente non vuole essere associato.
Ne parlavo proprio nell’episodio di ieri a proposito della decisione di OpenAI di bloccare l’utilizzo dell’immagine di Martin Luther King per la generazione artificiale di video attraverso Sora.
Il problema è analogo.
Ma il caffè sta diventando americano, proprio come queste vicende ed è tempo di fermarmi.
Buona giornata e, naturalmente, good morning privacy.

In un post sul suo account ufficiale su X OpenAI ha reso noto di aver sospeso la generazione di immagini di Martin Luther King a seguito della richiesta della figlia, Berenice e di aver intenzione di garantire lo stesso trattamento a tutti gli altri personaggi storici e pubblici che chiedessero o nel cui interesse venissero avanzate analoghe richieste.
Bene, almeno in un contesto nel quale ci stiamo abituando a festeggiare anche l’ovvio.
E, però, forse la questione è un po’ più complicata di così.
La sigla e ne parliamo.

[SIGLA]

“Sebbene vi siano forti interessi in materia di libertà di parola nella rappresentazione di personaggi storici, OpenAI ritiene che i personaggi pubblici e le loro famiglie debbano in ultima analisi avere il controllo su come la loro immagine viene utilizzata. I rappresentanti autorizzati o i titolari dei diritti possono richiedere che la loro immagine non venga utilizzata nei video di Sora”.
Dice così la società che ha progettato, sviluppato e gestisce SORA, il servizio di generazione di video artificiali già utilizzato da milioni di persone in tutto il mondo per abbattere definitivamente il già scolorito confine tra il vero e il falso, producendo centinaia di milioni di contenuti audiovisivi nei quali personaggi noti e illustri sconosciuti, storici e non storici diventano protagonisti di episodi ai quali non hanno mai partecipato o che, addirittura, non sono mai esistiti e di dichiarazioni che non hanno mai reso.
Difficile non essere d’accordo con la decisione di OpenAI e difficile non trovare abominevole la strumentalizzazione di un campione dei diritti come Martin Luther King in video artificialmente generati capaci di ridicolizzarne la figura, manipolarne il pensiero, e offenderne la memoria.
E, però, le domande che l’iniziativa appena assunta dalla mamma di SORA solleva e alle quali questo caffè, evidentemente, non basta per dare risposta sono due o, meglio, almeno due.
La prima.
Ma non sarebbe stato necessario, opportuno, eticamente corretto, giuridicamente doveroso pensarci prima? E cioè non porre affatto SORA in condizione di riportare artificialmente in vita chi non c’è più rendendolo protagonista di scene che non ha mai vissuto e parole che non ha mai pronunciato?
Perché, naturalmente, una cosa è indicizzare contenuti disponibili online per renderli più facilmente accessibili al pubblico come fanno i motori di ricerca e una cosa diversa è far propri quei contenuti per fornire un servizio che abilita milioni di persone a manipolarli per ogni genere di scopo.
La seconda.
Perché il diritto di chiedere a OpenAI di uscire da SORA dovrebbe spettare solo ai personaggi famosi?
Usare il volto, la voce, le sembianze di una persona significa usare i suoi dati personali e, almeno da questa parte dell’oceano, almeno il diritto di chiedere il c.d. opt out, ovvero l’interruzione di qualsiasi trattamento di dati che ci riguardi lo abbiamo tutti, nessuno escluso, che si sia personaggi famosi o illustri sconosciuti e, anzi, a ben vedere, forse, i secondi più dei primi che, magari, in alcune ipotesi, devono accettare una compressione del loro diritto in nome dell’interesse pubblico a informare e essere informati.
Troppo corto il caffè per le risposte però la discussione è importante e come che la si voglia concludere non credo che sia una buona idea lasciare che a decidere siano mercato e industria.
Buona giornata e, naturalmente, good morning privacy!

Volete raccontare di esser andati ai tropici senza che lo abbiate fatto davvero o, magari, che avete scalato l’Everest, visitato una capitale europea o fatto il giro del mondo?

Niente di più facile.
Nell’era dell’intelligenza artificiale generativa e dei deepfake, volere e potere, senza limiti o quasi.
La sigla e poi vi racconto come fare, ma, soprattutto, mi chiedo e vi chiedo, come ci siamo arrivati qui? Come siamo arrivati a avvertire così forte il bisogno di contrabbandare per vera una vacanza che non abbiamo mai fatto.

—

Si chiama Endless summer, l’ha sviluppata e appena pubblicata sugli store di applicazioni di tutto il mondo, Laurent del Rey, uno sviluppatore del Meta’s Superintelligence Lab.
Ma è una sua iniziativa personale.
Funziona in modo semplicissimo.
Basta dare in pasto all’applicazione una o più vostre fotografie, scegliere dove andare in vacanza e tappare sullo schermo del vostro smartphone per chiedere all’app di generarvi una foto che vi ritrae nell’atteggiamento che preferite, su una spiaggia, una pista da sci, in cordata in montagna, su una nave da crociera o ovunque preferiate.
Ma se non volete neppure far lo sforzo di pensare a dove avreste voluto andare in vacanza ma non ci siete andati, c’è un servizio premium, che costa un po' di più, quindi, e che ogni giorno vi manda direttamente sullo smartphone un paio di foto scattate – pardon artificialmente generate – nei luoghi più esotici e affascinanti del mondo.
Poi a voi scegliere cosa raccontare a amici e parenti condividendo le foto in questione, stampandole, inviandole a qualcuno in digitale o pubblicandole sui social.
Certo, niente che non si potesse fare già ieri, prima del lancio dell’app con un qualsiasi programma di editing di immagini più o meno intelligente.
E, però, con Endless Summer la novità è che l’app ha una sola funzione: generare foto di vacanze che non avete mai fatto infilandovici dentro.
Ed è proprio questo che fa sorgere – o, almeno, c’è da augurarsi faccia sorgere – una domanda importante: quando è successo che abbiamo iniziato a avvertire così forte l’esigenza di raccontare ciò che non è mai esistito?
E come è potuto accadere?
Che soddisfazione può dare a una persona pubblicare una foto artificialmente generata di una vacanza inventata di sana pianta?
Viene il sospetto che se, effettivamente, pubblicare una foto del genere è un’ambizione diffusa, allora, significa che, in tanti, apprezzano di più o di meno una persona, secondo, se, quanto spesso e dove va in vacanza.
Così tanto da indurre qualcuno a non poter fare a meno di usare un’app del genere per diventare protagonista di una storia immaginifica di una vacanza mai esistita.
Quando ci interroghiamo sull’impatto della tecnologia sulle persone e sulla società, probabilmente, dovremmo riflettere anche su fenomeni come questo.
Senza dire che, naturalmente, quello che sta per accadere e che il confine tra le vacanze vere e le vacanze false, almeno nella dimensione digitale, sta per essere completamente eroso.
Per fortuna che, almeno per un po’, c’è da augurarsi che quelle vere continuino a regalare esperienze, emozioni e sensazioni, non riproducibili in laboratorio.
Inutile dire – anche se è la ragione per la quale ne parlo qui – che per riuscire nell’intento bisogna affidare al fornitore del servizio una montagna di nostri dati biometrici, tutti quelli necessari a consentire il miracolo fotografico o, forse, meglio l’illusione vacanziera.
Uno scambio che rende ancora più inspiegabile il ricorso a un servizio del genere.
Non so se sia un caffè da ridere o da piangere quello di oggi ma non correrei e, personalmente, non correrò a scaricare l’app.
Buona giornata e, naturalmente, good morning privacy!

Il lancio di SORA la potentissima applicazione di generazione artificiale di video di OpenAI sta, comprensibilmente, facendo storcere la bocca a milioni di titolari dei diritti in tutto il mondo che stanno vedendo le loro creazioni prima finite in pasto agli algoritmi e ora risputate fuori in ogni genere di filmato generato dagli utenti e pubblicato online.
Tra i meno contenti di quello che sta accadendo sembrerebbe esserci niente di meno che il Governo di Tokyo.
La sigla e ne parliamo davanti al solito caffè.

[SIGLA]

Da Super Mario a Pikachu, passando per tutto lo straordinario patrimonio creativo giapponese.
È una ricchezza inestimabile che OpenAI – certamente non da sola ma in compagnia di diverse concorrenti – ha fatto sua e trasformato in un invidiabile asset tecno-commerciale che ora sta sfruttando per consentire al suo servizio di generazioni di video, SORA, di inserire i personaggi in questione nei contenuti generati dagli utenti.
Tutto, naturalmente, è avvenuto senza chiedere permesso a nessuno, a cominciare dai titolari dei diritti e senza pagare un solo dollaro di licenza.
Un furto bello e buono secondo alcuni.
Uno sfruttamento lecito dell’altrui patrimonio creativo per generare altri contenuti creativi secondo OpenAI e l’industria dell’intelligenza artificiale.
Nessuna sorpresa che al Governo di Tokyo sembri più un furto che una storia di innovazione e, infatti, ha chiesto formalmente a OpenAI di interrompere ogni forma di sfruttamento del patrimonio artistico giapponese nell’ambito del suo servizio.
Secondo il Governo si tratterebbe di “tesori insostituibili” cannibalizzati dagli algoritmi di OpenAI senza alcuna giustificazione giuridica: un furto di proprietà intellettuale appunto.
Come andrà a finire?
Troppo presto per dirlo.
E, però, la questione è rilevante perché, in fondo, le rivendicazioni del Governo di Tokyo sono le stesse che decine di altri Governi, a cominciare da quello di casa nostra, potrebbero indirizzare alle fabbriche degli algoritmi di intelligenza artificiale generativa per chiedere che rinuncino allo sfruttamento dei tesori creativi.
Senza nulla togliere ai Manga e alle Anime giapponesi, a Super Mario e Pikachu, anche l’Italia ha, nel mondo della creatività artistica i suoi “tesori insostituibili”, dalla musica, al cinema, alla letteratura, ai beni culturali.
Che non sia l’ora di cominciare a rivendicare almeno una “sovranità artistica digitale”?
Solo una provocazione.
Ma, forse, non completamente priva di fondamento.
Buona giornata e, naturalmente, good morning privacy.

Sono interessanti i dati e le percentuali di una ricerca appena pubblicata dal Pew Research Center a proposito della percezione che, in giro per il mondo, si ha dell’impatto dell’intelligenza artificiale sulla società.
Con poche eccezioni, in generale, il fenomeno sta generando più preoccupazione che entusiasmo.
Ma, dopo la sigla, vale la pena approfondire.

[SIGLA]

Sono di venticinque Paesi diversi, anzi, diversissimi, i cittadini ai quali il Pew Research center ha chiesto se guardino all’intelligenza artificiale più con entusiasmo o con preoccupazione e, con la sola eccezione della Corea del Sud, da nessuna parte, più di tre cittadini su dieci hanno scelto l’entusiasmo.
In Italia circa la metà degli adulti si dice più preoccupata che entusiasta per la crescente presenza dell'IA nella vita quotidiana, una quota tra le più alte insieme a quelle di Stati Uniti, Australia, Brasile e Grecia.
In media il 34% si dice più preoccupato che entusiasta, il 42% prova sentimenti contrastanti e solo il 16% è più entusiasta che inquieto.
Sono dati che oggettivamente suggeriscono qualche riflessione perché raccontano, almeno, che la corsa folle verso la pandemia degli algoritmi e delle intelligenze artificiali non risponde a un sentir comune, non è un desiderio dei più, non è figlia di un entusiasmo collettivo e, anzi, preoccupa più di quanto entusiasmi.
Ma attenzione a non correre alle conclusioni.
C’è anche da considerare che la stessa ricerca suggerisce che, sfortunatamente, le persone, in giro per il mondo, sanno poco, anzi pochissimo dell’intelligenza artificiale.
I giovani più dei meno giovani ma comunque con percentuali che non superano mai la metà della popolazione dei venticinque Paesi coinvolti nella ricerca.
Nel complesso, la media mondiale indica che il 34% degli adulti ha sentito o letto molto di IA, il 47% un po' e il 14% per nulla.
Sfortunatamente sembra evidente che stiamo investendo enormemente di più nell’addestrare gli algoritmi a conoscere le persone che nell’educare le persone a conoscere gli algoritmi.
Il risultato è che che si sia entusiasti o, invece, preoccupati, l’una e l’altra percezione è poco informata, poco consapevole, poco ponderata.
È, forse, il dato più preoccupante che emerge dalla ricerca.
Siamo davanti a una rivoluzione epocale che sta determinando una trasformazione antropologica e i miliardi di persone le cui vite verranno radicalmente cambiate non ne sanno abbastanza e, quindi, non sono in condizione di partecipare consapevolmente al governo del fenomeno.
È, probabilmente, uno dei più grandi fallimenti educativi della storia dell’umanità, un fallimento che rischia di consegnare a un mercato asfittico e oligopolistico come pochi altri, il governo dell’intera società.
Numeri e percentuali da caffè amaro questo mattina.
Ma, comunque, buona giornata e, naturalmente, good morning privacy!

Oggi un avviso alle naviganti e ai naviganti perché sono stati pubblicati gli atti di un’inchiesta condotta dalle Autorità americane che suggerisce di come ci sia un genere di truffa online straordinariamente longeva e dura a morire che, a dispetto degli anni che passano, continua a mietere un numero incredibile di vittime insospettabile.
La sigla e ve la racconto perché conoscerla, purtroppo, non basta a non caderci ma può se non a si conosce è più facile caderci.

Quindici miliardi di dollari in criptovalute.
È la cifra da capogiro che le Autorità federali americane hanno sequestrato a un’organizzazione di cybercriminali che, per anni, ha accumulato ricchezza truffando centinaia di migliaia di persone in giro per il mondo.
Come?
Facendole innamorare online di persone che non esistono, persone che, ogni volta, secondo lo stesso schema, intrattenevano con le ignare vittime lunghe relazioni a distanza, scambiandosi messaggi e foto, naturalmente, assolutamente finte, parlando del presente e del futuro, dell’amore, della passione e del sesso, fingendosi interessati a conoscersi per davvero, a vedersi e incontrarsi non appena la distanza lo avesse reso possibile.
Poi, dopo mesi di conversazioni online, i discorsi iniziavano a virare sugli straordinari guadagni che possono realizzarsi investendo in criptovalute e, quindi, il truffatore o la truffatrice – falsa l’identità del primo come della seconda – si dichiaravano disponibili a aiutare il loro amato o la loro amata nell’investimento.
E a quel punto il gioco era fatto.
Ottenuto quello che volevano per davvero – non l’amore ma il portafoglio – i truffatori sparivano lasciando le vittime con il cuore spezzato e il conto corrente in banca svuotato.
Un tipo di truffa, queste, quelle del cuore, eguali a loro stesse – con poche varianti – da anni e che, tuttavia, continua ad avere uno straordinario successo.
Guai a sentirsi vaccinati, esenti da ogni rischio, a dire che non ci si cascherebbe mai.
Gli atti del giudizio ora pendente davanti ai Giudici di New York suggeriscono che non esiste un profilo-tipo della vittima, negli anni ci sono cascate persone diversissime, anziani e meno anziani, donne e uomini, professionisti e operai.
La truffa, infatti, fa drammaticamente leva sulla più feroce delle pandemie che si sia mai diffusa in giro per il mondo, quella della solitudine.
Siamo soli, ci sentiamo soli, in un momento o in un altro, per tutta la vita o per una parte di essa.
E, quando capita, si è più fragili del solito e si rischia tutti, nessuno escluso, di cadere nella trappola.
Ecco perché parlarne, forse, vale questo caffè, un caffè del mattino, né dolce, né amaro, oggi ma auspicabilmente utile.
Succede e accade molto più frequentemente di quanto non si pensi come suggerisce la montagna di denaro sequestrata dalle autorità americane e, allora, senza niente togliere alla bellezza del sentimento, al cuore, all’amore, forse, vale la pena di star più attenti e non accettare coccole dagli sconosciuti o, almeno, a non metter mano al portafoglio fino a quando gli sconosciuti non ci dimostrano di esistere, di esser per davvero come sembrano e quelli che sembrano.

Buona giornata e, naturalmente, good morning privacy!

"Tecnologie emergenti come chatbot e social media possono ispirare, educare e connettere, ma senza veri e propri limiti, la tecnologia può anche sfruttare, fuorviare e mettere in pericolo i nostri figli. Abbiamo assistito ad alcuni esempi davvero orribili e tragici di giovani danneggiati da tecnologie non regolamentate, e non resteremo a guardare mentre le aziende continuano a comportarsi senza i necessari limiti e responsabilità. Possiamo continuare a essere leader nell'intelligenza artificiale e nella tecnologia, ma dobbiamo farlo responsabilmente, proteggendo i nostri figli in ogni fase del percorso. La sicurezza dei nostri figli non è in vendita".
Non sono le parole di un commissario europeo ma quelle del Governatore della California Gavin Newsom.
La sigla e vi racconto il contesto nel quale le ha pronunciate.

È la prima legge al mondo, americana e non europea, che mira a disciplinare la fornitura di servizi di chatbot companion, non tanto e non solo ChatGPT e i suoi diretti concorrenti ma anche e soprattutto Replika, Chai, Character AI e quell’universo eterogeneo di chatbot progettati, sviluppati e resi disponibili sul mercato per intrattenere, tenere compagnia, diventare i migliori amici, le migliori amiche, i fidanzati, le fidanzate, le amanti o gli psicoterapeuti di persone in carne ed ossa.
La legge, fortemente voluta dal Governatore della California che, appunto, l’ha commentata con le parole appena ricordate, entrerà in vigore il prossimo primo gennaio 2026 e impone ai fornitori dei servizi in questione una serie di obblighi stringenti dalla tanto discussa – anche da questa parte dell’oceano – verifica dell’età, all’implementazione di una serie di protocolli di sicurezza per contrastare il suicidio e l'autolesionismo da condividere con il Dipartimento di Salute Pubblica dello Stato, insieme a statistiche su come il servizio ha fornito agli utenti notifiche e allert sull’esigenza di chiedere assistenza specialistica.
Secondo la legge i fornitori di servizi dovranno anche chiarire che qualsiasi interazione è generata artificialmente, non presentare i loro chatbot come professionisti sanitari, offrire ai minori promemoria sull’esigenza di sospendere le conversazioni trascorso un certo intervallo di tempo e impedire loro di visualizzare immagini sessualmente esplicite generate dal chatbot.
Niente, naturalmente, che sia in grado di azzerare ogni rischio e ogni pericolo per i più piccoli ma, innegabilmente, un passo avanti significativo e nella giusta direzione che, peraltro, arriva proprio dallo Stato nel quale sono stabiliti alcuni tra i fornitori di maggior successo di questo genere di servizi.
Il messaggio è prezioso e chiarissimo: c’è spazio per fare innovazione responsabile e non c’è ragione per continuare a raccontare che la regolamentazione sia nemica dell’innovazione.
Ma, probabilmente, le parole più importanti tra quelle scandite dal Governatore californiano nel salutare l’approvazione della nuova legge sono queste: “la sicurezza dei nostri figli non è in vendita”.
Parole sante.
E, finalmente, parole che trovano posto in una legge.
Bene così.
Finalmente un caffè dolce.

Buona giornata e, naturalmente, good morning privacy!

Ho quasi paura a raccontare questa storia perché non vorrei ispirare chi non ci ha ancora pensato.
Ma c’è uno scherzo a mezzo intelligenza artificiale – se così può definirsi anche un’idea assolutamente idiota – che spopola online negli Stati Uniti d’America e che la dice lunga sui rischi che si corrono quando si mettono strumenti potenti come quelli di intelligenza artificiale generativa nelle mani di bambini e adolescenti.
La sigla e ve lo racconto a bassa voce, ma non fatelo sentire ai vostri figli.


Prendi un video di casa tua, magari del letto di mamma e papà o del divano dove la sera prima hai guardato, insieme a loro, il tuo show preferito e chiedi a Sora o a un’altra qualsiasi applicazione di intelligenza artificiale – bastano anche gli strumenti gratuiti di Snapchat – di metterci sopra una persona un po’ trasandata, diciamo un senzatetto.
Poi manda il video ai tuoi e racconta loro che la persona in questione ha bussato alla porta, ha detto di essere un loro ex compagno di scuola e di università e di aver bisogno di un bagno o di bere un bicchier d’acqua e che, quindi, gli hai aperto la porta.
Tutto il resto è facile, anzi facilissimo, da immaginare.
Il panico che ha la meglio sulla razionalità, le urla, i genitori che lasciano il lavoro per tornare a casa.
Tutto questo quando va bene.
Perché spesso, invece, preoccupati di non arrivare a casa in tempo i genitori chiamano direttamente la polizia e raccontano quello che hanno visto, un estraneo in casa, accanto al figlio, con chissà quali intenzioni.
Un’emergenza impossibile da sottovalutare per la polizia.
Un bambino in pericolo.
Via a sirene spiegate.
Ma che succede se nello stesso pomeriggio arrivano centinaia di telefonate del genere perché lo scherzo è diventato virale?
Un enorme spreco di risorse pubbliche, l’impossibilità di garantire la sicurezza dove l’intervento della polizia servirebbe davvero, l’effetto “al lupo al lupo”, per il quale si finisce a non credere a allarmi veri, confondendoli per allarmi figli di pericolosissime idiozie artificiali.
Tutto questo senza dire di quanto disumano sia giocare sulla pelle di un senzatetto e usarne l’immagine per spaventare i propri genitori.
Ma in America ormai è virale.
Tanto che la polizia è stata costretta a pubblicare avvisi e messaggi nei quali invita i ragazzi a fermarsi e i genitori a fermarli.
Qualcuno starà sorridendo bevendo il caffè di questa mattina.
E, però, c’è poco da scherzare.
È un’idea tanto orribile quanto idiota che sfortunatamente racconta una volta di più perché non si possono lasciare strumenti tanto potenti nelle mani dei ragazzini.

Buona giornata e, naturalmente, good morning privacy!

Che sarebbe accaduto era noto, quando ancora no.
Ora, però, lo sappiamo e si tratta di ore.
Sto parlando dell’impossibilità di guardare un video online sentendosi certi che sia tutto vero.
Una rivoluzione alla quale non siamo preparati.
La sigla e ne parliamo.

Un milione di installazioni in meno di cinque giorni.
Sono i numeri da brivido di SORA l’app per la generazione di video, deepfake inclusi, di OpenAI.
E prima di alzare le spalle e di dire che si tratta di numeri ancora modesti vale la pena ricordarsi che l’applicazione è disponibile solo negli Stati Uniti e in Canada e, soprattutto, che solo che per scaricarla e installarla, per il momento, serve un invito.
Sono numeri tanto per avere un’idea delle dimensioni del fenomeno superiori, persino, a quelli di ChatGPT che sono stati superiori a quelli di qualsiasi altra app mai distribuita, era liberamente scaricabile, senza invito, in tutto il mondo e era decisamente più eclettica di Sora, potendo essere utilizzata per una pluralità di impieghi diversi.
Eppure questi sono i numeri.
E sono numeri che trovano una conferma nell’invasione – altra espressione non c’è – di video generati proprio attraverso l’app di casa OpenAI nell’intero universo social.
Inevitabile la conseguenza all’orizzonte.
E si torna alla riflessione di partenza.
Stiamo per essere travolti da un’onda altissima di video che rappresenteranno ogni genere di falso più o meno d’autore.
Sora, infatti, consente anche di generare deepfake straordinariamente realistici.
Basta guardare i milioni di contenuti generati artificialmente che già spopolano online con personaggi più o meno famosi, inclusi volti noti del cinema e della musica che non ci sono più, protagonisti di scene che non hanno mai girato o con persone comuni, in carne ed ossa, inserite in scene di film alle quali non hanno, ovviamente, mai partecipato.
Giochi, divertissement, esercizi per mettere alla prova la potenza irresistibile di Sora e niente di più.
Almeno per il momento, almeno per quanto se ne sa, almeno nella più parte dei casi.
E, però, quanto ci vorrà perché milioni di utenti e, presto, miliardi si rendano conto che l’applicazione può essere usata per sgretolare letteralmente la linea di confine tra il vero e il falso già da tempo sbiadita, iniziando a generare artificialmente ogni genere di video capace di contrabbandare per reale ciò che non è mai avvenuto?
Che strumenti abbiamo e avremo, nelle settimane che verranno, per non doverci rassegnare all’idea che sia tutto, semplicemente, verosimile e plausibile, che non ci sia più niente di vero o di falso oltre ogni ragionevole dubbio?
Quante persone in giro per il mondo, tra i miliardi di fruitori di contenuti audiovisivi nella dimensione digitale, sono e saranno in grado di distinguere ciò che è vero e reale, da ciò che è falso e artificialmente posticcio?
E siamo certi che l’esistenza umana e quella della nostra società siano sostenibili se si perde così rapidamente e così diffusamente ogni possibilità di distinguere il vero dal falso?
Considerato il ritmo di diffusione di un’applicazione come Sora – che, è bene ricordarlo, non è né la prima, né l’ultima applicazione del genere – direi che abbiamo le ore contate per rispondere a queste domande.
Poi potrebbe essere tardi.
Ma, per ora e solo per ora, buon caffè, buona giornata e, ovviamente, good morning privacy.