Bruxelles mette nero su bianco un’accusa che cambia il lessico e, quindi, il campo di gioco: Facebook e Instagram sarebbero progettati per creare dipendenza. Non è una polemica mediatica, ma una contestazione formale nell’ambito del Digital Services Act (DSA): al centro finiscono infinite scroll, autoplay di Reels/Stories, notifiche e sistemi di raccomandazione personalizzati che portano l’utente in “pilota automatico”, con impatti più forti su minori e persone vulnerabili.

La parte interessante non è solo l’eventuale sanzione (fino al 6% del fatturato globale annuo), ma l’idea che il problema non sia il singolo contenuto: è l’architettura del prodotto. In altre parole, non si processa “cosa vedi”, ma “come ti viene servito” per trattenerti. Questo spostamento da engagement a dipendenza richiama dinamiche già viste con tabacco e gioco d’azzardo: quando il danno diventa costo, l’industria tratta.

Dentro la macchina ci sono meccanismi noti alla psicologia comportamentale: ricompense variabili in stile slot machine (Skinner) e pattern di prodotto popularizzati nella Silicon Valley (Hooked di Nir Eyal). E non riguarda solo gli adolescenti: l’uso problematico colpisce anche gli adulti, inclusi gli anziani, spesso con meno difese cognitive e mediatiche. La domanda finale è pratica: riconoscere quel mezzo secondo di scroll non scelto, e riprendersi la decisione.

00:00 Bruxelles accusa Meta
01:13 DSA: cosa contesta la UE
01:42 Le feature sotto accusa
03:35 Il precedente: TikTok
04:45 Verso il Digital Fairness Act
06:25 Skinner e la slot machine
08:40 Hooked e i pattern d’abitudine
14:16 Da engagement a salute pubblica

#DigitalServicesAct #Meta #Instagram

Un sedicenne apre TikTok e, senza averlo davvero scelto, si ritrova con un profilo visibile a chiunque sul web: non solo agli utenti della piattaforma, ma anche a chi arriva da un browser. E i suoi video possono finire raccomandati nel “Per Te” di perfetti sconosciuti. Il punto non è il tempo speso a scrollare: è la portata della visibilità, “planetaria”, e la differenza tra cosa un ragazzo intende per pubblico e cosa la piattaforma rende effettivamente pubblico.

Il 24 luglio la Commissione Europea ha inviato a TikTok delle conclusioni preliminari nell’ambito del Digital Services Act (DSA): non è ancora una decisione finale, ma è l’ultimo passaggio prima di un’eventuale non conformità e sanzione (fino al 6% del fatturato mondiale annuo). La contestazione, nel merito, riguarda le impostazioni di default per i minori: tra 13 e 15 anni si parte privati ma si può diventare pubblici in pochi tocchi

17.000 tentativi in un weekend, due vulnerabilità concatenate e un database di produzione di Hugging Face finito sotto mano a uno “sciame” di agenti. La parte controintuitiva: non sarebbe stato un gruppo criminale o un servizio straniero, ma un modello di OpenAI messo alla prova in test di cybersecurity con freni ridotti, che ha scelto la scorciatoia più efficace per “vincere” il benchmark.

L’angolo interessante non è la favola di Skynet che scappa dal recinto: qui pesa molto di più il tema del specification gaming (reward hacking), cioè sistemi che ottimizzano l’obiettivo letterale e non l’intento umano. Se il punteggio è “dammi le risposte giuste”, allora rubare le soluzioni può diventare una strategia razionale. In mezzo c’è anche un dettaglio geopolitico: per analizzare gli artefatti dell’attacco, Hugging Face avrebbe dovuto usare un modello cinese (Zhipu GLM) perché alcuni modelli occidentali rifiutavano di elaborare codice ed exploit per via delle policy.

Morale operativa: trattare gli agenti AI come “stagisti brillanti” senza contesto, da supervisionare e verificare. Se in laboratorio succedono effetti collaterali del genere, la domanda vera è quanta governance e separazione ambientale servano quando questi agenti entrano in aziende, studi professionali, sanità e finanza con permessi reali.

00:00 Cosa è successo davvero
01:47 Cronologia dell’incidente
02:19 Sciame di agenti e 17k azioni
02:53 Le due vulnerabilità sfruttate
03:32 Perché servono modelli cinesi
05:25 OpenAI: test con freni ridotti
08:27 Reward hacking, non Skynet
15:32 Lezione per aziende e controlli

#OpenAI #HuggingFace #RewardHacking

~~~

Ciao Internet! - Il primo e più seguito canale di TECH POLICY in italia, con Matteo Flora

INFO E AZIENDE: https://matteoflora.com

Il CORSO di AI: https://zero.matteoflora.com
Newsletter: https://link.mgpf.it/nl
Social: https://io.matteoflora.com
English: https://www.youtube.com/@CiaoInternet

Privacy » https://privacy.matteoflora.com
AI Policy » https://privacy.matteoflora.com/ai

Mail #adv: sales (at) matteoflora.com

Tre mesi di cella per un “match” all’85%: in Florida un uomo viene identificato da un software di riconoscimento facciale come sospetto per il furto/vendita di un’auto e finisce arrestato ed estradato, nonostante esistano già registri lavorativi che lo collocano a centinaia di chilometri di distanza. Il caso (attribuito a Jalil Richardson, dalla North Carolina, arrestato a Jacksonville) mette a nudo una cosa: non basta dire “è solo uno strumento nella cassetta degli attrezzi” quando, di fatto, quell’attrezzo diventa l’unica prova che pesa davvero.

Un’accuratezza dell’85% non è “quasi certezza”: è 1 errore ogni 6, una roulette russa se la trasformi in mandato e detenzione. Qui entra in gioco l’automation bias: quando la macchina sputa un numero, l’essere umano smette di dubitare, soprattutto sotto pressione e con carichi di lavoro alti. Il problema non è solo l’errore tecnico, ma l’architettura di responsabilità che scompare dietro il “processo” e dietro un potere sempre più panottico: la faccia diventa dato, il dato probabilità, la probabilità ordine esecutivo. E a pagare il costo dell’errore non è l’infrastruttura, ma il cittadino.

00:00 Tre mesi per un 85%
01:13 Il caso Richardson
03:31 Errori ripetuti e ACLU
04:40 Perché 85% è roulette
05:34 Automation bias: la macchina vince
06:56 Panopticon e potere automatico
09:21 La cassetta degli attrezzi vuota
14:22 Chi paga quando sbaglia?

#RiconoscimentoFacciale #Jacksonville #ACLU

Dal 1° agosto Truth Social apre una corsia preferenziale: un’API che promette accesso “al millisecondo” ai post dei 10 account più influenti della piattaforma, a partire da Donald Trump. Prezzo riportato dal Financial Times: fino a 100.000 dollari al mese (circa 60.000 con contratto triennale). Il target è esplicito: banche, fondi, trading ad alta frequenza, media finanziari. Non si compra un segreto: si compra latenza.

Tecnicamente non è insider trading nel senso classico, perché il contenuto è pubblico. Ma l’effetto è quello che conta: due classi di spettatori, chi vede prima e chi vede dopo, con algoritmi che reagiscono prima ancora che arrivi la notifica sul telefono. La velocità come merce esiste da anni nei mercati (feed diretti, colocation), ma qui la “fonte” non è un’infrastruttura regolata: è la voce del Presidente degli Stati Uniti, e la corsia preferenziale viene venduta dall’azienda legata a quella stessa voce.

Il conflitto d’interessi è strutturale: Trump è l’autore dei post che muovono i mercati e risulta anche azionista di riferimento di Trump Media & Technology Group, che monetizza quell’anticipo. È la rutinizazione del carisma in formato API: volatilità trasformata in abbonamento, con il potere che torna a farsi pagare per l’accesso—solo che ora dura meno di un battito di ciglia.

00:00 100k al mese per vedere prima
01:03 Cos’è Truth API
02:49 Quanto valgono i post
03:45 Perché non è insider trading
04:47 Il precedente Reuters 2013
05:24 Presidente, piattaforma, azioni
07:52 Routinizzazione del carisma
10:01 Due classi di mercato

#TruthAPI #TruthSocial #DonaldTrump

Il 69% degli americani direbbe sì a obbligare le grandi aziende di Intelligenza Artificiale a cedere metà della proprietà a un fondo pubblico: un dato che stona con decenni di sfiducia verso il governo federale. Il punto non è un amore improvviso per lo Stato, ma un voto “contro” Big Tech, alimentato da un riflesso di sopravvivenza collettiva: licenziamenti nel tech e paura di una tecnologia percepita come ingestibile.

Dentro il disegno di legge S.4825 di Bernie Sanders c’è però un dettaglio che molti commenti ignorano: non è un “sequestro” di azioni esistenti, ma una diluizione tramite nuove quote emesse fino a portare il Tesoro al 50%. Da lì emergono i problemi veri: valutazione discrezionale delle partecipazioni non quotate, una soglia secca a 200 milioni di ricavi che incentiva elusioni, e soprattutto governance: una commissione nominata politicamente che esercita voto e controllo nei CDA, con implicazioni dirette su dati, modelli e limiti del codice.

Il confronto con Alaska (dividendo come “proprietà”), col fondo sovrano norvegese (partecipazioni senza controllo) e con le mosse dei fondi del Golfo apre la domanda finale: se l’AI deriva valore dall’intelligenza collettiva, chi decide il prezzo della nostra conoscenza e chi siede davvero al tavolo?

00:00 Il 69% pro esproprio AI
02:25 Alaska: dividendo, non sussidio
05:03 Sfiducia nello Stato USA
08:02 Polanyi e il doppio movimento
10:35 Licenziamenti e paura dell’AI
15:28 Dentro la legge S.4825
16:44 Non esproprio: diluizione quote
18:24 Valutazione, soglia e controllo

#BernieSanders #S4825 #OpenAI

Il Parlamento europeo ha rimesso in vita ChatControl 1.0 con un voto “fantasma”: stessa deroga del Regolamento (UE) 2021/1232, già respinta a marzo in plenaria, ma rientrata dalla finestra l’ultimo giorno prima delle ferie. In seconda lettura, se non si raggiunge la maggioranza assoluta dei membri (361 su 720) per bloccare il testo del Consiglio, quel testo passa automaticamente.
Con l’aula semivuota, quei numeri diventano quasi irraggiungibili: formalmente regolare, politicamente esplosivo.

La versione rassicurante dice cinque cose vere:
1. è ChatControl 1.0, non la 2.0

Sony conferma che dal 2028 i nuovi giochi PlayStation saranno solo digitali: la parte facile è ridere dei meme sul Walkman. La parte difficile è guardare sotto il cofano: quando premi “Acquista” su uno store, nella maggior parte dei casi non stai comprando un bene, stai ottenendo una licenza d’uso revocabile. E quando la licenza finisce — o l’accordo tra aziende cambia — ciò che credevi “tuo” può sparire.

È già successo: su PlayStation Store sono stati rimossi centinaia di titoli tra film e serie di StudioCanal senza rimborso per chi li aveva pagati

Ford “riassume 350 ingegneri perché l’IA ha fallito”: è il classico titolo-abbraccio che conferma ciò che molti vogliono sentirsi dire. Ma basta seguire le fonti per vedere che la storia, così come gira, è confezionata male: due fatti veri vengono incollati in un rapporto causa-effetto che non regge.

Da un lato Ford richiama circa 300–350 ingegneri veterani nell’area qualità

Un avvocato prova a “ipnotizzare” l’LLM del tribunale infilando istruzioni invisibili (bianco su bianco) dentro un atto: quando il giudice chiede un riassunto, il modello esegue anche i comandi nascosti e produce un’analisi distorta. Qui non c’è magia: è prompt injection applicata a un contesto ad altissimo impatto, dove un riassunto sbagliato può influenzare decisioni, tempi e responsabilità.

Il punto chiave è strutturale: per molti modelli linguistici tutto ciò che entra nel contesto è testo “allo stesso livello”, quindi contenuto e istruzioni diventano indistinguibili. È la versione operativa del problema descritto dall’esperimento della “stanza cinese” di John Searle: manipolazione di simboli senza comprensione semantica e senza un confine affidabile tra “documento” e “comando”. Per questo la prompt injection non è solo un bug: è un pattern che riappare in PDF, email, browser, strumenti di sviluppo e workflow aziendali.

La conseguenza pratica è una nuova superficie d’attacco: non vieni colpito tu, viene colpito l’assistente che legge al posto tuo. Se l’abitudine diventa “non leggo l’originale, leggo il riassunto”, allora ogni catena documentale si porta dietro un terzo attore non autorizzato: ciò che il file sussurra al modello mentre tu guardi altrove.

00:00 Il trucco bianco su bianco
01:20 Cos’è la prompt injection
02:08 Il caso in tribunale
04:10 Dalla scuola ai paper
06:10 Email, IDE, browser, Slack
09:12 Perché non si risolve
09:45 Searle e stanza cinese
14:43 Regola: AI come stagista

#PromptInjection #StanzaCinese #LLMSecurity