Com’è possibile ricostruire il modo in cui un chatbot decide cosa pensare – tra virgolette – della tua azienda?

Si pongono a diversi modelli diverse domande su un marchio e si analizzano le risposte. Inoltre, con la diffusione dei modelli di ragionamento esteso, che mostrano la sequenza di azioni intrapresa dal chatbot per dare risposte, e con il fatto che sempre più spesso sono mostrati i link da cui i chatbot pescano informazioni, un’azienda può arrivare a capire da dove l’intelligenza artificiale le sta estraendo e può provare a modificarne la percezione, addirittura cambiando il testo e le immagini della sezione del sito aziendale bersaglio di scraping. Un altro modo intelligente di sfruttare i chatbot è, ad esempio, usarli come focus group per testare diversi claim pubblicitari.

Non solo. Alcune aziende hanno già iniziato a pagare utenti anonimi per consigliare sui social e sui blog le parole giuste da usare per fare uscire risultati più clementi sui propri prodotti.

La percezione di un marchio da parte dell’intelligenza artificiale (chatbot e motori di ricerca generativi) influenzerà sempre di più i profitti aziendali. In questo episodio Nicoletta Prandi analizza le asimmetrie tra i risultati di ricerca generativa e il posizionamento aziendale ed esplora i modi in cui si può provare a comprendere e persino orientare questo processo.
 

FONTI
Share of Models

TollBit 

La ricerca della Carnegie Mellon 

La ricerca della University of South Florida [2406.13997] "Global is Good, Local is Bad?": Understanding Brand Bias in LLMs

Parte degli esempi citati in questo episodio sono tratti da questo articolo del MIT Technology Review

Il Consiglio europeo dello scorso 20 giugno ha sospeso il voto su un contestatissimo provvedimento, chiamato in origine Chat Control. Introduce l’obbligo di scansionare tutti i messaggi privati dei cittadini europei tramite piattaforme come WhatsApp, con la scusa di scovare contenuti pedopornografici.

Se non si accetta il monitoraggio, non si possono più inviare foto, video e link a siti internet.

Centinaia di associazioni, scienziati ed europarlamentari si stanno spendendo per rivedere il provvedimento, solo rimandato, alla luce dei rischi rilevati sul fronte della tutela della privacy, della sicurezza personale e della democrazia. 
 

FONTI
Il comunicato stampa di Signal https://signal.org/blog/pdfs/upload-moderation.pdf  

L’inchiesta di Der Spiegel sui ‘falsi positivi’ nella rilevazione di crimini da parte degli algoritmi https://www.spiegel.de/netzwelt/netzpolitik/kinderpornografie-zahl-der-falschen-verdaechtigungen-bei-online-bildern-massiv-gestiegen-a-a746b118-82e7-4560-8ba4-45f02489768c  

La dichiarazione congiunta di oltre 60 organizzazioni https://www.globalencryption.org/2024/05/joint-statement-on-the-dangers-of-the-may-2024-council-of-the-eu-compromise-proposal-on-eu-csam/  

Il tentativo di esentare politici, militari e forze dell’ordine dall’applicazione del provvedimento https://www.eureporter.co/business/data/mass-surveillance-data/2024/04/15/leak-eu-interior-ministers-want-to-exempt-themselves-from-chat-control-bulk-scanning-of-private-messages/  

La lettera aperta di oltre 300 scienziati https://edri.org/our-work/open-letter-hundreds-of-scientists-warn-against-eus-proposed-csa-regulation/  

La funzione Recall di Microsoft e i problemi di sicurezza https://arstechnica.com/ai/2024/06/windows-recall-demands-an-extraordinary-level-of-trust-that-microsoft-hasnt-earned/?s=03

Ogni guerra ha le armi che si merita e quella dei bot sta iniziando a invadere il mondo del lavoro, tra aziende che li usano per automatizzare il più possibile le fasi di recruiting e gli stessi candidati, che provano ad avere la meglio affidandosi ad app di intelligenza artificiale.

Gli effetti del fenomeno, già ampiamente diffuso negli Stati Uniti, sono già misurabili e sono raccontati in questo episodio.  

FONTI
Uno degli articoli dedicati alla guerra dei bot pubblicati ta The Wall Street Journal https://www.wsj.com/lifestyle/careers/ai-job-application-685f29f7  

L’offerta commerciale di Sonara https://www.sonara.ai/  

La consulenza di Big Interview
https://support.biginterview.com/en/category/the-big-interview-platform-ufth4y/  

Una riflessione di Noah Smith
https://www.noahpinion.blog/p/generative-ai-autocomplete-for-everything?utm_source=substack&utm_medium=email

Negli Stati Uniti si sta saldando una nuova corrente di imprenditori e di politici, pronti a influenzare una nuova possibile Amministrazione Trump, per orientare regole e finanziamenti in favore di alcune aziende.
Lo slogan di questo nuovo partito informale di tecno-nazionalisti, come ha scritto il Washington Post, potrebbe essere ‘Dio, patria e tecnologia’. È qualcosa che ci interessa nella misura in cui finisce con l’interferire nelle nostre attività quotidiane.

Dietro al ban americano a Tik Tok, infatti, c’è questa potentissima lobby.

FONTI  
La cronaca di Caroline Haskins sul Guardian che racconta della giornata all’AI Expo for National Competitiveness https://www.theguardian.com/technology/article/2024/may/17/ai-weapons-palantir-war-technology?s=03  

L’articolo di Washington Post sui tecno-nazionalisti https://www.washingtonpost.com/technology/2024/05/01/big-tech-tiktok-ban-hill-valley-forum/?utm_campaign=wp_the_technology_202&utm_medium=email&utm_source=newsletter&wpisrc=nl_technology202  

Il parere di Meredith Whittaker su Tik Tok https://lpeproject.org/blog/social-media-authoritarianism-and-the-world-as-it-is/  

Il caso Axon e le polemiche sollevate https://techcrunch.com/2024/05/02/microsoft-bans-u-s-police-departments-azure-openai-facial-recognition/  

Le analisi di PitchBook https://pitchbook.com/news/reports/2023-vertical-snapshot-defense-tech

SINOSSI

Cosa succede se pensiamo di acquistare oggetti all’apparenza innocui e invece diamo il permesso alle aziende di leggere negli spazi più reconditi della nostra identità?

Succede da tempo e non ce ne siamo accorti. In questo nuovo episodio esploro il mercato dei device per il potenziamento cognitivo, venduti anche in Italia, e affronto la questione dei neurodiritti, sfida cui le agende politiche internazionali hanno già messo mano per provare a regolare i potenziali abusi.

FONTI

La crescita degli investimenti nel settore neurotech secondo Neurotech Analytics INVESTMENT DIGEST 2021 Q4 | Neurotech  

Il caso EnterTech e la fascia FlowTime nell’articolo di The Guardian https://www.theguardian.com/commentisfree/2023/mar/25/tiktok-china-cognitive-warfare-us-ban  

Il sito di FlowTime https://www.meetflowtime.com/  

Il brevetto di Apple Patently Apple  

I prodotti Cognifit per il potenziamento cognitivo dei lavoratori https://www.cognifit.com/it/employee-wellbeing  

La risoluzione ONU sui neurodiritti https://documents.un.org/doc/undoc/gen/g22/525/01/pdf/g2252501.pdf?token=DLSmBCayewVSpIJt88&fe=true

Quattro fatti scollegati tra loro eppure uniti da un filo rosso: le proposte commerciali delle aziende che vendono soluzioni avanzate di IA tendono sempre più a cancellare la dimensione umana del lavoro, che resta una componente fondamentale del processo produttivo a livello informatico. Vale anche per la robotizzazione, nel cui mercato si stanno facendo avanti slogan in cui si lascia dedurre che esistano attività non ‘degne’ di essere svolte dagli esseri umani.  

FONTI
L’inchiesta di The Information su Amazon Go 
https://www.theinformation.com/articles/amazons-grocery-stores-to-drop-just-walk-out-checkout-tech  

Le dichiarazioni di Roberto Selva, Responsabile Marketing di Esselunga https://milano.repubblica.it/cronaca/2024/03/20/news/esselunga_lab_mind_spesa_del_futuro_robot_insalate-422342827/  

L’offerta commerciale di Hoptix https://www.hoptix.ai/  

Il sito di Turkopticon https://blog.turkopticon.net/?p=3048

L’AI Act, il regolamento europeo sull’intelligenza artificiale, ambisce a diventare una pietra miliare nella tutela della società civile, per difenderla dai potenziali danni perpetrabili attraverso un uso distorto degli algoritmi.

Le aspettative sono però messe a dura prova dalla complessità dell’impianto regolatorio, che rischia di annacquarsi nelle decine di atti secondari necessari per la sua attuazione e che lascia le porte aperte ad applicazioni potenzialmente rischiose.   

FONTI
Le Monde su AI Act https://www.lemonde.fr/en/european-union/article/2024/03/13/european-parliament-adopts-historic-ai-act_6615022_156.html  

Der Spiegel su AI Act https://www.spiegel.de/netzwelt/netzpolitik/eu-parlament-stimmt-fuer-umfassendes-ki-gesetz-a-1b91bf5e-4adf-4532-bafc-2fed2d068b20  

CNBC su AI Act https://www.cnbc.com/2024/03/13/european-lawmakers-endorse-worlds-first-major-act-to-regulate-ai.html  

I chatbot rimossi per consigli dannosi  https://www.psychiatrist.com/news/neda-suspends-ai-chatbot-for-giving-harmful-eating-disorder-advice/  

Uno studio che smentisce i presupposti scientifici del progetto europeo IBorderCtrl Full article: The politics of deceptive borders: ‘biomarkers of deceit’ and the case of iBorderCtrl (tandfonline.com)  

Il documento di denuncia di Access Now https://www.accessnow.org/press-release/joint-statement-ai-act-fails-migrants-and-people-on-the-move/?s=03

Barzellette spinte, risposte offensive, ma anche offerte commerciali inventate e persino truffe a danno dei clienti. I chatbot non possono essere – ancora –considerati strumenti di interazione sicuri al 100%: affidarvisi con troppa approssimazione può essere rischioso a più livelli.

Il caso di Air Canada, raccontato in questo episodio, offre uno spunto per una carrellata sui passi falsi da evitare quando si decide di adottare un sistema di intelligenza artificiale generativa per automatizzare le relazioni esterne dell’azienda.

FONTI
La sentenza su Air Canada emessa il 14 febbraio 2024 https://www.canlii.org/en/bc/bccrt/doc/2024/2024bccrt149/2024bccrt149.html

La vicenda raccontata dai media internazionali https://www.cbc.ca/news/canada/british-columbia/air-canada-chatbot-lawsuit-1.7116416

Lo studio sugli effetti antropomorfici dei chatbot Blame the Bot: Anthropomorphism and Anger in Customer–Chatbot Interactions - Cammy Crolic, Felipe Thomaz, Rhonda Hadi, Andrew T. Stephen, 2022 (sagepub.com)

La pagina informativa di Google per i servizi di Gemini https://support.google.com/gemini/answer/13594961?hl=en#collected_data&zippy=%2Cwhat-data-is-collected-how-is-it-used%2Cwhy-is-human-review-of-my-gemini-apps-conversations-feedback-and-related-data-required%2Cdo-you-use-my-gemini-apps-conversations-to-show-me-ads%2Cwho-has-access-to-my-gemini-apps-conversations

L’indagine Gartner sull’adesione dei clienti ai servizi chatbot https://www.gartner.com/en/newsroom/press-releases/2023-06-15-gartner-survey-reveals-only-8-percent-of-customers-used-a-chatbot-during-their-most-recent-customer-service-interaction#:~:text=June%2015%2C%202023%20%E2%80%94%20Only%208,chatbot%20again%20in%20the%20future.

SINOSSI
Nelle ultime settimane è esplosa l’attenzione sui danni sociali, personali e finanziari dei deep fake, con il caso Taylor Swift e la truffa di Hong Kong. Mentre i rischi dei deep fake restano totalmente a carico dei cittadini, degli utenti e della società, la responsabilità ultima resta in capo alle aziende, che per ragioni economiche hanno immesso sul mercato soluzioni sprovviste di un paracadute tecnologico, pur essendo consapevoli degli effetti nefasti che avrebbero comportato.
Oggi provano a correre ai ripari, insieme ai legislatori.

FONTI
L’indagine su Only Fake https://www.404media.co/inside-the-underground-site-where-ai-neural-networks-churns-out-fake-ids-onlyfake/

La proposta di regolamentazione contro i deep fake avanzata dalla Commissione Europea https://ec.europa.eu/commission/presscorner/detail/en/ip_24_631?utm_source=www.thedeepview.co&utm_medium=newsletter&utm_campaign=deepfake-phone-calls

Il Defiance Act proposto al Senato U.S.A. https://www.judiciary.senate.gov/press/releases/durbin-graham-klobuchar-hawley-introduce-defiance-act-to-hold-accountable-those-responsible-for-the-proliferation-of-nonconsensual-sexually-explicit-deepfake-images-and-videos

Le dichiarazioni di Margaret Mitchell https://www.popsugar.co.uk/tech/ai-deepfakes-taylor-swift-sexual-harassment-49334338?utm_medium=redirect&utm_campaign=US%3AIT&utm_source=t.co&s=03 L’articolo del Washington Post https://www.washingtonpost.com/politics/2024/02/07/metas-new-ai-labels-wont-solve-taylor-swift-problem/

Le Olimpiadi della sorveglianza stanno per iniziare, e non solo a Parigi.

Mentre la Francia vara una legge speciale per avviare la più grande sperimentazione europea di polizia predittiva, le associazioni per i diritti civili e alcuni eurodeputati lanciano un allarme.

La nuova versione dell’AI Act allargherebbe a dismisura le eccezioni per l’uso di tecnologie intelligenti ai fini di sicurezza pubblica.

Nel frattempo, lo stesso sistema francese potrebbe essere in potenziale contraddizione con i principi cui si dovrebbe ispirare il regolamento europeo sull’intelligenza artificiale.

FONTI
La legge speciale approvata in Francia https://www.legifrance.gouv.fr/jorf/id/JORFTEXT000047561974
La dichiarazione di Amnesty International https://www.amnesty.org/en/latest/news/2023/03/france-intrusive-olympics-surveillance-technologies-could-usher-in-a-dystopian-future/

La lettera aperta di 38 associazioni per i diritti civili https://www.lemonde.fr/idees/article/2023/03/06/les-mesures-de-videosurveillance-algorithmique-introduites-par-la-loi-jo-2024-sont-contraires-au-droit-international_6164276_3232.html#xtor=AL-32280270-%255Bdefault%255D-%255Bios%255D

La re-identificazione dei pedoni attraverso l’andatura https://ieeexplore.ieee.org/document/10266347 Il caso Rite Aid https://www.reuters.com/investigates/special-report/usa-riteaid-software/

L’allarme per AI Act rilanciato da Politico https://www.politico.eu/article/eu-ai-facial-recognition-tech-act-late-tweaks-attack-civil-rights-key-lawmaker-hahn-warns/?s=03