December 19, 2023

Gætter store sprogmodeller dine dybeste hemmeligheder?

30 minutes

Ny forskning afslører, at generative chatbots som ChatGPT kan udlede en masse følsomme oplysninger om os, selv ud fra fuldstændig hverdagsagtige samtaler.

På baggrund af hvad der kan virke som ‘uskyldige’ informationer, kan de f.eks. gætte hvor vi bor og hvad vi arbejder med. Og de kan gøre det langt hurtigere end mennesker. Den viden som kan sammenstykkes om os, kan måske indvarsle en ny æra af annoncering, hvor virksomheder bruger information indsamlet fra chatbots til at opbygge detaljerede profiler af brugere.

Hvordan kan det overhovedet lade sig gøre at sammenstykke så privat information om os?

Og findes der noget forsvar mod denne invasive snushane, så vi kan beskytte vores privatliv?

Podcasten ’Blinde Vinkler’ er produceret af Ingeniørforeningen IDA og IT-Branchen og udviklet i samarbejde med Tina Ryoon Andersen og Rune Fick Hansen. Den er tilrettelagt, redigeret og beværtet af Marie Høst.

Gæst

Sune Lehman, professor i netværks- og kompleksitetsvidenskab ved DTU Compute og professor i Social Data Science ved Københavns Universitet.

Links

Forskningsartikel:Beyond Memorization: Violating Privacy Via Inference with Large Language Models

https://llm-privacy.org/

https://arxiv.org/abs/2310.07298v1

21 Lessons for the 21st Century by Yuval Noah Harari | Yuval on Data

https://www.youtube.com/watch?v=wmxEYWEGYOI&t=144s

Wired: AI Chatbots Can Guess Your Personal Information From What You Type

https://www.wired.com/story/ai-chatbots-can-guess-your-personal-information/

Race to intimacy: How AI threatens global culture, Dr Waku

https://www.youtube.com/watch?v=ANUz53doMWw&t=15s

...more

View all episodes

By IT-Branchen & PROSA