AI Denmark

Værktøjer som ChatGPT, Copilot og Gemini kan være fristende at bruge – men man skal have styr på sin sikkerhed – ligesom med alle andre it-løsninger.

Og især i firmaer og organisationer bør LLM-sikkerhed afgjort være på dagsordenen. Det gælder både vurdering af selve modellerne man bruger, udefrakommende manipulation af prompts, hvilke firmadata man risikerer at lække til modellerne, hvilke resultater man får og hvad man bruger dem til.

Jeg har haft besøg i studiet af Zaruhi Aslanyan, som er sikkerhedsarkitekt på Alexandra Instituttet og Michael Rømer Bennike, der er senior sikkerhedsarkitekt samme sted, for at høre mere om udfordringerne og hvad man kan gøre.

Desværre er der – ligesom med al anden it-sikkerhed – ikke nogle nemme løsninger...

Lyt med 🤖

LINKS

NYHEDER

• The Verge prøver AI-assistenten Rabbit R1
• Metas nye Llama 3
• Kafferistning med AI
• 🎧 BKI-episode fra 2022
• Lavender – Israels AI-våben
• SciAm om "Lethal Autonomous Weapons"
• AI-film på vej
• Skattealgoritmer mørklagt
• Overtræder ChatGPT GDPR?
• FT leverer træningsdata til OpenAI

LLM-SIKKERHED

• Michael Rømer Bennike
• Zaruhi Aslanyan
• Alexandra Instituttet
• "LLM-sikkerhed for dummies" – med de 10 største risici ved LLM'er
• Wired: Hold dine data ude af træningsmaterialet

Det er knap halvandet år siden ChatGPT blev lanceret, og bølgen af AI er skyllet ind over mange brancher – inklusive journalistikken, hvor både researchere, journalister, podcastere, redaktører, grafikere, fotografer og andre på godt og ondt har oplevet at generativ AI er blevet en del af hverdagen.

Men måske er vi alligevel ikke kommet særlig langt? Måske er vi stadig der hvor vi bruger teknologien til at gøre som vi plejer, bare hurtigere, i stedet for for at prøve helt nye og anderledes ting af? Eller måske rettere; at vi spørger hvordan vi kan bruge AI til at løse journalistikkens kerneopgave på en bedre måde?

Jeg har besøg af journalist, redaktør og SDU fellow Ida Ebbensgaard og af adjunkt Peder Hammerskov fra journalistuddannelsen på DJMX, som kom i studiet direkte fra Nordic AI in Media Summit 2024.

Derudover har vi som sædvanlig et par korte nyheder fra AI-land – denne gang blandt andet om spillelister i Spotify og endnu en satsning fra OpenAI-direktør Sam Altman.

LINKS

NYHEDER

• Spotify lancerer (begrænset) test af AI-skabte spillelister
• Sam Altman og Jony Ive jagter penge til AI-hardware
• Silo AI lancerer nordiske sprog i Viking-modellerne

AI OG JOURNALISTIK

• Ida Ebbensgaard, SDU fellow
• Peder Hammerskov, DJMX
• Nordic AI in Media 2024
• Alle præsentationerne fra NAMS 2024
• Financial Times afprøver chatbotten "Ask FT"
• Newsquest har syv AI-assisterede reporter
• Grønlandsk-dansk oversættelsesværktøjer hos Sermitsiaq
• Sermitsiaq – nyheder i Grønland
• Rune Ytreberg - nyheder fra Tromsø
• [Podimo afprøver AI-støttet søgning og 'discovery'](https://podimo.com/en/newsroom/podimo-tests-new-ai-feature-conversational-interface-to-aid-in-podcast-discovery
• Rapport og undersøgelse fra AP: "Generative AI in Journalism"

I denne episode skal det handle om vejret og selvfølgelig om hvordan machine learning og AI kan hjælpe med at lave vejrudsigter og prognoser.

Google, Nvidia og Huawei har alle præsenteret AI-vejrmodeller som metodisk gør helt op med de kendte vejrmodeller, som typisk baserer sig på simulationer af atmosfæren og matematiske ligninger.

Vi har besøg af seniorforsker Leif Denby fra DMI, hvor man også er gået igang med at undersøge hvordan AI-metoderne kan bruges til at supplere de "gammeldaws" modeller.

Derudover er der også kort nyt fra AI-land, denne gang blandt andet om den lille karibiske nation, hvis top-level domæne ender på .ai

Lyt med 🤖

LINKS
NYHEDER

• Frankrig udstikker bøde på 250 millioner Euro til Google
• Vil BBC sælge tv-arkiver til AI-træning?
• Anguilla tjener kassen på domænet .ai
• OpenAI præsenterer stemmeklonmodel

AI OG VEJR

• Leif Denby
• Leif: Google-AI imponerer med præcision og hastighed i prognoser
• ECMWF sammenligner forskellige AI-modeller og traditionelle modeller
• Vejrdata og -udsigter
• Scientific American – kan AI erstatte de traditionelle modeller?

Der er næppe tvivl om at brugen af kunstig intelligens bringer mange problemer med sig. Det som virker smart på whiteboardet kan hurtigt blive ramt af både tekniske, juridiske og etiske bomber under systemet.

Der bliver talt meget om hvordan vi skal gøre AI mere gennemskueligt, og hvordan vi skal sikre os at de svar algoritmerne giver er korrekte. Og det er ambitioner som det er svært at være uenige med.

Men hvordan kan man vurdere AI-løsningerne, og forsøge at sikre sig, at de så godt som muligt overholder både etiske principper og gældende lovgivning?

Det er spørgsmålet som Per Rådberg Nagbøl fra ITU har forsøgt at besvare med værktøjet XRAI, som er udviklet i samarbejde med Erhvervsstyrelsen

XRAI opdeler udvikling, evaluering og tilpasning af AI-systemer i fire faser, med masser af tjeklister og kontrolpunkter – i håbet om at kunne hjælpe både offentlige institutioner og private virksomheder, der arbejder med AI.

Derudover er der også AI Siden Sidst – med historier om både industrispionage, AI Act og nye Nvidia-chips.

Lyt med 🤖

LINKS

NYHEDER

• Endelig vedtagelse af AI Act
• Google begrænser adgang til valg-info på Gemini (først i Indien...)
• Kinesisk Google-ansat beskyldt for at stjæle hemmeligheder om AI Tensor-chips
• AI-supercomputer fra Novo Nordisk og Nvidia
• Nvidia præsenterer ny AI-chip

EMNE

• Per Rådberg Nagbøl, ITU
• Carsten Ingerslev, Erhvervsstyrelsen
• Artikel på Videnskab.dk om XRAI
• Per Nagbøls afhandling om XRAI

I denne episode ser vi nærmere på deepfakes og ikke mindst på de juridiske aspekter af fænomenet – fra personlighedsret til de strafferetlige forhold.

Deepfakes er en teknologi, der bruger kunstig intelligens til at skabe overbevisende billeder, lyd og video, hvor en persons ansigt eller stemme bliver erstattet med en andens. Afhængig af omstændighederne kan det faktisk give indhold, der er fuldstændig kunstigt fabrikeret, men ser helt ægte ud.

Deepfakes kan misbruges på mange måder – til politisk propaganda, phishing-angreb og fake news, men det er måske også på sin plads at nævne, at de 'syntetiske medier' også sagtens kan anvendes i mere positive sammenhænge.

Det er ikke umiddelbart åbenlyst hvad man kan gøre for at begrænse de negative konsekvenser af deepfakes, udover at retsforfølge de tilfælde hvor teknologien bliver misbrugt og overtræder gældende lov.

Det fortæller advokat Jakob Plesner Mathiasen fra Gorrissen Federspiel, som især beskæftiger sig med det man kalder entertainment-ret.

Lyt med 🤖

LINKS

NYHEDER

• Rapport om techgiganter og AI
• Mistrals og Microsoft indgår partnerskab – men EU løfter pegefingeren
• Elon Musk lægger sag an mod OpenAI

DEEPFAKES

• Jakob Plesner Mathiasen - Gorrissen Federspiel
• HeyGen til avatarer
• ElevenLabs laver stemmekloner
• Kan techgiganterne også hjælpe i kampen mod deepfakes?
• Han skulle nok ikke have deepfaket Joe Biden
• Sora – OpenAIs nye videoværktøj

I denne episode ser vi nærmere på brugen af AI i advokatbranchen.

I juni sidste år fik den amerikanske advokat Steven Schwartz ørerne i maskinen, da det viste sig at han havde fået hjælp af ChatGPT i forberedelsen til en af sine sager.

Flere af de retssager som ChatGPT fandt frem til Steven Schwartz og hans hold var det pure opspind. ChatGPT havde ganske enkelt hallucineret dem frem. Ups.

Men derfor kan der jo sagtens være andre måder at bruge AI på i hverdagen, også hvis man er advokat eller arbejder i et advokatfirma. Og der er næppe tvivl om, at vi med de nyeste AI-modeller har fået værktøjer som sagtens kan tackle mange af advokaternes opgaver.

Jeg har besøgt Marlene Winther Plas og Sarah Paustian Sander i DLA Piper for at høre mere om hvordan advokater bruger AI i hverdagen – og ikke mindst hvor man måske skal være mere varsom...

Lyt med 🤖

LINKS

NYHEDER

• Meta vil have vandmærker i alle AI-billeder på Facebook, Instagram og Threads
• OpenAI indfører vandmærker i DALL-E
• Det er godt at techgiganter arbejder med vandmærker...
• ...men forskere viser, at de nemt kan omgås
• Microsoft og OpenAI siger at hackere bruger ChatGPT i deres angreb
• Mozilla: AI-"venner" stjæler dine data
• ChatGPT – nu med mere hukommelse, på godt og ondt...

AI OG JURA

• 10 råd til dit arbejde med ChatGPT og anden generativ AI | Jurainfo
• Artikel: Hvis du vil dybere i hvor godt ChatGPT klarer sig indenfor jura
• AI i DLA Piper
• Marlene Winther Plas
• Sarah Paustian Sander

Femtech er teknologi – gadgets, apps og tjenester – der er målrettet kvinder. Det kan være små devices der kan hjælpe med at forudsige at der er en hedetur på vej, apps som kan lave analyser af hvornår brugeren har ægløsning, eller "bare" almindelige tjenester som handler om at tracke sundhed og aktivitet, men som har særlig fokus på kvinders fysiologi og behov.

Og naturligvis kan AI også spille en stor rolle her – selvom det ligesom i alle andre sammenhænge kræver at man er bevidst om beskyttelsen af private data, problemer med bias, manglende transparens og de andre udfordringer ved anvendelsen af AI.

Jeg har haft besøg i studiet af Vanessa Carpenter, der blandt andet har arbejdet med forskning i produkter og tjenester i kategorien femtech.

Derudover er der som sædvanlig også korte AI-nyheder, denne gang blandt andet om deepfakes og hvordan spædbørn lærer sprog.

Lyt med 🤖

LINKS

NYHEDER

AI-deepfakes af Taylor Swift kommer fra 4chan - The New York Times

Sag mod George Carlin - deepfake comedy – WIRED

Kamera på baby kan måske lære AI nye måder at tilegne sig sprog

Sag mod OpenAI i Italien - BBC News

Billed-generator i Google Bard (men ikke i EU...) – TechRadar

AndersGPT

Arc Search på iPhone

FEMTECH

Vanessa Carpenter på LinkedIn

Vanessa er ny medredaktør på Techtruster.dk

Artikel om tracking af hjertefunktion hos kvinder – Techtruster

AVA cyklus-tracking

ThermaBand hjælper i overgangsalderen

Artikel om privatliv og sikkerhed i femtech

BMC Medical Ethics-artikel om privatliv, AI og femtech

Base med AI-og-femtech-virksomheder

Caroline Criado Perez: "Invisible Women" – hvis du vil grave dybere i udfordringen

Leslie Laurence, Beth Weinhouse: "Outrageous Practices: How Gender Bias Threatens Women's Health"

Som mange nok husker, så var der i starten af december sidste år temmelig meget tovtrækkeri i de sidste forhandlinger om den såkaldte AI Act, altså den europæiske forordning om kunstig intelligens.

Hele 37 timer skulle parterne sidde omkring bordet, helt op til deadline – og lidt over – før de blev enige, blandt andet om hvordan man overhovedet skal definere AI.

AI Act er blevet beskrevet som en regulering der tager udgangspunkt i beskyttelse af EUs borgere, og det er der naturligvis mange som er glade for – men ikke alle. AI Act er også blevet kritiseret for at lægge for store begrænsninger og administrative byrder på virksomheder, og kritikerne siger at det vil hæmme innovationen i Europa.

I denne episode dykker vi ned i EUs AI Act, som nu meget snart blandt andet kommer til at betyde, at alle tjenester, værktøjer eller produkter som bruger kunstig intelligens skal klassificeres for hvilket niveau af risiko løsningen har for brugerne

Vi har talt med professor Rebecca Adler-Nissen fra Institut for Statskundskab på Københavns Universitet om hendes vurdering af forordningen, balancen mellem regulering og forretning, og hvordan den kommer til at beskytte EUs borgere

Derudover er der som sædvanlig korte AI-nyheder fra nær og fjern – denne gang blandt andet om kaniner og Kina.

Lyt med! 🤖

LINKS

NYHEDER

Rabbit r1 – din nye håndholdte AI-assistent?

Samsungs S24-serie er propfuld af AI

Har det kinesiske militær virkelig særadgang til Baidus Ernie Bot?

Zuckerberg og Meta vil bygge generel kunstig intelligens

OM AI ACT

Nyhed fra Parlamentet efter de afsluttende forhandlinger

Spørgsmål og svar om AI Act (fra Kommissionen)

Den oprindelige tekst fra EUR-Lex

De store AI-modeller er trænet på helt kolossale mængder af data. Og modeller som fx Stable Audio, der kan lave AI-genereret musik, er trænet på tusinder og atter tusinder af sange, symfonier, tekster og andet input, og det er dét materiale som er råstof til de tekster eller musikstykker, som modellerne spytter ud.

Men det er ikke helt ligetil at finde ud af hvilke sange der er del af træningsmaterialet, eller hvordan sangskriverne (måske) skal kompenseres, hvis deres værker er blevet brugt i de store AI-modeller.

Som et nedslag i dén problematik har jeg inviteret Nicolai Franck fra KODA i studiet til en snak om sangskrivere, træningsdata, generativ AI og ikke mindst om penge og ophavsret.

LINKS

NYHEDER

"AI" i fastfood-drivethrough

114 millioner km i selvkørende biler

CyberRunner labyrint-kuglespil video

Apple vil lave AI 'on device'

New York Times sagsøger OpenAI og Microsoft

MUSIK OG AI

KODA

Nicolai Franck – tech scout i KODA

Ed Newton-Rex stopper i Stability AI

AI allevegne i musikbranchen

Kulturministeren vil reformere ophavsret i AI-alderen

Hvorfor AI-firmaer ikke vil betale for brug af træningsdata?

I denne episode af AI Denmark ser vi tilbage på 2023 – året hvor både sprogmodeller, AI-regulering og dystopiske fremtidsvisioner for alvor blev mainstream.

Det bliver dog langtfra en altomfattende eller udtømmende gennemgang – til gengæld bliver det forhåbentlig afvekslende. Det har i hvert fald for mig været både informativt, hyggeligt og ikke mindst overraskende at tage sådan en lyntur gennem 2023, for det *er* virkelig vildt hvad der er sket på bare ét år.

Men for at skabe bare en lille smule overblik og ikke bare slavisk gennemgå 2023 måned for måned, så har jeg lavet en håndfuld kategorier, og fundet nogle af de vigtigste, sjoveste eller mest interessante historier fra hver kategori.

 Kategorierne er:
- techgiganter og big business
- produkter og tjenester
- kreative outputs
- kunstig intelligens i Danmark
- regulering og jura
- hype og dystopi

Velkommen til en tur med snapshots fra Mindernes Allé.

Tak for i år – og jeg håber vi høres ved igen i AI-året 2024 🤖