Um das neue OpenAI-Programm Q* eskalieren die Gerüchte. Ist es wirklich ein Schritt in Richtung "AGI” — also einer Art Super-Intelligenz? Marie und Gregor drücken beim Hype etwas auf die Bremse, stellen aber auch die Frage: Wie funktioniert eigentlich eine KI wie ChatGPT? Und könnte daraus wirklich eine Super-KI werden?

Über die Hosts: 
Gregor Schmalzried ist freier Tech-Journalist und Berater, er arbeitet u.a. für den Bayerischen Rundfunk und Brand Eins.
Marie Kilg ist freie Journalistin und Innovationsmanagerin im Deutsche Welle Lab. Zuvor war sie Produkt-Managerin bei Amazon Alexa.

In dieser Folge:
1:00 OpenAI, Sam Altman und Q*
4:00 Wie funktioniert eine KI wie ChatGPT?
9:50 Warum jagen alle nach AGI?
21:20 Ist Q* AGI?
25:25 Was machen wir mit KI gemacht?

Links:

Attention is all you need — Das Paper hinter dem Transformer
https://arxiv.org/abs/1706.03762 

MIT Technology Review über Q*
https://www.technologyreview.com/2023/11/27/1083886/unpacking-the-hype-around-openais-rumored-new-q-model/ 

Reuters über Q*
https://www.reuters.com/technology/sam-altmans-ouster-openai-was-precipitated-by-letter-board-about-ai-breakthrough-2023-11-22/ 

AlphaGo
https://de.wikipedia.org/wiki/AlphaGo 

Mia Insomnia
https://1.ard.de/team-miainsomnia2 

Redaktion und Mitarbeit:
David Beck, Cristina Cletiu, Chris Eckardt, Fritz Espenlaub, Marie Kilg, Mark Kleber, Hendrik Loven, Gudrun Riedl, Christian Schiffer, Gregor Schmalzried

Kontakt:
Wir freuen uns über Fragen und Kommentare an podcast@br.de.

Unterstützt uns:
Wenn euch dieser Podcast gefällt, freuen wir uns über eine Bewertung auf eurer liebsten Podcast-Plattform. Abonniert den KI-Podcast in der ARD Audiothek oder wo immer ihr eure Podcasts hört, um keine Episode zu verpassen. Und empfehlt uns gerne weiter!

Wie wird aus einer KI eine Super-KI?

Künstliche Intelligenz ist kein Zukunftsthema mehr – KI prägt unsere Gegenwart. Künstlich generierte Texte, Bilder und Stimmen sind überall ... und werden wöchentlich besser. Welche Auswirkungen bringt die KI in Arbeitswelt, Bildung und Gesellschaft mit sich? Wie kann man künstliche Intelligenz selbst im Alltag nutzen? Und was passiert, wenn jeder Inhalt im Internet auch ein KI-Fake sein könnte? Gregor Schmalzried, Marie Kilg und Fritz Espenlaub stellen sich jeden Dienstag den großen und kleinen Fragen der KI-Revolution – und trennen die Fakten vom Hype. Ein ARD-Podcast von BR24 und SWR.

Science

Manche halten es für das größte Risiko der Menschheit: Eine künstliche Super-Intelligenz, die außer Kontrolle gerät und die Menschheit ausrottet. Aber ist wirklich etwas dran an diesem düsteren Szenario?
 
Über die Hosts:
Gregor Schmalzried ist freier Tech-Journalist und Berater, er arbeitet u.a. für den Bayerischen Rundfunk und Brand Eins.
Marie Kilg ist freie Journalistin und Innovationsmanagerin im Deutsche Welle Lab. Zuvor war sie Produkt-Managerin bei Amazon Alexa. 
 
In dieser Folge:
0:00 Intro
2:30 Die Angst vor dem Paperplic Maximizer
9:10 Was ist "Alignment”?
15:30 Woher kommt die Angst vor der Super-KI?
21:40 Echte Gefahr oder Spinnerei?
28:00 Was haben wir mit KI gemacht?
 
Redaktion und Mitarbeit:
David Beck, Cristina Cletiu, Chris Eckardt, Fritz Espenlaub, Marie Kilg, Mark Kleber, Gudrun Riedl, Christian Schiffer, Gregor Schmalzried
 
Links und Quellen:
 
Asimov und die Robotergesetze
https://www.deutschlandfunkkultur.de/100-geburtstag-von-isaac-asimov-als-der-erste-moralkodex-100.html 
 
Stephen Hawking über die Gefahr durch eine Super-KI (2014)
https://www.bbc.com/news/technology-30290540 
 
"Effective Altruism” und die Angst vor der Super-KI
https://www.truthdig.com/articles/the-acronym-behind-our-wildest-ai-dreams-and-nightmares/ 
 
Alte Geschichten und Ängste:
https://www.cbc.ca/radio/tapestry/fear-of-ai-1.7012912
 
Der KI-Podcast bei der TINCON Berlin 2024
https://tincon.org/event/berlin24/takeover-eine-ki-ubernimmt-den-ki-podcast

Open AI veröffentlicht neues Modell GPT-4o 
https://www.theverge.com/2024/5/13/24155493/openai-gpt-4o-launching-free-for-all-chatgpt-users
 
27 — Der Podcast zur Europawahl
https://1.ard.de/27-podcast?cp=ki  
 
Kontakt:
Wir freuen uns über Fragen und Kommentare an podcast@br.de.
 
Unterstützt uns:
Wenn euch dieser Podcast gefällt, freuen wir uns über eine Bewertung auf eurer liebsten Podcast-Plattform. Abonniert den KI-Podcast in der ARD Audiothek oder wo immer ihr eure Podcasts hört, um keine Episode zu verpassen. Und empfehlt uns gerne weiter!

AI Alignment: Könnte eine KI uns alle umbringen?

Jeder, der schon mal mit KI-Sprachmodellen zu tun hatte, kennt es: man will eine bestimmte Antwort vom Chatbot - doch der weigert sich hartnäckig, diese zu geben. Es gibt aber Tricks, um LLMs und andere GenAI-Modelle gefügig zu machen: sogenannte Pompt Hacks, Jailbreaks oder Prompt Injections. Wir erklären, was hinter diesen Begriffen steckt, wie diese Methoden funktionieren und wir fragen: Ist es gut oder schlecht, wenn KI-Modelle nicht alle Fragen beantworten, die wir ihnen stellen?

In dieser Folge:
00:00 Intro
02:38 Was sind Prompt Hacks und wie funktionieren sie?
13:30 Wie Marie einen Chatbot dazu brachte, ihr 3000 Proteinriegel zu versprechen
19:47 Fritz und DeepSeek: Wer bestimmt, was KI-Modelle sagen? 
30:10 Sollen Chatbots immer auf alle Fragen Antworten geben?
34:32 Was haben wir diese Woche mit KI gemacht?

Redaktion und Mitarbeit:
David Beck, Cristina Cletiu, Chris Eckardt, Fritz Espenlaub, Marie Kilg, Mark Kleber, Gudrun Riedl, Christian Schiffer, Gregor Schmalzried
 
Links und Quellen:
- Chevrolet of Watsonwille verkauft Chevy Tahoe für $1 https://www.theautopian.com/chevy-dealers-ai-chatbot-allegedly-recommended-fords-gave-free-access-to-chatgpt/
- Findet man in LLMs gefährlichere Informationen zu Biowaffen als in Google? https://www.rand.org/pubs/research_reports/RRA2977-2.html
- Der chinesische Chatbot DeepSeek und das Tiananmen-Massaker: https://www.linkedin.com/posts/peter-gostev_it-took-some-effort-but-i-managed-to-get-activity-7152042996635521024-2hBZ/
- KI macht Job-Interviews: https://www.micro1.ai/gpt-vetting
- Airline haftet für Fehler ihres Chatbots: https://www.theguardian.com/world/2024/feb/16/air-canada-chatbot-lawsuit
- Maries Theaterstück: Anna und Eve in der Neuköllner Oper https://www.neukoellneroper.de/performance/anna-eve/
- Was steckt hinter dem mysteriösen neuen Chatbot GPT2? https://news.ycombinator.com/item?id=40199715
https://arstechnica.com/information-technology/2024/04/rumors-swirl-about-mystery-gpt2-chatbot-that-some-think-is-gpt-5-in-disguise/

Kontakt:
Wir freuen uns über Fragen und Kommentare an podcast@br.de.
 
Unterstützt uns:
Wenn euch dieser Podcast gefällt, freuen wir uns über eine Bewertung auf eurer liebsten Podcast-Plattform. Abonniert den KI-Podcast in der ARD Audiothek oder wo immer ihr eure Podcasts hört, um keine Episode zu verpassen. Und empfehlt uns gerne weiter!

Wie knacke ich die KI?

KI-Modelle, die Tierarten erkennen, Proteine berechnen oder einfach nur Forschern Arbeit abnehmen. Die KI-Revolution kommt mit jeder Menge Potential für Forschung und Wissenschaft - und großen Träumen von der Zukunft. Ist das wirklich gerechtfertigt?  
 
Über die Hosts:
Gregor Schmalzried ist freier Tech-Journalist und Berater, er arbeitet u.a. für den Bayerischen Rundfunk und Brand Eins.
Fritz Espenlaub ist freier Journalist und Moderator beim Bayerischen Rundfunk und 1E9 mit Fokus auf Technologie und Wirtschaft.
 
In dieser Folge:
0:00 Das "delve”-Problem
3:40 KI als Forschungsassistent
10:10 KI im Regenwald
12:10 KI als Forschungsbeschleuniger
16:20 KI in der Zukunft
22:20 Was haben wir mit KI gemacht? Termin-Files, rabbit r1 und der Humane AI Pin
 
Redaktion und Mitarbeit:
David Beck, Cristina Cletiu, Chris Eckardt, Fritz Espenlaub, Marie Kilg, Mark Kleber, Gudrun Riedl, Christian Schiffer, Gregor Schmalzried
 
Links und Quellen:
 
Untersuchung zu KI-Begriffen in wissenschaftlichen Texten 
https://arxiv.org/abs/2403.07183
 
Universität Jena-Projekt zu GPT-3 und chemischem Wissenstransfer
https://www.uni-jena.de/240207-gpt-chemie
 
Universität Würzburg-Projekt zu KI im Regenwald
https://www.uni-wuerzburg.de/aktuelles/pressemitteilungen/single/news/ki-biodiversitaet-regenwald/ 
 
AlphaFold
https://www.science.org/content/article/google-s-deepmind-aces-protein-folding 
 
Neue Antibiotika - dank KI
https://wyss.harvard.edu/news/using-ai-researchers-identify-a-new-class-of-antibiotic-candidates/ 
 
CRISPR und KI
https://www.nytimes.com/2024/04/22/technology/generative-ai-gene-editing-crispr.html 
 
Sam Altman im Atlantic
https://www.theatlantic.com/magazine/archive/2023/09/sam-altman-openai-chatgpt-gpt-4/674764/ 
 
Kontakt:
Wir freuen uns über Fragen und Kommentare an podcast@br.de.
 
Unterstützt uns:
Wenn euch dieser Podcast gefällt, freuen wir uns über eine Bewertung auf eurer liebsten Podcast-Plattform. Abonniert den KI-Podcast in der ARD Audiothek oder wo immer ihr eure Podcasts hört, um keine Episode zu verpassen. Und empfehlt uns gerne weiter!

Wie bringt KI die Forschung voran?

KI-Sprachmodelle sind sehr nützlich, um sich neues Wissen anzueignen - doch es gibt auch Tücken. Fritz und Gregor zeigen anhand praktischer Beispiele und hilfreicher Tricks, worauf es beim Recherchieren mit KI ankommt und auf was man achten sollte.

Über die Hosts:
Gregor Schmalzried ist freier Tech-Journalist und Berater, er arbeitet u.a. für den Bayerischen Rundfunk und Brand Eins.
Fritz Espenlaub ist freier Journalist und Moderator beim Bayerischen Rundfunk und 1E9 mit Fokus auf Technologie und Wirtschaft.

00:00 Intro
02:50 Die Recherchefragen
11:07 Rechercheweg und Materialsammlung
18:03 Das Ergebnis
34:06 Was haben wir diese Woche mit KI gemacht?

Redaktion und Mitarbeit:
David Beck, Cristina Cletiu, Chris Eckardt, Fritz Espenlaub, Marie Kilg, Mark Kleber, Gudrun Riedl, Christian Schiffer, Gregor Schmalzried

Links und Quellen:

Perplexity: https://www.perplexity.ai/
Consensus: https://consensus.app/
Wie überzeugend sind KI-Modelle? https://www.axios.com/2024/04/10/anthropic-claude-persuasion-turing-test 
Hätten Dinosaurier intelligent werden können? https://onlinelibrary.wiley.com/doi/epdf/10.1002/cne.25458 
Llama 3: https://llama.meta.com/llama3/
Der KI Abisong: https://suno.com/song/81d2b4e3-4088-4a55-81a2-72be02a8a3a0

Wie recherchiere ich mit KI?

Es ist wie ein neuer "Wettlauf ins All” - doch diesmal spielt die ganze Welt mit. Die USA, China, Europa und viele andere Wirtschaftsräume bringen sich in Stellung, um in Sachen KI-Revolution Vorreiter zu sein. Aber wer hat wirklich die Nase vorn? Und welche Underdogs sollte man nicht unterschätzen?


Über die Hosts:
Gregor Schmalzried ist freier Tech-Journalist und Berater, er arbeitet u.a. für den Bayerischen Rundfunk und Brand Eins.
Fritz Espenlaub ist freier Journalist und Moderator beim Bayerischen Rundfunk und 1E9 mit Fokus auf Technologie und Wirtschaft.


In dieser Folge:
00:00 Musikalische Begrüßung
5:00 Warum wollen alle nach vorne?
11:00 Die USA
14:00 China
16:50 Europa
20:50 Die "Swing States”
27:40 Was haben wir mit KI gemacht?


Redaktion und Mitarbeit:
David Beck, Cristina Cletiu, Chris Eckardt, Fritz Espenlaub, Marie Kilg, Mark Kleber, Gudrun Riedl, Christian Schiffer, Gregor Schmalzried
 
Links und Quellen:

Welches Land investiert wieviel in KI? https://www.aiprm.com/ai-statistics/#ai-government-investment-statistics (Hinweis: im Podcast haben wir versehentlich gesagt, dass es sich um private und staatliche Investitionen handelt. Tatsächlich zählt die Statistik ausschließlich staatliche Investitionen)

Der KI-Podcast zu den Themen "Super-KI” und "KI im Krieg”
https://www.ardaudiothek.de/episode/der-ki-podcast/wie-wird-aus-einer-ki-eine-super-ki/ard/12966875/ 
https://www.ardaudiothek.de/episode/der-ki-podcast/gewinnt-ki-den-naechsten-krieg/ard/94794954/ 

Musik-KI "Udio”
https://www.br.de/nachrichten/netzwelt/udio-neue-ki-app-erschafft-menschlich-klingende-songs,U9e1G4V

Goldman Sachs über die "Generative World Order” 
https://www.goldmansachs.com/intelligence/pages/the-generative-world-order-ai-geopolitics-and-power.html

Chinas Schwierigkeiten im AI-Rennen
https://www.foreignaffairs.com/china/illusion-chinas-ai-prowess-regulation-helen-toner 

Das Rennen um die KI-Talente
https://www.faz.net/pro/d-economy/kuenstliche-intelligenz/das-rennen-um-die-ki-talente-19641799.html 

Deutschlands Intelligenzverlust
https://www.spiegel.de/wirtschaft/ki-experten-wandern-ins-ausland-ab-deutschlands-intelligenzverlust-a-68f398f2-7e6c-4276-8ce4-8bdbaa8a6e98

OpenAI in Japan
https://openai.com/blog/introducing-openai-japan

Kritik am KI-Agenten "Devin”
https://www.youtube.com/watch?v=tNmgmwEtoWE 

Kontakt:
Wir freuen uns über Fragen und Kommentare an podcast@br.de.


Unterstützt uns:
Wenn euch dieser Podcast gefällt, freuen wir uns über eine Bewertung auf eurer liebsten Podcast-Plattform. Abonniert den KI-Podcast in der ARD Audiothek oder wo immer ihr eure Podcasts hört, um keine Episode zu verpassen. Und empfehlt uns gerne weiter!

Wie wird aus einer KI eine Super-KI?

Download our free app to listen on your phone