PROMPTgenau

Nach einer längeren urlaubsbedingten Pause ist „PROMPTgenau" zurück mit neuen Inhalten. Stephan und William sprechen in dieser Folge über einen ganz besonderen Vorfall aus diesem Sommer: KI-Agenten, die sich nicht so verhalten haben, wie es eigentlich vorgesehen war. Was ist passiert, warum wird der Fall so intensiv diskutiert und was bedeutet er für den Umgang mit KI in Behörden und Unternehmen? Es geht um Sicherheit, Verantwortung und die Frage, wie wir mit immer eigenständigeren Systemen umgehen.

Feedback und Ideen für weitere Folgen gerne an: [email protected]

Hinweis in eigener Sache: Die Frauenstimme im Intro ist KI-generiert. Das Titelbild des Podcasts wurde mit KI-Unterstützung erstellt.

www.digitalagentur.sachsen.de

KI schreibt, bewertet und unterstützt uns längst in vielen Bereichen. Doch wie verändert sich unser Vertrauen, wenn wir wissen, dass KI beteiligt war? Vivien und Thomas sprechen über aktuelle Studien, neue Transparenzregeln und die Frage, wann Skepsis angebracht ist – und wann ein kritischer, kompetenter Umgang mit KI weiterhilft.

Studien aus der Episode:

EY (2026): „AI Sentiment Index 2026 — KI in Deutschland: Nutzung hoch, Vertrauen gering.“ Ernst & Young, veröffentlicht 22.04.2026. Quelle für den Gesundheits- und den Finanzbefund. → Zur Quelle

EY (2025): „AI Sentiment Index 2025.“ Ernst & Young. Erhebung Dezember 2024 bis Februar 2025, über 15.000 Befragte in 15 Ländern, davon mehr als 1.000 in Deutschland. Quelle für die Prüfquote — 27 Prozent prüfen KI-Ergebnisse, 15 Prozent überarbeiten sie.

Bitkom (2026): „Künstliche Intelligenz — Wie die Bevölkerung auf die neue Technologie blickt.“ Bitkom e.V. / Bitkom Research. Repräsentative Telefonbefragung, 1.003 Personen ab 16 Jahren. Quelle für die Nutzungszahlen in Deutschland. → Zur Quelle

Schilke, Reimann (2025): „The transparency dilemma: How AI disclosure erodes trust.“ Organizational Behavior and Human Decision Processes, Band 188, Artikel 104405. 13 präregistrierte Experimente mit über 3.000 Teilnehmenden. Frei zugänglich. → Zur Quelle

Reis, Reis, Kunde (2025): „Public Perception of Physicians Who Use Artificial Intelligence.“ JAMA Network Open 8(7):e2521643. Universität Würzburg, Charité Berlin und University of Cambridge. 1.276 Teilnehmende, präregistriert. Frei zugänglich. → Zur Quelle

Europäisches Parlament und Rat (2024): „Verordnung (EU) 2024/1689 über künstliche Intelligenz — insbesondere Artikel 50.“ Amtsblatt der Europäischen Union. Die Transparenzpflichten stehen in Artikel 50, die Geltungstermine in Artikel 113. → Zur Quelle

Bundesnetzagentur (o.J.): „Transparenzpflichten nach Artikel 50 der KI-Verordnung.“ Bundesnetzagentur. Verständliche Übersicht der vier Pflichtenkreise für Anbieter und Betreiber — der beste Einstieg für alle, die es praktisch brauchen. → Zur Quelle

Europäisches Parlament und Rat (2026): „Verordnung (EU) 2026/1744 — Digital-Omnibus-Verordnung zur KI.“ Amtsblatt der Europäischen Union, 24. Juli 2026, in Kraft seit 27. Juli 2026. Verschiebt die Hochrisiko-Pflichten, nicht die Transparenzpflichten aus Artikel 50.

Lin, Zhang (2026): „Visible sources and invisible risks: exploring the impact of AI disclosure on perceived credibility of AI-generated content.“ Journal of Science Communication 25(1). Experiment mit 433 Teilnehmenden zum Überkreuz-Effekt: Das Etikett senkt die Glaubwürdigkeit richtiger Information und erhöht die falscher. Frei zugänglich. → Zur Quelle

Zum Weiterhören — die Folgen, auf die wir uns beziehen

PROMPTgenau (Episode 12): „KI-Studien (05): Woher KI ihr Wissen hat“

PROMPTgenau (Episode 14): „KI-Studien (06): Lernen mit KI: Abkürzung oder Umweg?“

KI gehört für viele längst zum Lernen dazu – in der Schule, im Studium und im Beruf. Doch hilft sie wirklich dabei, Wissen aufzubauen, oder nimmt sie uns genau die Denkarbeit ab, auf die es ankommt? Vivien und Thomas schauen sich aktuelle Forschung an und fragen, wie KI sinnvoll beim Lernen unterstützen kann, ohne dass dabei der eigene Lernprozess auf der Strecke bleibt.

Links zu den Studien aus der Episode:

[1] mpfs (2025): „JIM-Studie 2025 — Jugend, Information, Medien.“ Medienpädagogischer Forschungsverbund Südwest, repräsentative Befragung, n = 1.200. → Zur Quelle

[2] Strömberg, Lei, Wu (2026): „The Generative AI Learning Penalty: Evidence from Chinese Secondary Education.“ SSRN Working Paper 6868618 / CEPR Discussion Paper DP21577 — noch nicht begutachtet. → Zur Quelle

[3] Bastani, Bastani, Sungu et al. (2025): „Generative AI without guardrails can harm learning: Evidence from high school mathematics.“ Proceedings of the National Academy of Sciences, 122(26). → Zur Quelle

[4] Roediger, Karpicke (2006): „Test-Enhanced Learning: Taking Memory Tests Improves Long-Term Retention.“ Psychological Science, 17(3).

[5] Dunlosky et al. (2013): „Improving Students’ Learning with Effective Learning Techniques.“ Psychological Science in the Public Interest, 14(1).

[6] Deslauriers et al. (2019): „Measuring actual learning versus feeling of learning in response to being actively engaged in the classroom.“ Proceedings of the National Academy of Sciences, 116(39).

[7] Shen, Tamkin (2026): „How AI Impacts Skill Formation.“ Anthropic, arXiv-Preprint 2601.20245 — Herstellerstudie.

[8] Kestin, Miller, Klales et al. (2025): „AI tutoring outperforms in-class active learning: An RCT introducing a novel research-based design in an authentic educational setting.“ Scientific Reports, 15, 17458. → Zur Quelle

Feedback und Ideen für weitere Folgen gerne an: [email protected]

Hinweis in eigener Sache: Die Frauenstimme im Intro ist KI-generiert. Das Titelbild des Podcasts wurde mit KI-Unterstützung erstellt.

www.digitalagentur.sachsen.de

Stephan und William sind zurück – und nehmen sich die neuen Flaggschiff-Modelle von Anthropic und OpenAI vor. Was leisten die aktuellen „Frontier-Modelle" wirklich, wenn man sie aus dem Alltag heraus testet? Beide berichten aus der Praxis: vom beeindruckendem Überblick über ganze Projekte bis zu Grenzen, Schranken und einem Präzedenzfall, der zeigt, wie schnell ein Modell auch wieder verschwinden kann. Eine Folge über Leistung, Abhängigkeiten – und die Frage, wie man sich als Organisation klug aufstellt.

Hinweis: Diese Folge wurde am 7. Juli 2026 aufgenommen. Weil sich in der schnelllebigen KI-Welt schon in den Tagen danach wieder einiges geändert hatte, wurde gegen Ende der Folge ein aktualisierter Nachtrag eingesprochen, der die neuesten Entwicklungen einordnet.

Feedback und Ideen für weitere Folgen gerne an: [email protected]

Hinweis in eigener Sache: Die Frauenstimme im Intro ist KI-generiert. Das Titelbild des Podcasts wurde mit KI-Unterstützung erstellt.

www.digitalagentur.sachsen.de

Wir werfen in dieser Folge einen Blick unter die Haube: Wie entsteht eigentlich ein Sprachmodell – und woher nimmt es sein „Wissen"? In vier Schritten geht es von den Rohdaten bis zum fertigen Assistenten, und dabei wird klar, an welchen Stellen sich Verzerrungen einschleichen und warum die sich nicht einfach wegprogrammieren lassen. Eine Folge, die hilft, KI-Antworten besser einzuordnen – und die zeigt, wann man ruhig mal genauer hinschauen sollte.

Dodge et al. (2021): „Documenting the English Colossal Clean Crawled Corpus.“ EMNLP 2021. Untersuchung des C4-Datensatzes (Basis u. a. für Googles T5-Modell).  → Zur Quelle

Dodge et al. (2021): „Documenting the English Colossal Clean Crawled Corpus.“ EMNLP 2021. Geografie- und Filter-Befunde (u. a. African American English zu 42 % gefiltert)  → Zur Quelle

Moon et al. (2025): „Homogenizing effect of LLMs on creative diversity.“ Drei präregistrierte Studien, 2.200 Bewerbungsessays. (Hauptbefund Regression zur Mitte)

Sourati et al. (2025): „The Shrinking Landscape of Linguistic Diversity in the Age of Large Language Models.“ Vier Studien, mehrere Modelle. (Kreuzvalidierung: Homogenisierung des Stils)  → Zur Quelle

Kotek, Dockum, Sun (2023): „Gender bias and stereotypes in Large Language Models.“ ACM Collective Intelligence Conference. (Zuspitzung: Modelle wählen den stereotyp passenden Beruf 3–6× häufiger)  → Zur Quelle

Sharma et al. (2023): „Towards Understanding Sycophancy in Language Models.“ Anthropic. (Grundlagenstudie zur Schmeichelei, fünf Assistenten)  → Zur Quelle

Fanous et al. (2025): „SycEval – Evaluating LLM Sycophancy.“ Stanford University.  → Zur Quelle

Cheng et al. (2026): „ELEPHANT – Evaluation of LLMs as Excessive Sycophants.“ Stanford / CMU / Oxford.

Santurkar et al. (2023): „Whose Opinions Do Language Models Reflect?.“ ICML 2023. (Werte-/Meinungsverschiebung im Post-Training)

Singhal, Goyal, Xu, Durrett (2023): „A Long Way to Go: Investigating Length Correlations in RLHF.“ Format- und Längen-Bias.  → Zur Quelle

Bai et al. (2022): „Constitutional AI: Harmlessness from AI Feedback.“ Anthropic. (Ursprung von RLAIF: KI bewertet KI)

OpenAI (2025): „Sycophancy in GPT-4o: What happened and what we’re doing about it.“ OpenAI, Mai 2025. (Rückzug eines zu schmeichlerischen Modell-Updates)

Dastin, J. (2018): „Amazon scraps secret AI recruiting tool that showed bias against women.“ Reuters.

KI-Kompetenz-Center der Bundesverwaltung / Bundesdruckerei (2025): „MÖVE – Modelle für die Öffentliche Verwaltung Evaluieren.“ Präsentation, IT-Planungsrat Fachkongress 2025. (ausdrücklich vorläufige Ergebnisse) MÖVE | Startseite

Passend zum Weiterhören:

PROMPTgenau "KI-Studien (04): KI und Frauen: Nutzung, Macht und Vorurteile". Vertieft die Verzerrung von der menschlichen Seite.

Hinweis: Mehrere Befunde stammen aus Preprints bzw. laufender Forschung und sind als Momentaufnahme zu verstehen. Wo kein direkter Link angegeben ist, lässt sich die Quelle über Titel und Autor:innen recherchieren.

Vivien und Christian widmen sich in dieser Episode der Frage, was der KI-Wandel für Führungskräfte bedeutet. Denn die Frage ist längst nicht mehr ob KI im Unternehmen ankommt – sondern wie man sie klug gestaltet. Hybride Teams aus Mensch und KI, neue Aufgabenverteilungen und eine veränderte Arbeitskultur stehen vor der Tür. Was das von Führung verlangt – und welche Chancen darin stecken – darum geht es in dieser Folge.

Service & weiterführende Links:

Unsere KI-Sprechstunde: jeden Freitag 9–11 Uhr, kostenlos. Und die genannten kostenfreien Lernangebote.

Digitalagentur Sachsen (DiAS) (o.J.): „Kompetenzstelle KI — Studien, Sprechstunde und Angebote.“ → Zur Quelle

Feedback und Ideen für weitere Folgen gerne an: [email protected]

Hinweis in eigener Sache: Die Frauenstimme im Intro ist KI-generiert. Das Titelbild des Podcasts wurde mit KI-Unterstützung erstellt.

www.digitalagentur.sachsen.de

Vivien und Thomas schauen in dieser Folge hinter eine unbequeme Zahl: Frauen nutzen KI deutlich seltener als Männer – und bauen die Technologie, die wir alle täglich verwenden, noch seltener mit. Was steckt dahinter? Und was macht KI eigentlich mit Geschlechterbildern? Eine Folge, die überraschende Antworten liefert – und zeigt, warum jetzt der richtige Moment ist, gegenzusteuern.

Links zu den Studien aus der Episode:

Jahn, Burkert, Diener, Matthes (2026): „Digital Gender Gap — Schwerpunkt 2026: Künstliche Intelligenz.“ Initiative D21 / Institut für Arbeitsmarkt- und Berufsforschung (IAB).  → Zur Quelle

interface (Stiftung Neue Verantwortung) / Revelio Labs (2024): „AI's Missing Link: The Gender Gap in the Talent Pool.“ interface — Think Tank for Digital Society.  → Zur Quelle

UNESCO / IRCAI (2024): „Challenging Systematic Prejudices: An Investigation into Bias Against Women and Girls in Large Language Models.“ UNESCO.  → Zur Quelle

Digitalagentur Sachsen (DiAS) / Fraunhofer IIS (2025): „Frauen in der Künstlichen Intelligenz in Sachsen.“ Digitalagentur Sachsen (DiAS). 

Moss-Racusin, Dovidio, Brescoll, Graham, Handelsman (2012): „Science Faculty's Subtle Gender Biases Favor Male Students.“ PNAS — Proceedings of the National Academy of Sciences.  → Zur Quelle

Schwabe et al. (2024): „Empirical challenges in assessing the leaky STEM pipeline.“ International Journal of STEM Education.  → Zur Quelle

Dastin (2018): „Amazon Scraps Secret AI Recruiting Tool That Showed Bias Against Women.“ Reuters.  → Zur Quelle

UNESCO / IRCAI (2024): „Challenging Systematic Prejudices: An Investigation into Bias Against Women and Girls in Large Language Models.“ UNESCO.  → Zur Quelle

Service & weiterführende Links:

Unsere KI-Sprechstunde: jeden Freitag 9–11 Uhr, kostenlos. Und die genannten kostenfreien Lernangebote.

Digitalagentur Sachsen (DiAS) (o.J.): „Kompetenzstelle KI — Studien, Sprechstunde und Angebote.“ → Zur Quelle

KI-Campus (o.J.): „Die Lernplattform für Künstliche Intelligenz.“

openHPI (o.J.): „Kostenlose Online-Kurse — Hasso-Plattner-Institut.“

Aufbauend auf den letzten Episoden ziehen wir heute eine Zwischenbilanz zu KI im Jahr 2026. Dazu begrüßt Vivien einen neuen Gast: Christian, kommissarischer Leiter der Digitalagentur Sachsen – und das passend zum dreijährigen Jubiläum der Kompetenzstelle KI in der DiAS. Gemeinsam werfen sie einen nüchternen Blick auf die großen Versprechen rund um KI: Spart sie wirklich Zeit? Macht sie uns innovativer? Und werden wir durch die Nutzung eigentlich klüger – oder das Gegenteil? Die Antworten sind differenzierter als erwartet.

[1] anthropic (2026). What 81,000 people want from AI

[2] Rush (2025). Measuring the Impact of Early-2025 AI on Experienced Open-Source Developer Productivity

[3] Hughes Hallucination Evaluation Model (HHEM) Leaderboard

[4] pwc (2026). 29. Global CEO Survey. Leading through uncertainty

[5] anthropic (2026). The Anthropic Economic Index report

Feedback und Ideen für weitere Folgen gerne an: [email protected]

Hinweis in eigener Sache: Die Frauenstimme im Intro ist KI-generiert. Das Titelbild des Podcasts wurde mit KI-Unterstützung erstellt.

www.digitalagentur.sachsen.de

41 Prozent der deutschen Unternehmen nutzen KI — aber nur 8 Prozent setzen sie strategisch ein. In dieser Folge analysieren Vivien und Thomas, warum KI im Mittelstand an der Oberfläche bleibt, was die Pilotprojekt-Lücke verursacht und was die wenigen erfolgreichen Unternehmen anders machen. Mit Daten von Bitkom, OECD, Deloitte, PwC und der Digitalagentur Sachsen.

Bitkom (2026): „Digitalisierung der Wirtschaft. Presseinformation, 11.03.2026.“ Bitkom e.V. — Repräsentative Befragung von 604 Unternehmen ab 20 Beschäftigten (KW 2–6, 2026). → Zur Quelle

Bitkom (2025): „Durchbruch bei Künstlicher Intelligenz. Presseinformation, 15.09.2025.“ Bitkom e.V. — 604 Unternehmen ab 20 Beschäftigten (KW 27–32, 2025).

OECD (2025): „AI adoption by small and medium-sized enterprises.“ OECD — G7-Diskussionspapier. Befragung von 5.000+ KMU in 7 Ländern. → Zur Quelle

OECD (2025): „Generative AI and the SME Workforce — New Survey Evidence.“ OECD — D4SME Survey, 10 Länder.

Deloitte (2026): „State of AI in the Enterprise — The Untapped Edge.“ Deloitte — 3.235 Führungskräfte, 24 Länder (Aug.–Sep. 2025). → Zur Quelle

Maximal Digital / Mittelstand Digital (2025): „KI-Studie Mittelstand.“ Mittelstand Digital Zentrum — Befragung von 58 KI-Trainer:innen. Hinweis: Expert:innen-Proxy, keine repräsentative KMU-Befragung.  → Zur Quelle

PwC (2026): „29. Global CEO Survey — Leading through uncertainty.“ PwC — 4.454 CEOs, 95 Länder. → Zur Quelle

PwC (2025): „Global Workforce Hopes & Fears Survey 2025.“ PwC — 49.843 Beschäftigte, 48 Länder, 28 Branchen (Jul.–Aug. 2025). → Zur Quelle

Digitalagentur Sachsen / InfAI (2025): „KI-gestützte Geschäftsmodellinnovationen — Chancen und Handlungsansätze für sächsische Unternehmen.“ Digitalagentur Sachsen — Redaktionsschluss Oktober 2025. Basierend auf Expertise des InfAI (Dr. Christian Zinke-Wehlmann).

ZEW — Leibniz-Zentrum für Europäische Wirtschaftsforschung (2025): „Innovationserhebung 2025.“ ZEW Mannheim

KI-Sprechstunde für KMU: Freitags, 9–11 Uhr. Infos dazu findet ihr hier.

Vivien und Thomas schauen sich an, was die Forschung zur Kreativität von KI sagt – und was das für unseren Arbeitsalltag bedeutet. Dabei wird klar: KI kann ein echter Kreativitätsbooster sein, aber es lauern auch ein paar überraschende Fallstricke. Spoiler: Es kommt – wie so oft – auf die richtige Nutzung an. Drei konkrete Empfehlungen zum Mitnehmen gibt es am Ende natürlich auch – alle Studien und Links wie immer hier in den Shownotes.

Kapitel

(00:00) Intro

(01:01) Einführung

(01:54) KI als DJ

(05:11) Ist KI kreativ?

(06:54) KI als Anregung

(08:12) Gleichmacher-Effekt

(12:54) Verlernen wir Kreativität?

(13:31) Kreativer auch ohne KI?

(14:36) Kreative Narbe

(16:53) Zusammenfassung

(17:34) Drei Empfehlungen zum Mitnehmen

Links zu den Studien aus der Episode:

[1] Holzner, Maier, Feuerriegel (2025): „Generative AI and Creativity: A Systematic Literature Review and Meta-Analysis.“ LMU München / arXiv. 28 Studien, 8.214 Teilnehmer. → Zur Quelle

[2] Bellemare-Pepin, Jerbi, Bengio et al. (2026): „Scientific Reports 16(1).“ Nature. → Zur Quelle

[3] Guzik, Byrge, Gilde (2023): „Journal of Creativity 33, 100065.“ ScienceDirect. → Zur Quelle

[4] Hubert, Awa, Zabelina (2024): „Scientific Reports 14, 3440.“ Nature.

[5] Walton et al. (2026): „ACM Transactions on Interactive Intelligent Systems.“ Swansea University / ACM. → Zur Quelle

[6] Doshi, Hauser (2024): „Science Advances Vol. 10, Nr. 28.“ Science.

[7] Grassini, Koivisto (2024): „International Journal of Human-Computer Interaction.“ Taylor & Francis. → Zur Quelle

[8] Anthropic (2026): „AI Assistance and Coding Skills (Skill-Formation-Studie).“ Anthropic Research. → Zur Quelle

[9] Creative-Scar-Studie (2025): „Technology in Society.“ ScienceDirect.

[10] Desdevises (2025): „Frontiers in Psychology.“ Frontiers. → Zur Quelle

[11] University of Montana (2023): „AI Tests into Top 1% for Original Creative Thinking.“ ScienceDaily. → Zur Quelle

[12] Knowledge at Wharton (2025): „Does AI Limit Our Creativity?.“ Wharton, University of Pennsylvania. → Zur Quelle

[13] Heigl (2025): „Generative AI in Creative Contexts.“ Management Review Quarterly / Springer. → Zur Quelle