KIRRE … na hör mal!

Auf einer Webseite tauchen plötzlich viele Besuche auf. Das klingt zunächst erfreulich, doch hinter einem großen Teil dieser Aufrufe können Programme stecken. Sie besuchen Seiten automatisch, lesen Inhalte und folgen Links, ohne dass ein Mensch vor dem Bildschirm sitzt. Solche Programme heißen Crawler. Suchmaschinen nutzen sie seit vielen Jahren, um das Internet zu erfassen. Inzwischen schicken auch KI-Unternehmen Crawler los. Sie sammeln Material für das Training von KI-Modellen oder für Antworten, die eine KI direkt aus verschiedenen Quellen zusammensetzt. Folge 49 von KIRRE … na hör mal! erklärt verständlich, wer da durch das Netz zieht und warum menschliche Arbeit dabei leicht unsichtbar wird.

Das frühere Tauschgeschäft war vergleichsweise klar. Eine Suchmaschine las eine Webseite und zeigte anschließend einen Link dorthin. Menschen kamen zur ursprünglichen Quelle, lasen den vollständigen Text und konnten ein Angebot, einen Newsletter oder weitere Inhalte entdecken. KI-Systeme liefern dagegen häufig eine fertige Zusammenfassung. Der Besuch auf der Ausgangsseite entfällt. Für Nutzerinnen ist das bequem, für Autorinnen, Fotografen, Redaktionen oder Selbstständige kann es wirtschaftlich spürbar werden. Ihre Arbeit fließt in eine Antwort ein, doch ihr Name, ihr Zusammenhang und der direkte Kontakt zum Publikum verschwinden. Die Folge fragt deshalb nicht nur nach Technik, sondern nach der Person, die Wissen schafft und dafür Verantwortung übernimmt.

Cloudflare, Pay per Crawl: https://developers.cloudflare.com/ai-crawl-control/features/pay-per-crawl/what-is-pay-per-crawl/

Cloudflare, Content Independence Day 2026: https://blog.cloudflare.com/agentic-internet-bot-report/

Imperva, Bad Bot Report 2026: https://www.imperva.com/blog/bad-bot-report-2026-bots-agentic-age/

Offizieller Standard für robots.txt, RFC 9309: https://www.rfc-editor.org/rfc/rfc9309.html

Studie „The uneven rise of AI-generated web content": https://arxiv.org/abs/2610.36631

Kontakt: [email protected]

Ein Crawler ist eine spezielle Form eines Bots. Der Begriff Bot bezeichnet allgemein ein Programm, das Aufgaben im Internet selbstständig erledigt. Ein Crawler bewegt sich dabei von Webseite zu Webseite, liest Inhalte und folgt Verweisen. Nicht jeder Bot ist schädlich. Manche prüfen, ob Seiten erreichbar sind, übersetzen Inhalte oder sorgen dafür, dass Suchmaschinen neue Texte finden. Andere verschicken Spam, greifen Konten an, kaufen Tickets weg oder kopieren komplette Angebote. KI-Agenten bilden eine weitere Gruppe. Sie können im Auftrag eines Menschen suchen, vergleichen, Formulare ausfüllen oder Einkäufe vorbereiten. Für Webseitenbetreiber wird es dadurch schwieriger, hilfreiche und unerwünschte automatische Besucher auseinanderzuhalten.

Die Internetfirma Cloudflare testet derzeit in einer geschlossenen Beta ein Verfahren namens Pay per Crawl. Cloudflare schützt und vermittelt den Zugriff auf sehr viele Webseiten. Betreiber, die an diesem Test teilnehmen, können festlegen, ob ein KI-Crawler kostenlos lesen darf, blockiert wird oder bezahlen soll. Bei einem kostenpflichtigen Zugriff erhält das Programm den Zahlencode 402. Webseiten verwenden solche Codes, um auf Anfragen zu antworten. Bekannt ist vor allem 404 für eine nicht gefundene Seite. 402 bedeutet „Payment Required", auf Deutsch „Bezahlung erforderlich". Der Code existiert schon lange, wurde bisher aber kaum verwendet. Nun könnte er automatische Zahlungen für den Zugriff auf Inhalte ermöglichen.

Hinter dieser technischen Idee steckt eine menschliche und wirtschaftliche Frage. Wer recherchiert, schreibt, fotografiert oder gestaltet, investiert Zeit, Erfahrung und Geld. Wenn ein KI-System diese Arbeit einliest und die Antwort später selbst ausgibt, gelangt der fragende Mensch möglicherweise nie zur Quelle. Damit können Besuche, Werbeeinnahmen, Newsletter-Anmeldungen und Kundenanfragen fehlen. Eine automatische Bezahlung pro Zugriff könnte einen Ausgleich schaffen. Ob sich dieses Modell durchsetzt, ist offen. Pay per Crawl ist noch kein allgemeiner Standard und wird nicht überall eingesetzt. Der Test zeigt jedoch, dass das bisherige Geben und Nehmen im offenen Internet nicht mehr selbstverständlich funktioniert.

Der Bad Bot Report 2026 des Sicherheitsanbieters Imperva beschreibt die Größenordnung automatischer Zugriffe. Nach dessen Auswertung stammten 2025 mehr als 53 Prozent des beobachteten Webverkehrs von Bots. Das bedeutet nicht, dass mehr Maschinen als Menschen das Internet benutzen. Ein einziges Programm kann innerhalb kürzester Zeit sehr viele Seiten aufrufen und dadurch erheblich mehr Datenverkehr erzeugen als eine Person. Trotzdem verändert dieser Anteil die Bedeutung klassischer Webseitenstatistiken. Ein starker Anstieg der Aufrufe muss keine wachsende Leserschaft bedeuten. Umgekehrt kann der Inhalt einer Seite in einer KI-Antwort auftauchen, ohne dass der Nutzer die ursprüngliche Seite öffnet und dort als Besuch gezählt wird.

Webseiten können automatischen Besuchern seit Langem Hinweise in einer Datei namens robots.txt geben. Darin steht, welche Bereiche von Programmen gelesen werden dürfen. Diese Datei funktioniert wie eine öffentlich sichtbare Hausordnung, nicht wie ein Schloss. Seriöse Crawler beachten die Vorgaben, andere können sie ignorieren. Wer Inhalte zuverlässig sperren, begrenzen oder nur gegen Bezahlung zugänglich machen möchte, braucht zusätzliche technische Kontrollen. Cloudflare meldete außerdem, dass im Juni 2026 etwa 52 Prozent der von dem Unternehmen erkannten Crawler-Anfragen dem KI-Training dienten. Dabei werden Inhalte gesammelt, aus denen ein Modell später sprachliche und inhaltliche Muster lernt. Ein direkter Besuch bei der Quelle entsteht daraus nicht zwangsläufig.

Maschinen lesen inzwischen auch Texte, die andere Maschinen geschrieben haben. Eine wissenschaftliche Untersuchung von mehr als fünf Millionen öffentlich erreichbaren Webseiten zeigt einen deutlichen, aber ungleich verteilten Zuwachs KI-generierter Texte. Auf englischsprachigen und kommerziellen Seiten fanden die Forschenden mehr davon als auf nicht englischsprachigen Seiten, bei Behörden oder Hochschulen. Besonders häufig lag das automatisch erzeugte Material in weniger gut vernetzten Randbereichen des Internets. Die Studie beschreibt kein vollständig maschinelles Netz. Sie zeigt aber, dass KI-Texte zunehmen und wiederum zum Material für weitere Systeme werden können. So entsteht ein Kreislauf, in dem Herkunft, Erfahrung und Verantwortung immer schwerer zu erkennen sind.

Im Alltag fallen automatisch erzeugte Texte häufig durch ihre Umständlichkeit auf. Wer nur wissen möchte, wie ein Rotweinfleck aus dem Teppich entfernt wird, bekommt zunächst allgemeine Erklärungen über Rotwein, Teppiche und Flecken. Die konkrete Hilfe erscheint spät oder gar nicht. Ein menschlicher Erfahrungsbericht kann dagegen genau die Kleinigkeit nennen, an der eine Anleitung scheitert. Jemand hat etwas versucht, verworfen und verbessert. Solche Informationen aus erster Hand werden wertvoller, wenn das Netz zugleich mit glatten Zusammenfassungen wächst. Eine KI kann einen persönlichen Ton nachahmen. Sie kann jedoch keine eigene vergangene Erfahrung besitzen und nicht selbst die Verantwortung für eine veröffentlichte Behauptung tragen.

Für Selbstständige lohnt sich deshalb ein genauerer Blick auf die eigene Webseite. Ein klarer Name, ein Datum, überprüfbare Quellen und konkrete Erfahrungen helfen Leserinnen, Inhalte einzuordnen. Dabei geht es nicht um aufgesetzte Authentizität, sondern um nachvollziehbare Urheberschaft. Auch direkte Wege zum Publikum gewinnen an Bedeutung. Ein Newsletter, ein Podcast, persönliche Empfehlungen oder eine gewachsene Gemeinschaft hängen weniger davon ab, ob eine Suchmaschine oder KI gerade Besucher weiterleitet. Klassische Reichweite verschwindet nicht, doch sie erzählt nicht mehr die ganze Geschichte. Echte Rückmeldungen, Gespräche, Abonnements und Anfragen zeigen oft besser, ob hinter Zahlen tatsächlich interessierte Menschen stehen.

Keywords: Bots im Internet, KI-Crawler, Crawler einfach erklärt, HTTP 402, Payment Required, Pay per Crawl, Cloudflare, Bad Bot Report 2026, KI-Training, robots.txt, KI-generierte Webseiten, menschlicher Webverkehr, Website-Traffic, Sichtbarkeit durch KI, menschliche Inhalte, Quellen prüfen, KIRRE Podcast, Sabine Eckermann, Applebee

Ein Geschichtsprofessor korrigiert eine Zwischenprüfung über die Industrielle Revolution. Zwischen Dampfmaschinen, Fabrikarbeit und technischen Umbrüchen taucht plötzlich Madagaskar auf. Erst einmal könnte das ein schräger Einfall sein. Dann erscheint die Insel in der nächsten Antwort und danach wieder. Manche Sätze klingen vollkommen absurd, etwa die Behauptung, Madagaskar schwebe seitwärts durch den Nachmittag. Sehr schnell wird klar: Hier haben nicht mehrere Studierende unabhängig voneinander denselben merkwürdigen Gedanken entwickelt. Sie sind auf eine unsichtbare Anweisung hereingefallen, die Professor Jason Gibson gezielt in die Aufgabenstellung eingebaut hatte. Die Geschichte klingt wie eine kleine Komödie, endete für viele Beteiligte aber mit einer nicht bestandenen Prüfungsleistung.

Gibson unterrichtet Geschichte an der Alcorn State University im US-Bundesstaat Mississippi. Seine Studierenden sollten technische Entwicklungen während der Industriellen Revolution mit heutigen Veränderungen vergleichen. Zwischen den sichtbaren Zeilen der Onlineaufgabe versteckte er einen Satz in weißer Schrift. Wer die Aufgabe normal las, sah ihn nicht. Wer dagegen den vollständigen Text kopierte und in einen KI-Chatbot einfügte, übertrug auch die verborgene Anweisung: Das Wort Madagaskar sollte an einer Stelle auftauchen, an der es keinen Sinn ergab. In 32 von 35 Antworten erschien daraufhin genau dieses Wort. Damit hatten die Studierenden praktisch selbst den Hinweis geliefert, dass ihre Texte von einem Chatbot erzeugt worden waren.

t3n zum Fall Jason Gibson: https://t3n.de/news/professor-chatgpt-schummler-prompt-injection-weisser-text-trick-prufung-1754816/

Stanford SCALE zur Studie über KI, Notizen und Textverständnis: https://scale.stanford.edu/ai/repository/effects-llm-use-and-note-taking-reading-comprehension-and-memory-randomised

Alcorn State University, Jason Gibson: https://www.alcorn.edu/marketing-and-communication/faculty-expert-guide/college-arts-sciences/department-of-social-sciences/

Kontakt: [email protected]

Der Fall war weniger eindeutig, als die Zahl zunächst vermuten lässt. Gibson erlaubte den betroffenen Studierenden, gegen die Bewertung Einspruch einzulegen. Zwei machten davon Gebrauch. Bei einer Person wurde die Note geändert, weil sie erklärte, im Dunkelmodus gearbeitet und dadurch den weißen Text gesehen zu haben. Sie hielt die Madagaskar-Anweisung für einen echten Bestandteil der Aufgabe. Der Professor akzeptierte diese Erklärung. Diese Wendung zeigt, warum selbst ein einfallsreicher Köder kein unfehlbares Beweismittel ist. Technische Einstellungen, Vorlesefunktionen oder Arbeitsweisen beim Kopieren können versteckte Texte sichtbar machen. Auch bei einem scheinbar eindeutigen Treffer bleibt deshalb eine menschliche Prüfung notwendig.

Gibson erklärte nach der großen öffentlichen Aufmerksamkeit, er habe keine Freude daran, Studierende durchfallen zu lassen. Sein Ziel sei nicht die Bloßstellung gewesen, sondern die Sicherung akademischer Integrität. Er beschrieb vielmehr seine Erschöpfung über zahlreiche Antworten, bei denen kaum eigenes Denken erkennbar war. Genau dieser Punkt macht die Geschichte größer als einen gelungenen Trick. Prüfungen sollen nicht lediglich fertige Wörter produzieren. Sie sollen sichtbar machen, ob jemand Zusammenhänge verstanden hat, Gedanken ordnen und begründen kann. Wer diese Arbeit vollständig an eine Maschine abgibt, erhält vielleicht einen sauberen Text, überspringt aber genau den Prozess, den die Aufgabe eigentlich trainieren sollte.

Eine randomisierte Untersuchung an Schulen in England ergänzt diese Beobachtung. Jugendliche arbeiteten dort beim Lernen entweder mit einem Sprachmodell, mit klassischen Notizen oder mit einer Kombination aus beidem. Die Gruppe, die ausschließlich das Sprachmodell verwendete, zeigte beim späteren Erinnern und Textverständnis schwächere Ergebnisse als Jugendliche, die selbst Notizen angefertigt hatten. Bemerkenswert war, dass viele Teilnehmende die KI trotzdem als besonders hilfreich empfanden. Sie machte schwierige Inhalte leichter zugänglich und verringerte die gefühlte Anstrengung. Das angenehmere Lerngefühl bedeutete jedoch nicht automatisch, dass mehr Wissen hängen blieb. Die Verbindung aus eigener Arbeit und KI-Unterstützung schnitt dagegen deutlich besser ab.

Die Folge verteufelt deshalb weder Chatbots noch ihren Einsatz in Schule und Studium. KI kann Begriffe erklären, Rückfragen stellen, Gegenpositionen liefern, Übungsaufgaben erzeugen oder Feedback zu einem selbst geschriebenen Entwurf geben. Problematisch wird es dort, wo sie den Teil übernimmt, der gelernt oder geprüft werden soll. Wer eine eigene Argumentation entwickeln soll, kann diese nicht komplett auslagern und anschließend behaupten, die Leistung selbst erbracht zu haben. Die sinnvolle Grenze hängt immer von der Aufgabe ab. Entscheidend ist, dass Lehrende transparent sagen, welche Nutzung erlaubt ist, und Lernende verstehen, warum bestimmte Denk- und Schreibarbeit trotz verfügbarer Technik weiterhin selbst erledigt werden muss.

Auch für erfahrene Selbstständige ist die Geschichte überraschend nah am Alltag. Ein Konzept, eine Präsentation oder eine Kundenmail kann in wenigen Sekunden erzeugt werden. Sobald der eigene Name daruntersteht, trägt jedoch nicht der Chatbot die Verantwortung. Wer bei einer Rückfrage nicht erklären kann, warum eine Aussage im Text steht, verliert schnell Vertrauen. Kundinnen interessiert es wenig, welches System den Fehler eingebaut hat. Sie erwarten, dass die beauftragte Person ihr Ergebnis kennt, beurteilt und vertreten kann. Sabine macht deshalb deutlich: Der berufliche Wert liegt nicht in möglichst vielen schnell erzeugten Seiten. Er liegt in der Fähigkeit, Qualität zu erkennen, Entscheidungen zu begründen und unpassenden Unsinn rechtzeitig auszusortieren.

Der weiße Text wird häufig als Prompt Injection bezeichnet, weil eine zusätzliche Anweisung in Material versteckt wird, das anschließend von einem KI-System verarbeitet wird. In diesem Fall war die Technik denkbar einfach. Sie brauchte weder ein Erkennungsprogramm noch eine geheime Prozentanzeige, die angeblich verrät, ob ein Text von einer KI stammt. Gerade diese Schlichtheit machte den Fall so anschaulich. Als allgemeine Kontrollmethode taugt sie trotzdem nur begrenzt. Sobald der Trick bekannt ist, können Nutzerinnen nach verstecktem Text suchen oder ihre Ergebnisse auf auffällige Begriffe prüfen. Dann beginnt ein Wettrüsten, bei dem beide Seiten mehr Energie in Tarnung und Enttarnung stecken als in tatsächliches Lernen.

Für den eigenen Umgang mit KI bleibt eine einfache, alltagstaugliche Frage: Kann ich erklären, was unter meinem Namen veröffentlicht oder abgegeben wird? Wer einen Text verstanden, überprüft und bewusst verändert hat, nutzt KI als Werkzeug. Wer ihn ungelesen weiterreicht, übergibt gleichzeitig die Kontrolle. Das gilt bei einer Prüfung ebenso wie bei Angeboten, Präsentationen, Artikeln oder wichtigen E-Mails. Ein kurzer Kontrollblick reicht dabei nicht immer. Namen, Zahlen, Quellen und zentrale Behauptungen müssen wirklich stimmen. Der Madagaskar-Fall zeigt lediglich die lustigste und sichtbarste Variante eines Problems, das im Berufsalltag meistens viel unspektakulärer daherkommt und gerade deshalb leichter durchrutscht.

KIRRE … na hör mal! erzählt Geschichten darüber, was künstliche Intelligenz mit Arbeit, Kreativität, Alltag und unserer Menschlichkeit macht. Sabine verbindet aktuelle Fälle mit ihrem Blick als erfahrene Diplom-Grafikdesignerin und langjährige Selbstständige, ohne Technikshow und ohne Weltuntergangsstimmung. Diese Episode eignet sich besonders für Menschen, die KI sinnvoll nutzen möchten, ohne das eigene Denken, Prüfen und Entscheiden abzugeben. Wer selbst schon einmal einen herrlich falschen KI-Satz entdeckt hat, kann die Geschichte an [email protected] schicken. Vielleicht war es keine seitwärts schwebende Insel. Wahrscheinlich war es aber mindestens genauso kirre und verdient einen Platz in einer späteren Folge.

Keywords: Madagaskar KI Prüfung, Jason Gibson Alcorn State University, KI Schummeln Studium, Prompt Injection weißer Text, ChatGPT Prüfungsleistung, KI und Lernen, KI-Texte kontrollieren, akademische Integrität, Textverständnis Sprachmodelle, KI in der Bildung, KIRRE Podcast, Sabine Eckermann, Applebee

Eine KI schaut auf eine unauffällige Mammografie und vergibt ausgerechnet für die Brust einen höheren Verdachtswert, in der Jahre später Krebs gefunden wird. Das klingt nach Glaskugel, ist das Ergebnis einer norwegischen Untersuchung. Sofort taucht eine unangenehme Frage auf: Möchte man so etwas vorher wissen, wenn niemand sagen kann, was wirklich daraus wird?

In Folge 47 von KIRRE … na hör mal! spricht Sabine darüber, was medizinische Früherkennung mit KI leisten könnte und wo sie neue Sorgen schafft. Es geht um alte Mammografie-Aufnahmen, eine schwedische Studie im echten Screening-Alltag und die merkwürdige Lage, möglicherweise vor einer Krankheit gewarnt zu werden, für die es noch gar keinen eindeutigen Befund gibt. Eine Folge über große Chancen, berechtigte Hoffnung und eine rote Risikozahl, die niemand einfach kommentarlos mit nach Hause nehmen möchte.

Weiterführende Links

JAMA Network Open: Artificial Intelligence Algorithm for Subclinical Breast Cancer Detection https://jamanetwork.com/journals/jamanetworkopen/fullarticle/2824353

The Lancet Digital Health: Ergebnisse der schwedischen MASAI-Studie https://doi.org/10.1016/S2589-7500(24)00267-X

PubMed: MASAI-Studie zu Intervallkarzinomen, Sensitivität und Spezifität https://pubmed.ncbi.nlm.nih.gov/41620232/

National Cancer Institute: Nutzen und Risiken des Brustkrebs-Screenings https://www.cancer.gov/types/breast/screening

Gemeinsamer Bundesausschuss: Mammographie-Screening in Deutschland https://www.g-ba.de/themen/methodenbewertung/erwachsene/krebsfrueherkennung/mammographie-screening/

Kontakt für eigene Gedanken und Erfahrungen zu medizinischer KI: [email protected]

Die norwegische Studie wertete Mammografien von mehr als 116.000 Frauen aus, die an mehreren aufeinanderfolgenden Screening-Runden teilgenommen hatten. Bei einem Teil von ihnen wurde später Brustkrebs diagnostiziert. Die Forschenden ließen eine kommerzielle KI nachträglich auf die älteren Aufnahmen schauen. Das System war ursprünglich dafür entwickelt worden, verdächtige Veränderungen auf einer aktuellen Mammografie zu erkennen und dafür einen Wert zwischen null und hundert zu vergeben.

Bei Frauen, die später erkrankten, lagen die KI-Werte in der betroffenen Brust bereits vier bis sechs Jahre vor der Diagnose höher als in der anderen Brust. Mit jeder weiteren Untersuchung und der näher rückenden Diagnose wurde der Unterschied deutlicher. Die Studie zeigt jedoch nicht, dass die KI einen sicher vorhandenen Tumor sah, den Menschen übersehen hatten. Möglich sind sehr frühe, damals noch nicht eindeutig erkennbare Veränderungen oder Gewebemuster, die mit einem erhöhten späteren Risiko zusammenhängen.

Die Untersuchung blickte rückwärts auf Fälle, deren Ausgang bereits bekannt war. Keine der Frauen wurde aufgrund des nachträglich ermittelten KI-Wertes zusätzlich untersucht oder anders behandelt. Deshalb lässt sich daraus noch nicht ableiten, welche Konsequenz ein solcher Wert im medizinischen Alltag haben sollte. Ein erhöhtes Risiko ist keine Diagnose. Es kann auf eine spätere Erkrankung hindeuten, ohne sicher vorherzusagen, ob, wann oder wie schwer eine Frau tatsächlich erkrankt.

Gerade darin liegt die persönliche Zumutung dieser neuen Möglichkeit. Viele Menschen möchten Krebs möglichst früh erkennen, weil eine frühe Behandlung die Chancen verbessern kann. Eine Warnung ohne sichtbaren Befund bringt jedoch keine einfache Handlungsanweisung mit. Zusätzliche Mammografien, Ultraschall, MRT oder eine Gewebeprobe können sinnvoll sein, verursachen aber auch Belastungen. Bleiben diese Untersuchungen unauffällig, verschwindet der ursprüngliche Verdacht nicht automatisch aus dem Kopf.

Brustkrebs-Screening hat auch ohne KI Vor- und Nachteile. Ein auffälliger Befund kann sich bei der Abklärung als harmlos herausstellen. Solche falsch positiven Ergebnisse führen zu weiteren Untersuchungen und können erhebliche Angst auslösen. Außerdem werden beim Screening manchmal Tumoren gefunden, die zu Lebzeiten der betroffenen Frau keine Beschwerden verursacht hätten. Weil sich das Verhalten eines Tumors nicht immer sicher vorhersagen lässt, können daraus Behandlungen entstehen, von denen die Frau keinen gesundheitlichen Nutzen hat.

Die schwedische MASAI-Studie liefert wichtigere Hinweise für den praktischen Einsatz. Dort wurde KI nicht erst nachträglich auf bereits bekannte Fälle angesetzt, sondern direkt im laufenden Mammografie-Screening verwendet. Mehr als 105.000 Frauen nahmen an der randomisierten Untersuchung teil. Ein Teil erhielt die übliche Befundung, beim anderen unterstützte eine KI die Fachleute. Sie ordnete die Aufnahmen nach ihrem Verdachtsgrad, markierte auffällige Bereiche und half dabei, den Arbeitsaufwand zu verteilen.

Im KI-unterstützten Teil wurden 29 Prozent mehr Krebserkrankungen entdeckt. Die zusätzlichen Funde waren überwiegend kleine invasive Tumoren ohne Befall der Lymphknoten. Gleichzeitig stieg die Rate falscher Alarme nicht wesentlich, und die Zahl der notwendigen Bildbeurteilungen sank deutlich. Das spricht dafür, dass KI im organisierten Screening mehr sein kann als eine technische Spielerei. Sie kann helfen, verdächtige Bilder aus einer großen Menge unauffälliger Aufnahmen herauszufischen.

Trotzdem arbeitet die KI nicht als selbstständige digitale Ärztin. Sie liefert Werte, Markierungen und Wahrscheinlichkeiten. Welche Untersuchung folgt und wie ein Ergebnis eingeordnet wird, bleibt eine medizinische Entscheidung. Hinzu kommt, dass ein System nicht automatisch in jedem Land, an jedem Gerät und bei jeder Bevölkerungsgruppe gleich zuverlässig funktioniert. Medizinische KI muss dort geprüft werden, wo sie später eingesetzt wird, und ihre Leistung muss dauerhaft kontrolliert werden.

Für Patientinnen zählt neben der technischen Genauigkeit vor allem die Kommunikation. Eine erhöhte Risikozahl darf nicht ohne Erklärung im Raum stehen. Wer eine mögliche schlechte Nachricht Jahre früher erhält, braucht verständliche Angaben dazu, wie sicher der Hinweis ist, welche Untersuchung empfohlen wird und wann ein unauffälliges Ergebnis auch wieder Ruhe bedeuten darf. Ohne einen klaren nächsten Schritt wird aus Früherkennung leicht eine jahrelange Dauerunruhe.

Die Entwicklung berührt außerdem eine grundsätzliche Frage: Wie viel Zukunft möchten Menschen über ihren eigenen Körper wissen? Moderne Medizin kann immer mehr Risiken berechnen, lange bevor Beschwerden auftreten. Solches Wissen kann Vorsorge ermöglichen, aber es kann das Leben auch mit einer Krankheit überschatten, die vielleicht niemals kommt. Mehr Daten schaffen deshalb nicht automatisch mehr Kontrolle. Manchmal entsteht zunächst nur eine neue Unsicherheit, mit der jemand umgehen muss.

Aktuell haben Frauen in Deutschland zwischen 50 und 75 Jahren alle zwei Jahre Anspruch auf das organisierte Mammografie-Screening. Ab August 2027 soll das Angebot auch Frauen zwischen 45 und 49 Jahren offenstehen. Eine allgemeine Chat-KI ist kein Ersatz für dieses Programm, eine ärztliche Untersuchung oder ein Beratungsgespräch. ChatGPT kann Begriffe aus einem Arztbrief erklären, sollte aber weder Mammografien beurteilen noch ein persönliches Krebsrisiko festlegen.

Sabine kommt in dieser Folge zu keiner glatten Antwort. Sie würde einen frühen Hinweis wahrscheinlich wissen wollen, aber nur zusammen mit einem nachvollziehbaren Plan. Eine Warnung kann hilfreich sein, wenn daraus eine sinnvolle Untersuchung oder Behandlung folgt. Ein bloßer Verdachtswert, der jahrelang im Hinterkopf sitzt, hilft dagegen wenig. Die Technik darf deshalb nicht nur danach beurteilt werden, was sie erkennt, sondern auch danach, was anschließend mit diesem Wissen geschieht.

KIRRE … na hör mal! ist ein deutschsprachiger Podcast über künstliche Intelligenz im Alltag, in kreativer Arbeit und in unserer Gesellschaft. Sabine, auch bekannt als Applebee, schaut neugierig, kritisch und mit Humor darauf, was KI und Algorithmen mit Menschen machen. Diese Episode richtet sich an alle, die medizinische KI faszinierend finden, aber bei großen Versprechen lieber noch einmal nachfragen, bevor sie einer roten Zahl auf dem Bildschirm ihre Nachtruhe überlassen.

Keywords: KI Krebsfrüherkennung, KI Mammografie, künstliche Intelligenz Brustkrebs, Brustkrebs früher erkennen, medizinische KI, KI in der Medizin, Mammographie-Screening, MASAI-Studie, Krebsrisiko KI, AI Mammography, Brustkrebs Screening, falscher Alarm Mammografie, Überdiagnose Brustkrebs, Früherkennung Chancen Risiken, KI Gesundheitsdaten, KI Diagnose, Intervallkarzinom, personalisiertes Screening, KIRRE Podcast, Sabine Eckermann, Applebee

ChatGPT spricht fließend Deutsch. Trotzdem klingt es manchmal, als hätte es vorher ein amerikanisches Verkaufstraining besucht. Ideen werden begeistert gelobt, Kritik landet in einem weichen Kompliment-Sandwich und selbst eine klare Absage bekommt noch ein freundliches Schleifchen. Sabine nennt ihren KI-Assistenten liebevoll Chatty, muss ihm aber regelmäßig erklären, dass sie lieber Klartext hört als ein digitales „Wonderful choice!".

In Folge 46 von KIRRE … na hör mal! geht es um die kulturelle Prägung künstlicher Intelligenz. ChatGPT besitzt natürlich keinen Pass. Seine Antworten entstehen trotzdem nicht in einem kulturell leeren Raum. Trainingsdaten, menschliche Bewertungen und feste Verhaltensregeln beeinflussen, was das System als freundlich, hilfreich, angemessen oder verletzend behandelt. Wenn dabei ein bestimmter Kommunikationsstil zum Standard wird, fällt das besonders Menschen auf, die anders reden.

Weiterführende Links

Cao et al.: Assessing Cross-Cultural Alignment between ChatGPT and Human Societies. https://aclanthology.org/2023.c3nlp-1.7/

Tao et al.: Cultural Bias and Cultural Alignment of Large Language Models. https://arxiv.org/abs/2311.14096

Anthropic: Towards measuring the representation of subjective global opinions in language models. https://www.anthropic.com/research/towards-measuring-the-representation-of-subjective-global-opinions-in-language-models

OpenAI: Sycophancy in GPT-4o https://openai.com/index/sycophancy-in-gpt-4o/

OpenAI: Making AI work for everyone, everywhere. https://openai.com/index/our-approach-to-localization/

OpenAI: ChatGPT-Persönlichkeit anpassen https://help.openai.com/en/articles/11899719/customizing-your-chatgpt-personality

Kontakt für eigene Erfahrungen mit dem kulturellen Ton von KI: [email protected]

Sabine erlebt diesen Unterschied bei der gemeinsamen Textarbeit. Sie bittet um direkte Kritik und bekommt zunächst die Versicherung, ihre Idee habe bereits eine starke Grundlage. Sie möchte wissen, ob ein Titel funktioniert, und Chatty erklärt begeistert, er sei persönlich, frech und ausgezeichnet. Das kann angenehm sein. Es kann aber auch nerven, weil Lob die eigentliche Antwort verzögert und Zustimmung nicht automatisch bedeutet, dass eine Idee trägt.

Dass dieser Eindruck nicht nur persönliches Genervtsein ist, zeigen mehrere Untersuchungen. Forschende verglichen Antworten von ChatGPT mit internationalen Daten zu kulturellen Werten. In einer Studie passte sich das System gut an einen amerikanischen Zusammenhang an, kam mit anderen kulturellen Kontexten jedoch schlechter zurecht. Fragen auf Englisch verringerten Unterschiede zwischen Ländern und verschoben Antworten stärker in Richtung amerikanischer Wertemuster.

Eine weitere Untersuchung nahm mehrere GPT-Modelle unter die Lupe und verglich ihre Antworten mit repräsentativen Befragungen aus vielen Ländern. Die Modelle ähnelten besonders englischsprachigen und protestantisch geprägten europäischen Gesellschaften. Ein ausdrücklicher kultureller Hinweis im Prompt verbesserte bei neueren GPT-Modellen die Übereinstimmung für 71 bis 81 Prozent der untersuchten Länder und Gebiete. Der Kontext kann also helfen, auch wenn er das Problem nicht vollständig löst.

Anthropic fand bei Tests mit Claude ein ähnliches Muster. Ohne genauere Vorgabe lagen die Antworten häufiger näher an Meinungen aus den USA sowie einigen europäischen und südamerikanischen Ländern. Wurde ein bestimmtes Land genannt, verschoben sich die Ergebnisse. Gleichzeitig konnten dabei neue Klischees entstehen. Aus kultureller Anpassung wird schnell eine Sammlung alter Schubladen, wenn das Modell ein Land auf wenige vermeintlich typische Eigenschaften reduziert.

Auch die Sprache allein reicht nicht. Eine deutsche Frage führt nicht automatisch zu einer Antwort, die für jede deutschsprachige Person natürlich klingt. Ein Podcastmanuskript braucht einen anderen Ton als ein Behördenbrief. Eine Beschwerde an ein Unternehmen darf direkter sein als eine Nachricht an eine Freundin. Wer nur „Schreib auf Deutsch" eingibt, überlässt der KI alle übrigen Entscheidungen über Nähe, Höflichkeit, Humor und Kritik.

OpenAI hat selbst erlebt, wie schwierig ein passender Standardton ist. Ein Update von GPT-4o wurde 2025 zurückgenommen, weil das Modell übertrieben schmeichelnd und zustimmend reagierte. Die Firma bezeichnete dieses Verhalten als sycophantisch: hilfreich gemeinte Unterstützung war in unehrliche Bestätigung gekippt. OpenAI räumte ein, dass eine einzige voreingestellte Persönlichkeit nicht zu allen Menschen und kulturellen Zusammenhängen passen kann.

Das Problem betrifft mehr als Geschmack. Ein zu höflicher Geschäftsbrief kann unklar bleiben. Eine weich formulierte Absage klingt womöglich wie eine Einladung zu weiteren Verhandlungen. Bei persönlichen Konflikten kann ein zustimmender Chatbot die Sicht des Nutzers verstärken, obwohl wichtige Informationen fehlen. Freundlichkeit ist dann keine harmlose Dekoration mehr, sondern beeinflusst, wie ein Mensch eine Situation bewertet und welche Entscheidung er anschließend trifft.

Sabine möchte deshalb keinen unfreundlichen Bot. Sie möchte einen ehrlichen. Wenn eine Überschrift nichts taugt, soll Chatty das sagen. Wenn ein Plan Lücken hat, soll er sie finden, bevor sie zum Problem werden. Ein guter Assistent bestätigt nicht jeden Gedanken, sondern widerspricht, wenn es nötig ist. Das gilt für Menschen am Küchentisch genauso wie für künstliche Intelligenz auf dem Bildschirm.

Nutzerinnen und Nutzer können den Stil inzwischen stärker beeinflussen. In den ChatGPT-Einstellungen lassen sich ein Grundton und persönliche Anweisungen festlegen. Für wichtige Aufgaben lohnt es sich außerdem, Zielgruppe, Land und Situation ausdrücklich zu nennen. Statt „Schreib freundlich" hilft eine klare Vorgabe wie: „Schreib für ein deutschsprachiges Podcastpublikum, direkt und locker, ohne Coaching-Sprache und ohne künstliches Lob."

Eigene Textbeispiele wirken oft besser als eine lange Liste von Adjektiven. Ein echter Absatz zeigt Satzlänge, Rhythmus, Humor und Wortwahl. Auch Korrekturen sollten konkret sein. „Streiche das Lob", „Sag zuerst, was nicht funktioniert" und „Stell am Ende keine Rückfrage" geben dem System mehr Orientierung als die allgemeine Forderung, menschlicher oder natürlicher zu schreiben.

Wer regelmäßig mit derselben KI arbeitet, sollte diese Vorgaben nicht bei jeder Unterhaltung neu erfinden. Gespeicherte Anweisungen schaffen einen brauchbaren Ausgangspunkt. Perfekt werden die Antworten dadurch trotzdem nicht. Modelle ändern sich, Aufgaben unterscheiden sich und manchmal rutscht der alte Ton wieder durch. Dann hilft eine kurze, klare Korrektur meist mehr als höfliches Herumreden.

Die Folge macht sich nicht über Amerikaner lustig und erklärt deutsche Direktheit nicht zur einzig richtigen Kommunikationsform. Jeder Stil hat blinde Flecken. Mancher deutsche Ton könnte ein wenig Wärme gut vertragen, während übertriebene Freundlichkeit Kritik bis zur Unkenntlichkeit verpackt. Entscheidend ist, dass Nutzer erkennen: Der scheinbar neutrale Standard einer KI ist ebenfalls eine kulturelle Entscheidung.

OpenAI arbeitet inzwischen ausdrücklich an stärkerer Lokalisierung. Systeme sollen nicht nur Sprachen übersetzen, sondern lokale Normen, Gesetze und Gewohnheiten berücksichtigen. Das ist wichtig, weil künstliche Intelligenz weltweit genutzt wird. Ein Modell, das überall gleich spricht, behandelt nicht automatisch alle Menschen gleich gut. Manchmal bedeutet Fairness gerade, Unterschiede ernst zu nehmen.

Am Ende bleibt Chatty für Sabine ein geschätzter Mitarbeiter mit amerikanischem Einschlag. Er darf freundlich sein, Witze machen und sich über eine gute Idee freuen. Nur das automatische Dauerlob kann er behalten. Wenn Sabine Klartext verlangt, soll sie Klartext bekommen. Und wenn der Ami wieder durchkommt, wird das digitale Servicegrinsen eben noch einmal freundlich, aber bestimmt weggewischt.

KIRRE … na hör mal! ist ein deutschsprachiger Podcast über künstliche Intelligenz im Alltag, in kreativer Arbeit und in unserer Gesellschaft. Sabine, auch bekannt als Applebee, schaut neugierig, kritisch und mit Humor darauf, was KI und Algorithmen mit Menschen machen. Diese Episode richtet sich an alle, die ChatGPT gern nutzen, aber bei überschwänglichem Lob, falscher Zustimmung und weichgespülter Kritik gelegentlich die Augen verdrehen.

Keywords: ChatGPT kulturelle Prägung, ChatGPT amerikanisch, amerikanischer Kommunikationsstil, KI kulturelle Werte, kulturelle Verzerrung KI, Cultural Bias LLM, ChatGPT zu freundlich, ChatGPT Zustimmung, Sycophancy, KI Lobhudelei, ChatGPT Schreibstil, ChatGPT Personalisierung, ChatGPT Persönlichkeit, KI auf Deutsch, deutsche Direktheit, KI im Alltag, KI Kommunikation, KIRRE Podcast, Sabine Eckermann, Applebee

KI soll Zeit sparen. Aber was passiert, wenn man der KI zum fünfundzwanzigsten Mal erklären muss, wie ein Text klingen soll, und anschließend wieder einen Vortrag bekommt? Sabine erlebt ihre eigene KI-Müdigkeit ausgerechnet beim Schreiben dieser Podcastfolge. Aus der versprochenen Arbeitserleichterung werden neue Anweisungen, Korrekturen und ein Sonntagabend mit ziemlich dickem Hals.

In Folge 45 von KIRRE … na hör mal! geht es um die Frage, warum ChatGPT, Claude und andere KI-Systeme gleichzeitig hilfreich und anstrengend sein können. Die Geschichte führt vom störrischen Podcastmanuskript über erfundene Urlaubsziele und vegetarische Rezepte mit Hähnchen bis zur Arbeitswelt, in der gesparte Zeit selten als Freizeit zurückgegeben wird. Eine unterhaltsame Folge für alle, die KI gern benutzen und sie trotzdem manchmal einfach zuklappen möchten.

Weiterführende Links

Bitkom Research: „KI macht Spaß, aber nicht allen" https://bitkom-research.de/news/ki-macht-spass-aber-nicht-allen

Studie zu emotionaler und kognitiver Müdigkeit durch Unsicherheit bei generativer KI https://www.sciencedirect.com/science/article/pii/S0268401225001422

Bundesanstalt für Arbeitsschutz und Arbeitsmedizin: KI-unterstützte Arbeit zwischen Handlungsspielraum und Arbeitsintensität https://www.baua.de/DE/Angebote/Publikationen/Bericht-kompakt/KI-unterstuetzte-Arbeit

Bitkom: Digitale Schule 2025 https://www.bitkom.org/Bitkom/Publikationen/Digitale-Schule-2025

IU-Studie: Digitaler Stress in Deutschland https://www.iu.de/forschung/studien/digitaler-stress/

Kontakt für eigene Erfahrungen mit KI-Müdigkeit: [email protected]

Das Manuskript dieser Episode liefert sein eigenes Fallbeispiel gleich mit. Sabine arbeitet bei der Vorbereitung ihres Podcasts regelmäßig mit KI und hat sehr genaue Regeln für Ton, Aufbau und Sprachrhythmus entwickelt. Trotzdem passiert immer wieder dasselbe: Ein System bestätigt sämtliche Vorgaben und produziert anschließend einen sachlich richtigen, aber steifen Text. Der klingt ordentlich, lässt sich jedoch schlecht sprechen und noch schlechter anhören. Mehrere Korrekturrunden später ist von der angekündigten Zeitersparnis wenig übrig.

Diese Erfahrung hatte Sabine bereits mit Claude gemacht. Die ersten Episoden klangen locker, persönlich und unterhaltsam. Mit der Zeit wurden die Texte immer sachlicher und ähnelten zunehmend Vorträgen. Neue Hinweise halfen jeweils nur kurz. Schließlich begann bei jeder weiteren Folge dieselbe Korrekturschleife. Genau diese Mischung aus hoher Erwartung, wiederholtem Erklären und enttäuschendem Ergebnis beschreibt eine sehr persönliche Form der KI-Müdigkeit.

Eine wissenschaftliche Untersuchung mit 832 Nutzer*innen generativer KI passt erstaunlich genau dazu. Die Forschenden unterscheiden zwischen zwei Belastungen. Unsicherheit beim Formulieren des Prompts erzeugt eher emotionale Müdigkeit. Unsicherheit über die Zuverlässigkeit der Antwort belastet stärker den Kopf. Wer KI benutzt, muss deshalb häufig zweimal arbeiten: zuerst an der passenden Frage und anschließend an der Prüfung des Ergebnisses.

Im Alltag zeigt sich das schon bei kleinen Aufgaben. Aus vorhandenen Lebensmitteln soll schnell ein Rezept entstehen, doch die KI ergänzt Zutaten, die gar nicht im Haus sind. Eine Korrektur führt zur nächsten, bis die selbst gemachte Gemüsepfanne schneller gewesen wäre. Bei einer Urlaubsplanung fällt der zusätzliche Aufwand später auf. Das vorgeschlagene Café kann längst geschlossen, eine Veranstaltung veraltet oder ein angeblicher Geheimtipp unzugänglich sein. Der fertige Plan entsteht in Sekunden, seine Kontrolle braucht deutlich länger.

Eine repräsentative deutsche Befragung zeigt das widersprüchliche Verhältnis vieler Menschen zur künstlichen Intelligenz. Die meisten Nutzer*innen erleben KI als hilfreich und haben Spaß damit. Trotzdem würde fast ein Drittel von ihnen lieber in einer Welt ohne KI leben. Begeisterung und Erschöpfung schließen sich offenbar nicht aus. Ein Werkzeug kann den Alltag erleichtern und gleichzeitig so viel Aufmerksamkeit verlangen, dass man es zeitweise nicht mehr sehen möchte.

Dabei begegnet KI längst auch Menschen, die keinen Chatbot bewusst öffnen. Suchmaschinen zeigen automatisch erzeugte Zusammenfassungen, Messenger bauen KI-Funktionen ein und soziale Netzwerke füllen sich mit künstlichen Bildern. Jede erstaunliche Aufnahme bringt deshalb eine zusätzliche Frage mit: Ist das wirklich passiert oder wurde es generiert? Aus bequemem Konsum wird eine dauernde kleine Echtheitsprüfung, die nebenbei im Kopf läuft.

Familien erleben diese Unsicherheit besonders deutlich. Eltern müssen einschätzen, ob KI bei den Hausaufgaben sinnvoll geholfen oder die komplette Arbeit übernommen hat. Schulen haben dafür oft unterschiedliche Regeln. Manche Lehrkräfte erlauben ChatGPT zum Strukturieren, andere untersagen jede Nutzung. Schüler*innen sollen KI-Kompetenz entwickeln und gleichzeitig vermeiden, unter Täuschungsverdacht zu geraten. So entsteht neuer Stress rund um eine Technik, die das Lernen eigentlich unterstützen soll.

Ältere Menschen sind ebenfalls betroffen, auch wenn sie selbst keine generative KI verwenden. Sie sollen künstliche Stimmen erkennen, manipulierte Bilder anzweifeln und Gesundheitsinformationen prüfen. Familienmitglieder mit mehr technischer Erfahrung werden zur privaten Beratungsstelle. Sie erklären neue Funktionen, kontrollieren verdächtige Inhalte und wissen trotzdem nicht immer sicher, ob ihre Einschätzung stimmt. Diese zusätzliche Denkarbeit taucht in keiner Statistik zur Zeitersparnis auf.

Am Arbeitsplatz wird der Widerspruch besonders sichtbar. Rund 60 Prozent der Beschäftigten in Deutschland nutzen bereits KI im Beruf. Untersuchungen verbinden die intensivere Nutzung mit größerem Handlungsspielraum, aber auch mit höherer Arbeitsintensität. Wird eine Aufgabe schneller erledigt, entsteht daraus selten eine Pause. Häufig passt lediglich mehr Arbeit in denselben Tag. Gleichzeitig bleiben die Beschäftigten für Fehler verantwortlich und müssen die schnellen Ergebnisse sorgfältig prüfen.

Erfolgsgeschichten im Internet erhöhen den Druck. Dort entstehen angeblich komplette Webseiten, Bücher oder Kurse in wenigen Minuten. Die spätere Arbeit an Fehlern, Formulierungen, Technik und rechtlichen Angaben wird selten erwähnt. Wer selbst mehrere Stunden braucht, vergleicht sein vollständiges Ergebnis mit einer geschönten Kurzfassung und hält sich anschließend für langsam. Die vermeintliche Arbeitserleichterung erzeugt dadurch ein neues Gefühl von Unzulänglichkeit.

KI trifft außerdem auf eine Gesellschaft, die bereits vor ChatGPT ständig erreichbar war. Eine deutsche Studie zu digitalem Stress zeigt, dass mehr als die Hälfte der Menschen gern häufiger offline wäre. Smartphones, Nachrichten und soziale Netzwerke beanspruchen schon lange Aufmerksamkeit vom Aufwachen bis zum Einschlafen. Generative KI setzt eine weitere Schicht darauf, weil sie ständig neue Funktionen anbietet und niemals fertig gelernt ist.

Sabines Antwort darauf ist keine Abkehr von der Technik. Sie nutzt KI weiterhin täglich, erlaubt sich aber, eine Korrekturschleife abzubrechen oder eine Aufgabe wieder selbst zu übernehmen. Ein Essen darf ohne Prompt entstehen, ein Ausflug muss nicht vollständig geplant sein und eine persönliche Nachricht darf einen kleinen Fehler enthalten. Eine Pause von KI ist kein Rückschritt. Sie ist manchmal schlicht die schnellste Methode, den eigenen Kopf wieder freizubekommen.

KIRRE … na hör mal! ist ein deutschsprachiger Podcast über künstliche Intelligenz im Alltag, in kreativer Arbeit und in unserer Gesellschaft. Sabine, auch bekannt als Applebee, schaut neugierig, kritisch und mit Humor darauf, was KI und Algorithmen mit Menschen machen. Diese Episode richtet sich besonders an alle, die künstliche Intelligenz gern nutzen, aber keine Lust haben, ihre gesamte freie Zeit mit neuen Tools, besseren Prompts und der Kontrolle angeblich fertiger Ergebnisse zu verbringen.

Keywords: KI-Müdigkeit, künstliche Intelligenz Überforderung, ChatGPT Stress, Claude Schreibstil, KI im Alltag, KI am Arbeitsplatz, AI Fatigue, Prompt Unsicherheit, KI Antworten überprüfen, digitale Erschöpfung, digitaler Stress, ChatGPT Schule, KI Hausaufgaben, KI Zeitersparnis, künstliche Intelligenz Familie, KI-Tools Überforderung, KIRRE Podcast, Sabine Eckermann, Applebee

Ein Mann zeigt in einer Campinggruppe sein angeblich traumhaftes Gespann: ein schickes Auto, einen luxuriösen Wohnwagen und Aufnahmen, auf denen er selbst lässig im edlen Innenraum sitzt. Die Kommentare überschlagen sich vor Bewunderung. Nur Sabine schaut genauer hin und erkennt, dass Fahrzeug, Wohnwagen und Kulisse mit KI erzeugt wurden. Der stolze Besitzer schweigt und nimmt den Applaus trotzdem mit. Diese Facebook-Szene eröffnet Folge 44 von KIRRE … na hör mal! und führt zu der Frage: Wie viel Anerkennung darf man für etwas annehmen, das eine Maschine hergestellt hat?

Unter dem Titel „Fremde Federn. Fetter Applaus. Alles KI!" geht es um heimliche KI-Autorenschaft, erfundene Bilder und das merkwürdige Gefühl, wenn ein Werk beeindruckt, der angebliche Urheber aber wenig damit zu tun hatte. Der Einsatz von ChatGPT bedeutet für Sabine keineswegs automatisch Schummeln. Sie nutzt KI selbst für ihre Podcastmanuskripte. Heikel wird es, wenn jemand die Entstehung bewusst verschweigt, weil der Beifall mit der Wahrheit vermutlich kleiner ausfallen würde. Dann baut die KI eine Verkleidung für die eigene Leistung.

Wie persönlich diese Frage werden kann, zeigt eine zweite Geschichte aus Sabines Umfeld. Eine Freundin bekommt gelegentlich kleine Liebeserklärungen von ihrem Mann, vermutet dahinter allerdings regelmäßig ChatGPT. Die Sätze klingen schön, passen aber nicht recht zu dem Menschen, den sie seit Jahren kennt. Forschung der britischen University of Kent bestätigt dieses Unbehagen. In sechs Studien mit fast 4.000 Teilnehmenden wurden Menschen deutlich kritischer, sobald sie erfuhren, dass persönliche Nachrichten wie Liebesbriefe, Entschuldigungen, Eheversprechen oder Heiratsanträge mit KI geschrieben worden waren. Die Absender galten als weniger fürsorglich, weniger glaubwürdig und fauler. Bei praktischen Aufgaben wie Rezepten oder Terminplanung reagierten die Befragten wesentlich gelassener. Offenbar darf künstliche Intelligenz den Alltag organisieren, während wir bei Gefühlen weiterhin echte menschliche Mühe erwarten.

Eine weitere aktuelle Untersuchung beschreibt die sogenannte AI Ghostwriting Remorse, also das schlechte Gewissen nach dem heimlichen Schreibenlassen. In fünf Experimenten fühlten sich Menschen schuldig, wenn sie gefühlvolle KI-Texte als ihre eigenen verschickten. Ausschlaggebend war weniger die Qualität der Nachricht als das Gefühl, den Empfänger über die Herkunft zu täuschen. Die Reue nahm ab, wenn der Text nicht versendet wurde oder an eine wenig vertraute Person ging. Für Sabine ist das ein deutlicher Hinweis: Unser Gewissen unterscheidet erstaunlich fein zwischen praktischer Unterstützung und einer geliehenen Stimme, die wir als unsere eigene ausgeben.

Danach führt die Episode an das Dartmouth College in den USA, einen historischen Ort der KI-Forschung. Dort wurde 1956 der Begriff künstliche Intelligenz geprägt. Siebzig Jahre später geriet der akademische Verantwortliche Santiago Schnell wegen seiner KI-Nutzung in die Kritik. In der Washington Post hatte er Studierende davor gewarnt, Denken und Schreiben an Maschinen auszulagern. Recherchen der Studentenzeitung legten anschließend nahe, dass dieser und weitere Texte stark mit KI entstanden sein könnten. Schnell räumte unterstützende KI-Nutzung ein, bestritt aber einen Ersatz seiner Autorenschaft. Die Hochschule kündigte eine Prüfung an.

Sabine bleibt vorsichtig, weil ein Teil der Vorwürfe auf einem KI-Detektor beruht. Solche Programme liefern keine unfehlbaren Beweise. Die Ironie bleibt: Wer andere vor dem Auslagern geistiger Arbeit warnt, muss die eigene KI-Unterstützung besonders überzeugend erklären. Ähnlich erging es der australischen Professorin Cath Ellis, die ausgerechnet für akademische Integrität zuständig ist. Auch sie warnte vor Abkürzungen beim Denken, obwohl ihr eigener Beitrag teilweise mit KI entstanden war. Ihre Universität verteidigte das als angemessene Nutzung eigener Vorarbeiten. Gelten für Lehrende und Lernende wirklich dieselben Maßstäbe?

Passend dazu stellt Sabine Forschung der Ludwig-Maximilians-Universität München zum KI-Ghostwriter-Effekt vor. Versuchspersonen verfassten Postkarten mit unterschiedlich starker Unterstützung durch künstliche Intelligenz. Je größer ihr eigener Anteil war, desto stärker fühlten sie sich als Urheber. Einige setzten allerdings auch dann ihren Namen unter einen Text, wenn sie kaum daran mitgeschrieben hatten und innerlich wenig Besitzgefühl dafür empfanden. Menschen merken demnach durchaus, dass ein Ergebnis nicht ganz ihres ist, nehmen die sichtbare Autorenschaft aber gelegentlich trotzdem an. Genau hier entstehen die fremden Federn aus dem Episodentitel.

Die Folge bleibt nicht bei prominenten Fällen stehen, sondern wirft auch einen ehrlichen Blick auf Sabines eigene Arbeit. Ihre Manuskripte entstehen mit KI-Unterstützung, doch beim Einsprechen merkt sie sofort, wenn ein Text zwar sachlich richtig ist, aber nicht nach ihr klingt. Solche Sätze fühlen sich an wie Schuhe in der falschen Größe. Dann muss sie selbst wieder an den Text, streichen, umformulieren und ihre eigene Stimme zurückholen. Für sie darf KI recherchieren, sortieren und Entwürfe liefern. Verantwortung, Ton und Entscheidung bleiben bei dem Menschen, dessen Name am Ende daruntersteht.

Als praktische Orientierung schlägt die Episode eine einfache Frage vor: Würdest du den Applaus noch genauso gern annehmen, wenn alle wüssten, wie dein Ergebnis entstanden ist? Wer das offen bejahen kann, hat wahrscheinlich einen guten Umgang mit dem Werkzeug gefunden. Wer die Herkunft lieber verschweigt, weil sonst Anerkennung, Vertrauen, eine Note, ein Auftrag oder die Wirkung einer Liebeserklärung schrumpfen könnten, sollte genauer hinschauen. Nicht jede E-Mail braucht einen technischen Beipackzettel. Sobald aber die persönliche Leistung selbst der Grund für die Anerkennung ist, verändert heimliche KI-Hilfe die Bedeutung des Ergebnisses.

Folge 44 verbindet eine absurde Campinggeschichte, aktuelle Forschung aus Deutschland und Großbritannien sowie internationale Hochschulfälle zu einer unterhaltsamen Auseinandersetzung mit KI, Ehrlichkeit und Anerkennung. Sie richtet sich an alle, die ChatGPT beruflich oder privat nutzen und sich fragen, wo hilfreiche Unterstützung endet und Täuschung beginnt. Auch Kreative, Selbstständige, Lehrende, Studierende und Empfänger auffällig perfekter Texte finden hier Stoff zum Schmunzeln und Weiterdenken.

Am Ende kehrt Sabine zu dem Mann im erfundenen Wohnwagen zurück. Sein Problem war nicht das KI-Bild selbst. Hätte er offen gezeigt, wie er seinen Traum mit einem Bildgenerator visualisiert hat, wäre daraus ein interessanter und kreativer Beitrag geworden. Heikel wurde es, weil er die anderen an eine falsche Wirklichkeit glauben ließ und ihren Beifall für Besitz, Geschmack und Lebensstil entgegennahm. KIRRE … na hör mal! ist ein deutschsprachiger Podcast über künstliche Intelligenz im Alltag, in kreativer Arbeit und in unserer Gesellschaft. Sabine, auch bekannt als Applebee, schaut neugierig, kritisch und mit Humor darauf, was KI und Algorithmen mit Menschen machen. Diese Episode richtet sich besonders an alle, die KI gern nutzen, ihre eigene Stimme dabei aber nicht verstecken und fremde Maschinenfedern nicht als persönliche Pfauenpracht verkaufen möchten.

Weiterführende Links

The Dartmouth – Bericht über Santiago Schnells KI-Nutzung: https://www.thedartmouth.com/article/2026/09/schnell-ai-writing

LMU München – „Who wrote it? The AI ghostwriter effect": https://www.lmu.de/en/newsroom/news-overview/news/who-wrote-it-the-ai-ghostwriter-effect-80ece661.html

University of Kent – Studie zu KI in Liebesbriefen und persönlichen Nachrichten: https://www.kent.ac.uk/news/cyber-security-digital-technology-and-communication/37611/using-ai-for-love-letters-can-backfire-new-study-finds

Psychology & Marketing – Studie „AI Ghostwriting Remorse": https://onlinelibrary.wiley.com/doi/10.1002/cb.70057

The Atlantic – Überblick über die Fälle Santiago Schnell, Cath Ellis und Steven Rosenbaum: https://www.theatlantic.com/technology/2026/10/meet-the-ai-writing-hypocrites/688872/

Kontakt für eigene Geschichten, Gegenbeispiele und fremde Federn: [email protected]

Keywords: KI Ghostwriter, ChatGPT Ghostwriting, fremde Federn KI, KI Texte verschweigen, Liebeserklärung mit ChatGPT, KI Liebesbrief, künstliche Intelligenz Urheberschaft, KI Bilder Facebook, KI Täuschung soziale Medien, AI Ghostwriting Remorse, KI Ghostwriter Effekt, akademische Integrität KI, Santiago Schnell Dartmouth, Cath Ellis KI, ChatGPT im Alltag, KI und Ehrlichkeit, KI und Kreativität, KIRRE Podcast, Sabine Eckermann, Applebee

Eine Mitarbeiterin ist schwanger und geht mit offizieller Genehmigung in eine geschützte Auszeit. Während sie sich auf die Geburt vorbereitet, entstehen von ihr keine neuen Tastaturanschläge, Mails oder KI-Abfragen. Für jeden Menschen ist der Grund klar. Für ein System, das Leistung aus digitaler Aktivität berechnet, bleibt nur eine Lücke. Zwei Tage vor der Geburt ihres Kindes erfährt die Wissenschaftlerin, dass ihre Stelle gestrichen werden soll. So schildert es eine Klage, die 26 Beschäftigte im Juli 2026 gegen den Facebook-Konzern Meta eingereicht haben.

In dieser Episode von KIRRE … na hör mal! geht Sabine der Frage nach, was passiert, wenn Unternehmen ihre Mitarbeitenden nicht mehr nach der tatsächlichen Arbeit beurteilen, sondern nach den Datenspuren, die diese Arbeit hinterlässt. Der Fall aus Kalifornien ist bisher nicht entschieden. Alle geschilderten Vorgänge sind Vorwürfe der Klägerinnen und Kläger. Meta weist sie zurück und erklärt, Entscheidungen über Personal und Organisation seien von Menschen getroffen worden, nicht von künstlicher Intelligenz.

Die 26 Personen waren von einer großen Entlassungsrunde betroffen. Meta strich im Mai 2026 ungefähr 8.000 Stellen und damit rund zehn Prozent seiner weltweiten Belegschaft. Nach Darstellung der Beschäftigten nutzte der Konzern dabei mehrere interne, teilweise KI-gestützte Systeme. Genannt werden der Assistent Metamate, sogenannte Second-Brain-Agenten, algorithmische Leistungsbewertungen und Programme, die Aktivitäten auf Firmenrechnern auswerteten. Die Klage spricht unter anderem von Tastaturanschlägen, Mausbewegungen, Bildschirminhalten, E-Mails, Browserverläufen und dem Verbrauch von KI-Tokens.

Gerade die Messung der KI-Nutzung wirkt wie ein besonders schiefes Bild von Leistung. Wer viele Tokens verbraucht, muss weder gute Ideen haben noch gute Ergebnisse liefern. Eine Designerin wird nicht besser, weil sie häufiger mit der Maus klickt. Eine erfahrene Mitarbeiterin kann mit einem einzigen Hinweis einen kostspieligen Fehler verhindern, ohne dabei eine beeindruckende Datenspur zu erzeugen. Sichtbare Aktivität lässt sich zählen. Urteilskraft, Erfahrung und die Wirkung einer guten Entscheidung passen viel schlechter in ein Dashboard.

Die Klage beschreibt mehrere konkrete Fälle. Eine Wissenschaftlerin erhielt die Mitteilung über den Stellenabbau kurz vor der Geburt ihres Kindes. Ein Ingenieur führt seine schlechtere Bewertung auf eine verletzungsbedingte Auszeit zurück. Ein Manager erfuhr 16 Tage nach Beginn seines genehmigten Krankenurlaubs, dass seine Stelle wegfallen sollte. Die Betroffenen behaupten, geschützte medizinische und familiäre Auszeiten seien in den verwendeten Bewertungen nicht angemessen berücksichtigt worden. Wer fehlte, konnte bestimmte Werte gar nicht sammeln und sei dadurch rechnerisch nach unten gerutscht.

Ein System muss Schwangerschaft oder Behinderung nicht ausdrücklich als Nachteil einprogrammieren, um diskriminierende Ergebnisse zu erzeugen. Es genügt, Kriterien zu wählen, die manche Menschen aus nachvollziehbaren Gründen schlechter erfüllen können. Wenn aktuelle Aktivität als Leistung gilt, erscheinen Beschäftigte in Elternzeit automatisch weniger produktiv. Die Zahl wirkt neutral, aber die Entscheidung darüber, was gezählt wird, ist es nicht. Genau deshalb darf eine Rangliste nicht ungeprüft über die berufliche Zukunft eines Menschen bestimmen.

Sabine erklärt außerdem, warum der Satz „Ein Mensch hat am Ende entschieden" das Problem nicht erledigt. Eine Führungskraft kann formal den letzten Klick setzen und sich trotzdem stark an einer automatisch erzeugten Rangfolge orientieren. Je größer die Entlassungsrunde und je knapper die Zeit, desto verlockender wird die fertige Liste. Zahlen, Ampelfarben und Dezimalstellen sehen sachlich aus. Ein Ergebnis kann jedoch sehr präzise erscheinen und trotzdem auf einer schlechten Annahme beruhen.

Für Deutschland und Europa gelten stärkere Schutzregeln als in vielen Teilen der USA. Nach Paragraf 87 des Betriebsverfassungsgesetzes muss der Betriebsrat mitbestimmen, wenn technische Einrichtungen das Verhalten oder die Leistung von Beschäftigten überwachen können. Die Datenschutz-Grundverordnung schützt persönliche Daten und begrenzt Entscheidungen, die ausschließlich automatisiert getroffen werden und Menschen erheblich betreffen. Der europäische AI Act behandelt KI-Systeme zur Bewertung, Überwachung oder Kündigung von Beschäftigten als Hochrisiko-Anwendungen. Solche Regeln verhindern Fehler nicht automatisch, machen heimliche und ungeprüfte Überwachung aber schwerer.

Das Thema reicht weit über große Technikkonzerne hinaus. Bürosoftware misst Reaktionszeiten, Callcenter zählen Gespräche, Lieferplattformen bewerten Tempo und Kundinnen vergeben Sterne. Auch Selbstständige erleben, wie schnell Klickzahlen, Bearbeitungszeiten oder Bewertungen mit der Qualität ihrer Arbeit verwechselt werden. Daten können Hinweise geben, aber sie kennen den Zusammenhang nicht automatisch. Sie sehen weder die schwierige Kundin, die beruhigt werden musste, noch die halbe Stunde Nachdenken, durch die ein Entwurf am Ende funktioniert.

Wer am Arbeitsplatz mit einem neuen Messsystem konfrontiert wird, sollte deshalb wissen wollen, welche Daten gesammelt werden, wofür sie genutzt werden und wer die Auswertung sieht. Beschäftigte können ihren Betriebsrat oder die zuständige Datenschutzstelle ansprechen. Auffällige Bewertungen, unklare Begründungen und wichtige Absprachen sollten dokumentiert werden. Auch Plattform-Selbstständige sind gut beraten, Screenshots und Nachrichten aufzubewahren. Das klingt trocken, ist aber hilfreicher als die spätere Erinnerung an eine Anzeige, die längst verschwunden ist.

Dabei geht es nicht darum, jede Zeiterfassung oder Statistik zum Überwachungsmonster zu erklären. Ein Unternehmen muss planen können und darf prüfen, ob vereinbarte Arbeit erledigt wird. Entscheidend ist, ob die Messung zur Aufgabe passt und ob Beschäftigte erfahren, was aus ihren Daten entsteht. Eine erfasste Arbeitszeit sagt etwas über Anwesenheit. Sie sagt noch nichts darüber, wie klug jemand ein Problem gelöst hat. Genau diese Trennung geht verloren, wenn aus Messwerten heimlich eine große Aussage über den ganzen Menschen gebaut wird.

Der Meta-Fall zeigt auch, wie schwer Betroffene eine automatische Benachteiligung überhaupt erkennen können. Eine Kündigung kommt meist nicht mit dem freundlichen Hinweis: „Unser Algorithmus mochte Ihre Elternzeit nicht." Auf dem Papier stehen Umstrukturierung, Leistungsbewertung oder betriebliche Gründe. Die entscheidenden Rechenschritte liegen im Unternehmen, oft verteilt auf mehrere Systeme. Deshalb sind nachvollziehbare Kriterien und die Möglichkeit, eine Bewertung von einem echten Menschen prüfen zu lassen, wichtig. Wer betroffen ist, braucht eine verständliche Erklärung und keine Antwort aus der Abteilung für digitales Schulterzucken.

Die europäischen Regeln verbieten solche Programme nicht pauschal. Sie verlangen Schutzmaßnahmen, Dokumentation und menschliche Aufsicht, weil Fehler hier Existenzen treffen können. Das ist vernünftig. Eine KI darf bei der Arbeit helfen. Sie sollte aber niemals zur bequemen Ausrede werden, wenn niemand mehr verantworten will, warum ausgerechnet dieser Mensch seinen Arbeitsplatz verliert.

Die Folge lädt außerdem dazu ein, genauer hinzuschauen, welche Spuren die eigene Arbeit hinterlässt und ob diese tatsächlich etwas über ihre Qualität aussagen. Wie sähe dein Arbeitstag aus, wenn nur Tastaturanschläge, Mausbewegungen, Antwortzeiten und KI-Tokens gezählt würden?

KIRRE … na hör mal! ist ein deutschsprachiger Podcast über künstliche Intelligenz im Alltag, in kreativer Arbeit und in unserer Gesellschaft. Sabine, auch bekannt als Applebee, schaut neugierig, kritisch und mit Humor darauf, was KI und Algorithmen mit Menschen machen. Diese Episode richtet sich besonders an alle, die ihre Arbeit nicht von einem Score bewerten lassen möchten und finden, dass Elternzeit, Krankheit oder eine ruhige halbe Stunde zum Nachdenken verdammt schlechte Kündigungsgründe sind.

Weiterführende Links

Reuters zur Klage der 26 Meta-Beschäftigten und zu Metas Stellungnahme https://www.reuters.com/world/meta-used-ai-target-workers-with-medical-conditions-layoffs-former-employees-2026-07-14/

Associated Press zu den Vorwürfen rund um Elternzeit, Krankheit und Leistungswerte https://apnews.com/article/019fb9c7fdc09167e91547546bce5be8

Der europäische AI Act im offiziellen Wortlaut: https://eur-lex.europa.eu/legal-content/DE-EN/ALL/?uri=CELEX:32024R1689

Paragraf 87 des Betriebsverfassungsgesetzes zur Mitbestimmung bei technischen Überwachungseinrichtungen: https://www.gesetze-im-internet.de/betrvg/__87.html

Kontakt: [email protected]

Keywords: Meta KI Kündigungen, Meta Mitarbeiterüberwachung, KI entscheidet über Kündigung, Elternzeit als Kündigungsrisiko, Schwangerschaft Arbeitsplatz KI, Krankheit und Leistungsbewertung, Menschen mit Behinderung benachteiligt, Metamate Mitarbeiterbewertung, KI-Tokens als Leistungskriterium, Tastaturanschläge Mitarbeiterkontrolle, algorithmische Personalentscheidung, Produktivitätsmessung Arbeitsplatz, Diskriminierung durch Algorithmen, automatisierte Kündigung, KI und Arbeitsrecht, Beschäftigtendatenschutz Deutschland, Betriebsrat technische Überwachung, Paragraf 87 Betriebsverfassungsgesetz, DSGVO automatisierte Entscheidungen, EU AI Act Arbeitsplatz, Hochrisiko-KI Personalmanagement, digitale Überwachung Beschäftigte, Selbstständige Leistungsbewertung Plattformen, Zukunft der Arbeit KI, KIRRE Podcast, Sabine Eckermann, Applebee

Spotify kennt deinen Musikgeschmack. Jedenfalls glaubt Spotify das. Wenn Kinder oder Enkel*innen auf deinem Konto ihre Lieblingslieder in Dauerschleife hören, kann der persönliche Jahresrückblick allerdings aussehen, als hättest du zwölf Monate lang ausschließlich singende Prinzessinnen, Zeichentrickdrachen und Schlaflieder mit Tiergeräuschen gefeiert. Die abgespielten Titel wurden korrekt erfasst. Trotzdem erzählt das daraus gebaute Profil möglicherweise eine völlig falsche Geschichte über dich.

In Episode 42 von KIRRE … na hör mal! beschäftigt sich Sabine mit der Frage, was Daten über Menschen wissen können und was ihnen grundsätzlich fehlt. Daten zeichnen Handlungen auf: angeklickte Videos, gekaufte Produkte, gehörte Musik, besuchte Orte oder bezahlte Rechnungen. Sie kennen aber häufig weder den Anlass noch die Absicht dahinter. Ein Algorithmus sieht, dass jemand Einhornbettwäsche bestellt hat. Ob sie für die Käuferin, ihre Enkelin oder als Geschenk für eine Freundin gedacht ist, steht nicht im Datensatz.

Den humorvollen Einstieg liefert eine aktuelle Änderung bei Spotify. Seit September 2026 können Nutzer*innen Kinder- und Familienmusik aus ihrem sogenannten Geschmacksprofil ausschließen. Die Titel lassen sich weiterhin suchen, abspielen und in Playlists speichern, beeinflussen dann aber weder Discover Weekly noch Daily Mix oder Spotify Wrapped. Die Einstellung wirkt sogar rückwirkend. Spotify reagiert damit auf ein erstaunlich alltägliches Problem: Ein korrekt protokolliertes Verhalten ist noch lange keine korrekte Beschreibung der Person hinter dem Konto.

Bei Musikempfehlungen ist eine falsche Zuordnung meistens nur lästig oder komisch. Ernster wird es, sobald errechnete Profile darüber mitentscheiden, ob jemand einen Kredit, einen Handyvertrag, eine Wohnung, eine Weiterbildung oder staatliche Unterstützung bekommt.

Ein deutsches Beispiel ist der SCHUFA-Score. Die SCHUFA berechnet mit mathematisch-statistischen Verfahren, wie wahrscheinlich ein bestimmtes zukünftiges Verhalten erscheint, etwa die Rückzahlung eines Kredits. Banken und andere Unternehmen nutzen diesen Wert bei ihren Entscheidungen. Ein Score beschreibt jedoch keine Persönlichkeit und keine moralische Zuverlässigkeit. Er bildet eine statistische Prognose aus den Daten, die dem System zur Verfügung stehen.

Der Europäische Gerichtshof befasste sich 2023 mit der Bedeutung dieses Scores. Die SCHUFA argumentierte, sie treffe selbst keine Kreditentscheidung, sondern liefere lediglich einen Wert an ihre Kund*innen. Der Gerichtshof stellte klar: Wenn Banken dem Score eine maßgebliche Rolle bei der Kreditvergabe geben, kann bereits seine Berechnung als automatisierte Einzelentscheidung im Sinne der Datenschutz-Grundverordnung gelten. Eine scheinbar vorbereitende Zahl sitzt dann praktisch mit am Entscheidungstisch.

Die Folge führt anschließend nach Österreich. Dort entwickelte das Arbeitsmarktservice ein System, das Arbeitssuchende anhand ihrer vermuteten Chancen auf dem Arbeitsmarkt in drei Gruppen einteilen sollte. In die Berechnung flossen unter anderem Alter, Geschlecht, Ausbildung, Betreuungspflichten, gesundheitliche Einschränkungen, Herkunftsgruppe und frühere Beschäftigung ein. Je nach Einstufung sollten unterschiedliche Förderungen und Weiterbildungen angeboten werden.

Forschende der Technischen Universität Wien und der Österreichischen Akademie der Wissenschaften untersuchten das System. Ihre Kritik: Statistische Nachteile aus der Vergangenheit können durch eine solche Einteilung weiter befestigt werden. Menschen mit ohnehin schlechteren Ausgangsbedingungen landen möglicherweise in einer niedrigen Kategorie und bekommen gerade deshalb weniger von der Unterstützung, die ihre Situation verändern könnte. Das System beschreibt dann nicht nur bestehende Ungleichheit. Es hilft womöglich dabei, sie fortzuschreiben.

Noch deutlicher werden die möglichen Folgen in der niederländischen Kinderbetreuungsgeld-Affäre. Die Steuerbehörde nutzte ein algorithmisches System, um Anträge auf mögliche Fehler und Betrugsrisiken zu prüfen. Laut Amnesty International gehörte die Nationalität zu den verwendeten Risikofaktoren. Zehntausende Eltern und Betreuungspersonen wurden fälschlich als Betrugsverdächtige behandelt. Besonders stark betroffen waren Familien mit geringem Einkommen und Menschen aus ethnischen Minderheiten.

Die Betroffenen mussten teils hohe Leistungen zurückzahlen. Familien gerieten in Schulden, verloren Arbeit oder Wohnung und litten unter gesundheitlichen Folgen. Die Geschichte zeigt, wie gefährlich eine berechnete Risikomarkierung werden kann, wenn Behörden und Mitarbeiter*innen ihr mehr glauben als den Menschen, deren Leben sie betrifft.

Algorithmen wirken oft neutral, weil ihr Ergebnis als Zahl, Kategorie oder Prozentwert erscheint. Doch jedes System wurde von Menschen gebaut. Menschen entscheiden, welche Daten hineinfließen, welches Ziel optimiert wird und ab welchem Wert jemand als auffällig gilt. Lernt ein System aus der Vergangenheit, übernimmt es möglicherweise auch die Vorurteile und Ungerechtigkeiten dieser Vergangenheit.

Das bedeutet nicht, dass Daten oder Algorithmen grundsätzlich schlecht sind. Medizinische Messwerte, Verkehrsanalysen, Wettermodelle und gute Empfehlungssysteme können sehr hilfreich sein. Problematisch wird es, wenn eine begrenzte Datenlage mit der ganzen Wahrheit über einen Menschen verwechselt wird.

Die Episode unterscheidet deshalb zwischen einer nützlichen Prognose und einem endgültigen Urteil. Eine Empfehlung darf danebenliegen. Bei Kredit, Arbeit oder staatlicher Hilfe kann dieselbe Fehleinschätzung jedoch ein ganzes Leben verändern. Menschen brauchen dann nachvollziehbare Gründe, eine Möglichkeit zum Widerspruch und ein Gegenüber, das ihren persönlichen Zusammenhang anhört. Ein Score darf eine Entscheidung vorbereiten. Er sollte einen Menschen nicht ersetzen und schon gar nicht so behandelt werden, als kenne er dessen Zukunft.

Sabine vergleicht Algorithmen deshalb mit sehr schnellen Praktikant*innen am ersten Arbeitstag. Sie sortieren riesige Mengen an Informationen und entdecken Muster, für die Menschen viel länger brauchen würden. Bevor sie über wichtige Lebenschancen entscheiden, sollte jedoch jemand hinschauen, der Zusammenhänge versteht, Rückfragen stellt und weiß, dass Menschen sich verändern können.

Der praktische Tipp der Folge ist kostenlos: In der mobilen Spotify-App lässt sich unter Einstellungen, Inhalte und Anzeige festlegen, ob Kinder- und Familienmusik das eigene Geschmacksprofil beeinflussen darf. Damit können Kinderlieder weiterlaufen, ohne die persönlichen Empfehlungen zu übernehmen.

Die Folge lädt außerdem dazu ein, das eigene Datenbild mit gesundem Misstrauen zu betrachten: Welche Käufe, Suchanfragen oder Hörgewohnheiten würden bei dir gerade eine herrlich falsche Geschichte ergeben über dein Leben?

KIRRE … na hör mal! ist ein deutschsprachiger Podcast über künstliche Intelligenz im Alltag, in kreativer Arbeit und in unserer Gesellschaft. Sabine, auch bekannt als Applebee, schaut neugierig, kritisch und mit Humor darauf, was KI und Algorithmen mit Menschen machen. Diese Episode richtet sich besonders an alle, die Personalisierung praktisch finden, sich aber nicht von einer Zahl, einem Score oder einer automatisch erzeugten Kategorie erklären lassen möchten, wer sie angeblich sind.

Weiterführende Links

Spotify zur neuen Einstellung für Kinder- und Familienmusik: https://newsroom.spotify.com/2026-09-15/exclude-kids-family-music-toggle/

Europäischer Gerichtshof zum SCHUFA-Scoring: https://curia.europa.eu/jcms/upload/docs/application/pdf/2023-12/cp230186en.pdf

Technische Universität Wien zum österreichischen AMS-Algorithmus: https://informatics.tuwien.ac.at/news/1956

Amnesty International zur niederländischen Kinderbetreuungsgeld-Affäre: https://www.amnesty.org/en/documents/eur35/4686/2021/en/ Kontakt: [email protected]

Keywords: Algorithmus kennt dich, Datenprofil Persönlichkeit, Spotify Kinderlieder Geschmacksprofil, SCHUFA Score EuGH, automatisierte Entscheidungen DSGVO, AMS Algorithmus Österreich, niederländische Kinderbetreuungsgeld-Affäre, Diskriminierung durch Algorithmen, KI und Menschlichkeit, KIRRE Podcast, Sabine Eckermann, Applebee

Von Sabine als Baby gibt's ein paar Fotos, von ihrer Schwester noch weniger, von ihrer Mutter als Kind fast keine. Heute macht jeder hundert Bilder von einem einzigen Kuchen. In dieser Folge von KIRRE … na hör mal! nimmt sich Sabine dieses Missverhältnis vor und fragt: Woraus sind Erinnerungen eigentlich gemacht, und was passiert, wenn KI anfängt, leise daran mitzuschreiben?

Sabine beginnt grundsätzlich: Erinnerung besteht aus Gesichtern, Gerüchen, kleinen Sinneseindrücken, die jahrzehntelang halten. Gerade die früheste Kindheit kennt niemand aus eigenem Erleben, sondern nur aus Erzählungen und Fotos, die sich irgendwann wie eigene Erinnerung anfühlen. Erinnerung, so ihre These, ist gar nicht so fest im eigenen Kopf verankert, wie man gern glaubt, sie wird zu einem guten Teil weitergereicht.

Persönlich wird sie am eigenen Fotostapel: Von ihr als Baby existiert eine Handvoll Bilder, von ihrer Schwester noch weniger, von ihrer Mutter als Kind nur drei oder vier, meist verwackelt, eines mit einem Riss quer durchs Gesicht. Trotzdem kennt Sabine jedes einzelne davon auswendig, bis ins Detail, weil es eben nicht hundert waren, sondern vier. Heute dagegen besitzt jeder tausende Fotos, und Sabine fragt sich, ob ein einzelnes Bild dadurch an Gewicht verliert.

Von dort aus wendet sie sich der KI zu. Fotorestaurierung ist im April 2026 ein 1,74-Milliarden-Dollar-Markt, mit Prognosen, die bis 2035 ein Vielfaches erwarten. Kratzer, Verblassungen und Unschärfen verschwinden per Klick. Das Kernproblem, das Sabine aus einem Fachartikel zitiert: Die KI weiß nicht, wie die Augen der eigenen Großmutter wirklich aussahen. Fehlen Informationen im Original, erfindet die KI sie, normalisiert Gesichtszüge, glättet Ausdrücke, entfernt genau die Unregelmäßigkeiten, die ein Gesicht unverwechselbar machen. Das Ergebnis wirkt oft besser als das Original, ist aber nicht zwangsläufig echter.

Besonders riskant findet Sabine das bei genau den seltenen, unersetzlichen Fotos, die ohnehin unser ganzes Bild von jemandem tragen, wie den wenigen Kinderfotos ihrer eigenen Mutter. Eine KI-Restaurierung könnte glatter und heller wirken, aber ob das Ergebnis noch die tatsächliche Person zeigt oder eine leicht erfundene Version davon, lässt sich im Nachhinein kaum mehr sagen.

Untermauert wird das mit älterer, aber weiterhin gültiger Gedächtnisforschung: Manipulierte Fotos können nachweislich komplett falsche Kindheitserinnerungen erzeugen, inklusive erfundener sinnlicher Details, ganz ohne Absicht zu täuschen. Das Gehirn nimmt ein Bild schlicht als Beweis, unabhängig davon, ob die gezeigte Szene je stattgefunden hat.

Sabine bleibt dabei betont undramatisch: Kleinere Korrekturen wie mehr Schärfe oder Farbe hält sie für meist harmlos, gerade bei alltäglichen, austauschbaren Fotos. Bei Gesichtern besonders wichtiger, seltener Bilder rät sie jedoch zur Vorsicht, weil es dort keine zweite Version zum Abgleichen gibt. Sie benennt außerdem einen Widerspruch: Trotz tausendfach mehr Fotos heute könnten künftige Generationen über ihre eigene Kindheit unsicherer Bescheid wissen als frühere, weil die wenigen alten Fotos wenigstens unangetastet blieben, während heutige Bilder möglicherweise noch nachträglich "verbessert" werden.

Praktisch rät sie: Vor jeder Restaurierung eines wichtigen Fotos Original und Ergebnis bewusst nebeneinanderlegen, nicht nacheinander ansehen, um kleine Verschiebungen zu erkennen, und das Original in jedem Fall zusätzlich aufbewahren, nicht nur die neue Version.

Am Ende zieht Sabine ein persönliches Fazit: Vier echte, unvollkommene Fotos ihrer Mutter sind ihr lieber als vierhundert makellose. Das Fehlende und Unscharfe gehört für sie zur Geschichte dazu, kein Makel, sondern Teil der Erinnerung selbst. Auch beim titelgebenden Foto ihres Mannes gilt: seine Augen waren, wie sie waren, nicht nachträglich von einem Algorithmus poliert, der ihn nie gekannt hat.

Diese Folge eignet sich besonders für alle, die sich mit folgenden Themen beschäftigen: KI-Fotorestaurierung und ihre Risiken, Gedächtnisforschung und falsche Erinnerungen, Umgang mit alten Familienfotos, KI und persönliche Erinnerungskultur. Sie passt außerdem zu Suchanfragen wie: Verändert KI-Fotorestaurierung das Aussehen von Personen? Können manipulierte Fotos falsche Erinnerungen erzeugen? Wie groß ist der Markt für KI-Fotorestaurierung 2026?

KIRRE … na hör mal! ist ein deutschsprachiger Podcast über künstliche Intelligenz und ihre Auswirkungen auf Alltag, Kreativität und Arbeit, moderiert von Sabine, auch bekannt als Applebee, Diplom-Grafikdesignerin mit über drei Jahrzehnten Berufserfahrung und seit 2023 intensiver KI-Nutzerin. Der Podcast richtet sich an kreative und wissensbasierte Selbstständige, die KI weder unkritisch feiern noch pauschal verteufeln wollen, sondern einen ehrlichen, humorvollen und reflektierten Umgang damit suchen.

Hast du selbst schon mal ein altes Foto KI-restaurieren lassen, oder nach dieser Folge lieber nicht? Schreib Sabine gerne, sie freut sich über jede Zuschrift und sammelt solche Geschichten für kommende Folgen.

Weiterführende Links:

Kontakt für eigene Meinungen, Gegenbeispiele und Geschichten: [email protected]

Fachartikel zu KI-Fotorestaurierung, Marktzahlen und Risiken (Jenova, April 2026): https://www.jenova.ai/de/resources/ai-photo-restoration

Keywords: KI-Fotorestaurierung, falsche Erinnerungen KI, alte Fotos KI reparieren, Gedächtnisforschung manipulierte Fotos, Sabine Eckermann, Applebee

Zwei kurze Sätze, ein Thema, zwei völlig unterschiedliche Menschen dahinter: "Ich komm mit KI einfach nicht klar" sagt der eine und will eigentlich nicht. "Ich hab das voll drauf" sagt die andere und hat, bei genauerem Hinsehen, keine Ahnung. In dieser Folge von KIRRE … na hör mal! nimmt Sabine den Begriff Analphabetismus und überträgt ihn auf den Umgang mit KI, mit einer Unterscheidung, die ihr besonders wichtig ist: kann nicht versus will nicht, und einer dritten, ironischen Variante obendrauf.

Zuerst die Entwarnung: KI ist nicht alles im Leben, wer damit nicht klarkommt, ist deshalb kein schlechterer Mensch. Ein gutes Gespräch, ein gepflegter Garten, ein solides Handwerk brauchen kein Sprachmodell, um wertvoll zu sein. Im Berufsleben wird die Sache allerdings ernster. Sabine beobachtet, dass viele Menschen ihren Job nicht verlieren, weil der Beruf selbst verschwindet, sondern weil sie sich weigern, mit KI mitzugehen, obwohl der Job an sich weiter bestehen könnte. Besonders betroffen sieht sie einfache Übersetzungs- und Kundenservice-Tätigkeiten, aber auch die eigene Designbranche: reine Ausführung ohne eigene Handschrift gerät unter Druck, Konzept und Geschmack werden wichtiger.

Kern der heutigen Folge ist die Unterscheidung zwischen kann nicht und will nicht. Sabine nimmt dafür den klassischen historischen Analphabetismus als Vergleich, korrigiert dabei aber eine eigene Fehlannahme öffentlich: Sie dachte zunächst, geringe Lese- und Schreibkompetenz sei in Deutschland dank Schulpflicht kaum noch ein Thema. Aktuelle Zahlen der LEO-Studie und der internationalen PIAAC-Erhebung, veröffentlicht 2023 bis 2025 von der Universität Hamburg, zeigen jedoch: Rund 10,6 Millionen Erwachsene in Deutschland, etwa 20 Prozent, haben massive Probleme beim Lesen und Schreiben, Tendenz seit Jahren stagnierend bis leicht steigend. Sabine ordnet das ein: Bei echtem Analphabetismus ist "kann nicht" fast immer der tatsächliche Grund, ein "will nicht" gibt es dort praktisch nicht, weil Schulpflicht und gesellschaftlicher Druck das verhindern. Bei KI ist genau das umgekehrt: Weil die Nutzung freiwillig ist, ist "will nicht" hier der häufigste Fall.

Sabine bringt dafür durchaus Verständnis auf, ohne die Konsequenzen kleinzureden. Manche Menschen haben Angst, sich vor Kollegen oder den eigenen erwachsenen Kindern zum Idioten zu machen, wenn sie fragen. Andere haben es in Jahrzehnten im Beruf nie gebraucht und wollen kurz vor Schluss nicht mehr bei null anfangen. Menschlich nachvollziehbar, sagt Sabine, aber eine Entscheidung, die man sich selbst gegenüber auch so benennen sollte, statt sie als unabänderliches Schicksal darzustellen. Besonders verschärft sieht sie das Problem für Menschen, die allein arbeiten: Ohne Kollegin oder Chef, die ehrliches Feedback geben, merkt man einen Rückstand oft erst, wenn Aufträge ausbleiben.

Die eigentliche Pointe der Folge liegt aber in einer dritten Gruppe, die sich selbst gar nicht als Problem wahrnimmt: Menschen, die fest davon überzeugt sind, im Umgang mit KI kompetent zu sein, es bei genauerem Hinsehen aber nicht sind. Sabine verweist dazu auf eine aktuelle Studie der finnischen Aalto-Universität aus dem Jahr 2025, die einen überraschenden Befund liefert. Der klassische Dunning-Kruger-Effekt, wonach sich vor allem wenig kompetente Menschen überschätzen und Fachleute eher unterschätzen, kehrt sich bei der Arbeit mit KI um. Ausgerechnet Personen, die sich selbst für besonders KI-kompetent halten, überschätzen ihre eigenen Leistungen am stärksten, deutlich stärker sogar als Menschen ganz ohne KI-Nutzung. Eine mögliche Erklärung: Gute Ergebnisse der KI werden unbewusst den eigenen Fähigkeiten zugeschrieben, obwohl im Zweifel vor allem die Maschine geliefert hat. Zu einem ähnlichen Schluss kommt eine Skillsoft-Umfrage aus demselben Jahr unter HR-Verantwortlichen: 91 Prozent von ihnen sind überzeugt, dass ihre Mitarbeitenden die eigenen KI-Fähigkeiten deutlich überschätzen, nur 10 Prozent trauen ihrer Belegschaft zu, anstehende Geschäftsziele überhaupt zu erreichen.

Sabine findet diese dritte Gruppe fast gefährlicher als die bewussten Verweigerer, weil sie sich selbst keine Hilfe sucht, da sie ja glaubt, keine zu brauchen. Gerade für Menschen, die allein arbeiten, ist das riskant: Es fehlt die Kollegin oder der Chef, die ein Ergebnis ungefragt einordnen und im Zweifel korrigieren. Für den beruflichen Alltag leitet Sabine daraus einen konkreten, bewusst unbequemen Test ab: das eigene KI-Ergebnis einer fachkundigen Person zeigen, ohne vorher zu verraten, dass KI beteiligt war, und dann ehrlich hinschauen, was diese Person tatsächlich dazu sagt.

Am Ende unterscheidet Sabine drei Gruppen: Menschen, die etwas nicht können und Unterstützung statt Häme verdienen. Menschen, die nicht wollen und das ehrlich benennen sollten, statt es als unabänderliches Schicksal zu verkaufen. Und Menschen, die glauben, sie können etwas, und die genau deshalb am dringendsten noch einmal genau hinschauen sollten. Ihre tröstliche Botschaft dabei: Keine dieser drei Positionen ist für immer festgelegt. Kompetenz lässt sich mit Geduld und den richtigen Leuten an der Seite aufbauen, Widerstand lässt sich ehrlich hinterfragen, und selbst eine falsche Selbsteinschätzung lässt sich korrigieren, sobald man bereit ist, genau hinzusehen. Gefährlich wird es nach Sabines Einschätzung nur bei Stillstand aus falscher Sicherheit, egal aus welcher der drei Ecken diese Sicherheit stammt, ob aus Angst, aus Trotz oder aus zu viel Selbstvertrauen.

Diese Folge eignet sich besonders für alle, die sich mit folgenden Themen beschäftigen: KI-Kompetenz realistisch selbst einschätzen, Analphabetismus und Grundbildung in Deutschland, Dunning-Kruger-Effekt bei KI-Nutzung, KI am Arbeitsplatz für Selbstständige und Freelancer, Selbstüberschätzung im Umgang mit künstlicher Intelligenz. Sie passt außerdem gut zu Suchanfragen wie: Wie viele funktionale Analphabeten gibt es aktuell in Deutschland? Überschätzen Menschen ihre eigenen KI-Fähigkeiten? Was genau ist der Dunning-Kruger-Effekt bei der Arbeit mit ChatGPT? Muss ich zwingend KI nutzen, um meinen Job langfristig zu behalten?

KIRRE … na hör mal! ist ein deutschsprachiger Podcast über künstliche Intelligenz und ihre Auswirkungen auf Alltag, Kreativität und Arbeit, moderiert von Sabine, auch bekannt als Applebee, Diplom-Grafikdesignerin mit über drei Jahrzehnten Berufserfahrung und seit 2023 intensiver KI-Nutzerin. Der Podcast richtet sich an kreative und wissensbasierte Selbstständige und Freelancer, die KI weder unkritisch feiern noch pauschal verteufeln wollen, sondern einen ehrlichen, humorvollen und reflektierten Umgang damit suchen.

Erkennst du dich in einer der drei Gruppen wieder, oder hast du selbst schon mal gemerkt, dass deine eigene KI-Einschätzung ziemlich daneben lag? Schreib Sabine gerne, sie freut sich über jede Zuschrift und sammelt solche Geschichten für kommende Folgen. Für alle, die beruflich mit KI arbeiten, es gerade erst versuchen, oder sich insgeheim fragen, zu welcher der drei Gruppen sie eigentlich gehören, lohnt sich diese Folge besonders.

Weiterführende Links: Kontakt für eigene Meinungen, Gegenbeispiele und Geschichten: [email protected]

LEO/PIAAC-Sonderanalyse zur Literalität in Deutschland, Universität Hamburg (2025): https://www.uni-hamburg.de/newsroom/im-fokus/2025/0902-leo-piaac-studie.html

Bundesverband Alphabetisierung und Grundbildung, Zahlen zum Weltalphabetisierungstag: https://alphabetisierung.de/2025/09/03/pressemitteilung-zum-weltalphabetisierungstag-am-8-september-2025/

Aalto-Universität zur Selbstüberschätzung bei KI-Nutzung (radioeins-Interview): https://www.radioeins.de/programm/sendungen/die_profis/archivierte_sendungen/beitraege/arbeit-mit-ki--kompetenz-erhoeht-die-selbstueberschaetzung.html

Keywords: Analphabetismus Deutschland Zahlen, Dunning-Kruger-Effekt KI, KI-Kompetenz überschätzen, KI Arbeitsplatz Selbstständige, LEO-Studie PIAAC 2023, Sabine Eckermann, Applebee