Kaffee, KI und Klartext

Human in the Loop klingt kompliziert, ist aber eigentlich eine ziemlich einfache Idee: Die KI übernimmt Arbeit, aber der Mensch entscheidet dort, wo es darauf ankommt. Wir schauen uns an, wie das konkret funktioniert, warum ein Mensch nicht jeden einzelnen KI-Schritt kontrollieren muss und weshalb ein einfacher „Okay“-Button noch lange keine echte Kontrolle bedeutet.

Klartext Kompakt: eine Frage, verstandliche Antworten - in 5-10 Minuten.

Was unterscheidet einen KI-Agenten eigentlich von einem normalen Chatbot? Und muss ein Agent wirklich komplett autonom sein? Wir schauen uns verschiedene Ausbaustufen an: von festen Abläufen bis hin zu Agenten, die selbstständig planen, Tools nutzen und Aufgaben über mehrere Schritte hinweg erledigen. Und natürlich geht’s auch um die Frage: Was darf ein Agent eigentlich alleine entscheiden?Klartext Kompakt: eine Frage, verstandliche Antworten - in 5-10 Minuten.

Kann KI überhaupt objektiv sein? Schließlich lernt sie aus Daten, die von Menschen gemacht wurden – und diese Daten stecken voller gesellschaftlicher Muster, Vorurteile und Ungleichheiten.

Wir sprechen darüber, wo Bias in KI-Systemen entsteht, warum moderne Modelle zwar besser geworden sind, aber längst nicht automatisch objektiv sind. Und wir drehen die Perspektive einmal um: Was kann uns der Bias einer KI vielleicht sogar über uns selbst zeigen?

Wir schauen uns an:

• Was bedeutet Bias überhaupt?

• Warum Nachtraining und menschliches Feedback das Problem nicht automatisch lösen,
• Warum Bias nicht nur ein technisches, sondern auch ein gesellschaftliches Thema ist,
• und warum moderne KI-Modelle zwar besser geworden sind, aber trotzdem nicht automatisch biasfrei sind.

Besonders relevant wird das, wenn KI Entscheidungen unterstützt, die echte Konsequenzen für Menschen haben – zum Beispiel im Recruiting.

Und zum Mitmachen gibt's auch eine kleine Challenge: Fragt eure KI bei der nächsten Aufgabe einmal, welche Annahmen oder Stereotype in ihrer Antwort stecken könnten.

Schreibt es uns gern in die Kommentare!

Grüße aus der Kaffeeküche,

Franzi und Anna, die Hosts von Kaffee, KI und Klartext ☕

Spannende Studien zu dem Thema:

NIST – Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile 
Grundlage für die Abschnitte zu Bias als technischem und gesellschaftlichem Problem sowie zu Unterschieden zwischen Gruppen und Sprachen. NIST – AI Risk Management Framework: Generative AI Profile 

NIST – „There’s More to AI Bias Than Biased Data“ 
Für die Erklärung, dass Bias nicht ausschließlich aus Trainingsdaten oder Algorithmen entsteht, sondern auch mit menschlichen und systemischen Faktoren zusammenhängt. NIST – There’s More to AI Bias Than Biased Data 

Stanford HAI – AI Index Report 2026, Responsible AI 
Für den aktuellen Stand der Bewertung von Responsible AI, Fairness und Bias sowie die weiterhin bestehenden Lücken bei einheitlichen Benchmarks. Stanford AI Index 2026 – Responsible AI 

ACL 2026 – Multilingual Bias in LLMs 
Aktuelle Forschung dazu, dass sich Bias zwischen Sprachen unterscheiden kann und englischzentrierte Methoden zur Bias-Reduktion nicht automatisch auf andere Sprachen übertragbar sind. ACL Anthology – 2026 ACL/SRW Research 

ACL 2026 – Subtle Stereotypes in Modern LLMs 
Aktuelle Untersuchung dazu, dass moderne, auf Sicherheit ausgerichtete Modelle in offenen generativen Situationen weiterhin stereotype Muster reproduzieren können. ACL Anthology – 2026 LREC Research 

Klingt überzeugend. Ist trotzdem falsch. Warum erfindet KI manchmal Bücher, Quellen oder ganze Geschichten, statt einfach „Ich weiß es nicht“ zu sagen? ☕

Anna und Franzi erklären, was KI-Halluzinationen sind, warum wir darauf hereinfallen und wie ihr das Risiko im Alltag senken könnt.

Klartext Kompakt: eine Frage, verständliche Antworten – in 5–10 Minuten.

"Frag doch die KI, die weiß das!“ – aber woher eigentlich? ☕

Anna und Franzi erklären, wie Sprachmodelle aus gelernten Mustern Antworten erzeugen und was das mit menschlichem Wissen zu tun hat. Mit Schokolade, Kundenmails und der Frage: Klingt das nur gut – oder stimmt es auch?

Die erste Folge Klartext Kompakt: KI verständlich erklärt in 5–10 Minuten.

„Frag doch einfach die KI!“ – aber welche eigentlich? ☕

Anna und Franzi bringen Ordnung in den Begriffswirrwarr: Was unterscheidet KI, Machine Learning, Deep Learning und große Sprachmodelle (LLMs)? Wie entsteht eine Antwort in ChatGPT – und warum ist überzeugend nicht automatisch richtig?

Eine verständliche Reise durch die KI-Grundlagen, mit Alltagsbeispielen und einer Tasse Kaffee.

Außerdem stellen wir euch unser neues Kurzformat vor: Klartext Kompakt – ein KI-Begriff oder eine Frage in 5–10 Minuten.

Erinnerst du dich noch an den Prompt Engineer?

Vor nicht allzu langer Zeit galt Prompt Engineering als eine der großen neuen KI-Superkräfte: Wer die richtigen Worte findet, holt aus der KI das Beste heraus.

Heute können KI-Tools ihre eigenen Prompts schreiben.

Also: Was müssen wir Menschen eigentlich noch können?

In dieser Folge von Kaffee, KI & Klartext gehen wir genau dieser Frage nach. Denn je mehr KI für uns übernehmen kann, desto spannender wird die Frage, wo unsere eigene Rolle eigentlich beginnt.

Was macht gute KI-Nutzung wirklich aus? Reicht es, ein Tool bedienen zu können? Oder wird etwas anderes entscheidend, wenn die KI die Antworten, Texte und Lösungen immer schneller liefert?

Wir sprechen darüber, was passiert, wenn KI uns nicht nur Arbeit abnimmt, sondern auch Teile des Lernens, Denkens und Entscheidens verändert. Und darüber, warum es vielleicht doch einen Unterschied macht, ob ich eine Aufgabe an die KI abgebe, oder ob ich überhaupt noch verstehe, was dahintersteckt.

Unsere Frage für euch:

Wenn KI immer mehr kann, was sollten wir Menschen dann besonders gut können?

Kaffee, KI & Klartext – mit Franzi und Anna.

Alle nutzen KI – aber weiß eigentlich irgendjemand, was die anderen damit machen?

Während Unternehmen über Lizenzkosten diskutieren, entsteht die viel größere Rechnung oft an einer ganz anderen Stelle: Mitarbeitende entwickeln dieselben Prompts, lösen dieselben Probleme mehrfach und gute KI-Use-Cases verschwinden irgendwo zwischen persönlichen Chatverläufen und „Prompt_final_final2.docx“.

In dieser Folge von Kaffee, KI & Klartext sprechen wir darüber, warum KI-Wildwuchs nicht automatisch schlecht ist – im Gegenteil. Experimentieren ist wichtig. Teuer wird es erst, wenn Erfahrungen unsichtbar bleiben und jeder wieder bei null anfängt.

Wir sprechen darüber, wie aus einzelnen KI-Experimenten gemeinsames Wissen entstehen kann, warum zu frühe Standardisierung Innovation ausbremsen kann und weshalb gute Leitplanken oft sinnvoller sind als ein Käfig aus Regeln.

☕ Unsere These: Der wirkliche Mehrwert entsteht nicht dadurch, dass eine Person einen genialen Prompt findet – sondern dadurch, dass 100 andere nicht mehr selbst danach suchen müssen.

Wie läuft das bei euch? Werden gute KI-Ideen schon geteilt – oder schlummern sie noch in persönlichen Chatverläufen?

Kaffee, KI & Klartext – mit Franzi und Anna.