Gemeinsam mit künstlicher Intelligenz

Eine Wander-App ohne Werbung, ein eigenes Partyquiz oder gleich ein Bildbearbeitungsprogramm: Wenn wir Software mit KI selbst bauen können, müssen wir uns dann noch an fertige Programme anpassen? Wir sprechen mit Uli darüber, was sich beim Programmieren verändert – und warum hinter der Frage nach Open Source auch die Frage steckt, wem wir unsere digitale Arbeit anvertrauen.

Software, die zu uns passt: Wir erzählen von kleinen Spielen, Video-Werkzeugen und einer selbst gebauten Wander-App. An Hannes’ Bilderquiz mit Handy-Controllern wird greifbar, wie aus einer privaten Idee ein eigenes Programm werden kann.

Vom fertigen Programm zurück zum Code: Wir erklären Dekompilieren mit dem Bild eines Films, aus dem man ein Drehbuch rekonstruiert. Daneben steht ein anderer Weg: die gewünschten Funktionen beschreiben und neu programmieren, statt vorhandenen Code zurückzuübersetzen.

Was bleibt die Arbeit der Entwickler? Wenn KI viel Code schreibt, werden gute Ideen, das Verständnis des Problems, Fehlersuche und verlässlicher Support umso wichtiger. Ein Programm zu erzeugen und es dauerhaft gut am Laufen zu halten sind zwei verschiedene Aufgaben.

Ein Agent statt vieler Programme? Für ein freigestelltes Foto wollen wir nicht unbedingt Photoshop lernen. Wir überlegen, ob Agenten künftig passende kleine Werkzeuge kombinieren – etwa zum Entfernen eines Hintergrunds oder zum Videoschnitt – und wie sich damit das Geschäft der Softwareanbieter verändern könnte.

Vertrauen und Unabhängigkeit: Wer prüft solche Werkzeuge, wer darf auf unsere Daten zugreifen und woran erkennen wir manipulierte Bewertungen? Wir diskutieren einen „TÜV“ für Software-Bausteine, persönliche Vertrauensnetze und lokale KI als Möglichkeit, weniger von einzelnen Anbietern abhängig zu sein.

Mehr Freiheit – auch jenseits des Bildschirms: Zum Schluss spinnen wir Zukunftsbilder weiter: von einer persönlichen Endlosserie bis zum Holodeck. Und wir fragen, ob gute digitale Helfer uns nicht vor allem ermöglichen sollten, wieder mehr Zeit ohne Tastatur und Bildschirm zu verbringen.

Beim Dekompilieren wird aus einer ausführbaren Programmdatei wieder höherer, für Menschen lesbarer Code rekonstruiert. Dabei kommt nicht zwingend das ursprüngliche Original zurück. Die Forschungsarbeit LLM4Decompile zeigt, wie Sprachmodelle diese Rekonstruktion und die Überarbeitung herkömmlicher Dekompilierer-Ergebnisse unterstützen können. Open Source bedeutet zusätzlich, dass die Nutzungsbedingungen unter anderem Änderung und Weitergabe erlauben. Allein lesbarer Code macht ein Kaufprogramm also noch nicht zu Open Source.

LLM4Decompile: Originalarbeit, EMNLP 2024 · Open Source Definition

Unsere kurze Antwort im Gespräch braucht an einer Stelle eine Ergänzung: KI-Unterstützung schließt Urheberrecht nicht grundsätzlich aus. In Deutschland kommt es auf eine persönliche geistige Schöpfung an; bei Computerprogrammen schützt das Gesetz die individuelle Ausdrucksform, nicht die dahinterliegende Idee. Auch das US Copyright Office unterscheidet rein maschinell bestimmte Inhalte von menschlichen schöpferischen Beiträgen. Entscheidend ist also nicht allein, wer die Zeichen eingetippt hat. Menschliche Gestaltung kann geschützt sein; bloßer Zeitaufwand oder ein Prompt reichen dafür nicht automatisch.

UrhG: persönliche geistige Schöpfung (§ 2) · Schutz von Computerprogrammen (§ 69a) · US Copyright Office: KI und menschliche Urheberschaft

Für den Unterschied zwischen Nachbauen und Kopieren lohnt sich der Blick in die deutschen Regeln: Wer ein Programm rechtmäßig nutzt, darf unter bestimmten Voraussetzungen sein Funktionieren beobachten und testen. Dekompilierung zur Zusammenarbeit mit einem unabhängig geschaffenen Programm ist dagegen an engere Bedingungen gebunden. Das sind Möglichkeiten für eigene, kompatible Lösungen – keine pauschale Freigabe, fremden Programmcode zu übernehmen oder zu veröffentlichen.

Programme beobachten und testen (§ 69d) · Dekompilierung für Interoperabilität (§ 69e)

Zu unserer Blockchain-Idee passt der verständliche Überblick des US-Technikinstituts NIST. Er erklärt, wie gemeinsam geführte, gegen nachträgliche Manipulation abgesicherte Aufzeichnungen funktionieren – und warum auch dabei Vertrauen in Technik und Beteiligte nötig bleibt. Für unseren Software-„TÜV“ wäre das ein möglicher Baustein, noch kein fertiger Qualitätsnachweis.

NIST: Blockchain Technology Overview, besonders Abschnitt 7.7

Welche Software würdet ihr euch selbst bauen lassen – und woran würdet ihr erkennen, dass ihr ihr vertrauen könnt?

Zur GMKI-Community · Alle Podcastfolgen · Fragen und Gedanken zur Folge: [email protected]

Nach der Weltuntergangsstimmung der letzten Folge knipsen wir diesmal bewusst die Sonne an: Wo hilft KI schon heute – und was davon macht wirklich Hoffnung? Wir sprechen über Forschung, bessere Früherkennung, verständlichere Informationen und kleine Werkzeuge, die unseren Alltag leichter machen. Dabei fragen wir auch, wie wir unsere Daten selbstbestimmt nutzen und gute Lernangebote gestalten können.

Große Forschung, konkreter Nutzen: AlphaFold und die Vorhersage von Proteinstrukturen; Fortschritte in der Mathematik; KI-Unterstützung bei der Brustkrebs-Früherkennung.

Die eigenen Daten endlich nutzen: Hannes erzählt, wie aus Stromzählerfotos und Solardaten eine persönliche Auswertung wurde. Beide fragen, was ein besserer Blick auf langfristige Gesundheitsverläufe ermöglichen könnte.

Mehr Zugang, weniger Hürden: Bildbeschreibungen, Kameraübersetzung und assistierende Brillen – zwischen echter Hilfe und berechtigter Überwachungskritik.

Lernen im Dialog: Mathe üben, Vokabeln mit Auswahlhilfen wiederholen und Fragen stellen, ohne jemanden zu nerven. Dazu die Diskussion, wie Lernsoftware motivieren kann, ohne ständig zum Weitermachen zu drängen.

Eigene Software statt der nächsten Insellösung? Niedrigere Einstiegshürden beim Bauen kleiner Helfer – und die Frage, warum daraus noch lange nicht jedes Programm frei nutzbar wird.

Klartext Schule: Chris stellt das GMKI-Projekt für verständlichere Elternkommunikation vor. Nach seinem Bericht sollen Schulbriefe vereinfacht, übersetzt und per QR-Code zugänglich werden; die Pilotierung steht im Gespräch noch bevor.

Und am Ende die Frage, ob ein digitaler Zwilling irgendwann auch der Deutschen Bahn weiterhilft.

Mit AlphaFold zeigen wir ein Beispiel dafür, wie KI Forschung voranbringt: Das System sagt räumliche Proteinstrukturen voraus. Unterschiedliche Zustände eines Proteins und weitere biologische Zusammenhänge sind dabei wichtige Forschungsfragen. Der Chemienobelpreis 2024 ging zur Hälfte gemeinsam an Demis Hassabis und John Jumper für Proteinstrukturvorhersage; die andere Hälfte erhielt David Baker für computergestütztes Proteindesign.

AlphaFold: Umfang und Grenzen der Datenbank · Nobelpreis Chemie 2024

Wer der großen Liste aus unserem Gespräch nachgehen möchte, findet einen plausiblen Bezug in OpenAIs Veröffentlichung vom 6. Oktober 2026. Das zugehörige Repository umfasst zum Stand dieser Shownotes 721 Manuskripte in 373 Ergebnisfamilien. Wir verlinken die Sammlung und eine fachliche Einordnung der Deutschen Mathematiker-Vereinigung zum Weiterlesen.

OpenAIs Veröffentlichung · Manuskripte und Prüfhinweise · Einordnung der Deutschen Mathematiker-Vereinigung

Die schwedische MASAI-Studie mit mehr als 105.000 Frauen macht das Beispiel aus unserer Folge konkret. Verglichen wurden konventionelle Doppelbefundung und KI-unterstützte ärztliche Befundung. Die Sensitivität – der Anteil der tatsächlich vorhandenen Krebsfälle, die erkannt werden – stieg von 73,8 auf 80,5 Prozent, also um 6,7 Prozentpunkte.

Die Spezifität lag in beiden Gruppen bei 98,5 Prozent. Der Aufwand für die Bildbefundung sank um rund 44 Prozent. Das ist ein ermutigendes Studienergebnis.

Originalpublikation: MASAI-Abschlussanalyse 2026, Abstract · Erläuterung der Universität Lund

Für unsere Frage, wie KI im medizinischen Alltag helfen kann, lohnt sich außerdem eine Studie mit ärztlichen Fallvignetten. Sie beleuchtet das Zusammenspiel von Modellleistung und ärztlichem Arbeitsablauf – einen wichtigen Baustein für gute Unterstützung in der Praxis.

Wir wünschen uns, dass mehr Kinder Unterstützung bekommen, die zu ihren Fragen und ihrem Lerntempo passt. Zwei Quellen geben dazu Hintergrund: Der IQB-Bildungstrend 2024 nennt für Mathematik rund 34 Prozent unter dem Mindeststandard für den Mittleren Schulabschluss, bezogen auf alle Neuntklässler. Die Bertelsmann-Meldung von 2016 nennt 14 Prozent der 6- bis 16-jährigen Schüler, die privat finanzierte oder kostenfreie Nachhilfe erhalten.

Die Quellen beschreiben unterschiedliche Altersgruppen, Erhebungsjahre und Fragestellungen. Wir nutzen sie als zwei Perspektiven auf Lernstand und Unterstützung. Daran knüpft unsere Frage an: Wie können dialogische KI-Werkzeuge individuelle Förderung im Alltag ergänzen?

IQB-Bildungstrend 2024 · Bertelsmann: Nachhilfe in Deutschland

• Barrierefreiheit: KI-Bildbeschreibungen können Inhalte zugänglicher machen. Zum rechtlichen Rahmen verlinken wir den BFSG-Geltungsbereich, die Ausnahme für Dienstleistungen von Kleinstunternehmen und die Regeln für öffentliche Stellen des Bundes.

• Assistenz im Alltag: Be My Eyes auf Meta-Brillen bietet unter anderem freihändige Hilfe durch menschliche Freiwillige. Googles Kamera-/Bildübersetzung hilft beim Lesen anderer Sprachen.

• Lernwerkzeuge: Duolingo bietet Schach, Musik und Mathe sowie personalisierte Wiederholungsübungen. ChatGPT Study Mode und ChatGPT Voice zeigen Möglichkeiten für interaktives Lernen und Sprachdialog; die verfügbaren Funktionen richten sich nach dem jeweiligen Konto.

• Klartext Schule: Auf der GMKI-Bildungsseite findet ihr unser Projekt zur Übersetzung von Elternbriefen und weitere Bildungsinitiativen.

• Bahn und Simulation: NVIDIA und Digitale Schiene Deutschland beschrieben 2022 den Aufbau eines digitalen Zwillings zur Entwicklung automatisierten Bahnbetriebs – ein passender Hintergrund zu unserem Blick auf Simulationen am Ende der Folge.

Was passiert, wenn KI-Agenten Aufgaben eigenständig erledigen und dabei weiter gehen, als ihre Entwickler erwartet haben? Hannes und Chris sprechen über die Gefahr, die von solchen Systemen ausgehen kann – und darüber, warum die dramatischsten Zukunftsbilder manchmal von den näherliegenden Problemen ablenken.

Darum geht's

Zum Schluss bleibt neben den Sorgen auch Hannes' „Zwangsoptimismus“: Möglichkeiten zur Vorsorge nutzen, Abhängigkeiten begrenzen und die positiven Entwicklungen nicht aus dem Blick verlieren.

Der von Hannes angesprochene Link zum Unitree Roboter:

Wenn ihr euch für den gmki interessiert: 

Wir freuen uns auf euer Feedback!

Wer sitzt am Tisch, wenn KI entwickelt wird – und wessen Erfahrungen fehlen? Hannes spricht mit Stefanie und Caro darüber, wie sie zur KI gekommen sind und welche Fragen ihnen dabei wichtig geworden sind. Stefanie bringt ihren Blick aus dem Grafikdesign mit, Caro erzählt von ihrem Weg aus der Modebranche und dem Aufbau von Start-ups zu den emotionalen und gesellschaftlichen Folgen von KI.

Wir sprechen über verzerrte Trainingsdaten, stereotype Bilder und die Frage, wie automatisierte Entscheidungen bestehende Ungleichheiten fortschreiben können. Beim Thema sexualisierte Deepfakes wird besonders deutlich, warum die Perspektive der Betroffenen schon in die Entwicklung gehört. Eine einheitliche „weibliche Sicht“ behaupten wir dabei nicht: Es geht um mehr Mitbestimmung und darum, welche Werte KI-Systeme prägen sollen.

Darum geht's

Caros Wunsch zum Schluss: mehr Wohlwollen und Gemeinschaftsdenken in der Gestaltung unserer Zukunft. Diese Haltung ist für sie an kein Geschlecht gebunden. Wer mitreden und mitgestalten möchte, ist beim GMKI willkommen.

Mitmachen

Ein guter Themenabend ist vorbei – und wie geht es jetzt weiter? Genau dafür gibt es die GMKI-Community. Hannes, Chris und Freddy stellen die Plattform vor, auf der aus einem ersten Gespräch ein gemeinsames Projekt werden kann. Als Mischung aus Forum und Arbeitsraum soll sie den Austausch zwischen den Veranstaltungen lebendig halten, auch für Menschen, die nicht in Köln dabei sein können.

Freddy erzählt, wie aus seiner Erfahrung mit anderen Communities der Anstoß entstand. Chris erklärt, was sich dort gemeinsam machen lässt: an Agenten arbeiten, Dokumente austauschen oder mit Abgeordneten darüber ins Gespräch kommen, wie Politik die KI-Transformation gestalten will. Und wer erst einmal eine Frage hat oder Orientierung sucht, ist genauso willkommen.

Darum geht's

Die Plattform soll mit den Menschen wachsen, die sie nutzen. Bring deine Fragen und Ideen mit – wir freuen uns auf den Austausch.

Mitmachen

„Schatz, was wollen wir denn nächste Woche essen, kochen und einkaufen?“ Chris hat diese Frage an Lotti abgegeben. Seine KI-Assistentin schlägt der Familie Gerichte vor, organisiert die Einkaufsliste und erinnert morgens daran, was fürs Mittagessen vorbereitet werden kann. Im Februar war Chris noch ausgesprochen skeptisch gegenüber Agenten. Jetzt hat er eine kleine Agentenfamilie – und einen sehr konkreten Grund, sie zu mögen.

Hannes, Chris und Freddy ziehen eine Zwischenbilanz: Was funktioniert im Alltag, wo geraten Kosten und Zeitaufwand aus dem Ruder, und wie viel Eigenbau braucht es überhaupt noch? Freddy erzählt von seinem selbst aufgebauten System und einem Telefonassistenten, an dem er arbeitet. Hannes hält die Erfahrung dagegen, dass ein digitaler Helfer auch zum „glorifizierten Tamagotchi“ werden kann, das viel Betreuung braucht.

Darum geht's

Tipps für den Einstieg

Mitmachen

Was berührt uns am Kino: die Geschichte auf der Leinwand oder der Mensch, der sie spielt? Stefanie kommt tief bewegt aus „Verflucht normal“. Für sie gehört das Wissen um echte Schauspielkunst zum Erlebnis. Chris hält dagegen: Wenn ein Film dieselbe Wirkung hat, könnte ihm irgendwann egal sein, ob die Figuren KI-generiert sind. Hannes fragt, was Persönlichkeit dann noch wert ist.

Von „Findet Nemo“ und Homer Simpson bis zu Tom Holland diskutieren wir, warum wir uns mit Figuren verbunden fühlen. Beim Liebesbrief und der Hochzeitsrede verläuft die Grenze für Chris ganz anders als im Kino: Hier zählt, dass ein bestimmter Mensch seine Zeit und Aufmerksamkeit für uns aufgebracht hat. Und auf LinkedIn? Dort wächst zwischen Selbstinszenierung und generierten Beiträgen die Sehnsucht nach einem echten Gegenüber.

Darum geht's

Eine gemeinsame Grenze finden wir in dieser Folge nicht. Dafür wird klarer, was jede und jeder von uns schützen möchte. Vielleicht beginnt das ganz praktisch damit, den Bildschirm öfter auszuschalten und sich wieder zu treffen.

Mitmachen

Nimmt uns die KI die Arbeit weg – und was, wenn genau das die Chance ist?

In dieser Folge nehmen wir uns die Frage vor, die in fast jeder KI-Diskussion mitschwingt: Was macht künstliche Intelligenz mit unseren Jobs? Hannes, Stefanie, Chris und Freddy springen dafür in drei fiktive „Nachrichten der Zukunft" – ins Jahr 2027, 2031 und 2036. Vom düsteren Krisenszenario (brennende Rechenzentren, Rentenkürzungen, wertlose Abschlüsse) bis zur überraschend hoffnungsvollen Vision: Bürgergrundeinkommen, Pflege als attraktivster Beruf des Landes, neu erfundene Bildung.

Dazwischen diskutieren wir ehrlich und ohne fertige Antworten:

Unser Fazit: Es wird sich viel bewegen. Ob als großer Knall oder als sanfter Übergang, weiß niemand. Aber die Richtung entscheiden wir mit – nicht die Algorithmen allein.

Mach mit:
Alle Folgen: gmki.org/podcast
️ Stammtisch, Themenabende & Podcast-Aufnahmen: gmki.org/events
Monatlich, was passiert und wo du dich einbringen kannst: gmki.org/newsletter

KI-Müdigkeit ist real: Statt uns zu entlasten, macht KI die Arbeit oft dichter, schneller und schwerer — und lässt uns nur noch mit den harten Fällen zurück. Hannes, Uli und Chris reden ehrlich darüber, was das mit uns macht — und was konkret hilft.
Das Produktivitätsversprechen geht nämlich oft nicht auf: Statt weniger zu arbeiten, schaffen wir mehr, paralleler, dichter. Wir reden über das „Hamsterrad" beim Vibe Coding, über den Stress der Pseudo-Kompetenz (Dinge tun, die man eigentlich nicht kann), über Tool-Wildwuchs und „Brain Fry" — und über den vielleicht wichtigsten Gedanken: Wenn die KI die einfachen Fälle wegfiltert, bleiben dem Menschen nur noch die schweren.
Was das für uns alle bedeutet, ist mehr als Müdigkeit.

Und natürlich: Was kann man konkret dagegen tun? Von Deep-Work-Blöcken über handschriftliche Notizen bis zur „KI-Nutzungsethik".

Take-aways für dich als Hörer:in:

Zwei Geschichten, die diese Woche perfekt zusammenpassen: Anthropics neues Modell Mythos (bzw. die abgespeckte Variante Fable) – erst zu gefährlich zum Veröffentlichen, dann freigegeben, dann von der US-Regierung wie ein Waffenexport wieder verboten. Und ein Paper namens „Europe 2031" (europe2031.ai), das genau das beschreibt, was dieser Vorfall bestätigt: Europas Abhängigkeit von den großen KI-Mächten.

Hannes, Stefanie, Uli und Chris fragen sich : War das der Weckruf zur richtigen Zeit? Können wir noch aufholen – oder sitzen wir längst am Katzentisch? Chris bringt es auf eine optimistische Formel: Wir spielen nicht auf ein totes Blatt, wir haben Asse im Ärmel (Stichwort ASML, Binnenmarkt) – wir müssen sie nur klug ausspielen. Eine Folge zwischen ehrlicher Sorge und der Überzeugung, dass Gestalten möglich bleibt – und sie endet mit einer ganz konkreten Aufgabe für dich.

Darum geht's

Kapitel

Mitmachen