Mensch, Maschine!

Darum geht es in meinem neuen Buch: »Die wahrscheinliche Wahrheit. Wie KI unsere Wirklichkeit, Moral und Gesellschaft neu berechnet«

Das Google-Proof-Q&A-Benchmark zeigt, dass selbst aktuelle LLMs menschliche Expert*innen selbst bei komplexen Wissensfragen schlagen.

Hier das Doppelspaltexperiment nochmal besser erklärt.

Schon Platons Hölengleichnis stellte vor 2.500 Jahren unseren Zugang zu einer wirklich wahren Wahrheit in Frage.

Die spektakuläre Lebensgeschichte des Glücksspielers und Erfinders der Wahrscheinlichkeit Gerolamo Cardano.

Hier wertete ein 3D-Deep-Learning-System CT-Aufnahmen aus. Ohne vorherige CT-Aufnahmen übertraf das Modell alle sechs Radiologen und reduzierte gegenüber ihnen die False Positives absolut um 11 % und die False Negatives um 5 %. AUC: 94,4 %.

In diesem Wired-Artikel ruft Chris Anderson dazu auf, sich Google als Vorbild zu nehmen und Kausalitäten und Modelle in der Wissenschaft ganz durch Korrelationen zu ersetzen.

Zur Mediengeschichte der Weltwahrnehmung empfehle ich Aleida & Jan Assmanns Idee des Kulturellen Gedächtnisses und Elena Espositos Buch Soziales Vergessen

Credits

Trefft mich auf Bluesky oder Twitter.

Vielen herzlichen Dank an Johann Niegl für die Titelmusik und Hans-Jakob Gohr für die Covergestaltung. <3

Sprachmodelle sollen bald alles können, was Mitarbeiter im Homeoffice können. AutoGPT & Co zeigen schon jetzt, was möglich ist, wenn die künstlichen Assistenten selbst Aufgaben abarbeiten, Mails schreiben und Konten managen. Aber bisher muss ein Mensch jede Aktion gegenprüfen, weil die für LLMs typischen Halluzinationen in der Interaktion mit der realen Welt zur Gefahr werden. Doch lassen sich diese verhindern? Können wir wirklich zuverlässige Sprachmodelle schaffen, die Ärztinnen, Anwälte und Verwaltungsbeamte ersetzen können. Nur, wenn wir verschiedene KIs miteinander kreuzen. Sogenannte „hybride KI“ könnte viele Jobs ersetzen — wenn sie gelingt.

Links & Literatur

Wie Chain-of-thought-Prompting bei LLMs die Fähigkeit zur Schlussfolgerung verbessert zeigen Jason Wei et. al.

Erik Zelikman et al. hoffen darauf, dass sich die Maschine durch Beispielschlussfolgerungen selbst im Schlussfolgern verbessern kann. Aber auch diese Lösung hat einige Schwächen.

Hybride KI könnte formale Wissenssysteme mit Sprachmodellen integrieren und so zuverlässige aber dennoch vielseitige Assistenten ermöglichen.

Ein ganz ähnliches Konzept verfolgt das Prinzip des thinking-on-graph.

AutoGPT verbindet das Sprachmodelle GPT bereits interaktiv mit dem Netz, sodass es als Assistent selbstständig Aufgaben zerlegen und ausführen kann — ähnlich wie ein/eine Mitarbeiter/in im Homeoffice. Nur, dass es dafür noch viel zu viele Fehler macht.

Credits

Trefft mich auf Bluesky oder Twitter.

Vielen herzlichen Dank an Johann Niegl für die Titelmusik und Hans-Jakob Gohr für die Covergestaltung. <3

Ich habe immer behauptet, KI könne keine realistischen Bilder generieren, weil ihr ein Bewusstsein der Welt fehle. Nun haben Diffusionesmodelle diese Behauptung wiederlegt. Bedeutet das, dass die KI ein Weltbewusstsein entwickelt hat? Vielleicht. Vielleicht muss man von der Welt aber auch gar nichts wissen, um sie abzubilden. In dieser Folge erkläre ich, wie Bildgeneratoren funktionieren und warum deren Architektur mich gleich mehrfach überrascht hat.

Links & Literatur

Wie das Papstbild in die Welt kam.

Helmut Linde erklärt Bildgeneratoren.

Mike Pound erklärt DeepDream.

Bildgeneratoren funktionieren ähnlich wie ein Rorschachtest + Suggestion.

Sybille Krämer erklärt warum der Digitalität eine Wirklichkeitsdimension fehlt.

Credits

Trefft mich auf Bluesky oder Twitter.

Vielen herzlichen Dank an Johann Niegl für die Titelmusik und Hans-Jakob Gohr für die Covergestaltung. <3

Mit generativer KI lassen sich nicht nur Texte und Bilder auf Knopfdruck zu tausenden produzieren, auch Profilinhalte und Accounts können von Assistenten wie AutoGPT & Co automatisch erstellt werden. Wir sind im Zeitalter der vollautomatisierten Propaganda angekommen. Wie gefährlich sind diese Manipulationen, was bedeutet das für uns persönlich, vor allem aber für den öffentlichen Diskurs, für die Demokratie und wie können wir uns und unsere Gesellschaft vor Manipulation schützen?

Links und Literatur

Trotz aller Sicherheitsmaßnahmen auch ChatGPT lässt sich für die Produktion von Falschinformation einsetzen.

Spear fishing Betrug durch gefakete Anrufe.

Längerer Artikel zur technischen Funktionsweise von DeepFakes

Microsofts Vall-E soll ein drei Sekunden Audio reichen, um eine Stimme zu immitieren.

Die Mediengeschichte ist eine Geschichte der Fälschungen, wie dieses Forschungsprojekt oder dieser frühe Film zeigen.

Schon [Hassrede im Netz](https://www.sueddeutsche.de/politik/hassrede-boehmermann-polizei-zdf-magazin-royale-1.5593282

Credits

Trefft mich auf Mastodon oder Twitter.

Vielen herzlichen Dank an Johann Niegl für die Titelmusik und Hans-Jakob Gohr für die Covergestaltung. <3

Wo kann ChatGPT mir bei der Erstellung von Texten helfen, wie schreibt man Code mit LLMs und warum ist es sinnvoll, eine KI mit dem Output einer anderen zu füttern? Im dritten Teil der Sonderstaffel zum Thema Large Language Models & Co berichte ich, wie man die Technologie heute schon in Alltag und Beruf nutzen kann und wie man lernt, prompts zu schreiben.

Links und Literatur

So sah das menschliche Trainingslager von ChatGPT aus.

Bewerbungen schreiben mit ChatGPT.

Ethan Mollik lässt die KI eine Marktanalyse + Designauftrag für Uhren erstellen.

Jack Roberts erklärt reverse prompt engineering.

Liste mit aktuellen ChatGPT-Plugins.

Liste mit ausgewählten Use-Cases für ChatGPT.

Credits

Trefft mich auf Mastodon oder Twitter.

Vielen herzlichen Dank an Johann Niegl für die Titelmusik und Hans-Jakob Gohr für die Covergestaltung. <3

Endlich, die menschenähnlichen KI-Assistenten sind da. Doch was bedeutet das für unsere Arbeitswelt. Wie verändern sie unseren Alltag, unsere Bildung unsere Jobs, ja ganze Branchen? Und natürlich immer die Frage, wenn die so vieles so gut können: Was bleibt am Ende noch für uns zu tun?

Links und Literatur

„AI will not replace you. A person using AI will“, lautet das Zitat von Santiago eigentlich richtig, pardon.

Der neue super future mega Skill: prompt-engineering

Michael Seemann behauptet: LLMs zerstören die „Bullshit Jobs“.

Kevin Cannon sagt: LLMs werden unsere Kommunikation encoden aber auch decoden. Am Ende bleibt ein Nullsummenspiel.

Teresa Kubacka stellt fest: LLMs erfinden wissenschaftliche Quellen

Es gibt smarte Versuche die Ergebnisse von LLMs mit Watermarks zu versehen, um ihre Produkte erkennbar zu machen. Wie sicher das wäre ist jedoch zweifelhaft, wie Mike Pound erklärt.

Hier eine Liste von Jaibreaks für ChatGPT, um zum Beispiel Zukunftsprognosen machen lassen zu können.

Credits

Trefft mich auf Mastodon oder Twitter.

Vielen herzlichen Dank an Johann Niegl für die Titelmusik und Hans-Jakob Gohr für die Covergestaltung. <3

Mit ChatGPT, LaMDA, LLaMa & Co macht seit einigen Monaten eine neue Generation sogenannter Large Language Models Schlagzeilen. Neu ist dabei nicht die Technologie, sondern der Reifegrad der Modelle. Erstmals kann man von menschenähnlicher künstlicher Intelligenz sprechen. Ein Wissenschaftler aus Stanford meint sogar ein künstliches Bewusstsein entdeckt zu haben.

Links und Literatur

Michal Kosinski: Theory of Mind May Have Spontaneously Emerged in Large Language Models

Sehr gute Erklärung zur Funktionsweise von LLMs von Helmut Linde.

Dass LLMs zum Beispiel nicht verarbeiten können, was „Durchsichtigkeit“ bedeutet zeigt zum Beispiel der Prompt von Tomer Ullmann.

Eine Sammlung von ChatGPT-Fails zeigt die Grenzen des Modells

Hannes Bajhor erklärt, warum auch multimodale Modelle, die sowohl Bild als auch Sprachdaten verarbeiten zwar spannende und erkundenswerte Leistungen vollbringen, dadurch aber noch immer keinen Weltbezug haben.

Credits

Trefft mich auf Mastodon oder Twitter.

Vielen herzlichen Dank an Johann Niegl für die Titelmusik und Hans-Jakob Gohr für die Covergestaltung. <3

Was werden wir in Zukunft arbeiten? Was können die smarten Assistenten uns abnehmen und was nicht? Wozu braucht man Workarounds? Wieso müssen wir Arbeit simulieren? Wie funktioniert Micro-Outsourcing? Weshalb sind Roboter die besseren Chefs? Und warum wird es immer unendlich Arbeit geben? Hier die wichtigsten Thesen der ganzen Staffel in 24 Minuten.

Credits

Trefft mich auf Mastodon oder Twitter.

Vielen herzlichen Dank an Johann Niegl für die Titelmusik und Hans-Jakob Gohr für die Covergestaltung. <3

Entlohnung und Arbeit entkoppeln sich historisch immer weiter voneinander. Das Gehalt ohne Arbeit ist nicht mehr weit entfernt, aber es wird unsere Probleme nicht lösen. Denn es gibt immernoch genug zu tun, vor allem Kümmerarbeit. Wer organisiert die? Wer zahlt die? Die Wirtschaft? Der Staat? Unwahrscheinlich. Wir brauchen neue Formen der Arbeitsorganisation. Vielleicht können die Algorithmen uns dabei helfen.

Links und Literatur

Karl Marx prognostiziert in seinem [Maschinenfragment (https://de.wikipedia.org/wiki/Maschinenfragment) eine Überflusswirtschaft, in der immer produktivere Maschinen immer weniger menschliche Zuarbeit brauchen.

Die große Hoffnung, auf einen Luxus ohne Arbeit, einen Fully Automated Luxory Communism scheint sich nicht zu erfüllen.

Warum denken die ganzen Zukunftsdudes eigentlich immer nur an die Automatisierbarkeit der Produktion und nie an nicht-automatisierbare Kümmerarbeit?

Die Arbeitnehmenden partizipieren nicht von der Produktivitätsentwicklung der Maschinen. Die Löhne entfernen sich von der Produktivität. Output und Entlohnung entkoppeln sich.

Das finnische Experiment mit 2.000 arbeitslosen Grundeinkommensempfänger*innen bestätigt: Die Menschen sind weniger gestresst. Aber sie haben auch nicht besser in Arbeit gefunden als die Vergleichsgruppe.

Warum wirtschaftliches Management im sozialen und Bildungsbereich nicht funktionieren schreibt z.b.: Baecker, Dirk (1999): Profit und Management, S. 273-264, in: Baecker, Dirk: Organisation als System: Aufsätze. Frankfurt am Main: Suhrkamp.

Vielleicht organisieren die Algorithmen ja die Arbeit der Zukunft in Dezentralen Autonomen Organisationen. Vielleicht ist das aber auch nur ein weiterer Web3-Hype ohne echte Anwendungsfälle. Wer weiß das schon? Ick nich.

Credits

Trefft mich auf Twitter.

Vielen herzlichen Dank an Johann Niegl für die Titelmusik und Hans-Jakob Gohr für die Covergestaltung. <3

Werden wir in Zukunft endlich weniger arbeiten können? Ja, könnten wir, wenn wir wollten. Aber danach sieht es nicht aus. Statistisch korreliert das persönliche Glück für die meisten Menschen mit steigender Wochenarbeitszeit. Aber es gibt gute Nachrichten: Trotz Automatisierung durch KI und Robotik werden wir immer genug zu tun haben. Denn Arbeit ist prinzipiell unendlich. Doch was machen wir dann eigentlich, wenn die Maschinen die Produktion übernommen haben? Uns kümmern.

Links und Literatur

Vor allem Menschen mit höherer Bildung sind entsprechend am Wochenende besonders unglücklich.

Dabei gibt es keine Notwendigkeit so viel zu arbeiten. Selbst Jäger und Sammler in kärgsten Wüstenregionen hatten mehr Freizeit als wir heute.

Die Vertreibung aus dem Paradies flasht mich immer wieder. Es steckt so viel drin über den Schritt vom Menschen zum Tier, über die Erlangung von Bewusstsein, Bewusstsein über die Welt, über „Gut und Böse“ und vor allem über sich selbst: „und sie erkannten, dass sie nackt waren“. Und natürlich darüber, dass Bewusstsein scheiße ist, eine Vertreibung aus der Koexistenz mit der Natur. 3.000 Jahre alt. Geil.

Margret Mead hielt die Versorgung kranker Menschen für den Beginn der menschlichen Zivilisation: Paul Brand (1987): Christian memoir Fearfully and Wonderfully Made. Zondervan, S. 68.

Credits

Trefft mich auf Twitter.

Vielen herzlichen Dank an Johann Niegl für die Titelmusik und Hans-Jakob Gohr für die Covergestaltung. <3