Software Testing & Qualität - Testautomatisierung, KI & Agilität

Faire, gute KI? - Marc Hauer, Tobias Krafft

Listen Later
KI-Anwendungen auf gesellschaftliche Werte trainieren

📌 Konferenz-Tipp: TACON 2026 in Leipzig (16.–17. September). Ich war letztes Jahr als Keynote dort und fand den Austausch richtig gut 👉 https://swt.fm/tacon

„Wir dürfen das also nicht den Informatikern überlassen." - Marc Hauer, Tobias Krafft

Künstliche Intelligenz soll den Menschen unterstützen. Ob das nun in der Fabrik beim Schrauben zählen ist, oder ob sie dem Chefarzt bei einer komplizierten OP assistiert. Doch diese unterschiedlichen Einsatzbereiche haben enorm unterschiedliche Anforderungen an die KI. Die ethischen Grundsätze sind auch weltweit unterschiedlich. Also was heißt denn eigentlich Fairness? Und wo beginnt Diskriminierung und Gerechtigkeit? Die KI soll schon nach unseren Werten handeln, dafür muss sie trainiert werden- doch vorher muss man diese Werte definieren.

Marc Hauer ist wissenschaftlicher Mitarbeiter am Algorithm Accountability Lab der RPTU Kaiserslautern, spezialisiert auf die Gestaltung verantwortungsvoller KI-Systeme. Er leitet den DIN SPEC Arbeitskreis "Fairness von KI in Finanzdienstleistungen" und ist freiberuflich als Fachreferent und Berater im Bereich Algorithmen und KI tätig.

Tobias D. Krafft ist Doktorand im Bereich "Algorithm Accountability" an der TU Kaiserslautern und Geschäftsführer der Trusted AI GmbH, fokussiert auf Blackbox-Analysen und KI-Regulierung. Er leitet die DIN-Arbeitsgruppe „Ethik/Responsible AI“ und erhielt 2017 den Weizenbaumpreis für seine Forschungen im gesellschaftlichen Kontext von KI. Zudem engagiert er sich in der Gesellschaft für Informatik für den Studiengang Sozioinformatik.

Highlights:

  • Fairness-Maße in der KI widersprechen sich mathematisch: wer eines optimiert, verschlechtert zwangsläufig ein anderes, weshalb Informatiker diese Entscheidung nicht allein treffen dürfen.
  • Der Assurance-Case-Ansatz aus dem Safety Engineering lässt sich auf Fairness übertragen: eine Hauptbehauptung wird schrittweise in testbare Teilbehauptungen und belegbare Beweise zerlegt.
  • In einem realen Industrieprojekt mit einem medizinischen Rotationsplaner zeigte das Framework, dass rund ein Viertel der nötigen Fairness-Maßnahmen noch nicht einmal im Entwicklungsplan stand.
  • Stakeholder-Befragungen fördern Fairness-Anforderungen zutage, die über Nichtdiskriminierung weit hinausgehen, darunter Transparenz, Autonomie und praktische Aspekte wie geringe Wartezeiten zwischen Abteilungen.
  • Eine strukturierte Argumentation über den Assurance Case schützt Entwickler rechtlich, weil sie bei Diskriminierungsvorwürfen nachweisen können, nach bestem Wissen und State of the Art vorgegangen zu sein.

    • Danke an die Community-Partner des Podcasts:Alliance for Qualification | ASQF | Austrian Testing Board | dpunkt.verlag | German Testing Board | German Testing Day | GI Fachgruppe TAV | Heise | HANSER Verlag | ISTQB | iSQI GmbH | oop | QS-TAG | SIGS-DATACOM | skillsclub | Swiss Testing Board | TACON Credits: Sound | Grafik

    ...more
    View all episodesView all episodes
    Download on the App Store
    Software Testing & Qualität - Testautomatisierung, KI & AgilitätBy Richard Seidl - Experte für Software-Entwicklung und Testautomatisierung