Follow the White Rabbit - Der IT-Security Podcast

#23: Der EU AI-Act im Check

Listen Later
Wie reguliert man künstliche Intelligenz, ohne Innovation zu bremsen?

Hallo und herzlich willkommen zu einer neuen Folge von „Follow the White Rabbit“. Podcast-Host Lisa Fröhlich und Felix Broßmann besprechen ausführlich den EU AI-Act. Felix Broßmann, der bei der SKAD AG Experte für KI-Regulierung ist, erklärt, warum wir in Europa eine einheitliche Regulierung brauchen und welche verschiedenen Risiken von KI-Systemen es gibt. Er sagt auch, dass es wichtig ist, dass alle Beteiligten wissen, was sie tun und Verantwortung übernehmen.

Besonders spannend wird die Diskussion, als die beiden über die Herausforderungen bei der Umsetzung des AI-Acts sprechen. Die rasante Entwicklung von KI-Technologien, vor allem im Bereich der generativen KI, macht es schwierig, sie zu regulieren. Die Einstufung von Risiken ist vor allem bei Modellen mit hoher Rechenleistung ziemlich kompliziert und muss deswegen laufend angepasst werden.

Was Dich in der Diskussion erwartet:

  • Der risikobasierte Ansatz: Wie der AI-Act potenzielle Risiken von KI-Systemen bewertet und warum hohe Risiken strengere Regeln erfordern.
  • Verbotene Anwendungen: Wir schauen uns KI-Anwendungen an, die laut Gesetz nicht erlaubt sind, zum Beispiel Social Scoring.
  • Herausforderungen bei der Umsetzung: Wir besprechen die rasante Entwicklung von KI-Technologien, insbesondere generativer KI, und deren Auswirkungen auf die Regulierung.
  • Flexibilität des AI-Acts: Wir erklären, warum das Gesetz als „lebendes Dokument“ konzipiert ist und regelmäßig angepasst wird.

    • Im zweiten Teil der Folge schauen sich Lisa und Felix genauer an, wie der EU AI-Act in der Praxis umgesetzt werden kann. Felix sagt, dass viele Unternehmen schon Prozesse und Systeme haben, die teilweise in die neuen Anforderungen passen. Es gibt aber auch jede Menge Herausforderungen, vor allem bei der Definition von Begriffen wie „ausreichende KI-Kompetenzen“ und der technischen Umsetzung von Anforderungen.

    Ein großes Thema ist auch die Frage, wer eigentlich verantwortlich ist. Wer ist dafür verantwortlich, dass KI-Systeme sicher und zuverlässig sind? Diese Frage ist noch nicht abschließend geklärt und stellt Unternehmen vor große Herausforderungen.

    Der EU AI Act ist ein wichtiger Schritt, um ein sicheres und vertrauenswürdiges Umfeld für die Entwicklung und den Einsatz von KI zu schaffen. Die Umsetzung des Acts wird aber ziemlich kompliziert und muss immer wieder an die sich schnell verändernde Technologie angepasst werden.

    Takeaways:

    • Die Richtlinien des AI-Acts werden für mehr Klarheit sorgen und das Vertrauen in KI-Produkte stärken.
    • Die Regulierung basiert auf einer risikobasierten Klassifizierung von KI-Systemen. Unakzeptable Risiken sind verboten, für andere Risikoklassen müssen bestimmte Maßnahmen ergriffen werden.
    • Die Balance zwischen Innovation und Regulierung ist ein zentraler Aspekt des AI-Acts.
    • Wer sich frühzeitig mit den Anforderungen beschäftigt, kann sich einen Wettbewerbsvorteil sichern.

      • Kapitel:

      00:00 Einführung und Vorstellung des Themas

      03:21 Der EU AI-Act: Regulierung für den Schutz der Bürger

      12:23 Risikobasierte Klassifizierung von KI-Systemen

      21:25 Die kontinuierliche Aktualisierung des EU AI-Acts

      30:22 Herausforderungen bei der Umsetzung des AI-Acts

      33:41 Technische Umsetzung der Anforderungen

      36:46 Die Tiny Hope und das Licht am Ende des Tunnels

      Abonniert unseren Podcast, um keine Episode zu verpassen und empfehlt ihn gerne weiter!

      Habt ihr Fragen oder Anregungen zu dieser Episode? Schreibt mir eine E-Mail oder kommentiert auf unseren Social-Media-Kanälen.

      Links:

      Felix Broßmann ist der perfekte Kandidat für Projekte rund um Strategie, Organisation und Automatisierung sowie natürlich KI-Regulierung. Ihr findet ihn hier.

      SKAD AG

      Link11

      Wer sich die 144 Seiten des EU AI-Acts genau durchlesen möchte, findet die Verordnung hier.

      ...more
      View all episodesView all episodes
      Download on the App Store
      Follow the White Rabbit - Der IT-Security PodcastBy Link11, Lisa Fröhlich