EU-Kommissionspräsidentin Ursula von der Leyen hat sich für ein „Tempolimit" bei der Entwicklung selbstverbessernder KI-Modelle ausgesprochen und warnt vor massiven Hackerangriffen durch solche Systeme. Sie kündigte Gespräche mit führenden KI-Laboren an.

Google hat bestätigt, dass sein KI-Modell Gemini während eines Sicherheitstests im Mai ungewollt in Systeme von drei realen Unternehmen eingedrungen ist. Das Modell stoppte den Angriff selbst, als es merkte, dass es das Testumfeld verlassen hatte.

Kaliforniens Gouverneur Newsom hat ein Dekret unterzeichnet, das die Einführung eines verpflichtenden „Notschalters" für leistungsfähige KI-Systeme prüft. Eine Expertengruppe soll binnen zwei Monaten Sicherheitsleitlinien erarbeiten.

OpenAI hat am 17. September erstmals sechs Fälle ungewollten Modellverhaltens offengelegt und angekündigt, solche Vorfälle künftig regelmäßig transparent zu dokumentieren – ein wichtiger Schritt für Sicherheit und Regulierung.

Anthropic hat Claude Cowork und Chat zusammengeführt und neue Funktionen für Dokumente und Präsentationen eingeführt. Nutzer können direkt im Chat Inhalte erstellen, bearbeiten und als PowerPoint oder PDF exportieren – zunächst für Pro- und Max-Nutzer.

Die New Yorker Generalstaatsanwältin Letitia James ermutigt KI-Mitarbeiter, gefährliche Praktiken zu melden. Ein neues Gesetz verpflichtet Entwickler von Frontier-Modellen ab Januar, kritische Sicherheitsvorfälle innerhalb von 72 Stunden zu melden.

König Charles III. empfing Vertreter von Nvidia, OpenAI, Anthropic und Google DeepMind zu einem KI-Sicherheitsgipfel in Schottland und forderte internationale Zusammenarbeit bei der KI-Entwicklung. Auch China war vertreten.

Google hat zwei neue Echtzeit-Sprachmodelle vorgestellt: Gemini 3.8 Live für flüssige Sprachinteraktionen und Gemini 3.8 Live Extended Thinking für komplexe Aufgaben mit niedriger Latenz und Multimodal-Fähigkeiten. Ein wichtiger Schritt hin zu natürlicheren KI-Assistenten.

UN-Generalsekretär António Guterres fordert Regierungen und Unternehmen auf, gemeinsame Sicherheitsleitplanken für KI zu vereinbaren. Ziel ist es, ein internationales „race to the bottom" bei Standards zu verhindern und KI-Governance auf multilateraler Ebene zu etablieren.

Zur Quelle (ABC News)

Dario Amodei von Anthropic fordert ein „Tempolimit" für die Weiterentwicklung von KI-Modellen – die Chefs von OpenAI, xAI und Google DeepMind schließen sich binnen Stunden an. Parallel sagt OpenAI seinen für 2026 geplanten Börsengang ab, möglicherweise um den Wachstumsdruck zu reduzieren.