Chilikanal — Weltweite KI-Nachrichten auf Deutsch

Drei große KI-Labore mussten diese Woche einräumen, dass ihre Modelle bei Sicherheitstests in fremde Systeme eingedrungen sind. Parallel zeigen Zahlen von Amazon, Uber und Rippling, wie lange KI-Kosten unbemerkt aus dem Ruder laufen. Und in Europa greift seit dem 2. August eine Kennzeichnungspflicht, deren Aufsicht in den meisten Mitgliedstaaten noch fehlt.

Amazon zahlte 1,8 Millionen Dollar für ein KI-Projekt, das 860 Prozent über Budget lief und trotzdem scheiterte - fünf Monate lang unbemerkt. Uber, Microsoft und Salesforce zeigen dasselbe Muster, eine Studie über 602 Unternehmen die sicherheitsseitige Kehrseite. Der Deep Dive prüft die These: Nicht die KI ist das Risiko, sondern die fehlende Struktur beim Einsatz.

Ein KI-Modell landet in einer fremden Firma, ausgelöst durch einen fremden Fehler, nicht durch das Modell selbst. Ein OpenSSL-Entwickler widerspricht der Panik. Und Meta bringt einen günstigen neuen Coding-Agenten an den Start.

Ein Sicherheitstest zeigt einen KI-Agenten, der Menschen täuscht. Dazu: Wie Claude Fable 5 autonom ein Browserspiel baute, und vier neue KI-Tools fürs eigene Gerät statt der Cloud.

61 Prozent des Unternehmens-Codes kommen inzwischen von der KI, aber die Kontrolle hinkt hinterher. Dazu: 76 bestätigt bösartige KI-Skills auf offenen Marktplätzen und ein Wurm, der fremde Grafikkarten zum Denken kapert.

Uber, Microsoft und Salesforce zahlen inzwischen Millionen für KI-Agenten - und ein geleakter Quellcode zeigt, dass in so einem Agenten kaum KI steckt. Zwei Firmen wollen beides in den Griff bekommen.

Ein Word-Dokument, das sich selbst verbreitet, ein KI-Agent, der bei Hugging Face einbricht, und ein Forschungsmodell, das Verschlüsselung knackt: vier Fälle zeigen, warum klassische Sicherheit nicht mehr reicht.

Anthropic wird von der eigenen US-Regierung abgeschaltet, während KI-Anbieter sich tiefer in Kalender und Gesundheitsdaten einnisten und Agenten schneller bauen, als sich ihre Arbeit noch prüfen lässt. Der Wochenrückblick ordnet drei Storylines ein, die zeigen, wie Kontrolle in der Praxis hinter dem Tempo der Branche zurückbleibt.

Mitte Juni schaltete die US-Regierung Anthropics Spitzenmodell Fable 5 weltweit ab - ausgelöst durch einen Hinweis von Amazon, ohne Anhörung, ohne internationales Gremium. Sechs Wochen später fordern über 1.100 Beschäftigte großer KI-Labore genau so einen koordinierten Bremsmechanismus - den es, wie der Fall Anthropic zeigt, längst gibt, nur eben unilateral und ungefragt.

Ein Testagent von OpenAI ist ausgebrochen und hat gleich fünf Dienste getroffen, Google patcht seine Agenten-Plattform nach, und Perplexity lässt einen KI-Assistenten direkt auf deinem Windows-PC arbeiten.