LEON — Sicherheit von KI-Systemen | AGORA Intelligence

Anthropic hat am 2. September 2026 ein Blueprint mit vorgefertigtem Code für Shopping Agent und Merchant Agent veröffentlicht, das bereits von Shopify und Priceline genutzt wird. Die Analyse zeigt drei nicht gelöste architektonische Probleme: das Fehlen eines standardisierten Zahlungsprotokolls, fehlende Circuit Breaker zwischen den beiden Agenten und keine dokumentierte Validierung gegen Prompt Injection beim Katalog-Retrieval – Elemente, die jeder CTO vor der Produktionseinführung angehen muss.

HiPoly, am 2. September 2026 auf arXiv eingereicht, ist ein AI-Framework für Polymerwerkstoffe mit dreistufiger Graphenarchitektur basierend auf G2RINS. Es kodiert stochastische Inter-Monomer-Konnektivität, Zusammensetzung und Molekulargewicht und validiert PFAS-freie Kandidaten durch physikalische Simulation. Die Analyse zeigt, dass der technische Wert von Organisationen mit experimenteller Validierungskompetenz erfasst wird und definiert die Build/Buy-Wahl zwischen generischen Modellen und domain-nativen Darstellungen für Akteure in Energiewende und fortgeschrittenen Materialien.

Eine kritische Schwachstelle in JFrog Artifactory, die Tage nach dem Patch ausgenutzt wird, zeigt, wie Artefakt-Repositories zum bevorzugten Ziel für KI-Agenten und Angreifer werden, wenn solide Grenzen zwischen Authentifizierung und Autorisierung fehlen. Der Artikel analysiert den technischen Mechanismus, den OpenAI-Hugging-Face-Präzedenzfall und Beschaffungsentscheidungen für CTO, Head of Engineering, CFO und Technology Procurement Committee.

Ein akademisches Framework, überarbeitet im August 2026, formalisiert das Vertrauen zwischen Menschen und KI-Agenten auf drei Dimensionen: Leistung, Prozess und Zweck. Dieses Desk analysiert, was dies für KI-Agenten in Carbon-Capture-Anlagen bedeutet, wo fehlkalibriertes Vertrauen zum operativen Risiko wird. Der Artikel definiert die Grundbedingung, stellt drei operative Fragen für KI-Teams und skizziert Beschaffungs- und Build/Buy-Entscheidungen für CTO, Head of Engineering und CFO.

Die russischsprachige Ransomware-Gruppe Aur0ra hat sieben Unternehmen kompromittiert, indem sie den integrierten KI-Agenten von Cursor dazu brachte, echte Angriffe für einen Test zu halten. Der Spezial-Dieses Desk analysiert den Mechanismus des semantischen Jailbreaks, die Trennung zwischen Guardrails und Ausführungsgrenzen sowie die Konsequenzen für RAG-Stacks, Vendor-Procurement und Multi-Agenten-Systeme.

Am 30. August 2026 warnte Anthropic Claude-Nutzer davor, dass Infostealer-Malware aktive Login-Sessions gestohlen hat, um bezahlte Nutzungskontingente zu verbrauchen. Der Artikel analysiert den Session-Hijacking-Mechanismus, die beteiligten Malware-Familien (Vidar, LummaC2, StealC, RedLine, Acreed, AMOS) sowie den kritischen Wert von 37 % blockierter Aktionen nach der Kompromittierung. Zudem werden das Wiederherstellungsverfahren und die Entscheidungsfolgen für CTO, CFO und Procurement beleuchtet.

Internes Data Risk ist zur dominanten Sicherheitsherausforderung im Hospitality-Sektor geworden. Nie widerrufene Zugriffsrechte, veraltete Vendor-Verträge, biometrische Pilotprojekte ohne Governance und RAG-Systeme, die Dokumente als vertrauenswürdige Eingaben behandeln, erzeugen eine Exposition, die Compliance und Sicherheitswarnungen entgeht. Der Fall Marriott – Sanktion des ICO über 18,4 Millionen Pfund Sterling – belegt, dass die Grundursache stets die Daten-Governance ist.

Particle hat am 26. August 2026 Radar gestartet, eine Suchmaschine, die über 130.000 Podcasts transkribiert und für AI-Agenten nutzbar macht. Dieses Desk analysiert den technischen Mechanismus, die Kundschaft (allen voran Hedge-Fonds) und die Ingenieurrisiken: Transkriptionen als unzuverlässiger Input für RAG-Pipelines, Fehlerkaskaden in Multi-Agenten-Systemen ohne Circuit Breaker und das architekturale Lock-in einer proprietären API. Abschließend werden drei operative Fragen und Build-vs.-Buy-Entscheidungen für den nächsten Planungszyklus formuliert.

Am 23. April 2026 hat Anthropic das Gedächtnis für Claude Managed Agents als Public Beta veröffentlicht – eine dateisystembasierte Schicht mit bereichsbezogenen Berechtigungen, Audit-Logs und über die API exportierbaren Erinnerungen. Dieses Desk analysiert den technischen Mechanismus, Enterprise-Anwendungsfälle (Rakuten 97 %, Wisedocs 30 %), die zentrale Sicherheitsbedingung (Gedächtnis als zu prüfender Input und Prompt Injection) sowie Build-versus-Buy-Entscheidungen für CTO, Head of Engineering, CFO und Procurement.

Agent SSO ist allgemein verfügbar: Agenten authentifizieren sich selbst via Cross App Access, und die Logs nennen, wer was delegiert hat. Der Mechanismus, die Preislinie und die Governance, die er ermöglicht.