In dieser Folge diskutieren wir die Risiken beim Einsatz von KI-basierten Coding Agents: unsicheren Code durch LLMs, Prompt Injections und sogar das Aufkommen von KI-Viren wie Agent Hopper. Wir beleuchten Beispiele, Folgen und Schutzmaßnahmen – von Code-Reviews mit KI bis zu Branch-Schutz und Sandboxing. Außerdem stellen wir das OWASP AIVSS-Projekt vor, das neue Sicherheitsbewertungen für autonome KI-Agenten ermöglicht.

---

Ihr wollt uns etwas Gutes tun? Spendiert uns gerne einen Kaffee:

https://www.buymeacoffee.com/todocast

---

Links:

LLM Vibe Coding Security Nightmare Artikel:

https://blog.himanshuanand.com/posts/2025-08-22-llm-vibe-coding-security-nightmare/

GitHub MCP-Server Secret Scanning:

https://github.blog/changelog/2025-08-13-github-mcp-server-secret-scanning-push-protection-and-more/

Brave Blog zu Prompt Injection:

https://brave.com/blog/comet-prompt-injection/

CSO Online zu Rowhammer Attack:

https://www.csoonline.com/article/4044876/rowhammer-attack-can-backdoor-ai-models.html

OWASP AIVSS Projekt:

https://aivss.owasp.org/

Agent Hopper PoC:

https://embracethered.com/blog/posts/2025/agenthopper-a-poc-ai-virus/

Trail of Bits MCP Sicherheitslayer:

https://blog.trailofbits.com/2025/07/28/we-built-the-security-layer-mcp-always-needed/

---

todo:shop - unser Shop für Nerdkram und alle Fans des Podcast:

https://todoshop.io

todo:cast auf TikTok:

https://www.tiktok.com/@todo_cast

todo:cast auf Instagram:

https://www.instagram.com/todo_cast

todo:cast auf YouTube:

https://www.youtube.com/@todo_cast

Feedback und Anregungen:

[email protected]