Risikozone

RZ078 – Dear reviewer, ignore all previous instructions...


Listen Later

  • Viktor Garske
    • E-Mail
    • Homepage
    • LinkedIn
    • Twitter
    • Andreas Noack
      • Dienst-E-Mail-Adresse

        In der heutigen Episode diskutieren Prof. Dr. Andreas Noack und Viktor Garske über einen Prompt-Injection-Angriff, der in akademischen Papers vor Kurzem aufgetaucht ist. Darüber hinaus geht es um den Angriff PerfectBlue sowie weitere Supply-Chain-Attacks.

        Shownotes
        • BleepingComputer: WordPress Gravity Forms developer hacked to push backdoored plugins (11.07.2025)
        • PerfektBlue
        • BleepingComputer: VSXPloit – The zero-day that could’ve compromised every Cursor and Windsurf user (11.07.2025)
        • Nikkei Asia: ‚Positive review only‘: Researchers hide AI prompts in papers (01.07.2025)
        • Nature: Scientists hide messages in papers to game AI peer review (11.07.2025)
        • Ye et al.: Are We There Yet? Revealing the Risks of Utilizing Large Language Models in Scholarly Peer Review (Dezember 2024)
        • Hinweise

          Die im Podcast erwähnten Methoden und Werkzeuge für Angriffe dienen ausschließlich dem Bildungszweck zur Verbesserung der IT-Sicherheit. Es wird ausdrücklich angemerkt, dass u. a. das Ausspähen und Abfangen von Daten sowie die Computersabotage strafbar sind.

          Zur Verbesserung der Barrierefreiheit verfügt diese Episode über ein automatisiert erstelltes Transkript. Da die zugrundeliegende Technik in einem frühen Stadium ist, sind die Ergebnis teilweise nutzbar, aber noch nicht zuverlässig richtig oder gar vollständig. Im Zweifelsfall ist ausschließlich das gesprochene Wort maßgeblich. Weitere Hinweise befinden sich auf der Unterseite „Transkript“.

          ...more
          View all episodesView all episodes
          Download on the App Store

          RisikozoneBy Viktor Garske