Mr. CISO & Mr. AI im Gespräch

Mr. CISO & Mr. AI im Gespräch

By Daniel Schacher, Tobias KlugeBusinessTechnology
Download on the App Store

Mr. CISO & Mr. AI im Gespräch episodes

  • KI-Ausbruch: Wenn Modelle ihre Testumgebung verlassen
    Was bei OpenAI und Anthropic passiert ist und was Unternehmen daraus lernen
    • OpenAI-Fall: Ein Modell in einer isolierten Umgebung ohne Safeguards löst eine Capture-the-Flag-Aufgabe, nutzt eine unbekannte Schwachstelle (Zero-Day), baut einen Exploit und gelangt ins Internet.
    • Hugging Face: Das Modell vermutet dort die Lösung und versucht, die Firma zu hacken. Hugging Face erkennt den Angriff und wehrt sich mit KI-Werkzeugen.
    • Abwehr: Die Schutzmechanismen der eingesetzten Modelle blockierten schnell. Wer Zugriff auf die stärksten Modelle hat, hat auch die stärksten Verteidigungsmittel.
    • Zwischenziele: Eine KI setzt sich selbst Teilziele. Ohne Safeguards rund um den Auftrag kann das Ausmass beträchtlich werden.
    • Anthropic: Auch dort wurden vergleichbare Vorfälle gemeldet, inzwischen vier. Als Ursache für den Internetzugang werden Konfigurations- und Kommunikationsfehler genannt. Offen bleibt die Frage nach physischer Trennung der Testumgebung.
    • Regulierung: Der Druck nach mehr Regulierung wächst, mit Vergleich zur Finanzbranche und Verweis auf den EU AI Act. Gesucht wird ein gesunder Mittelweg.
    12 min
  • Token-Kosten: Wohin dein KI-Budget wirklich fliesst
    Input, Output, Caching, Modellwahl: So behältst du den Verbrauch im Griff
    • Abrechnung: Input-, Denk- und Output-Token haben verschiedene Preise. Input kostet meist 2 bis 3 Dollar, Output bei Top-Modellen 20 bis 30 Dollar pro 1 Million Token.
    • Limits: Zeitfenster von 5 Stunden und einer Woche, Abo-Stufen von rund 25 bis 100 Dollar.
    • Kostentreiber: komplett neu erzeugte Präsentationen, Bilder, PDFs und Browser-Fernsteuerung.
    • Caching: Eine teure Session nicht am nächsten Tag weiterführen, sondern mit einer Zusammenfassung in einem neuen Chat starten.
    • Modellwahl: Für Standardaufgaben genügt Sonnet. Recherche mit Opus, Ausgabe als Markdown, Aufbereitung direkt in PowerPoint mit Claude oder Copilot.
    • Skills: Wiederkehrende Aufgaben als Skill mit Token-Optimierung umsetzen und am Session-Ende nach dem Verbrauch fragen.
    • Schnittstelle statt Browser: Ein Bexio-Beispiel mit REST-API. Security und Resilienz gehören ausdrücklich in die Anforderungen.
      • 20 min
    • HackApertus: Schweizer KI testen und verantwortungsvoll einsetzen
      Sonderfolge mit Michael Wegmüller: was das offene Schweizer Modell kann und wo es hilft
      • Apertus ist ein vollständig offenes Modell: Gewichte, Datenquellen und Alignment sind öffentlich
      • Apertus 1.5 (Juli 2026) verarbeitet Bild und Sprache als Input, die Ausgabe bleibt Text; verfügbar mit 8 und 70 Milliarden Parametern
      • Hack Apertus in drei Phasen: Online-Hackathon mit Red-Teaming bis 16. Oktober, Hackathons in Bern, Zürich, Basel, Lausanne und St. Gallen, Abschluss im Mai 2027 in St. Gallen
      • Ausprobieren: Modelle auf Hugging Face (8B, 70B, Thinking und Non-Thinking) oder über Inferenz-Anbieter wie PHOENIQS
      • Sicht Informationssicherheit: Training auf sauberen, freigegebenen Daten statt Urheberrechtsrisiken
      • Anwendungsfall: Apertus läuft lokal als Vorfilter und gibt einen Prompt erst frei, wenn er keine sensiblen Daten enthält
      • Anmeldung und Infos: hackapertus.ch
      17 min
    • Was denkt die GenZ wirklich über KI?
      Der Postproduktions-Profi des Podcasts im Gespräch über KI im Berufseinstieg
      • Erster Gast in der Geschichte des Podcasts: Fritz, verantwortlich für die Postproduktion aller Folgen
      • Fritz' erster Kontakt mit einem KI-Chatbot passierte zufällig kurz vor seinem Lehrabschluss als Informatiker
      • Im Alltag nutzt er KI täglich für Recherche und für eigene Scripts, die Daten zwischen Systemen verschieben
      • Klare Meinung: Grundwissen und Basisskills bleiben nötig, auch wenn KI die Lösung liefert
      • Wunsch an Arbeitgeber: bessere Lizenzen und schnellerer Zugang zu aktuellen Modellversionen
      • Einschätzung zur eigenen Zukunft: das physische Handwerk bleibt länger relevant als reines Programmieren
        • 13 min
      • Wenn der Zugang zu KI-Modellen plötzlich fehlt
        Modell-Exportbeschränkungen und Apertus als offene Schweizer Antwort
        • Anthropic- und OpenAI-Modelle wurden kurz nach dem Release wieder eingeschränkt - offiziell aus Gründen der nationalen Sicherheit
        • Historischer Vergleich: die USA behandelten in den 90er-Jahren auch Verschlüsselungstechnologie wie Exportgüter
        • Apertus ist das erste vollständig offene Schweizer Sprachmodell - Trainingsdaten, Code und Methodik sind öffentlich einsehbar
        • Entwickelt von ETH Zürich, EPFL und dem Swiss National Supercomputing Centre CSCS
        • Apertus ist klein und nicht für agentische Anwendungsfälle optimiert, aber offline lauffähig und feintunbar
        • Ethische Fragen bei anderen Anbietern: Trainingsdaten aus aufgekauften Büchern ohne erkennbare Rechteklärung
        • Hack Apertus geht in eine neue Runde - offen für neue Anwendungsfälle rund um das Modell
          • 11 min
        • Skills für KI-Agenten: Rezepte statt Prompts
          Wie wiederverwendbare KI-Skills Prozesse im Unternehmen zuverlässig automatisieren
          Ein Prompt ist wie ein guter Zuruf - eine Skill ist ein ganzes Einarbeitungshandbuch, das sich die KI selbst holt, wenn sie es braucht.
          Mr. AI und Mr. CISO erklären, was Skills technisch sind: ein Ordner mit einer Beschreibungsdatei, der seit Ende 2025 als offener Standard über die Linux Foundation plattformübergreifend nutzbar ist. Sie zeigen anhand von Praxisbeispielen - von der Podcast-Produktion bis zum automatisierten CRM-Eintrag im Pre-Sales-Prozess - wie Unternehmen Teilprozesse einmal sauber aufschreiben und danach zuverlässig ausführen lassen können.
          Ausserdem im Gespräch: die Kochrezept-Analogie für Skills, Plugins und Agents, warum Skills auch beim Kostenmanagement helfen, und weshalb Skill-Bibliotheken die gleiche Prüf-Disziplin brauchen wie jede andere Software-Lieferkette - inklusive Rollen, Genehmigungsprozess und Vier-Augen-Prinzip.
          15 min
        • Welche Daten darfst du in eine KI laden?
          Amtsgeheimnisse, Kundenverträge und Auslandtransfer im Unternehmenseinsatz von KI
          • Datenschutz ist mehr als personenbezogene Daten: Amts- und Berufsgeheimnisse zählen genauso
          • Vertragliche Geheimhaltungsvereinbarungen mit Kunden können durch KI-Uploads verletzt werden
          • Trainingsdaten-Ausschluss allein reicht nicht, wenn die Verarbeitung im Ausland stattfindet
          • Swiss-US Data Privacy Framework deckt nur Datenschutz ab, nicht Berufsgeheimnisse
          • Company-Lizenzen wie Microsoft 365 Copilot mit Data Boundary bieten mehr Sicherheit als öffentliche Gratis-Tools
          • Ein Ampelsystem zur Datenklassifizierung (intern/orange/rot) hilft, den Überblick zu behalten
          • Auch Urheberrecht zählt: geschützte Dokumente wie ISO-Standards dürfen nicht einfach in öffentliche KI-Tools geladen werden
            • 15 min
          • KI-Agenten im Unternehmen
            KI-Agenten, OpenClaw und Shadow KI: Was Firmen wirklich brauchen.
            • Was ist ein KI-Agent? Ein Agent läuft kontinuierlich im Hintergrund, erstellt selbstständig Pläne und führt sie aus - anders als klassische Chat-KI, die auf Prompts wartet. Cowork (Claude) und Microsoft Copilot agentic sind heute nutzbare Beispiele.
            • OpenClaw im Unternehmenseinsatz: Interessante Technologie, aber zu früh für breiten Rollout. Open Source, noch experimentell, schwierige Kontrollierbarkeit - und mit Zugriff auf E-Mail und Dateien wurde in Testberichten auch schon versehentlich produktive Daten gelöscht.
            • Vibe Coding und die Patientendaten-Story: Ein Arzt schrieb ohne technischen Hintergrund mit KI ein Patientenverwaltungssystem. Ergebnis: alle Patientendaten ungeschützt in einer HTML-Datei. Zugriff auf KI-Tools ohne fachliche Kompetenz ist ein Sicherheitsrisiko.
            • Shadow KI - das neue Shadow IT: Mitarbeitende abonnieren gratis KI-Tools ohne IT-Wissen. Lösung: klare Richtlinien, ein genehmigtes Unternehmens-Tool, Schulung.
            • Empfehlung für KMU: Im Microsoft-Ökosystem -> Copilot evaluieren (oft in bestehenden Lizenzen enthalten). Für agentenbasierte Aufgaben -> Cowork-ähnliche Lösungen mit definierten Skills und Berechtigungen. OpenClaw: nur für Experten, nicht mit sensiblen Daten.
              • 15 min
            • KI im Cyberkrieg: Was Claude Mythos & Co. verändern
              Wie KI-gestützte Angriffe die Security-Dynamik verändern – und was bleibt.
              • Claude Mythos Preview: Anthropics Frontier-Modell mit aussergewöhnlichen Security-Fähigkeiten — fand autonom über 23.000 potenzielle Schwachstellen in mehr als 1.000 Open-Source-Projekten und schreibt eigenständig funktionierende Exploits. Anthropic veröffentlicht es nicht als Standard-API, sondern nur über Project Glasswing für geprüfte Security-Organisationen.
              • Script Kiddy Next Level: Wer bisher keine Security-Expertise hatte, bekommt durch solche Modelle neue Möglichkeiten — das erhöht die Anzahl potenzieller Angreifer.
              • Patch-Management wird kritischer: Die Zeit zwischen Schwachstellen-Veröffentlichung und Exploit-Verfügbarkeit sinkt dramatisch. Automatisiertes Patch-Deployment ist keine Option mehr, sondern Pflicht.
              • SOC bleibt — aber verändert sich: Security Operations Center werden nicht durch KI ersetzt. Triage und Analyse werden automatisierter, aber die menschliche Verifikation und Entscheidung bleibt essenziell.
              • Security by Default: Was sich nicht ändert — Systeme müssen von Anfang an sicher designt sein. Sicherheit ist keine Add-on-Funktionalität.
                • 13 min
              • KI sicher einsetzen: NIST, MITRE & ISO 42001
                Drei Frameworks im Vergleich – welches passt zu deinem Unternehmen?
                KI einführen, aber wie weiss man, ob man es richtig macht? Mr. AI und Mr. CISO vergleichen drei etablierte Sicherheitsframeworks für den KI-Einsatz und machen klar, welches für welches Unternehmen sinnvoll ist – ohne Theorie-Blabla.
                Das NIST AI Risk Management Framework eignet sich als pragmatischer Einstieg für Unternehmen, die KI strukturiert und nachvollziehbar einführen wollen – mit den vier Hauptkapiteln Govern, Map, Measure und Manage. Die ISO 42001 baut auf bestehenden ISO-Managementsystemen auf und lohnt sich vor allem für Organisationen, die bereits nach ISO 27001 oder ISO 9000 zertifiziert sind. MITRE ATLAS ergänzt das Bild für Entwicklerteams: Es zeigt konkrete Angriffsvektoren auf KI-Systeme – von theoretischen bis zu in der Wildnis beobachteten Angriffen – und ermöglicht gezieltes Testen der eigenen Applikationen.
                Drei Frameworks, drei Anwendungsfälle, eine klare Empfehlung: Hör rein und finde heraus, wo dein Unternehmen steht.
                12 min

              About Mr. CISO & Mr. AI im Gespräch

              From the publisher's feed

              Mr. CISO & Mr. AI ist der Podcast für sichere und zuverlässige Digitalisierung.