Vandaag aan tafel:

Barend Baarssen

Karel van der Woude

Martijn Wiertz

Timeline:

0:00 Intro

0:29 Introducties 

1:12 Wat is AI Governance

3:33 IBM Risk Atlas

11:11 Wie is hierbij betrokken?

16:00 Nieuwe ontwikkelingen

20:44 Controle over de vele AI agents

Shownotes:

In deze aflevering gaan wij in gesprek met Martijn Wiertz, Technical Sales Leader EMEA bij IBM op het gebied van AI Governance. Martijn legt uit dat AI Governance de verzameling regels en methodes (mens, proces en techniek) is die een organisatie hanteert om verantwoord met AI om te gaan. Dit is essentieel om negatieve juridische, reputatie- en operationele gevolgen te voorkomen.

Centraal in de discussie staat de IBM Risk Atlas, een instrument dat organisaties helpt bij het navigeren door complexe risico’s. Martijn bespreekt hoe deze atlas inzicht geeft in diverse gevaren, van technische hallucinaties en "prompt injection" tot menselijke aspecten zoals "over-reliance". Het beheersen van deze risico's vereist een multidisciplinaire aanpak waarbij zowel IT als de business betrokken zijn.

Tot slot verkent Martijn de toekomst van governance in een wereld van AI-agents. Hij benadrukt de rol van automatisering via AI guardrails en monitoring om schaalbaarheid te garanderen. Hoewel techniek veel kan opvangen, blijft menselijk toezicht volgens Martijn onmisbaar voor ethische afwegingen en transparantie.

Links:

LinkedIn Martijn Wiertz: https://www.linkedin.com/in/martijnwiertz/

IBM Risk Atlas: https://www.ibm.com/docs/en/watsonx/saas?topic=ai-risk-atlas

Op- en aanmerkingen kunnen gestuurd worden naar: [email protected]