From Data Governance to AI Governance

Guests  Richard Zuroff, Director of AI Advisory and Enablement at Element AI Tanya O'Carroll, Director of Amnesty Tech at Amnesty International Alix Dunn, Founder and Director of Computer Says Maybe Jesse McWaters, Financial Innovation Lead at World Economic Forum   AI is a powerful tool and with that power comes a great deal of responsibility. How can we be sure that we’re in control of AI systems? And what should the governance look like?   Data governance is an existing practice that covers a lot of good ground because of how integral data is to AI’s functioning. However, AI’s ability to learn and evolve over time means it will adapt to changes in its environment based on its given objective. That dynamic relationship between environment and model makes things like the design of the system and its objectives just as integral as the data the model runs on. Managing the risks of these new, dynamic systems has been widely branded as “AI Governance”.   Richard Zuroff breaks down the concept of AI governance and how it differs from data governance. Tanya O’Caroll and Alix Dunn tell us about the importance of governance in protecting human rights when building AI systems. Jesse McWaters shares his insights on AI’s impact on the financial sector and why a new form of governance will soon be necessary.    00:48 - How AI risk management is different and what to do about it - Element AI 05:07 - All the Ways Hiring Algorithms Can Introduce Bias - HBR 06:45 - The Why of Explainable AI - Element AI 07:37 - Amnesty Tech - Twitter 07:39 - Computer Says Maybe 07:52 - The Engine Room  10:18 - UN Guiding Principles on Business and Human Rights  14:18 - The Matthew Effect - Wikipedia 15:00 - Agile Ethics - Medium 17:48 - Human Rights Due Diligence 20:07 - The New Physics of Financial Services - World Economic Forum 24:30 - Consumer Financial Protection Bureau 29:00 - GDPR   Other Reading: Putting AI Ethics Guidelines to Work - Element AI  AI-Enabled Human Rights Monitoring - Element AI New Power Means New Responsibility: A Framework for AI Governance - JF Gagne Podcast: Opening the AI Black Box - Element AI     ---------   De la gouvernance des données à la gouvernance de l’IA   Richard Zuroff, directeur du conseil et de la mise en oeuvre de l'IA chez Element AI Tanya O'Carroll, directrice d'Amnesty Tech à Amnistie Internationale Alix Dunn, fondatrice et directrice de Computer Says Maybe Jesse McWaters, responsable de l'innovation financière au World Economic Forum   L’IA est un outil puissant et ce pouvoir s’accompagne d’une grande responsabilité. Comment pouvons-nous être sûrs de contrôler les systèmes d’IA? Et à quoi devrait ressembler la gouvernance?   La gouvernance des données est une pratique existante qui couvre beaucoup de bonnes choses en raison de la façon dont les données font partie intégrante du fonctionnement de l’IA. Cependant, la capacité de l’IA à apprendre et à évoluer au fil du temps signifie qu’elle s’adaptera aux changements de son environnement en fonction de son objectif donné. Cette relation dynamique entre l’environnement et le modèle rend les choses comme la conception du système et ses objectifs tout aussi intégrales que les données sur lesquelles le modèle fonctionne. La gestion des risques de ces nouveaux systèmes dynamiques a été largement qualifiée de « gouvernance de l’IA ».   Richard Zuroff analyse le concept de gouvernance de l’IA et en quoi il diffère de la gouvernance des données. Tanya O’Caroll et Alix Dunn nous parlent de l’importance de la gouvernance dans la protection des droits de la personne lors de l’élaboration de systèmes d’IA. Jesse McWaters nous fait part de son point de vue sur l’effet de l’IA dans le secteur financier et nous explique pourquoi une nouvelle forme de gouvernance sera bientôt nécessaire.    00:48 – En quoi la gestion du risque de l’IA est-elle différente et que faire à ce sujet – Element AI 05:07 – All the Ways Hiring Algorithms Can Introduce Bias - HBR 06:45 – Le «