I.A. Café - Enquête au cœur de la recherche sur l’intelligence artificielle

Send us Fan Mail

Dans cet épisode d’IA Café, nous recevons le philosophe, Martin Gibert, pour discuter avec lui des pistes d'éducation potentielles pour enseigner la morale, non seulement aux étudiants qui fréquentent ses cours en éthique de l'IA, mais également aux robots et algorithmes qui sont et seront les manifestations les plus concrètes des plus récentes avancées en intelligence artificielle.  

Au programme: 

• De l’éthique et de l’éthique normative.
• Des théories morales en éthique normative applicables en l’intelligence artificielle.
• De la programmation morale des systèmes d’intelligence artificielle.
• Des enjeux éthiques associés aux technologies en intelligence artificielle.
• De la distinction entre éthique de l’IA et éthique des algorithmes.
• De la création d'un cours en éthique de l'IA.

Référence principale:

• Martin Gibert, Faire la morale aux robots -  Une introduction à l’éthique des algorithmes, Atelier 10, 9 juin 2020, 165 p.

Production et animation: Jean-François Sénéchal, Ph.D.
Invité: Martin Gibert
Collaborateurs: David Beauchemin, Ève Gaumond, Frédérick Plamondon, Sylvain Munger, Shirley Plumerand, Maxime Heuillet.

Support the show

Send us Fan Mail

Ça y est! Corne de brume! Nous sommes de retour. Bienvenue à votre saison #3 d’IA café. Épisode 42. L’épisode de la «réponse ultime» (ou pas)! 

Avec mes collaborateurs et collaboratrices (Ève Gaumond, Sylvain Munger et Maxime Heuillet), nous mettons la table pour cette saison 3, explorons les thèmes à venir, discutons des événements en IA qui ont attirés notre attention, et partageons nos ambitions et projets d'automne.

Et au passage, quelques discussions passionnantes sur nos sujets préférés:

• Dall-e et Midjourney - banc d'essai
• Justice, démocratie et expression en ligne
• Du lien social entre la communauté de chercheurs en IA et la population en générale
• Aristocratie et entrepreneuriat - Rêve, imagerie et pouvoir
• Workshop - Utilisation de techniques de NLP pour traduire le sens caché et cryptique des plumitifs (résumé sommaires de décisions judiciaires)
• De pertinence de la question de la singularité et de la naissance potentielle d'une IA générale menaçante (ou enthousiasmante) 
• Guide de survie pour étudiantes et étudiants français qui aimeraient étudier en IA au Québec ou en Amérique (de l'autre côté de la Grande Flaque)
• Du rôle de l'IA dans l'intox, dans la construction des discours conspirationnistes et dans la radicalisation du discours sur les réseaux sociaux
• NeurIps 2022 -  Conference on Neural Information Processing Systems 

Et encore plus !

Bonne écoute.

Production et animation: Jean-François Sénéchal, Ph.D
Invités: Ève Gaumond, Sylvain Munger, Maxime Heuillet
Collaborateurs: David Beauchemin, Fredérick Plamondon, Shirley Plumerand.

Support the show

Send us Fan Mail

Dernier épisode de la saison 2! Déjà. Triste, non?

Dans cet épisode, avec mes collaborateurs (Ève et Sylvain), nous partageons quelques événements, articles, ouvrages, conférences, rencontres qui ont marqué notre printemps 2022 de recherche sur les enjeux éthiques et sociaux en IA. 

En bonus, nous vous faisons quelques recommandations de lectures et de divertissements pour nourrir, peut-être avec un peu plus de légèreté et de soleil d'été, votre passion pour l'intelligence artificielle. 

On se reverra en septembre. D'ici là, reposez-vous bien, et bonnes vacances!

Production et animation: Jean-François Sénéchal, Ph.D
Invités: Ève Gaumond, Sylvain Munger
Collaborateurs: David Beauchemin, Ève Gaumond, Fredérick Plamondon, Sylvain Munger, Shirley Plumerand.

Mentions dans ce podcast:

• La semaine sur la conduite responsable en recherche de l'Université Laval
• Le podcast La science dont vous êtes le héros de Jean-François Sénéchal, en collaboration avec le Vice-Rectorat à la recherche, à la création et à l'innovation de l'Université Laval
• Jean-François Sénéchal, Évaluer les étudiants comme dans un jeu vidéo , La conversation Canada, 28 avril 2021.
• Carbone & Silicium de Mathieu Bablet 
• Devs d'Alex Garland
• Dall-e d’Open AI 
• et d'autres mentions d'Ève et Sylvain dont j'attends encore les références! LOL!

Support the show

Send us Fan Mail

Dans cet épisode d’IA Café, nous recevons la sociologue et philosophe (de terrain): Allison Marchildon. Avec elle, nous parlons de la place de l'éthique appliquée dans la réflexion, la formation et la recherche en intelligence artificielle.

Au programme: 

• D'une sociologue en philosophie
• De la philosophie de terrain (field philosophy) comme champ académique
• De la compétence en éthique (générale)
• De la compétence éthique en IA
• Du cycle des technologies, des enjeux éthiques et du retour du même 
• De la grille de réflexivité sur les enjeux éthiques des systèmes d’intelligence artificielle
• Du rôle de l’éthique et de la recherche en éthique en IA. 

Bonne écoute!

Référence principale:
- Allison Marchildon, Steve jacob, Aude-Marie Marcoux, Grille de réflexivité portant sur les enjeux éthiques des systèmes d'intelligence artificielle (SIA) · Publié le 19 octobre 2021 dans Actualités, Outils.

Production et animation: Jean-François Sénéchal, Ph.D
Invitée: Allison Marchildon
Collaborateurs: David Beauchemin, Ève Gaumond, Frédérick Plamondon, Sylvain Munger, Shirley Plumerand.

Support the show

Send us Fan Mail

Dans cet épisode, nous recevons Maxime Colleret. Avec lui, nous revenons sur le rapport qu'il a coécrit, avec son collègue et directeur de recherche Yves Gingras, et qui est intitulé: L'intelligence artificielle au Québec : un réseau tricoté serré.

Nous explorerons également les principales idées publiées dans un autre article, coécrit avec son collègue Mahdi Khelfaoui, et intitulé: D'une révolution avortée à une autre? Les politiques québécoises en nanotechnologies et en IA au prisme de l'économie de la promesse.

Au programme:

• D’un réseau (tissé serré) en IA
• Analyse sociologique du réseau, des principaux acteurs et des bailleurs de fonds en IA au Québec
• Des potentiels conflits de rôles, conflits d’intérêts et problèmes d’éthique organisationnelle
• De la concentration du financement de la recherche en IA
• De l’économie de la promesse
• Du cycle de battage technologique
• De l’avenir de l’IA 

Bonne écoute!

Référence principale:
- Colleret, M. et Khelfaoui, M. (2020). D'une révolution avortée à une autre? Les politiques québécoises en nanotechnologies et en IA au prisme de l'économie de la promesse. Recherches sociographiques, 61(1), 163-188.
- Colleret, M., & Gingras, Y. (2020). L'intelligence artificielle au Québec: un réseau tricoté serré (Doctoral dissertation, UQAM).

Production et animation: Jean-François Sénéchal, Ph.D
Collaborateurs: David Beauchemin, Ève Gaumond, Fredérick Plamondon, Sylvain Munger, Shirley Plumerand.

Support the show

Send us Fan Mail

Dans cet épisode, nous recevons Guillaume Cabanac surnommé « détective de la tromperie ». Guillaume a été nommé, par la prestigieuse revue Nature, parmi les 10 personnalités qui ont marqué la science en 2021. 

Guillaume est un chercheur qui fait de la recherche, mais sur la recherche. Il est maître de conférence, docteur en informatique, professeur à l’Université Paul Sabatier Toulouse 3. Il enseigne en informatique, en gestion et traitement informatique des données massives.  Ses plus récents travaux de recherche sont en scientométrie (la science de la mesure et de l'analyse de la science). 

Avec lui, nous avons principalement discuté d’un article qui a fait beaucoup de bruit dans la communauté scientifique. L’article a été publié en juillet 2021 :

• Cabanac, Guillaume, Cyril Labbé, and Alexander Magazinov. "Tortured phrases: A dubious writing style emerging in science. Evidence of critical issues affecting established journals." arXiv preprint arXiv:2107.06751 (2021). Ma traduction: Des phrases torturées, de l'émergence d'un style étrange d'écriture en science - Les preuves d'un important problème qui affecte même les journaux scientifiques les plus sérieux et prestigieux. 

Bonne écoute!

Production et animation: Jean-François Sénéchal, Ph.D
Collaborateurs: David Beauchemin, Ève Gaumond, Fredérick Plamondon, Sylvain Munger, Shirley Plumerand.

Support the show

Send us Fan Mail

Dans cet épisode, avec mon invité Frédérick Bruneault, notre enquête sur les enjeux éthiques et sociaux de l'IA s'aventure bien en amont du développement de l'IA en explorant: la  formation en éthique de l'IA. 

Frédérick Bruneault est professeur de philosophie au Collège André-Laurendeau, professeur associé à l'École des médias de l'Université du Québec à Montréal (UQAM), chercheur principal au Laboratoire d'éthique du numérique et de l'intelligence artificielle (LEN.IA), chercheur associé à l'Observatoire sur les impacts sociétaux de l'intelligence artificielle et du numérique (OBVIA), à l'Observatoire du numérique en éducation (ONE). Ses recherches portent sur la fondation de nos obligations morales dans le contexte du développement technologique actuel, notamment celui des technologies du numérique et de l'intelligence artificielle.

Avec lui, nous explorons un texte dont il est le coauteur (avec Andréane Sabourin Laflamme, et André Mondoux) : Former à l’éthique de l’IA en enseignement supérieur : Référentiel de compétence.  

Au programme:

• Histoire et genèse du rapport. 
• Méthode de recherche
• D’une approche pragmatique en éthique
• De la compétence en éthique (générale)
• De la compétence en éthique de l’IA

Bonne écoute! 

Production et animation: Jean-François Sénéchal, Ph.D
Collaborateurs: David Beauchemin, Ève Gaumond, Fredérick Plamondon, Sylvain Munger, Shirley Plumerand.

Support the show

Send us Fan Mail

Dans cet épisode d’IA Café,  nous replongeons dans un sujet que vous avez aimé : les biais en IA.  Avec Jean-Philippe Beauregard, nous retournons à la source en explorant non pas les biais en intelligence artificielle, mais les biais propres à notre intelligence humaine, et donc ... naturelle! Et cela, évidemment afin d'approfondir notre compréhension des biais en IA!

Nous avions entamé cette réflexion dès l’épisode 8 (avec Justine Dima) intitulé : «Dis-moi qui tu embauches, et je te dirai qui tu es» (publié le 28 janvier 2021). Nous avions poursuivi notre réflexion avec l’équipe et les collaborateur d’IA Café à l’épisode 9 intitulé : «Biais psychosociaux -  une IA humaine trop humaine» (publié le11 février 2021). 

Cette enquête sur les biais n’a donc jamais pris de repos. Le nombre de fois où le terme biais est mentionné dans nos 35 premiers épisodes! C’est un thème récurrent, mais nous prenons rarement le temps de l’approfondir. Les réflexions de Jean-Philippe Beauregard nous permettront de faire quelques pas de plus dans notre enquête.

Plusieurs thèmes abordés:

• Analyse des faits - De la discrimination et du racisme systémique en ressources humaines et dans le processus d'embauche - quelques expériences et résultats surprenants!
• Le problème - Des biais en ressources humaines - Définition, exemple, nature, fréquence 
• Les causes - Des causes psychologiques et sociales 
• Les solutions et conseils - De la gestion prudente des biais en RH et quelques conseils à celles et ceux qui sont impliqués dans la conception d'IA 

 Bonne écoute! 

Production et animation: Jean-François Sénéchal, Ph.D
Collaborateurs: David Beauchemin, Ève Gaumond, Fredérick Plamondon, Sylvain Munger, Shirley Plumerand.

Principales sources

•  Jean-Philippe Beauregard, Thèse de doctorat : Les frontières invisibles de l’embauche des Québécois minoritaires : hiérarchie ethnique, effet modérateur du genre féminin et discrimination systémique. Dévoiler la barrière à l’emploi par un testing à Québec (2020)

Support the show

Send us Fan Mail

Dans cet épisode d’IA Café, retour sur notre rencontre avec Joanne Kirkham et les applications militaires de l’intelligence artificielle. Ève Gaumond, Shirley Plumerand et  Sylvain Munger m'ont accompagné dans cette analyse! 

Plusieurs thèmes abordés:

• Des concepts d’autonomie, d'automatisation (et de responsabilité) associés aux systèmes d'armes létaux autonomes (SALA)
• Des potentialités techniques, exécutives et stratégiques des applications militaires de l'IA
• Du pouvoir du droit international pour encadrer et baliser cette technologie
• Des degrés et niveaux d’autonomie (human «in», «on» and «off» the loop) 
• Du socle du principe de dignité humaine
• Des limites de l'idée d'une guerre «humaine»

Bonne écoute! 

Production et animation: Jean-François Sénéchal, Ph.D
Collaborateurs: David Beauchemin, Ève Gaumond, Fredérick Plamondon, Sylvain Munger, Shirley Plumerand.

Principales sources

• Joanne KIRKHAM Doctorante contractuelle (Université Paris 2 Panthéon- Assas), La régulation des armes létales autonomes, un état des lieux des négociations onusiennes, Tribune n. 982.
• Julien Ancelin, Les systèmes d’armes létaux autonomes (SALA) : Enjeux juridiques de l’émergence d’un moyen de combat déshumanisé. Droit international humanitaire et droit du désarmement. Octobre 2016

Support the show

Send us Fan Mail

Dans cet épisode d’IA Café, nous recevons une juriste et experte des utilisations militaires de l’intelligence artificielle: Joanne Kirkham.

Joanne cumule des passages remarqués au département des affaires juridiques chez Human rights watch,  à Genève au United nations human rights, à Londres au King’s College. Elle a produit une thèse à l’Université Panthéon-Assas, dont le titre est le suivant : "Les systèmes d'armes létaux autonomes en droit international".

Plusieurs thèmes abordés:

• De la définition d'un système d'armes létal autonome (SALA)
• Des exemples concrets et appliqués d'applications militaires des systèmes d'armes létaux autonomes
• Des enjeux éthiques, des principaux bénéfices, et des principaux arguments contraires et critiques à l’endroit de cette technologie
• Des enjeux juridiques et du pouvoir du Droit international pour encadrer cette technologie

Bonne écoute! 

Production et animation: Jean-François Sénéchal, Ph.D
Collaborateurs: David Beauchemin, Ève Gaumond, Fredérick Plamondon, Sylvain Munger, Shirley Plumerand.

Principales sources

• Joanne KIRKHAM Doctorante contractuelle (Université Paris 2 Panthéon- Assas), La régulation des armes létales autonomes, un état des lieux des négociations onusiennes, Tribune n. 982.

Support the show