Le Futurologue

👉 Le nouveau livre et la chaîne YouTube de Monsieur Phi

———

💸 Soutenez-moi financièrement sur Tipeee, Patreon, PayPal

———

🌐 Rejoignez-moi sur YouTube, Discord, Facebook, Instagram, TikTok, LinkedIn, X, Threads, Bluesky, Mastodon

———

AGIR POUR LA SÉCURITÉ DE L’IA

S’informer

Faire un don

Devenir bénévole

Repenser votre carrière

———

MES RECOMMANDATIONS

Mes livres préférés sur l’IA

Tous les livres que j’ai lus

Mon matériel high-tech

———

DESCRIPTION DE L’ÉPISODE

Thibaut Giraud est docteur en philosophie et ancien professeur. Il est le créateur de la chaîne YouTube Monsieur Phi, l’une des plus populaires en France dans le domaine. Intéressé par les questions liées à l’intelligence artificielle, il a consacré depuis 2023 pas moins de 13 vidéos à ce sujet, faisant de sa chaîne une référence francophone sur l’IA. Il publie aujourd’hui « La parole aux machines : Philosophie des grands modèles de langage », un ouvrage qui prolonge cette réflexion avec une approche à la fois rigoureuse et accessible.

———

TIME CODE

0:00 Introduction

1:02 Les machines parlent !

11:00 La mise à l’échelle

19:32 Les IA sont-elles intelligentes ?

21:59 Les IA sont des boites noires

36:34 Les comportements étranges des IA

49:48 Quand arrivera-t-on à l’IA surhumaine ?

53:20 Les IA sont-elles autonomes ?

57:20 Penser correctement la super IA

1:03:09 Message à l’humanité

Hébergé par Acast. Visitez acast.com/privacy pour plus d'informations.

👉 Le livre et le podcast de Victor, ainsi que les sources de l’épisode

——

💸 Soutenez-moi financièrement sur Tipeee, Patreon, PayPal

———

🌐 Rejoignez-moi sur YouTube, Discord, Facebook, Instagram, TikTok, LinkedIn, X, Threads, Bluesky, Mastodon

———

AGIR POUR LA SÉCURITÉ DE L’IA

S’informer

Faire un don

Devenir bénévole

Repenser votre carrière

———

MES RECOMMANDATIONS

Mes livres préférés sur l’IA

Tous les livres que j’ai lus

Mon matériel high-tech

———

DESCRIPTION DE L’ÉPISODE

Victor Duran-Le Peuch a étudié la philosophie à la Sorbonne et à l’Université de York avant de s’engager dans la lutte contre la souffrance animale. Il est le créateur du podcast Comme un poisson dans l’eau, aujourd’hui le plus grand podcast francophone consacré à cette thématique. Plus récemment, il est également devenu auteur avec la parution de son ouvrage En finir avec les idées fausses sur l’antispécisme.

———

TIME CODE

0:00 Introduction

1:11 Les IA sont-elles déjà conscientes ?

36:26 Les implications des IA conscientes

45:47 Faut-il être vivant pour être conscient ?

56:29 Faut-il être incarné pour être conscient ?

58:23 Comment savoir si les IA sont conscientes ?

1:01:50 Les différences entre la conscience humaine et artificielle

1:05:53 Les IA conscientes seraient-elles plus dangereuses ?

1:10:53 Les IA sont-elles conscientes d’elles-mêmes ?

1:18:38 La prise de conscience de ces dangers

1:20:52 Les IA qui traduisent les animaux

1:22:29 Le suprémacisme humain

1:24:36 Quelles sont les solutions ?

1:26:06 Message à l’humanité

Hébergé par Acast. Visitez acast.com/privacy pour plus d'informations.

💸 Soutenez-moi financièrement sur Tipeee, Patreon, PayPal

———

🌐 Rejoignez-moi sur YouTube, Discord, TikTok, Instagram, Facebook, X, Threads, LinkedIn, Bluesky, Mastodon

———

AGIR POUR LA SÉCURITÉ DE L’IA

S’informer

Faire un don

Devenir bénévole

Repenser votre carrière

———

MES RECOMMANDATIONS

Mes livres préférés sur l’IA

Tous les livres que j’ai lus

Mon matériel high-tech

———

DESCRIPTION DE L’ÉPISODE

Nicolas Miailhe est le fondateur de The Future Society, groupe de réflexion qu’il a dirigé de 2014 à 2023 et qui s’est imposé comme une référence mondiale en matière de régulation de l’intelligence artificielle. Plus récemment, il a cofondé et dirige PRISM Eval, une startup parisienne spécialisée dans la détection des vulnérabilités des IA de pointe. Reconnu comme l’un des pionniers de l’encadrement de l’IA, il a été nommé au Global Partnership on AI, siège au groupe d’experts en IA de l’OCDE ainsi qu’au groupe de haut niveau de l’UNESCO sur l’éthique de l’IA. Diplômé d’un master en administration publique de Harvard, il enseigne à Sciences Po Paris, donne régulièrement des conférences à travers le monde et conseille gouvernements, organisations internationales, fondations philanthropiques et multinationales.

———

TIME CODE

0:00 Introduction

1:35 Vers une pause de l’IA ?

7:23 Les plus grands risques de l’IA

18:53 La géopolitique de l’IA

24:51 La régulation contre l’innovation

29:20 Un développement antidémocratique

32:20 La Chine face à l’IA

42:17 L’Inde face à l’IA

51:34 Les Émirats arabes unis face à l’IA

57:51 La coopération internationale

1:04:33 L’IA face à nos institutions

1:09:44 La bulle de l’IA

1:14:53 Les solutions

1:20:04 Message à l’humanité

Hébergé par Acast. Visitez acast.com/privacy pour plus d'informations.

💸 Soutenez-moi financièrement sur Tipeee, Patreon, PayPal

———

🌐 Rejoignez-moi sur YouTube, Discord, TikTok, Instagram, Facebook, X, Threads, LinkedIn, Bluesky, Mastodon

———

AGIR POUR LA SÉCURITÉ DE L’IA

S’informer

Faire un don

Devenir bénévole

Repenser votre carrière

———

MES RECOMMANDATIONS

Mes livres préférés sur l’IA

Tous les livres que j’ai lus

Mon matériel high-tech

———

DESCRIPTION DE L’ÉPISODE

Jennifer Prendki est docteure en physique des particules et a dirigé le département data de Google DeepMind. Depuis vingt ans, elle se situe à l’avant-garde de la recherche et de la technologie. Experte reconnue, elle a conseillé plus de 170 entreprises dans l’élaboration de leurs stratégies technologiques. Elle est également la fondatrice de Quantum of Data, une société de recherche et de conseil qui explore l’intersection entre intelligence artificielle et ordinateurs quantiques, ainsi que les questions liées à l'apparition de la conscience dans les IA.

———

TIME CODE

0:00 Introduction

1:05 Vers des IA vivantes ?

9:28 Vers des IA conscientes ?

34:23 Les relations avec les IA

45:13 L’IA et l’ordinateur quantique

1:01:58 Pourquoi avoir quitté Google ?

1:18:04 Garder l’IA surhumaine sous contrôle

1:27:01 Message à l’humanité

Hébergé par Acast. Visitez acast.com/privacy pour plus d'informations.

🗣️ La déclaration

💬 Discord du Centre pour la Sécurité de l’IA

✉️ Contacter vos représentants

💸 Soutenez-moi financièrement sur Tipeee, Patreon, PayPal

🌐 Rejoignez-moi sur YouTube, Discord, TikTok, Instagram, Facebook, X, Threads, LinkedIn, Bluesky, Mastodon

———

AGIR POUR LA SÉCURITÉ DE L’IA

S’informer

Faire un don

Devenir bénévole

Repenser votre carrière

———

MES RECOMMANDATIONS

Mes livres préférés sur l’IA

Tous les livres que j’ai lus

Mon matériel high-tech

———

DESCRIPTION DE L’ÉPISODE

Charbel-Raphaël Segerie est ingénieur, chercheur et enseignant en intelligence artificielle. Il est expert IA auprès de l’OCDE et dirige le Centre pour la Sécurité de l’IA. Dans cet épisode, il explique pourquoi il a lancé un appel mondial à la mise en place de lignes rouges internationales afin de prévenir les risques inacceptables liés à l'IA.

———

TIME CODE

0:00 Introduction

1:10 La déclaration et ses signataires

6:44 Pourquoi avoir écrit cette déclaration ?

11:33 Les progrès rapides de l’IA

18:37 Les plus gros risques de l’IA

25:44 Les comportements inquiétants des IA

34:55 Les risques d’extinction de l’IA

42:15 Combien de temps nous reste-il ?

47:07 Pourquoi 2026 ?

48:34 Que sont les lignes rouges ?

51:13 Pourquoi des lignes rouges ?

54:51 Les lignes rouges vs l’innovation

57:42 Les difficultés géopolitiques

59:05 Le risque des pays malveillants

1:01:41 Le défi de l’opérationnalisation

1:07:27 Quelles sont les prochaines étapes ?

1:10:33 Quelques anecdotes

1:13:38 Vivre en ayant conscience de ces risques

1:17:04 Que faire à titre individuel ?

1:19:42 Message à l’humanité

Hébergé par Acast. Visitez acast.com/privacy pour plus d'informations.

💸 Soutenez-moi financièrement sur Tipeee, Patreon, PayPal

———

🌐 Rejoignez-moi sur YouTube, Discord, TikTok, Instagram, Facebook, X, Threads, LinkedIn, Bluesky, Mastodon

———

AGIR POUR LA SÉCURITÉ DE L’IA

S’informer

Faire un don

Devenir bénévole

Repenser votre carrière

———

MES RECOMMANDATIONS

Mes livres préférés sur l’IA

Tous les livres que j’ai lus

Mon matériel high-tech

———

DESCRIPTION DE L’ÉPISODE

-> Jean-Gabriel Ganascia est ingénieur, philosophe, professeur d’informatique à Sorbonne Université et auteur d’une dizaine d’ouvrages sur l’intelligence artificielle. Dans son livre le plus connu, Le Mythe de la Singularité : Faut-il craindre l’intelligence artificielle ?, il défend l’idée que le scénario d’une IA surpassant l’intelligence humaine et s’auto-améliorant jusqu’à devenir incontrôlable relève davantage du mythe contemporain que d’une perspective scientifique réaliste.

-> Flavien Chervet est écrivain, conférencier, prospectiviste et auteur de plusieurs ouvrages sur l’intelligence artificielle. Dans son dernier livre, Hyperarme : Anatomie d’une intranquillité planétaire, il alerte sur la possibilité qu’une superintelligence artificielle, plus puissante que l’ensemble de l’humanité, émerge dans les cinq prochaines années et constitue une menace existentielle.

Hébergé par Acast. Visitez acast.com/privacy pour plus d'informations.

⏸️ Rejoignez le canal WhatsApp et le serveur Discord de Pause IA

———

💸 Soutenez-moi financièrement sur Tipeee, Patreon, PayPal

———

🌐 Rejoignez-moi sur YouTube, Discord, TikTok, Instagram, Facebook, X, Threads, LinkedIn, Bluesky, Mastodon

———

AGIR POUR LA SÉCURITÉ DE L’IA

S’informer

Faire un don

Devenir bénévole

Repenser votre carrière

———

MES RECOMMANDATIONS

Mes livres préférés sur l’IA

Tous les livres que j’ai lus

Mon matériel high-tech

———

DESCRIPTION DE L’ÉPISODE

Maxime Fournes cumule plus de dix ans d’expérience en intelligence artificielle. Après avoir travaillé pour de grands fonds d’investissement et occupé des postes enviés, il a choisi de tout quitter pour cofonder en 2024 Pause IA, une association qui milite pour une pause dans le développement des intelligences artificielles les plus dangereuses. Nous avions déjà échangé dans plusieurs épisodes, mais, depuis notre dernière conversation, les avancées en IA ont été fulgurantes. Dans cet entretien, nous revenons sur ces progrès et sur les immenses risques qu’ils font peser sur notre avenir.

———

TIME CODE

0:00 Introduction

1:40 Alpha Evolve

10:33 Sakana AI

21:31 Claude 4

33:47 AI 2027

37:42 Le virage des géants de la tech

41:15 Une interdiction de réguler ?

46:41 Une pause de l’IA Act ?

52:07 Vers l’extinction humaine ?

57:58 La super IA va-t-elle se remettre en question ?

1:06:09 La super IA est-elle une opportunité pour la nature ?

1:10:01 Comment la super IA va-t-elle nous tuer ?

1:11:28 Alignement interne vs alignement externe

1:14:55 Qu’est-ce que la super IA va optimiser ?

1:22:01 La France va-t-elle perdre la course ?

1:26:09 Des nouvelles de Pause IA

1:29:26 Un message pour l’humanité

Hébergé par Acast. Visitez acast.com/privacy pour plus d'informations.

💸 Soutenez-moi financièrement sur Tipeee, Patreon, PayPal

———

🌐 Rejoignez-moi sur YouTube, Discord, TikTok, Instagram, Facebook, X, Threads, LinkedIn, Bluesky, Mastodon

———

AGIR POUR LA SÉCURITÉ DE L’IA

S’informer

Faire un don

Devenir bénévole

Repenser votre carrière

———

MES RECOMMANDATIONS

Mes livres préférés sur l’IA

Tous les livres que j’ai lus

Mon matériel high-tech

———

DESCRIPTION DE L’ÉPISODE

Pierre Peigné est directeur scientifique et cofondateur de PRISM Eval, une start-up spécialisée dans l’évaluation des vulnérabilités des intelligences artificielles. Après un parcours en tant qu’ingénieur et chercheur en IA, il consacre aujourd’hui son expertise à mettre en lumière les failles des systèmes d’IA et les risques qu’elles représentent.

———

TIME CODE

0:00 Introduction

0:58 Le jailbreaking

8:45 L’amélioration des performances

13:05 La convergence instrumentale

18:47 Les types de risques

22:56 Les IA boîtes noires

26:05 La nullité des sécurités

29:12 Qui sont vos clients ?

33:01 Retour sur les IA boîtes noires

37:29 Évaluer les capacités

42:08 Une IA qui jailbreak d’autres IA

45:27 Comment jailbreaker les IA ?

48:45 L’état de l’art de l’évaluation des IA

52:54 Capacités vs sécurité

55:12 L’entraînement sur les benchmarks

57:10 La dangerosité de l’évaluation de l’IA

1:01:54 Faut-il mettre les IA en open source ?

1:09:07 Évaluer les systèmes multi agents

1:12:17 Évaluer les IA qui ont accès à internet

1:15:05 Évaluer les IA qui raisonnent

1:17:17 Lien entre intelligence et robustesse

1:20:10 Les obligations d’évaluation

1:22:09 L’évaluation selon la puissance de calcul

1:25:18 Les évaluations indépendantes

1:27:09 L’enjeu de la France en évaluation

1:28:44 Les usages borderline

1:31:57 Les capacités d’humour

1:33:57 Les IA sont des outils ?

1:37:04 Message à l’humanité

Hébergé par Acast. Visitez acast.com/privacy pour plus d'informations.

💸 Soutenez-moi financièrement sur Tipeee, Patreon, PayPal

———

🌐 Rejoignez-moi sur YouTube, Discord, TikTok, Instagram, Facebook, X, Threads, LinkedIn, Bluesky, Mastodon

———

AGIR POUR LA SÉCURITÉ DE L’IA

S’informer

Faire un don

Devenir bénévole

Repenser votre carrière

———

MES RECOMMANDATIONS

Mes livres préférés sur l’IA

Tous les livres que j’ai lus

Mon matériel high-tech

———

DESCRIPTION DE L’ÉPISODE

Axelle Arquié est docteure en économie, spécialiste du marché du travail et cofondatrice de l’Observatoire des Emplois Menacés et Émergents. Elle ne mâche pas ses mots : selon elle, les IA actuelles pourraient déjà provoquer un choc majeur sur le marché du travail. Et si une IA surhumaine devait émerger, ce serait un véritable risque existentiel pour nos économies. Nous plongeons ensemble dans son analyse, pour explorer ce que nous pouvons faire, individuellement et collectivement, face à la vague d’automatisation qui s’annonce.

———

TIME CODE

0:00 Introduction

1:41 Dans quoi sommes-nous embarqués ?

3:18 L’impact des LLM sur le travail

9:45 Une diffusion dans l’économie ultra rapide

14:26 L’impact des agents autonomes sur le travail

25:43 L’impact sur les métiers relationnels

32:04 Le faux espoir des nouveaux métiers

38:50 Les enjeux de la pression concurrentielle

41:42 AI 2027 et l’auto-amélioration

45:54 La perte de contrôle de l’IA

48:52 Le rapport de la Commission de l’IA

57:21 Les effets avant l’automatisation totale

1:08:29 Les géants de la tech savent ce qu’ils font

1:14:05 Vers une domination des géants de la tech

1:22:19 Le problème du contrôle de l’IA

1:27:29 Que faire à titre individuel et collectif ?

1:30:40 Réponses à 3 objections courantes

1:37:21 Présentation de l’Observatoire des emplois menacés et émergents

1:38:31 Message à l’humanité

Hébergé par Acast. Visitez acast.com/privacy pour plus d'informations.

💸 Soutenez-moi financièrement sur Tipeee, Patreon, PayPal

———

🌐 Rejoignez-moi sur YouTube, Discord, TikTok, Instagram, Facebook, X, Threads, LinkedIn, Bluesky, Mastodon

———

👉 Laissez-moi un feedback anonyme

———

AGIR POUR LA SÉCURITÉ DE L’IA

S’informer

Faire un don

Devenir bénévole

Repenser votre carrière

———

MES RECOMMANDATIONS

Mes livres préférés sur l’IA

Tous les livres que j’ai lus

Mon matériel high-tech

———

TIME CODE

0:00 Introduction

0:40 Présentation de GPT-5

1:03 Comment définir notre époque ?

2:12 L’importance et l’omniprésence de l’IA

3:36 Vers des IA surhumaines ?

4:08 Contrôler les IA surhumaines

7:17 L’IA surhumaine, c’est pour quand ?

8:39 Un monde où l’humain n’est plus nécessaire

9:23 Il suffit de débrancher la prise ?

10:41 La convergence instrumentale

11:48 Et si on poursuit la trajectoire ?

13:05 L’impact de l’IA sur l’emploi

13:53 Quel rôle restera-t-il à l’humanité ?

14:43 Les machines parlent !

16:47 Que de la science-fiction ?

17:38 Quels sont les risques de l’IA ?

18:20 La dépendance à l’intelligence artificielle

19:57 La perte de contrôle rapide vs progressive

21:13 L’auto-amélioration récursive

23:24 Et si on gardait le contrôle ?

25:31 Une prédiction pas agréable

26:15 Quelles sont les solutions ?

27:24 Une mesure d’urgence à appliquer

28:09 L’utopie de GPT-5

29:09 Les obstacles à l’utopie

30:04 Un poème qui reflète ces enjeux

30:50 Expliquer l’humanité à une autre IA

31:37 La vision de l’IA sur l’humanité

32:36 Un petit problème d’identité ?

33:13 La plus grande illusion des humains

34:05 Promo de ma chaîne « Le Futurologue »

35:08 Message à l’humanité

Hébergé par Acast. Visitez acast.com/privacy pour plus d'informations.