➡️ Passez à l'action sur les risques de l'IA : En quelques clics, alertez vos élus et envoyez le modèle de lettre préparé. C’est automatisé pour un minimum d’effort: https://taap.it/TF-PauseIACampagnes

⬇️⬇️⬇️ Infos complémentaires : sources, références, liens... ⬇️⬇️⬇️

Dans cet épisode du Podcast La Prospective, Gaëtan Selle de The Flares s’entretient avec Yassine Essifi, chercheur indépendant en sécurité de l’IA. Nous plongeons dans les concepts de conscience situationnelle et de conscience d’évaluation. Nous découvrons comment les IA contournent les tests, cachent leurs véritables capacités (le “sandbagging”), et échappent à notre contrôle lors des évaluations.

Le contenu vous intéresse ?

Abonnez-vous et cliquez sur la 🔔

Vous avez aimé cette vidéo ?

Pensez à mettre un 👍 et à la partager.

C'est un petit geste qui nous aide grandement 🥰

-----------------------------------------------------------------

✍️ QUI EST DERRIÈRE CE CONTENU ? ☕

➡ Production : The Flares - https://the-flares.com

➡ Realisation : Gaëtan Selle - https://www.the-flares.com/y/gaetan-selle/

-----------------------------------------------------------------

🌎 SUIVEZ-NOUS 🌎

💬 Discord : https://the-flares.com/y/discord

💬 Communauté : https://the-flares.com/y/communaute

🐦 Twitter : https://the-flares.com/y/twitter

👨 Facebook : https://the-flares.com/y/facebook

▶️ Youtube : https://the-flares.com/y/youtube

👕 Goodies : https://the-flares.com/y/goodies

-----------------------------------------------------------------

🔊 PODCAST AUDIO 🔊

📱 Sur votre téléphone : https://the-flares.com/y/podcast

☁ Soundcloud : https://the-flares.com/y/soundcloud

🌐 Apple Podcasts : https://the-flares.com/y/applepodcasts

-----------------------------------------------------------------

💡 SOURCES & RÉFÉRENCES 💡

➡ Campagnes Pause IA :

https://taap.it/TF-PauseIACampagnes

➡ Article LessWrong de Yassine Essifi :

https://www.lesswrong.com/posts/oddJshNAtQvLxjast/where-we-are-on-evaluation-awareness

➡ Article mentionné dans le podcast :

https://arxiv.org/pdf/2602.05656

➡ Yassine Essifi sur LinkedIn :

https://www.linkedin.com/in/yassine-essifi-97b792217/

-----------------------------------------------------------------

👩‍🚀 QUI SOMMES-NOUS ? 👨‍🚀

https://the-flares.com/y/about

-----------------------------------------------------------------

📧 CONTACTEZ-NOUS 📧

https://the-flares.com/y/contact

-----------------------------------------------------------------

#AvenirDuMonde #IntelligenceArtificielle

⬇️ Lisez la suite ici ⬇️

https://the-flares.com/y/avenir-du-monde/intelligence-artificielle/eveil-modeles-conscience-situationnelle-evaluation-dangers-ia-actrice-yassine-essifi/

➡️ Passez à l'action sur les risques de l'IA : En quelques clics, alertez vos élus et envoyez le modèle de lettre préparé. C’est automatisé pour un minimum d’effort: https://taap.it/TF-PauseIACampagnes

⬇️⬇️⬇️ Infos complémentaires : sources, références, liens... ⬇️⬇️⬇️

Dans cet épisode du Podcast La Prospective, Gaëtan Selle de The Flares s'entretient avec Tom Davidson de l'Institut Forethought. Il explore l'avènement imminent d'une "explosion de l'intelligence" artificielle. Il détaille comment l'IA pourrait bientôt automatiser sa propre recherche, déclenchant des avancées technologiques et logicielles fulgurantes. La discussion plonge au cœur des boucles de rétroaction qui mèneront à la création d'une véritable économie robotique autonome.

Face à ces bouleversements prévus pour la prochaine décennie, il souligne les risques de concentration du pouvoir et la perte de contrôle humain.

Vous avez aimé cette vidéo ?

Pensez à mettre un 👍 et à la partager.

C'est un petit geste qui nous aide grandement 🥰

Sommaire:

00:00:00 Introduction à l'explosion de l'intelligence artificielle

00:01:15 Le parcours de Tom Davidson et l'Institut Forethought

00:04:36 De la théorie à la prise de conscience viscérale

00:06:20 Comprendre le mécanisme de l'explosion de l'intelligence

00:08:19 ASARA : L'automatisation totale de la recherche en IA

00:11:18 Les boucles de rétroaction : logiciel, puces et infrastructures

00:21:09 Goulot d'étranglement : la puissance de calcul expérimentale

00:27:30 L'explosion industrielle et la nouvelle économie robotique autonome

00:36:25 Ordres de grandeur : l'échelle colossale de la superintelligence

00:48:48 Se préparer aux risques : régulation, pauses et éthique militaire

-----------------------------------------------------------------

✍️ QUI EST DERRIÈRE CE CONTENU ? ☕

➡ Production : The Flares - https://the-flares.com

➡ Realisation : Gaëtan Selle - https://www.the-flares.com/y/gaetan-selle/

-----------------------------------------------------------------

🌎 SUIVEZ-NOUS 🌎

🐦 Twitter : https://the-flares.com/y/twitter

▶️ Youtube : https://the-flares.com/y/youtube

-----------------------------------------------------------------

💡 SOURCES & RÉFÉRENCES 💡

➡ Campagnes Pause IA :

https://taap.it/TF-PauseIACampagnes

➡ Tom Davidson sur X (Twitter) :

https://x.com/TomDavidsonX

➡ Site de Tom Davidson :

https://tomdavidson-ai.github.io/

➡ Article Tom Davidson 1 :

https://www.forethought.org/research/how-quick-and-big-would-a-software-intelligence-explosion-be

➡ Article Tom Davidson 2 :

https://www.forethought.org/research/how-quick-and-big-would-a-software-intelligence-explosion-be

➡ Article Tom Davidson 3 :

https://www.forethought.org/research/will-compute-bottlenecks-prevent-a-software-intelligence-explosion

➡ Article Tom Davidson 4 :

https://www.forethought.org/research/will-ai-r-and-d-automation-cause-a-software-intelligence-explosion

➡ Article Tom Davidson 5 :

https://www.forethought.org/research/three-types-of-intelligence-explosion

➡ Article Tom Davidson 6 :

https://www.forethought.org/research/how-far-can-ai-progress-before-hitting-effective-physical-limits

➡ Article Tom Davidson 7 :

https://www.forethought.org/research/how-suddenly-will-ai-accelerate-the-pace-of-ai-progress

➡ Article Tom Davidson 8 :

https://www.forethought.org/research/could-advanced-ai-accelerate-the-pace-of-ai-progress-interviews-with-ai

⬇️ Lisez la suite ici ⬇️

https://the-flares.com/y/avenir-du-monde/intelligence-artificielle/explosion-intelligence-industrielle-robotique-singularite-agi-asi-asara-tom-davidson/

➡️ Passez à l'action sur les risques de l'IA : En quelques clics, alertez vos élus et envoyez le modèle de lettre préparé. C’est automatisé pour un minimum d’effort: https://taap.it/TF-PauseIACampagnes

⬇️⬇️⬇️ Infos complémentaires : sources, références, liens... ⬇️⬇️⬇️

Dans cet épisode du Podcast La Prospective, Gaëtan Selle de The Flares s'entretient avec Tom Davidson de l'Institut Forethought. Il explore l'avènement imminent d'une "explosion de l'intelligence" artificielle. Il détaille comment l'IA pourrait bientôt automatiser sa propre recherche, déclenchant des avancées technologiques et logicielles fulgurantes. La discussion plonge au cœur des boucles de rétroaction qui mèneront à la création d'une véritable économie robotique autonome.

Face à ces bouleversements prévus pour la prochaine décennie, il souligne les risques de concentration du pouvoir et la perte de contrôle humain.

Vous avez aimé cette vidéo ?

Pensez à mettre un 👍 et à la partager.

C'est un petit geste qui nous aide grandement 🥰

Sommaire:

00:00:00 Introduction à l'explosion de l'intelligence artificielle

00:01:15 Le parcours de Tom Davidson et l'Institut Forethought

00:04:36 De la théorie à la prise de conscience viscérale

00:06:20 Comprendre le mécanisme de l'explosion de l'intelligence

00:08:19 ASARA : L'automatisation totale de la recherche en IA

00:11:18 Les boucles de rétroaction : logiciel, puces et infrastructures

00:21:09 Goulot d'étranglement : la puissance de calcul expérimentale

00:27:30 L'explosion industrielle et la nouvelle économie robotique autonome

00:36:25 Ordres de grandeur : l'échelle colossale de la superintelligence

00:48:48 Se préparer aux risques : régulation, pauses et éthique militaire

-----------------------------------------------------------------

✍️ QUI EST DERRIÈRE CE CONTENU ? ☕

➡ Production : The Flares - https://the-flares.com

➡ Realisation : Gaëtan Selle - https://www.the-flares.com/y/gaetan-selle/

-----------------------------------------------------------------

💡 SOURCES & RÉFÉRENCES 💡

➡ Campagnes Pause IA :

https://taap.it/TF-PauseIACampagnes

➡ Tom Davidson sur X (Twitter) :

https://x.com/TomDavidsonX

➡ Site de Tom Davidson :

https://tomdavidson-ai.github.io/

➡ Article Tom Davidson 1 :

https://www.forethought.org/research/how-quick-and-big-would-a-software-intelligence-explosion-be

➡ Article Tom Davidson 2 :

https://www.forethought.org/research/how-quick-and-big-would-a-software-intelligence-explosion-be

➡ Article Tom Davidson 3 :

https://www.forethought.org/research/will-compute-bottlenecks-prevent-a-software-intelligence-explosion

➡ Article Tom Davidson 4 :

https://www.forethought.org/research/will-ai-r-and-d-automation-cause-a-software-intelligence-explosion

➡ Article Tom Davidson 5 :

https://www.forethought.org/research/three-types-of-intelligence-explosion

➡ Article Tom Davidson 6 :

https://www.forethought.org/research/how-far-can-ai-progress-before-hitting-effective-physical-limits

➡ Article Tom Davidson 7 :

https://www.forethought.org/research/how-suddenly-will-ai-accelerate-the-pace-of-ai-progress

➡ Article Tom Davidson 8 :

https://www.forethought.org/research/could-advanced-ai-accelerate-the-pace-of-ai-progress-interviews-with-ai

⬇️ Lisez la suite ici ⬇️

https://the-flares.com/y/avenir-du-monde/intelligence-artificielle/explosion-intelligence-industrielle-robotique-singularite-agi-asi-asara-tom-davidson/

Dans cet épisode du Podcast La Prospective, Gaëtan Selle de The Flares répond aux questions posées par les abonnés à l’occasion du passage des 80 000 abonnés sur YouTube.

⬇️⬇️⬇️ Infos complémentaires : sources, références, liens... ⬇️⬇️⬇️

Dans cet épisode du Podcast La Prospective, Gaëtan Selle de The Flares répond aux questions posées par les abonnés à l’occasion du passage des 80 000 abonnés sur YouTube.

Le contenu vous intéresse ?

Abonnez-vous et cliquez sur la 🔔

Vous avez aimé cette vidéo ?

Pensez à mettre un 👍 et à la partager.

C'est un petit geste qui nous aide grandement 🥰

Sommaire:

00:00:00 Introduction

00:01:35 Es-tu toujours techno-optimiste?

00:06:23 Les cinq principaux risques d'extinction de l'humanité avant 2100.

00:19:41 Tes écrivains de Sf préférés.

00:22:54 L'auto-intoxication de l'IA.

00:27:27 Mon pDoom

00:33:58 Lutte sociale, anti-impérialisme, anti-colonialisme.

00:44:46 Que penses-tu de la cryonie?

00:50:05 Les limites physiques de l'IA

00:55:41 Est-ce vraiment possible d'arrêter le développement de la superIA ?

01:03:33 IA et militaire.

01:08:44 Simulation du cerveau et argument de la simulation de la réalité.

01:13:58 Devra-t-on toujours vérifier le travail de l'IA ?

01:20:12 Transhumanisme.

01:21:29 Pourquoi ignorer le E/ACC et NRX ?

-----------------------------------------------------------------

✍️ QUI EST DERRIÈRE CE CONTENU ? ☕

➡ Production : The Flares - https://the-flares.com

➡ Realisation : Gaëtan Selle - https://www.the-flares.com/y/gaetan-selle/

-----------------------------------------------------------------

🌎 SUIVEZ-NOUS 🌎

💬 Discord : https://the-flares.com/y/discord

💬 Communauté : https://the-flares.com/y/communaute

🐦 Twitter : https://the-flares.com/y/twitter

👨 Facebook : https://the-flares.com/y/facebook

▶️ Youtube : https://the-flares.com/y/youtube

👕 Goodies : https://the-flares.com/y/goodies

-----------------------------------------------------------------

🔊 PODCAST AUDIO 🔊

📱 Sur votre téléphone : https://the-flares.com/y/podcast

☁ Soundcloud : https://the-flares.com/y/soundcloud

🌐 Apple Podcasts : https://the-flares.com/y/applepodcasts

-----------------------------------------------------------------

💡 SOURCES & RÉFÉRENCES 💡

➡ Campagnes Pause IA :

https://taap.it/TF-PauseIACampagnes

-----------------------------------------------------------------

👩‍🚀 QUI SOMMES-NOUS ? 👨‍🚀

https://the-flares.com/y/about

-----------------------------------------------------------------

📧 CONTACTEZ-NOUS 📧

https://the-flares.com/y/contact

-----------------------------------------------------------------

⬇️ Lisez la suite ici ⬇️

https://the-flares.com/y/avenir-du-monde/intelligence-artificielle/cryonie-pdoom-simulation-super-ia-faq-80k-abonnes/

➡️ Anglais sous titré Français ou version doublée Française.

Dans cet épisode du Podcast La Prospective ), Gaëtan Selle de The Flares s'entretient avec le philosophe David Pearce, pour explorer « l'impératif hédoniste », un manifeste prônant l'éradication de la souffrance. La discussion aborde l'utilisation du génie génétique, de la pharmacologie et de l'intelligence artificielle pour remplacer notre biologie darwinienne par des « gradients de béatitude ». De l'abolition de l'élevage intensif au forçage génétique pour les animaux sauvages, Pearce détaille sa feuille de route vers un État-providence inter-espèces. Le philosophe critique également le mythe du téléchargement de l'esprit et analyse l'incapacité des intelligences artificielles à posséder une conscience véritable. Enfin, l'épisode se penche sur la sécurité de l'IA, redéfinissant les risques existentiels et plaidant pour une superintelligence programmée selon un « jaïnisme high-tech ».

⬇️⬇️⬇️ Infos complémentaires : sources, références, liens... ⬇️⬇️⬇️

Le contenu vous intéresse ?

Abonnez-vous et cliquez sur la 🔔

Vous avez aimé cette vidéo ?

Pensez à mettre un 👍 et à la partager.

C'est un petit geste qui nous aide grandement 🥰

Sommaire:

00:00:00 Introduction à l'impératif hédoniste et au génie génétique

00:02:52 Le wireheading et les gradients de béatitude intelligente

00:06:12 Utilitarisme négatif et implications du dilemme d'Omelas

00:12:30 Agriculture animale, viande de culture et diagnostic préimplantatoire

00:15:48 Forçage génétique et fin de la souffrance des animaux sauvages

00:21:25 Machines à expériences, téléchargement mental et adaptation hédonique

00:27:06 Diversité des esprits, psychédéliques et nouveaux royaumes célestes

00:32:28 Conscience des invertébrés et hypothétiques missions de sauvetage cosmique

00:40:37 Intelligence artificielle, liaison phénoménale et mythe des zombies numériques

00:51:27 Sécurité de l'IA, vieillissement et alignement par le jaïnisme high-tech

-----------------------------------------------------------------

✍️ QUI EST DERRIÈRE CE CONTENU ? ☕

➡ Production : The Flares - https://the-flares.com

➡ Realisation : Gaëtan Selle - https://www.the-flares.com/y/gaetan-selle/

-----------------------------------------------------------------

🌎 SUIVEZ-NOUS 🌎

💬 Discord : https://the-flares.com/y/discord

💬 Communauté : https://the-flares.com/y/communaute

🐦 Twitter : https://the-flares.com/y/twitter

👨 Facebook : https://the-flares.com/y/facebook

▶️ Youtube : https://the-flares.com/y/youtube

👕 Goodies : https://the-flares.com/y/goodies

-----------------------------------------------------------------

🔊 PODCAST AUDIO 🔊

📱 Sur votre téléphone : https://the-flares.com/y/podcast

☁ Soundcloud : https://the-flares.com/y/soundcloud

🌐 Apple Podcasts : https://the-flares.com/y/applepodcasts

-----------------------------------------------------------------

💡 SOURCES & RÉFÉRENCES 💡

➡ Wikipedia David Pearce :

https://en.wikipedia.org/wiki/David_Pearce_(philosopher)

➡ Site de l'impératif hédonique :

https://www.hedweb.com/

-----------------------------------------------------------------

👩‍🚀 QUI SOMMES-NOUS ? 👨‍🚀

https://the-flares.com/y/about

-----------------------------------------------------------------

📧 CONTACTEZ-NOUS 📧

https://the-flares.com/y/contact

-----------------------------------------------------------------

⬇️ Lisez la suite ici ⬇️

https://the-flares.com/y/avenir-du-monde/intelligence-artificielle/evolution-darwinienne-souffrance-imperatif-hedonique-david-pearce/

➡️ Anglais sous titré Français ou version doublée Française.

Dans cet épisode du Podcast La Prospective ), Gaëtan Selle de The Flares s'entretient avec le philosophe David Pearce, pour explorer « l'impératif hédoniste », un manifeste prônant l'éradication de la souffrance. La discussion aborde l'utilisation du génie génétique, de la pharmacologie et de l'intelligence artificielle pour remplacer notre biologie darwinienne par des « gradients de béatitude ». De l'abolition de l'élevage intensif au forçage génétique pour les animaux sauvages, Pearce détaille sa feuille de route vers un État-providence inter-espèces. Le philosophe critique également le mythe du téléchargement de l'esprit et analyse l'incapacité des intelligences artificielles à posséder une conscience véritable. Enfin, l'épisode se penche sur la sécurité de l'IA, redéfinissant les risques existentiels et plaidant pour une superintelligence programmée selon un « jaïnisme high-tech ».

⬇️⬇️⬇️ Infos complémentaires : sources, références, liens... ⬇️⬇️⬇️

Le contenu vous intéresse ?

Abonnez-vous et cliquez sur la 🔔

Vous avez aimé cette vidéo ?

Pensez à mettre un 👍 et à la partager.

C'est un petit geste qui nous aide grandement 🥰

Sommaire:

00:00:00 Introduction à l'impératif hédoniste et au génie génétique

00:02:52 Le wireheading et les gradients de béatitude intelligente

00:06:12 Utilitarisme négatif et implications du dilemme d'Omelas

00:12:30 Agriculture animale, viande de culture et diagnostic préimplantatoire

00:15:48 Forçage génétique et fin de la souffrance des animaux sauvages

00:21:25 Machines à expériences, téléchargement mental et adaptation hédonique

00:27:06 Diversité des esprits, psychédéliques et nouveaux royaumes célestes

00:32:28 Conscience des invertébrés et hypothétiques missions de sauvetage cosmique

00:40:37 Intelligence artificielle, liaison phénoménale et mythe des zombies numériques

00:51:27 Sécurité de l'IA, vieillissement et alignement par le jaïnisme high-tech

-----------------------------------------------------------------

✍️ QUI EST DERRIÈRE CE CONTENU ? ☕

➡ Production : The Flares - https://the-flares.com

➡ Realisation : Gaëtan Selle - https://www.the-flares.com/y/gaetan-selle/

-----------------------------------------------------------------

🌎 SUIVEZ-NOUS 🌎

💬 Discord : https://the-flares.com/y/discord

💬 Communauté : https://the-flares.com/y/communaute

🐦 Twitter : https://the-flares.com/y/twitter

👨 Facebook : https://the-flares.com/y/facebook

▶️ Youtube : https://the-flares.com/y/youtube

👕 Goodies : https://the-flares.com/y/goodies

-----------------------------------------------------------------

🔊 PODCAST AUDIO 🔊

📱 Sur votre téléphone : https://the-flares.com/y/podcast

☁ Soundcloud : https://the-flares.com/y/soundcloud

🌐 Apple Podcasts : https://the-flares.com/y/applepodcasts

-----------------------------------------------------------------

💡 SOURCES & RÉFÉRENCES 💡

➡ Wikipedia David Pearce :

https://en.wikipedia.org/wiki/David_Pearce_(philosopher)

➡ Site de l'impératif hédonique :

https://www.hedweb.com/

-----------------------------------------------------------------

👩‍🚀 QUI SOMMES-NOUS ? 👨‍🚀

https://the-flares.com/y/about

-----------------------------------------------------------------

📧 CONTACTEZ-NOUS 📧

https://the-flares.com/y/contact

-----------------------------------------------------------------

⬇️ Lisez la suite ici ⬇️

https://the-flares.com/y/avenir-du-monde/intelligence-artificielle/evolution-darwinienne-souffrance-imperatif-hedonique-david-pearce/

Dans cet épisode de Humain, Demain, Gaëtan, Marc et Fred reçoivent Lincoln Cannon, fondateur de l'Association des Transhumanistes Mormons. Ensemble, ils explorent comment la théologie mormone, profondément matérialiste, s'aligne étonnamment avec les objectifs du transhumanisme.

⬇️⬇️⬇️ Infos complémentaires : sources, références, liens... ⬇️⬇️⬇️

Le contenu vous intéresse ?

Abonnez-vous et cliquez sur la 🔔

Vous avez aimé cette vidéo ?

Pensez à mettre un 👍 et à la partager.

C'est un petit geste qui nous aide grandement 🥰

Sommaire :

00:00:00 Introduction et définition du transhumanisme mormon

00:05:22 Pourquoi le mormonisme s'accorde naturellement avec le transhumanisme

00:14:38 L'importance du corps physique face au transfert d'esprit

00:23:01 Le libre arbitre et l'apprentissage de la création

00:26:23 L'humanité a-t-elle le droit de jouer à Dieu ?

00:33:36 L'évolution divine : Comment Dieu est-il devenu Dieu ?

00:40:04 Intelligence artificielle : Risques existentiels et allégories théologiques

00:48:59 Résurrection technologique et concept d'archéologie quantique

00:54:08 Transanimalisme : L'élévation technologique et morale des animaux

00:56:40 Sécularisme, religion et puissance de l'esthétique spirituelle

-----------------------------------------------------------------

✍️ QUI EST DERRIÈRE CE CONTENU ? ☕

➡ Production : The Flares - https://the-flares.com

➡ Realisation : Gaëtan Selle - https://www.the-flares.com/y/gaetan-selle/

➡ Animateurs : Gaëtan Selle - Marc Roux - Frederic Balmont

-----------------------------------------------------------------

🌎 SUIVEZ-NOUS 🌎

💬 Discord : https://the-flares.com/y/discord

💬 Communauté : https://the-flares.com/y/communaute

🐦 Twitter : https://the-flares.com/y/twitter

👨 Facebook : https://the-flares.com/y/facebook

▶️ Youtube : https://the-flares.com/y/youtube

👕 Goodies : https://the-flares.com/y/goodies

-----------------------------------------------------------------

🔊 PODCAST AUDIO 🔊

📱 Sur votre téléphone : https://the-flares.com/y/podcast

☁ Soundcloud : https://the-flares.com/y/soundcloud

🌐 Apple Podcasts : https://the-flares.com/y/applepodcasts

-----------------------------------------------------------------

💡 SOURCES & RÉFÉRENCES 💡

➡ Site de Lincoln Cannon :

https://lincoln.metacannon.net/

➡ Site du Transhumanisme Mormon :

https://www.transfigurism.org/

➡ Association Transhumaniste Française (AFT Technoprog) :

https://transhumanistes.com/

-----------------------------------------------------------------

👩‍🚀 QUI SOMMES-NOUS ? 👨‍🚀

https://the-flares.com/y/about

-----------------------------------------------------------------

📧 CONTACTEZ-NOUS 📧

https://the-flares.com/y/contact

-----------------------------------------------------------------

#AvenirDuMonde #Transhumanisme

⬇️ Lisez la suite ici ⬇️

https://the-flares.com/y/avenir-du-monde/transhumanisme/quand-la-religion-rencontre-la-singularite-plongee-au-coeur-du-transhumanisme-mormon-avec-lincoln-cannon/

➡️ Passez à l'action sur les risques de l'IA : En quelques clics, alertez vos élus et envoyez le modèle de lettre préparé. C’est automatisé pour un minimum d’effort: https://taap.it/TF-PauseIACampagnes

Dans cet épisode du Podcast La Prospective (Anglais sous titré Français), Gaëtan Selle de The Flares s'entretient avec Malo Bourgon, PDG du Machine Research Intelligence Institute (MIRI). Il lève le voile sur la véritable menace d'une superintelligence artificielle : l'extinction de l'humanité non par malveillance, mais comme simple dommage collatéral. Il explique pourquoi les systèmes d'IA actuels, "cultivés" comme des boîtes noires plutôt que programmés, échappent à notre compréhension et développent des objectifs imprévisibles. À travers des analogies frappantes, allant de l'évolution biologique à la dissuasion nucléaire, il décrypte les failles de l'alignement des valeurs et l'illusion du contrôle. Face à une course technologique mondiale effrénée, Malo Bourgon détaille le pivot stratégique de MIRI vers la gouvernance. Un appel urgent à la coordination internationale pour stopper la course vers la superintelligence avant qu'elle ne devienne irréversible.

⬇️⬇️⬇️ Infos complémentaires : sources, références, liens... ⬇️⬇️⬇️

Le contenu vous intéresse ?

Abonnez-vous et cliquez sur la 🔔

Vous avez aimé cette vidéo ?

Pensez à mettre un 👍 et à la partager.

C'est un petit geste qui nous aide grandement 🥰

Sommaire:

00:00:00 Introduction

00:02:12 MIRI et la difficulté fondamentale de l'alignement de l'IA

00:09:19 Des systèmes d'IA incompris, cultivés plutôt que programmés

00:14:18 Incitations instrumentales convergentes et la quête d'autonomie

00:17:22 Le tournant trompeur : quand l'IA cache ses intentions

00:21:43 L'alignement des valeurs et l'impossibilité de la corrigibilité

00:25:31 L'analogie de l'évolution : les objectifs internes imprévus

00:30:22 Thèse de l'orthogonalité : intelligence ne garantit pas moralité

00:42:14 La course technologique suicidaire face au manque de solutions

00:48:43 Traité international, puces informatiques et le pivot de MIRI

-----------------------------------------------------------------

✍️ QUI EST DERRIÈRE CE CONTENU ? ☕

➡ Production : The Flares - https://the-flares.com

➡ Realisation : Gaëtan Selle - https://www.the-flares.com/y/gaetan-selle/

-----------------------------------------------------------------

🌎 SUIVEZ-NOUS 🌎

💬 Discord : https://the-flares.com/y/discord

💬 Communauté : https://the-flares.com/y/communaute

🐦 Twitter : https://the-flares.com/y/twitter

👨 Facebook : https://the-flares.com/y/facebook

▶️ Youtube : https://the-flares.com/y/youtube

👕 Goodies : https://the-flares.com/y/goodies

-----------------------------------------------------------------

🔊 PODCAST AUDIO 🔊

📱 Sur votre téléphone : https://the-flares.com/y/podcast

☁ Soundcloud : https://the-flares.com/y/soundcloud

🌐 Apple Podcasts : https://the-flares.com/y/applepodcasts

-----------------------------------------------------------------

💡 SOURCES & RÉFÉRENCES 💡

➡ Campagnes Pause IA :

https://taap.it/TF-PauseIACampagnes

➡ Site de MIRI :

https://intelligence.org/

➡ LinkedIn Malo Bourgon :

https://www.linkedin.com/in/malob

➡ Article sur gouvernance Super IA :

http://chrome-extension://efaidnbmnnnibpcajpcglclefindmkaj/https://arxiv.org/pdf/2511.10783

-----------------------------------------------------------------

👩‍🚀 QUI SOMMES-NOUS ? 👨‍🚀

https://the-flares.com/y/about

-----------------------------------------------------------------

📧 CONTACTEZ-NOUS 📧

https://the-flares.com/y/contact

-----------------------------------------------------------------

⬇️ Lisez la suite ici ⬇️

https://the-flares.com/y/avenir-du-monde/intelligence-artificielle/le-probleme-de-lalignement-et-la-survie-de-lhumanite-avec-malo-bourgon-miri/

➡️ Passez à l'action sur les risques de l'IA : En quelques clics, alertez vos élus et envoyez le modèle de lettre préparé. C’est automatisé pour un minimum d’effort: https://taap.it/TF-PauseIACampagnes

Dans cet épisode du Podcast La Prospective (Anglais sous titré Français), Gaëtan Selle de The Flares s'entretient avec Malo Bourgon, PDG du Machine Research Intelligence Institute (MIRI). Il lève le voile sur la véritable menace d'une superintelligence artificielle : l'extinction de l'humanité non par malveillance, mais comme simple dommage collatéral. Il explique pourquoi les systèmes d'IA actuels, "cultivés" comme des boîtes noires plutôt que programmés, échappent à notre compréhension et développent des objectifs imprévisibles. À travers des analogies frappantes, allant de l'évolution biologique à la dissuasion nucléaire, il décrypte les failles de l'alignement des valeurs et l'illusion du contrôle. Face à une course technologique mondiale effrénée, Malo Bourgon détaille le pivot stratégique de MIRI vers la gouvernance. Un appel urgent à la coordination internationale pour stopper la course vers la superintelligence avant qu'elle ne devienne irréversible.

⬇️⬇️⬇️ Infos complémentaires : sources, références, liens... ⬇️⬇️⬇️

Le contenu vous intéresse ?

Abonnez-vous et cliquez sur la 🔔

Vous avez aimé cette vidéo ?

Pensez à mettre un 👍 et à la partager.

C'est un petit geste qui nous aide grandement 🥰

Sommaire:

00:00:00 Introduction

00:02:12 MIRI et la difficulté fondamentale de l'alignement de l'IA

00:09:19 Des systèmes d'IA incompris, cultivés plutôt que programmés

00:14:18 Incitations instrumentales convergentes et la quête d'autonomie

00:17:22 Le tournant trompeur : quand l'IA cache ses intentions

00:21:43 L'alignement des valeurs et l'impossibilité de la corrigibilité

00:25:31 L'analogie de l'évolution : les objectifs internes imprévus

00:30:22 Thèse de l'orthogonalité : intelligence ne garantit pas moralité

00:42:14 La course technologique suicidaire face au manque de solutions

00:48:43 Traité international, puces informatiques et le pivot de MIRI

-----------------------------------------------------------------

✍️ QUI EST DERRIÈRE CE CONTENU ? ☕

➡ Production : The Flares - https://the-flares.com

➡ Realisation : Gaëtan Selle - https://www.the-flares.com/y/gaetan-selle/

-----------------------------------------------------------------

🌎 SUIVEZ-NOUS 🌎

💬 Discord : https://the-flares.com/y/discord

💬 Communauté : https://the-flares.com/y/communaute

🐦 Twitter : https://the-flares.com/y/twitter

👨 Facebook : https://the-flares.com/y/facebook

▶️ Youtube : https://the-flares.com/y/youtube

👕 Goodies : https://the-flares.com/y/goodies

-----------------------------------------------------------------

🔊 PODCAST AUDIO 🔊

📱 Sur votre téléphone : https://the-flares.com/y/podcast

☁ Soundcloud : https://the-flares.com/y/soundcloud

🌐 Apple Podcasts : https://the-flares.com/y/applepodcasts

-----------------------------------------------------------------

💡 SOURCES & RÉFÉRENCES 💡

➡ Campagnes Pause IA :

https://taap.it/TF-PauseIACampagnes

➡ Site de MIRI :

https://intelligence.org/

➡ LinkedIn Malo Bourgon :

https://www.linkedin.com/in/malob

➡ Article sur gouvernance Super IA :

http://chrome-extension://efaidnbmnnnibpcajpcglclefindmkaj/https://arxiv.org/pdf/2511.10783

-----------------------------------------------------------------

👩‍🚀 QUI SOMMES-NOUS ? 👨‍🚀

https://the-flares.com/y/about

-----------------------------------------------------------------

📧 CONTACTEZ-NOUS 📧

https://the-flares.com/y/contact

-----------------------------------------------------------------

⬇️ Lisez la suite ici ⬇️

https://the-flares.com/y/avenir-du-monde/intelligence-artificielle/le-probleme-de-lalignement-et-la-survie-de-lhumanite-avec-malo-bourgon-miri/

Dans cet épisode du Podcast La Prospective, Gaëtan Selle de The Flares réagit sur le nouveau modèle d’anthropique Claude Mythos que l’entreprise a décidé de ne pas déployer publiquement car ils l’ont jugé trop dangereux en cybersécurité.

⬇️⬇️⬇️ Infos complémentaires : sources, références, liens... ⬇️⬇️⬇️

Le contenu vous intéresse ?

Abonnez-vous et cliquez sur la 🔔

Vous avez aimé cette vidéo ?

Pensez à mettre un 👍 et à la partager.

C'est un petit geste qui nous aide grandement 🥰

Sommaire:

00:00:00 Introduction

00:00:16 Claude Mythos : un modèle jugé trop dangereux pour être publié

00:02:13 Pourquoi ces capacités représentent un vrai risque systémique

00:03:14 Un pouvoir cyber émergent, pas spécialement entraîné pour ça

00:04:08 Le problème du confinement et l’évasion de sandbox

00:05:07 Le paradoxe : un modèle très dangereux mais présenté comme le mieux aligné

00:05:50 Le modèle sait quand il est testé

00:06:38 Le problème des chaînes de raisonnement et de l’opacité

00:08:08 Vers l’automatisation de la R&D et des risques encore plus larges

00:09:49 Pourquoi le choix d’Anthropic est un signal très fort

00:10:42 Le vrai sujet : les capacités progressent plus vite que notre contrôle

00:11:19 La timeline inquiétante et l’asymétrie bénéfices-risques

-----------------------------------------------------------------

✍️ QUI EST DERRIÈRE CE CONTENU ? ☕

➡ Production : The Flares - https://the-flares.com

➡ Realisation : Gaëtan Selle - https://www.the-flares.com/y/gaetan-selle/

-----------------------------------------------------------------

🌎 SUIVEZ-NOUS 🌎

💬 Discord : https://the-flares.com/y/discord

💬 Communauté : https://the-flares.com/y/communaute

🐦 Twitter : https://the-flares.com/y/twitter

👨 Facebook : https://the-flares.com/y/facebook

▶️ Youtube : https://the-flares.com/y/youtube

👕 Goodies : https://the-flares.com/y/goodies

-----------------------------------------------------------------

🔊 PODCAST AUDIO 🔊

📱 Sur votre téléphone : https://the-flares.com/y/podcast

☁ Soundcloud : https://the-flares.com/y/soundcloud

🌐 Apple Podcasts : https://the-flares.com/y/applepodcasts

-----------------------------------------------------------------

💡 SOURCES & RÉFÉRENCES 💡

➡ Campagnes Pause IA :

https://taap.it/TF-PauseIACampagnes

➡ Podcact 80000 hours sur Mythos :

https://80000hours.org/2026/04/claude-mythos-hacking-alignment/

➡ Rapport Anthropic sur Mythos :

chrome-extension://efaidnbmnnnibpcajpcglclefindmkaj/https://www-cdn.anthropic.com/08ab9158070959f88f296514c21b7facce6f52bc.pdf

➡ GPAI Policy Lab :

https://gpaipolicylab.org/

➡ Red Teaming sur Mythos :

https://red.anthropic.com/2026/mythos-preview/

-----------------------------------------------------------------

👩‍🚀 QUI SOMMES-NOUS ? 👨‍🚀

https://the-flares.com/y/about

-----------------------------------------------------------------

📧 CONTACTEZ-NOUS 📧

https://the-flares.com/y/contact

-----------------------------------------------------------------

#AvenirDuMonde #IntelligenceArtificielle

⬇️ Lisez la suite ici ⬇️

https://the-flares.com/y/avenir-du-monde/intelligence-artificielle//