Geoffrey Hinton, un des pères fondateurs de l’intelligence artificielle et prix Nobel de physique, a déclaré au cours d’une interview à la BBC qu’il y avait « 10 % à 20 % » de risques que l’intelligence artificielle conduise à l'extinction humaine dans les trois prochaines décennies. 

La fenêtre est étroite avant que l’homme ne soit dépassé par une IA superintelligente peu, ou mal alignée. L’enjeu sécuritaire est majeur et passe souvent au second plan derrière les annonces d’investissements colossaux. 

Dans cet épisode, Nathalie Côte évoque les risques et les études récentes qui analysent les comportements des IA. 

Un épisode plus que jamais à partager avec votre communauté. 

Étude auto-préservation Anthropic et Redwood Research

https://arxiv.org/abs/2412.14093

Étude tricherie au jeu d’échec Palisade Research.

https://arxiv.org/abs/2502.13295

Claude IA

https://www.anthropic.com/company

La page d’accueil est en anglais, mais Claude est utilisable en français. 

Lobehub

https://lobechat.com/discover/models

Geoffrey Hinton

https://www.cs.toronto.edu/~hinton/

Yohshua Bengio

https://yoshuabengio.org/fr/

Réalisation et mixage : Nathalie Côte

Illustrations musicales : Nathalie Côte

En savoir plus sur Nathalie Côte 

https://www.nathaliecote.com

Hébergé par Acast. Visitez acast.com/privacy pour plus d'informations.