Soixante-deux millions de dollars, trois ans de travail, une promesse officielle de guérir le cancer — et au bout du compte, un système informatique incapable de lire le dossier médical du patient assis en face de lui. Cet épisode raconte l'histoire d'IBM Watson, de sa victoire éclatante à Jeopardy en 2011 à sa revente en pièces détachées en 2022, et démonte le mécanisme qui a permis à une prouesse télévisée de se vendre pendant dix ans comme une révolution médicale.
On y suit le malentendu fondateur — battre des champions à un jeu de culture générale n'a presque rien à voir avec guider un traitement oncologique — puis le fiasco de MD Anderson, où soixante-deux millions, dont une partie puisée dans des fonds de donation, ont financé un outil qui ne pouvait pas dialoguer avec le système de dossiers de l'hôpital. On entre ensuite dans les documents internes révélés par STAT : des recommandations qualifiées de « dangereuses et incorrectes », nées d'un entraînement sur des cas synthétiques imaginés par une poignée d'oncologistes new-yorkais, et une concordance tombée à 20 % avec les médecins coréens chez les patients âgés.
Au-delà de l'autopsie, l'épisode dégage la leçon qui tient encore debout : la vraie question à poser devant toute promesse d'IA n'est pas « comment se passe la démo », mais sur quelles données le modèle a appris, par qui, dans quel contexte — et ressemblent-elles vraiment à la réalité dans laquelle on va le déployer. Un mécanisme que l'IA générative remet aujourd'hui en circulation à grande vitesse, devant des comités de direction qui n'ont pas encore appris à poser les bonnes questions.
À partager à quiconque évalue une promesse d'IA en ce moment — il saura pourquoi.
#portraits