Gargant'IA

Les spéculateurs de l’AI montrent des signes d’essoufflement, bien que le krach soit prévu pour l’année prochaine. Pour l’éviter – ou le gérer – le pouvoir politique devra choisir entre différents scénarios.

🖼️ John Smith d’après Balthasar van Lemens.

Les étudiant·es accusé·es d’avoir utilisé l’IA contestent parfois leur sanction au tribunal. L’analyse de onze affaires montre que les juges n’ont pas, eux non plus, de moyen infaillible pour déterminer si un texte a été écrit par un humain ou par une machine.

📷 Mr Lair, juge de paix, en 1913. Agence Roll/BnF

Les administré·es utilisent de plus en plus l’IA dans leur correspondance avec les administrations, qui ne peuvent pas suivre le rythme. Cette crise va bien au-delà des services du courrier et remet en cause un des fondements de l’État moderne.

🖼️ Giovanni Benedetto Castiglione, La Caravane (1635).

Les algorithmes des réseaux sociaux mettent en avant les émotions fortes, y compris la tristesse. Des petits escrocs génèrent des vidéos à la volée pour apitoyer les internautes et leur refourguer de la camelote.

J’ai réalisé une série d’expériences qui montrent qu’un modèle d’IA largement utilisé dans la vidéosurveillance a de sérieux problèmes avec les femmes, les personnes racisées… et les barbus.

Les barons de l’IA correspondent en de nombreux points aux charlatans du 18e siècle. Avec une différence de taille : cette fois, ils ont le soutien des pouvoirs publics.

🖼️ L’Escamoteur, de Jérôme Bosch.

Depuis quelques mois, le géant étasunien de l’exploitation des bases de données n’a plus la cote. Mais les entreprises qui lui succèdent continuent le projet de Palantir : créer un « système d’exploitation » pour l’État, opaque et anti-démocratique.

📷 Une salle de contrôle de la NASA en 1955.

C’est l’une des peurs les plus répandues, et à juste titre : l’IA pourrait nous prendre notre travail. Mais poser le problème en ces termes, c’est déjà faire un cadeau aux barons de Big Tech. La réalité est à la fois moins alarmiste, et plus grave.

📷 Une ouvrière de la Douglas Aircraft Company (1942).

Depuis une dizaine d’années, la peur des robots-tueurs agite le débat public. Sans nier la dangerosité des drones armés, le potentiel le plus meurtrier de l’IA est ailleurs.

📷 Sculpture de Hildegard Huza photographiée par Denkmal Hamburg

Les administrations européennes commencent tout juste à développer des tests rigoureux pour vérifier que les modèles de langage sont adaptés à leurs besoins, et l’Estonie montre la voie à suivre. Mais l’étalonnage, seul, ne permet pas toujours le meilleur choix.

📷 Eesti Vabariigi lipuvärvides pesu nööril kuivamas, ERM Fk 2919:48, Eesti Rahva Muuseum, http://www.muis.ee/en_GB/museaalview/905439