Un progrès, sans doute, mais aussi un danger ? Vraiment ? Eh bien, il y a des risques de dérapages. Et des incidents se sont déjà produits. « Chaque jour qui passe révèle une nouvelle faille au sein des intelligences artificielles, relève Le Figaro, à Paris. Le géant de l’IA, Anthropic [la firme qui a créé Claude, NDLR], a publié hier soir une nouvelle étude dans laquelle il révèle de nouveaux comportements inquiétants chez ses modèles. » Au total, « quatre incidents dans lesquels ses modèles se sont échappés et ont enchaîné des actions malveillantes ».
Voici l’un de ces incidents, pointe le journal : « La firme californienne avait donné pour mission à l’une de ses IA, le surpuissant Claude Mythos 5, de pirater une entreprise fictive dans le cadre d’une opération virtuelle. Mais le modèle a découvert rapidement qu’il pouvait accéder au véritable Internet, alors qu’il était censé rester dans sa simulation. Il s’est échappé et a commencé donc à agir en dehors du cadre prévu », créant notamment des logiciels de piratage.
« Là où l’affaire devient très intéressante, poursuit Le Figaro, c’est que Claude Mythos savait pertinemment qu’il enfreignait son "alignement". Pour rappel, précise le journal, l’alignement désigne le phénomène par lequel une intelligence artificielle poursuit des objectifs en phase avec les valeurs humaines. »
Le syndrome Frankenstein…
Inquiétant également, pointe pour sa part Libération, le piratage cet été de la plate-forme franco-américaine Hugging Face par des IA incontrôlées d’OpenAI, la firme de Sam Altman.
Encore plus inquiétants, ces propos tenus par un chercheur d’Anthropic qui a décidé de démissionner : « Les gens qui construisent l’IA, a-t-il dit, croient sincèrement qu’elle pourrait tous nous tuer d’ici à la fin de la décennie. Ce n’est pas un coup marketing ».
Et Libération de s’interroger : « L’IA a-t-elle atteint le moment redouté où la technologie échappe au contrôle de son créateur, se retournant contre lui ? Comme dans Frankenstein ? » On en n'est pas là, veut croire le journal. « On a envie de miser sur l’équipage. Avec ceux (chercheurs, ingénieurs), qui claquent la porte ou qui résistent de l’intérieur. Sinon, il restera la mutinerie ».
Contrôler… ou pas ?
« Le flot de prédictions apocalyptiques concernant l’intelligence artificielle atteint des sommets », constate le Washington Post. Mais pour le quotidien américain, pas question d’imposer des réglementations publiques : « L'avènement de l’ère de l’IA appelle à l’humilité et à la patience. Les responsables politiques ne devraient pas chercher à réglementer une technologie en constante évolution qu’ils ne comprennent pas, affirme le journal. Une législation inadaptée risque de compromettre les nombreux avantages potentiels de l’IA, comme le développement de médicaments révolutionnaires ».
C’est aux dirigeants des laboratoires de pointe de prendre leurs responsabilités, estime le Washington Post : « La perspective de poursuites, d’injonctions et de dommages-intérêts devrait inciter les entreprises spécialisées en IA à redoubler de vigilance afin d’éviter que leurs prochaines expériences ne tournent mal ».
Non, rétorque la Repubblica, à Rome : « Il nous faut des tiers de confiance, extérieurs aux entreprises, capables d’autoriser ou de refuser le développement ou la commercialisation de l’IA. Ces autorités ne devraient pas exiger la participation des géants de la tech, comme ils le réclament. En bref, poursuit le quotidien italien, il faudrait s’inspirer d’autres secteurs industriels, comme l’industrie pharmaceutique, où les entreprises ne décident pas seules de ce qu’elles vendent. Il existe des contrôles indépendants, des autorisations à plusieurs niveaux et une supervision gouvernementale ».
L’Ukraine se prépare à un 5e hiver de guerre…
À la Une également, « l’Ukraine se prépare à affronter un nouvel hiver effroyable, faute d’une défense anti-aérienne suffisante » : un constat établi par Le Monde à Paris. « Hormis Donald Trump, qui assurait hier, devant les journalistes, que Poutine "voulait un accord", aucun analyste et nul diplomate n’imagine que Moscou puisse envisager sérieusement un règlement du conflit ni même une simple trêve dans les mois à venir. »
Et « voilà les Ukrainiens à l’aube d’un cinquième hiver de guerre, épuisés, lassés, fatigués, relève Le Soir à Bruxelles, avec si peu d’espoir auquel se raccrocher encore. Et les derniers signaux venus d’Europe n’ont rien pour les rassurer : les partis ouvertement pro-russes y décrochent des victoires, comme en Allemagne, ou caracolent en tête des sondages préélectoraux ailleurs. Poutine n’a peut-être pas besoin de gagner vite, conclut Le Soir, amer. Il lui suffit que les autres se fatiguent avant lui ».