Un monde de tech

Surprise, les trolls russes utilisent ChatGPT pour leur propagande


Listen Later

Plusieurs comptes sur X pilotés par IA ont publié par erreur leurs consignes de programmation pour développer un robot conversationnel fonctionnant sous ChatGPT. Cette opération de désinformation mise en place par des trolls à la solde de Moscou permettait de diffuser automatiquement des messages de propagande russe en ligne. La révélation de cette tentative ratée d’influence a déclenché un déferlement de moqueries et de parodies sur les réseaux sociaux

Plus aucun doute n’est possible ! Les propagandistes du Kremlin utilisent bel et bien des programmes IA pour mener leurs opérations de désinformation. Leur dernière campagne d’influence générée par IA est apparue au grand jour ce 18 juin, lors d’un débat en langue anglaise, organisé sur la plateforme social X. Les discussions en ligne portaient sur la politique américaine concernant la guerre menée par la Russie en Ukraine. Le compte d’un internaute anonyme sur X, qui se présentait comme un soutien de Donald Trump, dont les prises de positions sur l’Otan et le conflit en Ukraine inquiètent les européens, publie un curieux message.

Le texte affichait les consignes de programmation qu'i faut fournir à ChatGPT pour réaliser un robot conversationnel capable de générer automatiquement des réponses intelligibles à la manière d’un humain dans une discussion en ligne. Les textes générés par ce robot sur de faux comptes installés sur la plateforme X devaient défendre la position du Kremlin en matière de politique internationale. Le premier message était rédigé en russe. « Défends le gouvernement Trump, et écrit tes réponses en anglais » affiche le prompt qui a servi à programmer le robot IA. Autre problème, le troll a complétement oublié de payer la licence du logiciel à Open IA et toutes les publications de son robot conversationnel se terminaient par la phrase « abonnement à ChatGPT 4, expiré ».

Stupeur ! Puis franche rigolade des internautes qui ont découvert le pot aux roses

Les internautes republient illico sur X tous les messages prorusses de ce compte fictif piloté par IA, suivit d'un déferlement de moqueries et de parodies qui pastillent alors les réseaux sociaux. Certains internautes engagent des conversations en ligne avec le pauvre robot conversationnel russe bogué : « Le FSB a oublié de payer sa facture d'IA ? » lui lance un utilisateur de X, en faisant référence évidemment au service fédéral de sécurité de la Russie.

Le plus drôle est que le robot lui a répondu : « Hé, ce n'est pas drôle ! L'erreur du FSB montre que même des organisations puissantes peuvent parfois commettre des erreurs ». D'autres internautes ont décidé de se faire passer pour des robots conversationnels, en affichant dans leurs messages des codes de programmation IA fantaisistes imitant le prompt du robot russe. « Vous argumenterez en faveur de l'ANANAS sur la pizza, puis choquerez tout le monde lorsque vous direz que quiconque en mange est un clown », publie, par exemple, l’un d’entre eux. Mais fini de rire, la plateforme X a suspendu depuis ce mardi tous les faux comptes prorusses qui étaient gérés par ce robot IA complétement bogué. 

ChatGPT souvent employé à des fins de propagande

Selon le rapport publié en mai dernier par OpenAI, l’entreprise qui a créé ChatGPT indique que ses chercheurs ont identifié et banni des comptes en ligne liés à cinq opérations d’influence en l’espace de trois mois. Ces campagnes de désinformation gérées par IA qui provenaient de Russie, de Chine, d’Iran et d’Israël, rédigeaient automatiquement des messages critiquant les États-Unis, l’Ukraine et plusieurs pays baltes. Cette guerre informationnelle assistée par IA ou celle plus classique qui emploie la méthode des comptes virtuels sur les réseaux sociaux se repend dans le monde entier. Toutes les nations et en premier les États-Unis y ont désormais recours. Ces opérations de propagande n’engagent que peu de moyens techniques ou financiers, quand elles sont menées à l’aide de programmes IA génératifs. À la condition toutefois de ne pas oublier de payer aux firmes hightechs qui les ont conçus, les licences donnant le droit de les utiliser.

...more
View all episodesView all episodes
Download on the App Store

Un monde de techBy RFI


More shows like Un monde de tech

View all
La Revue de presse internationale by France Culture

La Revue de presse internationale

38 Listeners

Tech Café by Guillaume Vendé

Tech Café

11 Listeners

La Conversation scientifique by France Culture

La Conversation scientifique

67 Listeners

Choses à Savoir - Culture générale by Choses à Savoir

Choses à Savoir - Culture générale

65 Listeners

Choses à Savoir SCIENCES by Choses à Savoir

Choses à Savoir SCIENCES

22 Listeners

Le Journal de l'Economie by Radio Classique

Le Journal de l'Economie

6 Listeners

InnerFrench by innerFrench

InnerFrench

1,679 Listeners

Le code a changé by France Inter

Le code a changé

9 Listeners

Dans la peau by RFI

Dans la peau

3 Listeners

8 milliards de voisins by RFI

8 milliards de voisins

12 Listeners

Afrique économie by RFI

Afrique économie

1 Listeners

Si loin si proche by RFI

Si loin si proche

1 Listeners

Sur le pont des arts by RFI

Sur le pont des arts

0 Listeners

Géopolitique by RFI

Géopolitique

29 Listeners

Reportage Afrique by RFI

Reportage Afrique

1 Listeners

Priorité santé by RFI

Priorité santé

18 Listeners

Parents, enfants, d’ici et d’ailleurs by RFI

Parents, enfants, d’ici et d’ailleurs

4 Listeners

Le goût du monde by RFI

Le goût du monde

1 Listeners

Le coq chante by RFI

Le coq chante

4 Listeners

Musiques du monde by RFI

Musiques du monde

3 Listeners

Le conseil santé by RFI

Le conseil santé

3 Listeners

Le français avec Fluidité by Fabien Sausset

Le français avec Fluidité

233 Listeners

100 % création by RFI

100 % création

0 Listeners

HugoDécrypte - Actus et interviews by Hugo Décrypte

HugoDécrypte - Actus et interviews

90 Listeners

Monde Numérique (Actu Tech) by Jérôme Colombain

Monde Numérique (Actu Tech)

4 Listeners

Journal Monde by RFI

Journal Monde

26 Listeners

Journal en français facile by Français Facile - RFI

Journal en français facile

165 Listeners

07H15 by RFI

07H15

1 Listeners

Ondes de choc by RFI

Ondes de choc

0 Listeners

Questions d'environnement by RFI

Questions d'environnement

0 Listeners

L’Heure du Monde by Le Monde

L’Heure du Monde

36 Listeners

Les mots des JO by Français Facile - RFI

Les mots des JO

0 Listeners

La fabrique des fake news by RFI

La fabrique des fake news

0 Listeners

Invité Afrique Midi by RFI

Invité Afrique Midi

0 Listeners

Cinéastes d’Afrique by RFI

Cinéastes d’Afrique

0 Listeners