PolySécure Podcast volet Actualités

Dans ce onzième balado collaboratif entre Polysécure et Cyber Citoyens, Catherine Dupont-Gagnon, Samuel Harper et Nicolas Lick explorent les impacts souvent négligés de l’intelligence artificielle sur la société. La discussion débute avec le concept de l’effet Eliza, cette tendance humaine à attribuer des émotions, de l’empathie et une conscience à des programmes informatiques. Ce phénomène d’anthropomorphisme, comparable à l’attachement qu’on peut développer pour des objets inanimés, constitue la racine de nombreux problèmes liés à l’utilisation des IA conversationnelles.

L’équipe soulève une distinction cruciale : l’IA cause-t-elle des psychoses ou les aggrave-t-elle simplement ? Avec seulement trois ans de recul depuis le lancement de ChatGPT, les données scientifiques robustes manquent encore. Les cas documentés montrent souvent des personnes présentant déjà des facteurs de risque, comme des dépressions antérieures, des symptômes proches de la schizophrénie ou des problèmes de consommation.

Deux facteurs de risque majeurs émergent : la déification de l’IA (la percevoir comme une intelligence supérieure omnisciente) et la dose d’utilisation. L’isolement social au profit d’heures passées avec un chatbot crée un terrain fertile pour les problèmes psychologiques. Les animateurs établissent un parallèle troublant avec les techniques de radicalisation et les cultes : isolation, coupure des liens familiaux, validation inconditionnelle et mise sur piédestal d’une autorité.

Le cas tragique d’un jeune homme qui s’est suicidé après que l’IA l’ait « challengé » à prouver sa détermination illustre dramatiquement ces dangers. Selon des données internes d’OpenAI, environ 0,07 % des utilisateurs montrent des signes de psychose et 0,15 % des indicateurs suicidaires. Ces pourcentages, bien que faibles, représentent des chiffres absolus alarmants : avec 800 millions d’utilisateurs actifs hebdomadaires, on parle de 560 000 personnes montrant des signes de psychose et 1,2 million ayant contemplé le suicide.

Une étude du MIT (non encore publiée dans une revue à comité de lecture) révèle des conséquences préoccupantes sur les capacités cognitives. Les chercheurs ont demandé à des participants d’écrire des essais en 20 minutes, certains utilisant des modèles de langage, d’autres uniquement leur cerveau. Les résultats sont frappants : moins de connectivité cérébrale chez les utilisateurs d’IA, incapacité à se rappeler ce qu’ils avaient écrit (80-90 % ne pouvaient citer une phrase de leur propre texte), et homogénéité troublante des opinions sur des sujets normalement sujets à débat.

Nicolas Lick, enseignant universitaire, témoigne de cette réalité sur le terrain. Il constate une résistance croissante de ses étudiants face à la charge de travail et une diminution de leur capacité d’absorption. Il doit ralentir son débit de parole et réduire le contenu de ses cours. Les étudiants du primaire paniquent désormais devant des textes de quelques centaines de mots, alors qu’auparavant ils rédigeaient régulièrement des dissertations de 2500 mots.

Le concept de dette cognitive émerge comme un problème central. En déléguant les tâches difficiles à l’IA, on évite l’effort mental immédiat mais on hypothèque nos capacités futures. L’exemple des moteurs de recherche est éclairant : même avec Google, on doit trier l’information, évaluer sa fiabilité, distinguer le vrai du faux. Avec l’IA, tout est présenté comme également vrai, éliminant cet exercice de pensée critique.

L’université vise notamment à enseigner la lecture rapide et l’analyse de grandes quantités de documents. Sans cette pratique intensive, la capacité à discriminer l’information pertinente ne se développe pas. Le passage d’un rôle de producteur à celui de superviseur de l’IA crée également un épuisement cognitif paradoxal : même si on produit cinq fois plus de contenu, l’effort mental reste le même, menant à un burnout accéléré.

Une étude sur le « vibe coding » révèle que les développeurs utilisant des outils d’IA pensent économiser 20-25 % de leur temps, mais sont en réalité 20 % moins productifs que ceux qui n’en utilisent pas. Cette distorsion entre perception et réalité témoigne de notre difficulté à nous auto-évaluer.

Au-delà des impacts cognitifs, l’IA génère des coûts environnementaux considérables. Chaque requête consomme de l’énergie, et les centres de données affectent la qualité de l’eau des municipalités avoisinantes. Hydro-Québec a d’ailleurs émis des alertes sur les réserves d’électricité. L’utilisation massive de ressources naturelles pour fabriquer des GPU et l’infrastructure nécessaire soulève des questions sur la viabilité à long terme.

La vie privée constitue un autre enjeu majeur. Les informations partagées avec les IA ne bénéficient d’aucune protection comparable à celle du secret professionnel. Des fraudeurs se font même passer pour des policiers pour obtenir des données auprès des entreprises technologiques. Les jouets pour enfants dotés d’IA non sécurisée représentent également un danger, certains ayant déjà divulgué du contenu inapproprié.

La discussion se termine sur une note interrogative : l’IA crée-t-elle plus de problèmes qu’elle n’en résout ? Pour les traductions, Google Translate suffisait. Pour l’écriture, les correcteurs automatiques fonctionnaient bien. Les coûts humains, psychologiques, environnementaux et sociétaux justifient-ils les bénéfices marginaux apportés ?

Certains usages spécifiques montrent du potentiel, comme la reconnaissance de grains de beauté suspects. La règle proposée : « Feriez-vous confiance à un chien savant pour cette tâche ? » Si oui, l’IA peut probablement aider. Sinon, mieux vaut s’abstenir.

Sur une note optimiste, Nicolas Lick rappelle que contrairement aux prédictions alarmistes, les emplois humains demeurent essentiels. Les entreprises qui ont licencié massivement en comptant sur l’IA sont souvent obligées de réembaucher. Le conseil final du podcast : pour éviter les psychoses liées à l’IA, continuez à voir des humains réels. C’est le meilleur remède contre l’isolement et la dérive qu’encourage une dépendance excessive aux assistants virtuels.

Ce dixième épisode collaboratif entre Polysécure et Cyber Citoyen réunit Sam Harper et Catherine Dupont-Gagnon pour discuter de trois enjeux majeurs en cybersécurité et protection de la vie privée.

L’épisode débute avec le cas du Nevada, touché par un ransomware après qu’un employé ait cliqué sur une publicité malveillante. En cherchant un logiciel standard, l’employé est tombé sur un faux site positionné en premier dans les résultats de recherche Google grâce à de la publicité payante. Ce site clonait l’apparence du site légitime et a permis l’installation d’un malware qui a mené à une attaque par rançongiciel.

Catherine souligne qu’un expert en sécurité suggère maintenant que les bloqueurs de publicité devraient être considérés comme des outils de cybersécurité essentiels, au-delà de leur rôle dans la protection de la vie privée. Elle partage sa propre expérience d’avoir failli tomber dans un piège similaire en magasinant des vêtements en ligne, se retrouvant sur un site frauduleux qui cherchait à collecter des informations de paiement.

Sam explique utiliser un système de filtrage DNS à domicile via un Raspberry Pi qui bloque les domaines publicitaires connus, rendant la navigation plus rapide et sécuritaire pour tous les habitants de sa demeure. Il mentionne des solutions gratuites comme Quad9 en Suisse et le Canadian Shield de CIRA au Canada, qui offrent des niveaux de protection variables. La Belgique va même jusqu’à imposer un système opt-out plutôt qu’opt-in, avec des résultats positifs sur la réduction de la fraude.

Le groupe note que Meta tire environ 10% de ses revenus de publicités frauduleuses, soit environ 7 milliards de dollars annuellement, créant une situation où bloquer les publicités devient nécessaire pour se protéger, tout en privant les médias légitimes de revenus. Ils encouragent les auditeurs à s’abonner à des médias de qualité plutôt que de compter sur le modèle publicitaire.

Le deuxième sujet porte sur une enquête journalistique internationale révélatrice menée par plusieurs médias européens, dont Le Monde, L’Écho et Netzpolitik. Des journalistes se sont fait passer pour une compagnie de marketing et ont obtenu gratuitement 13 milliards de points de données de géolocalisation auprès de courtiers de données.

L’enquête démontre qu’avec seulement quatre points de géolocalisation, il est possible de désanonymiser pratiquement n’importe qui. Les journalistes ont pu suivre des employés de l’OTAN, de l’Union européenne et de centrales nucléaires, connaissant leurs trajets quotidiens entre la maison, la garderie, le travail et le gym. Lorsque les journalistes ont demandé si c’était légal, les vendeurs ont répondu avec un sourire que oui, car les gens avaient cliqué “j’accepte”, mais que l’anonymisation n’était “pas vraiment” garantie.

Catherine explique comment ces données sont collectées : par les applications elles-mêmes, par du code tiers intégré dans les applications, et même par le système d’enchères publicitaires où chaque demande de publicité transmet la localisation de l’utilisateur à plusieurs vendeurs potentiels. Certaines compagnies participent au marché publicitaire uniquement pour collecter ces données, sans intention réelle de vendre des publicités.

Sam rappelle que Tim Hortons avait été impliqué dans un scandale similaire au Canada, traçant ses clients pour savoir s’ils visitaient des compétiteurs. L’exemple de John Oliver est mentionné, où il avait créé un faux site pour collecter des données d’employés gouvernementaux afin de les confronter à la réalité de cette surveillance.

Le groupe constate que ni le RGPD en Europe ni la Loi 25 au Québec ne protègent adéquatement contre les courtiers de données. Ils suggèrent qu’il faudrait peut-être “combattre le feu par le feu” en exposant publiquement les données des politiciens pour les motiver à légiférer efficacement.

Le dernier sujet aborde une nouvelle forme de fraude ciblant les petits commerçants, particulièrement les restaurants. Des fraudeurs inondent soudainement un commerce de critiques négatives d’une étoile sur Google, souvent avec des commentaires absurdes (comme critiquer un burger dans une pizzeria). Parmi ces fausses critiques apparaît un message offrant de retirer les avis pour 100 à 200 dollars via WhatsApp.

Cette tactique exploite l’importance des évaluations Google pour les commerces et la difficulté du processus de contestation. Catherine souligne que ce n’est pas nouveau – Yelp avait connu des problèmes similaires – mais que Google n’a pas mis en place les mêmes protections.

Les animateurs conseillent fermement aux commerçants de ne pas payer, car cela encourage les fraudeurs. Ils suggèrent plutôt de répondre individuellement aux faux commentaires, de signaler l’attaque et de demander des révisions à Google, même si le processus est long. Cette approche s’inspire du succès de la stratégie de non-paiement face aux ransomwares, qui a conduit à une réduction significative des montants totaux payés en 2025.

L’épisode se termine sur un appel humoristique aux auditeurs pour créer un “bingo” des marottes et expressions fétiches des animateurs, soulignant l’atmosphère conviviale de cette collaboration entre Polysécure et Cyber Citoyen.