Nous avons rencontré un souci technique vers le milieu de l’épisode, où l’enregistreur numérique a cessé de fonctionner. Heureusement, les caméras ont capturé le son.

Le projet Humaco a été créé au sein d’une structure fédérative de recherche regroupant plusieurs laboratoires de disciplines différentes. L’objectif principal est d’établir un espace d’échange interdisciplinaire plaçant l’humain au centre des réflexions sur le numérique. La question centrale posée est “comment l’humain évolue-t-il avec la société numérique” et non pas “dans la société numérique”, soulignant la volonté d’étudier l’évolution conjointe de l’humain et des technologies.

Les intervenantes discutent de l’importance de la fiction, notamment la science-fiction, dans notre capacité à imaginer l’avenir. Elles évoquent le terme “cyberespace”, né d’une œuvre de fiction en 1984, et comment des œuvres comme “La Matrice” ou “1984” ont préfiguré certaines réalités actuelles. La fiction permet d’explorer des futurs possibles et de réfléchir aux implications potentielles des technologies émergentes.

Cynthia explique que la fiction aide à concevoir le temps futur, un temps qui n’existe pas encore et qui est extensible. Elle permet d’envisager des alternatives, des cheminements et des bifurcations temporelles, facilitant ainsi notre projection dans l’avenir.

Christine souligne l’importance de regarder les éléments passés pour établir des probabilités de comportements d’acteurs futurs. Dans le domaine militaire ou doctrinal, on pense sur 30 ou 40 ans, en prenant en compte la probabilité de survenance des risques, y compris les risques inattendus.

Elle évoque également la possibilité de “prophéties autoréalisatrices” : des textes considérés comme documents-cadres peuvent participer à dessiner des lignes de tension, rendant certaines bifurcations temporelles moins imprévisibles.

Les intervenantes discutent du rapport entre le droit et l’innovation technologique. Le droit intervient généralement a posteriori, en réponse à des risques déjà identifiés, pour réguler la société et les interactions entre acteurs. Il doit faire face non seulement à une évolution sociétale mais à une véritable transformation sociétale.

La fiction peut aider à libérer la parole, à imaginer des scénarios et à interroger l’acceptabilité de certaines pratiques ou technologies, permettant ainsi de mieux préparer le cadre juridique.

Une partie importante du podcast est consacrée à l’intelligence artificielle (IA) et à ses limites. Les intervenantes insistent sur le fait que l’IA actuelle n’a pas d’intention ni de conscience. Elle fonctionne sur des principes algorithmiques mathématiques et des systèmes de renforcement, reproduisant ce qui est fréquentiellement le plus récurrent dans ses données d’entraînement.

Christine met en garde contre l’“anthropomorphisation” des IA : ce ne sont pas des entités pensantes mais des systèmes mathématiques. Elle évoque le phénomène des “hallucinations” des IA (comme inventer des œufs de brebis) mais aussi la sérendipité, soit la capacité à produire des associations inattendues.

Les intervenantes plaident pour une complémentarité entre l’humain et la technologie plutôt qu’une opposition. Ingrid souligne qu’il ne faut pas rejeter la technologie mais chercher une “coopération équilibrée” entre l’humain et les systèmes techniques.

Elles évoquent le problème des biais algorithmiques et comment les modèles d’IA reflètent les biais présents dans leurs données d’entraînement. Elles discutent également de l’importance de la transparence et de l’explicabilité des systèmes d’IA.

Un point crucial soulevé est le besoin de formation interdisciplinaire. Ingrid suggère que les sciences humaines et sociales devraient mieux utiliser les technologies, tandis que les sciences de l’ingénieur devraient mieux comprendre le fonctionnement de la société et de l’humain. Cette fusion des compétences permettrait une meilleure conception des technologies et une meilleure expression des besoins des utilisateurs.