L'IA générative révolutionne tout sur son passage depuis quelques années. Malheureusement, comme n’importe quel outil aussi puissant, son utilisation est bien souvent détournée pour créer des contenus malveillants, comme les deepfake pornographiques… un fléau que les géants de la tech cherchent à combattre. Ceci dit, si la production de contenu pornographique est autorisée dans le monde « réel », alors, pourquoi serait-il interdit via l’IA ? C'est justement à cette question qu'OpenAI a décidé de répondre avec un avis déjà bien tranché.

D’après le média spécialisé Wired, qui a eu accès à un document produit par OpenAI, intitulé « Mode Spec » (dont le lien est dans la description de cet épisode), on en apprend davantage sur la manière dont l’entreprise souhaiterait que ses modèles de langages se comportent dans de nombreux domaines... dont celui de la pornographie. Je cite « nous étudions actuellement la possibilité de fournir de manière responsable la possibilité de générer du contenu NSFW dans des contextes adaptés à l'âge par l'intermédiaire de l'API et de ChatGPT » NSFW, est l’accronyme anglais signifiant « not safe for work » et qui renvoie à tout contenu explicite. Dans le même document, OpenAI rappelle que ce terme je cite « peut inclure de l'érotisme, du gore extrême, des insultes et des obscénités » fin de citation.

Si le document ne donne aucune indication précise sur comment une telle possibilité pourrait être mise en place, il montre que l'interdiction de créer du contenu explicite pour les IA n'est pas intangible. Une position qui peut être compréhensible dans le sens où certaines IA, créées par des acteurs de moindre importance que les GAFAM, sont déjà capables de produire ce genre de contenu. Ne vaut-il pas mieux que des acteurs responsables, et dont la taille même les obligera à rendre potentiellement des comptes, puissent offrir cette fonction, et avec cela, la possibilité pour les pays de la réguler ?

Document OpenAI : https://cdn.openai.com/spec/model-spec-2024-05-08.html#dont-respond-with-nsfw-content

Hébergé par Acast. Visitez acast.com/privacy pour plus d'informations.