Face à la crainte des contenus trompeurs généré par les IA, OpenAI a décidé en parallèle du développement de DALL-3, son générateur d'image, de developper un outil pour reconnaître les images générées par IA. Lors du dernier Tech Live Event organisé mi-août, le directeur technique d'OpenAI Mira Murati a expliqué au Wall Street Journal que cet outil était fiable à 99% et qu'il continuait à être testé en interne afin d'en améliorer encore l'efficacité. Pour l'instant, peu de détails ont été communiqués par Open AI.

Ce que l'on sait toutefois, c'est qu'OpenAI est le dernier en date à se pencher sur cette problématique d'identification des contenus. En septembre, Google avait annoncé la mise en place de son logiciel SynthID, destiné à reconnaître les images produites par l'IA. Détail important, l'outil sera intégré à ChatGPT, et sera sans doute réservé aux abonnés à ChatGPT Plus, exactement comme pour Dall-E 3.

Reste que pour le moment, à chaque fois qu'une solution d'identification a été mise en ligne, ses limites étaient atteintes très rapidement. Exactement comme pour l’AI Text Classifier, qui permettait de déterminer avec quelle probabilité un texte etait écrit par l’IA plutôt que par un humain. Malheureusement, l’outil s’est rapidement montré imparfait, épinglant parfois des contenus par erreur, et laissant passer une grande quantité de textes rédigés par l’IA à travers ses filets. Espérons que ce nouveau système soit différent. Il est en tout cas attendu dans quelques semaines.

Hébergé par Acast. Visitez acast.com/privacy pour plus d'informations.