Générateur de prompt ACTIF sur la forge apps.education :

L'objectif de cette vidéo est de vous présenter trois méthodes pour récupérer du contenu textuel généré dans un agent conversationnel. Pour rappel, nous partons du modèle ACTIF.

Le prompt a été défini, il peut être copié et testé dans l'agent conversationnel Microsoft Copilot. C'est important de préciser que nous utilisons le navigateur Edge. Nous collons le prompt dans le champ prévu à cet effet. Et la génération s'effectue. On remarque ici que l'on peut modifier le tableau généré dans Excel, en fonction de comment notre navigateur est connecté à l'application. Là, en l'occurrence, c'est un onglet qui s'ouvre avec l'application Excel en ligne, et l'on peut éditer directement le fichier généré par Microsoft Copilot.

Alors on revient à la méthode au modèle ACTIF que l'on va copier et que l'on va tester dans un autre agent conversationnel : Mistral. Donc on réalise le même prompt une fois qu'on a collé notre prompt ACTIF, nous le collons dans la zone de saisie du prompt et nous attendons la génération. Nous allons voir maintenant une seconde manière de récupérer du contenu, c'est la sélection directement dans la page affichée du contenu qui a été généré. Là, c'est un tableau, donc il faut sélectionner bien largement le tableau afin de pouvoir le récupérer. et puis de pouvoir ainsi bénéficier de sa structure au sein d'un traitement de texte, par exemple en l'occurrence Word ici.

Passons maintenant à ChatGPT, même exercice, un prompt qui génère un tableau. On va utiliser la fonctionnalité de copier que l'on voit ici. Et donc, ce faisant, nous allons uniquement copier le code Markdown du contenu généré. Vous voyez que ce n'est pas tout à fait la même chose. On récupère simplement une structure de tableau et non pas le tableau en lui-même. Pour récupérer le tableau en lui-même, on reprend la méthode vue sur Mistral. On sélectionne bien largement le contenu dans la page web. On va le copier et on retourne dans son logiciel de traitement de texte pour le coller et cette fois-ci bénéficier du tableau structuré. On peut également bénéficier de cette structure au sein d'un logiciel de tableur de type Excel.

En résumé, nous avons vu trois méthodes de récupération de contenu :

Discutez avec un LLM (Large Language Model) et entraînez-le à vous répondre ! Vittascience propose une interface didactisée qui permet de dialoguer avec quelques modèles de fondation. Elle permet de travailler avec des pré-prompts prédéfinis, de faire varier le taux d'aléatoire, de visualiser les tokens générés et leur taux de prédiction. Il est également possible de programmer en exploitant un des LLM proposés.

Voix synthétique réalisée avec elevenlabs.io

VittaScience propose d'entraîner une intelligence artificielle à l'aide de trois types de données des images, des sons et du texte.

Nous allons détailler tout de suite la partie texte qui va nous permettre de discuter avec un LLM, un grand modèle de langage. VittaScience propose dans son interface un jeu de pré-prompts qui permettent de conditionner le modèle pour un usage bien particulier. On citera par exemple la création de quiz, l'utilisation en traducteur ou encore un générateur de poèmes ou de haïkus.

VittaScience permet de dialoguer avec quelques modèles de langage dits de fondation. Nous vous conseillons à ce jour d'utiliser GPT Turbo Instruct. Il est possible de passer d'un mode texte simple à un mode discussion pour afficher les échanges avec le LLM.

L'interface permet également de faire varier le taux d'aléatoire qui peut être apparenté à un niveau de créativité. Nous verrons plus tard qu'une trop grande créativité peut amener le LLM à halluciner.

Lors d'une réponse renvoyée par le modèle de langage, un certain nombre de tokens seront générés. Nous les visualiserons plus tard lors de l'exemple que nous allons mettre en œuvre.

Il est également possible de programmer en exploitant un LLM choisi, via Adacraft en programmation visuelle par blocs ou à l'aide du langage Python.

Et enfin, pour finir ce tour du propriétaire, identifions ici la zone de texte pour saisir nos instructions qui composent ce que l'on appelle maintenant communément un prompt.

Nous allons maintenant voir en détail ce que sont les tokens en choisissant l'utilisation d'un générateur de Haïkus. Une fois ce choix effectué, on constate qu'un préprompte a été défini. Il ne nous reste plus qu'à saisir le sujet du Haïku et le LLM se charge de la génération.

On visualise bien maintenant les tokens qui composent la réponse proposée. En bleu les tokens, avec un taux de prédiction fort, et en rouge les tokens avec un taux de prédiction faible. Au-delà de la visualisation, on va pouvoir orienter la génération de la réponse en choisissant d'autres propositions possibles. Cette fonctionnalité permet de bien faire comprendre l'aspect prédictif des IA génératives de textes et ainsi de démystifier leur fonctionnement.

Voyons maintenant l'influence du taux d'aléatoire, autrement appelé température, sur la génération de la réponse. En augmentant ce taux, nous allons pousser le LLM à être plus créatif dans sa réponse. Si l'on augmente trop le taux d'aléatoire, le LLM aura tendance à halluciner comme nous pouvons le constater pour cette troisième proposition de Haïku sur le thème de la colère.

Pour conclure, VittaScience nous propose ici une interface didactisée qui permet d'illustrer un certain nombre de concepts régissant le fonctionnement des IA génératives de textes. À vous d'en faire bon usage pour aiguiller vos élèves et apprenants vers une meilleure compréhension des intelligences artificielles.

En substance :