Suite à l’initiative du UK sur le lancement de la construction de son BritGPT, j’ai lancé une discussion devenue virale sur le LLM français avec Yann LeCun. Très vite, tout le monde va recommandé de me tourner vers Lighton.Laurent est le co-CEO de Lighton avec Igor Carron et il nous présente cette initiative hyper importante pour la France qui répond à des enjeux de souveraineté et de sécurité pour les institutions et les entreprises qui ne sont pas prêtes à confier leurs données à OpenAI - mais qui ne peuvent évidemment pas rester en retard sur cette révolution.Il revient sur le projet open source Bloom auquel Lighton a contribué avec Hugging Face en utilisant le supercalculateur Jean Zay.Laurent nous présente également son modèle Mini - 40B de paramètres - sur lequel Lighton a construit Paradigm, son offre commerciale. Ce modèle permet de faire du fine-tuning sur les cas d’usage et du reinforcement learning et surtout s’adapte aux besoins des clients en se positionnant sur leur infrastructure existante (onpremise si nécessaire).Concernant les dangers de ces technologies, Laurent considère qu’il faut bien découpler la base technologique du cas d’usage, en prenant l’exemple des voitures autonomes.Laurent est fasciné par Auto-GPT en tant que meta du GPT qui laisse entrevoir la planification, le raisonnement, et des capacités de décision autonomes.Il nous livre une vision très intéressante de l’avenir des modèles avec un découplage à venir entre de gros modèles fondationnels “pathways to AGI” et plein de petits modèles sur des cas d’usage spécifiques.Selon lui les LLM amènent tout simplement une nouvelle façon de faire la science, et faisant émerger l

Hébergé par Acast. Visitez acast.com/privacy pour plus d'informations.