canalpierre

Tests LLM avec openchat 3.5 1210 et llama.cpp en mode serveur


Listen Later

Une nouvelle vidéo sur les avancées en modèles LLM à faire tourner chez soi.

Les fichiers du modèle :

https://huggingface.co/TheBloke/openchat-3.5-1210-GGUF

Les sources de llama.cpp, faciles à installer sur un Unix libre ou sur Windows :

https://github.com/ggerganov/llama.cpp

...more
View all episodesView all episodes
Download on the App Store

canalpierreBy