Sign up to save your podcasts
Or
Share Nouvelle fonctionnalité de recherche Linkedin avec IA
Share to email
Share to Facebook
Share to X
Share to email
Share to Facebook
Share to X
Or
Nouvelle fonctionnalité de recherche Linkedin avec IA
Comment LinkedIn a-t-il surmonté le défi colossal de déployer une IA générative à grande échelle ?
Dans cet épisode, nous explorons les coulisses de LinkedIn et leur parcours pour intégrer une IA générative à leur plateforme. Pourquoi un processus qui semble si simple a-t-il été décrit comme lent et brutal par l'équipe de LinkedIn ? La réponse réside dans les défis techniques liés à l'ingénierie à très grande échelle. L'épisode nous guide à travers les étapes cruciales de ce projet, en commençant par la transition d'une recherche par mots-clés à une recherche sémantique, où l'IA comprend le contexte et l'intention derrière les requêtes des utilisateurs.
🚀 Déploiement de l’IA générative : un défi colossal
LinkedIn a relevé le défi d’intégrer une IA générative à grande échelle pour sa vaste base d’utilisateurs. Ce processus, bien que pragmatique et optimisé, a nécessité de surmonter de nombreux obstacles techniques.
🔍 De la recherche par mots-clés à la compréhension sémantique
La transition de la recherche par mots-clés à une recherche sémantique a transformé l’interaction des utilisateurs avec la plateforme. L’IA ne se contente plus de chercher des mots spécifiques, mais comprend l’intention et le contexte des requêtes.
📈 Échelle exponentielle et défis techniques
Le passage de la gestion de millions à des milliards de profils a présenté des défis techniques majeurs. Les solutions adaptées à des millions d’entrées ne fonctionnent pas nécessairement à l’échelle d’un milliard, nécessitant une réévaluation complète.
📚 La recette du succès : processus et optimisation
Le succès réside dans une méthode éprouvée, analogue à un livre de recettes. Un modèle IA volumineux est utilisé pour générer une vaste base de données, puis optimisé par distillation pour créer un modèle plus petit et rapide, prêt pour la production.
✂️ Optimisation : élagage et résumé
Pour rendre le modèle IA plus efficace, LinkedIn a réduit sa taille de moitié par élagage, tout en maintenant une précision élevée. De plus, une IA auxiliaire résume les informations, réduisant la taille des données d’entrée par un facteur de 20.
⚡ Vitesse de traitement multipliée par 10
Grâce à ces optimisations, la vitesse de traitement a été décuplée, permettant un déploiement réussi de la recherche sémantique à l’ensemble des membres de LinkedIn.
🧭 Philosophie pragmatique : améliorer les outils fondamentaux
Contrairement à la tendance de l’industrie vers des agents IA autonomes, LinkedIn s’est concentré sur l’amélioration des outils fondamentaux. Un agent IA, aussi intelligent soit-il, est inefficace avec de mauvais outils.
🔑 Leçons apprises : pragmatique, codification, optimisation
Trois leçons clés se dégagent : être pragmatique en résolvant un problème à la fois, codifier les succès pour les reproduire, et optimiser continuellement chaque étape pour des gains significatifs. Cette approche pourrait résoudre d’autres défis perçus comme impossibles.
0:00:00 - Introduction à la recherche sémantique de LinkedIn
0:00:22 - Transition de la recherche par mots-clés à la compréhension naturelle
0:01:00 - Défi de grande échelle
0:01:73 - Le défi du passage à l'échelle de milliards d'utilisateurs
0:02:124 - L'échec initial et l'importance de se concentrer
0:02:144 - La métaphore du livre de recettes
0:03:161 - Méthode de distillation des modèles d'IA
0:03:203 - Optimisation et élagage du modèle
0:04:242 - Réduction de la taille des données d'entrée
0:04:276 - Impact des optimisations : multiplication par 10 de la vitesse de traitement
0:04:295 - Philosophie de LinkedIn : amélioration des outils fondamentaux
0:05:317 - Trois leçons à retenir et conclusion
---
Une co-production originale du studio #JNPJ Je Ne Perds Jamais, Patrick DE CARVALHO (voir sur Linkedin) et 72h-podcast.com
https://jeneperdsjamais.com
https://patrickdecarvalho.com
https://72h-podcast.com
---
Ce Podcast n'appartient pas et n'est pas affilié à LinkedIn Corporation. LinkedIn, le logo LinkedIn, le logo IN et InMail sont des marques déposées par LinkedIn Corporation.
Hébergé par Acast. Visitez acast.com/privacy pour plus d'informations.
View all episodes
By Patrick DE CARVALHOComment LinkedIn a-t-il surmonté le défi colossal de déployer une IA générative à grande échelle ?
Dans cet épisode, nous explorons les coulisses de LinkedIn et leur parcours pour intégrer une IA générative à leur plateforme. Pourquoi un processus qui semble si simple a-t-il été décrit comme lent et brutal par l'équipe de LinkedIn ? La réponse réside dans les défis techniques liés à l'ingénierie à très grande échelle. L'épisode nous guide à travers les étapes cruciales de ce projet, en commençant par la transition d'une recherche par mots-clés à une recherche sémantique, où l'IA comprend le contexte et l'intention derrière les requêtes des utilisateurs.
🚀 Déploiement de l’IA générative : un défi colossal
LinkedIn a relevé le défi d’intégrer une IA générative à grande échelle pour sa vaste base d’utilisateurs. Ce processus, bien que pragmatique et optimisé, a nécessité de surmonter de nombreux obstacles techniques.
🔍 De la recherche par mots-clés à la compréhension sémantique
La transition de la recherche par mots-clés à une recherche sémantique a transformé l’interaction des utilisateurs avec la plateforme. L’IA ne se contente plus de chercher des mots spécifiques, mais comprend l’intention et le contexte des requêtes.
📈 Échelle exponentielle et défis techniques
Le passage de la gestion de millions à des milliards de profils a présenté des défis techniques majeurs. Les solutions adaptées à des millions d’entrées ne fonctionnent pas nécessairement à l’échelle d’un milliard, nécessitant une réévaluation complète.
📚 La recette du succès : processus et optimisation
Le succès réside dans une méthode éprouvée, analogue à un livre de recettes. Un modèle IA volumineux est utilisé pour générer une vaste base de données, puis optimisé par distillation pour créer un modèle plus petit et rapide, prêt pour la production.
✂️ Optimisation : élagage et résumé
Pour rendre le modèle IA plus efficace, LinkedIn a réduit sa taille de moitié par élagage, tout en maintenant une précision élevée. De plus, une IA auxiliaire résume les informations, réduisant la taille des données d’entrée par un facteur de 20.
⚡ Vitesse de traitement multipliée par 10
Grâce à ces optimisations, la vitesse de traitement a été décuplée, permettant un déploiement réussi de la recherche sémantique à l’ensemble des membres de LinkedIn.
🧭 Philosophie pragmatique : améliorer les outils fondamentaux
Contrairement à la tendance de l’industrie vers des agents IA autonomes, LinkedIn s’est concentré sur l’amélioration des outils fondamentaux. Un agent IA, aussi intelligent soit-il, est inefficace avec de mauvais outils.
🔑 Leçons apprises : pragmatique, codification, optimisation
Trois leçons clés se dégagent : être pragmatique en résolvant un problème à la fois, codifier les succès pour les reproduire, et optimiser continuellement chaque étape pour des gains significatifs. Cette approche pourrait résoudre d’autres défis perçus comme impossibles.
0:00:00 - Introduction à la recherche sémantique de LinkedIn
0:00:22 - Transition de la recherche par mots-clés à la compréhension naturelle
0:01:00 - Défi de grande échelle
0:01:73 - Le défi du passage à l'échelle de milliards d'utilisateurs
0:02:124 - L'échec initial et l'importance de se concentrer
0:02:144 - La métaphore du livre de recettes
0:03:161 - Méthode de distillation des modèles d'IA
0:03:203 - Optimisation et élagage du modèle
0:04:242 - Réduction de la taille des données d'entrée
0:04:276 - Impact des optimisations : multiplication par 10 de la vitesse de traitement
0:04:295 - Philosophie de LinkedIn : amélioration des outils fondamentaux
0:05:317 - Trois leçons à retenir et conclusion
---
Une co-production originale du studio #JNPJ Je Ne Perds Jamais, Patrick DE CARVALHO (voir sur Linkedin) et 72h-podcast.com
https://jeneperdsjamais.com
https://patrickdecarvalho.com
https://72h-podcast.com
---
Ce Podcast n'appartient pas et n'est pas affilié à LinkedIn Corporation. LinkedIn, le logo LinkedIn, le logo IN et InMail sont des marques déposées par LinkedIn Corporation.
Hébergé par Acast. Visitez acast.com/privacy pour plus d'informations.