Voici un nouvel épisode de Comptoir IA avec Alex Combessie 🐢 de Giskard.

La startup tire son nom d’un robot 🤖 d’Asimov dans la littérature SF et non pas de la politique.

Créée par des anciens de Dataiku et de Thales, Giskard est une solution open-source qui permet de détecter les failles dans les modèles de machine learning en les scannant à partir de 4 lignes de codes 🛠. Elle permet aussi de mesurer des critères de qualité comme la robustesse ou la latence. Giskard prévoit de passer bientôt au multimodal afin de pouvoir travailler sur les images et les vidéos.

Il faut prendre en compte différents niveaux de risque dans l’utilisation de l’IA - d’un côté, l’usage de ChatGPT par l’étudiant qui fait ses devoirs, de l’autre une entreprise multinationale intégrant l'IA à grande échelle. Dans ce cas, il est essentiel 🎯 d’avoir des solutions de ce type pour voir plus clair sur les tests standardisés et les méthodes d’évaluation des modèles.

Le podcast a été enregistré fin juillet 📅 mais les annonces récentes d’OpenAI sur le finetuning des modèles ou la version entreprise de ChatGPT vont très clairement dans ce sens.

Il y a quelques années, Alex avait signé le Serment d’Hippocrate du Data Scientist, il regrette que cette initiative ne soit pas allée plus loin 🤔.

Il prédit un avenir compliqué sur les deepfake et fakenews et appelle à la responsabilité des utilisateurs. Il nous parle aussi de Worldcoin 🌐 qui permet la vérification physique de l’émetteur et pose la question cruciale : devrait-on laisser ce pouvoir aux entreprises privées ?

Alex espère que l'IA servira à plus que de simples gains de productivité (emails, tickets de support). Pensez aux innovations comme la réduction de la consommation énergétique des data centers par Google Deepmind ou le protein folding avec AlphaGo !

📚 Lecture recommandée : "Les Robots de l’aube" par Isaac Asimov.

Hébergé par Acast. Visitez acast.com/privacy pour plus d'informations.