Raphaël Anjou
Architecture Solutions IA Générative - Orange Business
Biot, France
Actions
De la bidouille perso aux projets clients, je cherche avant tout à trouver des solutions. L'intelligence artificielle n'est pas toujours la bonne, mais si elle l'est, il faut savoir la mettre en place !
Area of Expertise
Topics
L'art de maîtriser l'imprévisible: façonner une solution IA Gen
Depuis la sortie de ChatGPT, tout le monde veut faire de l'IA, et surtout de l'IA Générative. Tout le monde veut réussir à prendre la vague et se hisser parmi les meilleurs.
Cette course contre la montre combinée à la hype mondiale vient avec son lot de challenges et problématiques.
D'une part, tout est à faire ! Framework, architecture, cas d'usages, méthodologie, sécurité.
De l'autre, tout le monde veut tout faire ! Mais :
- Est-ce que votre produit est testé ?
- Est-ce que votre produit est sécurisé ?
- Est-ce que votre produit est monitoré ?
- Est-ce que votre produit est scalable ?
- Est-ce que votre produit est résilient aux innovations constantes ?
Vous remarquerez que ce sont des questions que l'on se posait déjà avant le buzz de l'IA Générative. Mais comment faire avec un nouvel outil si imprévisible et difficile à contrôler ?
Dans cette conférence, nous verrons comment regagner le contrôle sur nos solutions utilisant l'IA Générative.
La clé : Les LLMs ne sont qu'une partie de votre solution, ce n'est pas la solution.
Les concepts et méthodes dont nous discuterons sont fondés sur différents projets clients.
LLMs : Et si on arrêtait de coder à l'aveugle ? Le TDD à la rescousse !
Introduction :
L'application des principes de Test Driven Development (TDD) aux Large Language Models (LLMs) est souvent négligée, sous prétexte que cela n'est ni possible ni rentable. Pourtant, le TDD peut apporter des bénéfices significatifs en termes de fiabilité, sécurité et performance.
Objectif : Cette présentation vise à démontrer comment le TDD peut être appliqué aux LLMs pour :
- Garantir la fiabilité et la sécurité des systèmes.
- Évaluer et améliorer les performances globales.
- Réduire les coûts de production.
- Réaliser des benchmarks sur plusieurs LLMs.
Contenu :
Je vous partagerai mon retour d'expérience chez Orange Business sur un projet client, où nous avons développé un chatbot pour les citoyens d'une ville. Nous avons mis en place un système multi-agents utilisant plusieurs modèles de LLMs, tout en appliquant une stratégie de TDD.
Détails Techniques :
- Types de tests utilisés : unitaires, d'intégration.
- Outils et frameworks : Promptfoo (équivalent d'un bébé Pytest ou Jest), Langchain
- Intégration des tests dans le pipeline de développement : GitLab CI
Conclusion : Le TDD peut transformer la manière dont nous développons et déployons des systèmes basés sur des LLMs, en apportant des bénéfices aussi bien en termes de qualité que de performance.
Dev Test Days 2024 Sessionize Event
Please note that Sessionize is not responsible for the accuracy or validity of the data provided by speakers. If you suspect this profile to be fake or spam, please let us know.
Jump to top