Session
LLMs : Et si on arrêtait de coder à l'aveugle ? Le TDD à la rescousse !
Introduction :
L'application des principes de Test Driven Development (TDD) aux Large Language Models (LLMs) est souvent négligée, sous prétexte que cela n'est ni possible ni rentable. Pourtant, le TDD peut apporter des bénéfices significatifs en termes de fiabilité, sécurité et performance.
Objectif : Cette présentation vise à démontrer comment le TDD peut être appliqué aux LLMs pour :
- Garantir la fiabilité et la sécurité des systèmes.
- Évaluer et améliorer les performances globales.
- Réduire les coûts de production.
- Réaliser des benchmarks sur plusieurs LLMs.
Contenu :
Je vous partagerai mon retour d'expérience chez Orange Business sur un projet client, où nous avons développé un chatbot pour les citoyens d'une ville. Nous avons mis en place un système multi-agents utilisant plusieurs modèles de LLMs, tout en appliquant une stratégie de TDD.
Détails Techniques :
- Types de tests utilisés : unitaires, d'intégration.
- Outils et frameworks : Promptfoo (équivalent d'un bébé Pytest ou Jest), Langchain
- Intégration des tests dans le pipeline de développement : GitLab CI
Conclusion : Le TDD peut transformer la manière dont nous développons et déployons des systèmes basés sur des LLMs, en apportant des bénéfices aussi bien en termes de qualité que de performance.

Raphaël Anjou
Architecture Solutions IA Générative - Orange Business
Biot, France
Links
Please note that Sessionize is not responsible for the accuracy or validity of the data provided by speakers. If you suspect this profile to be fake or spam, please let us know.
Jump to top