Analyze & Deploy Scalable LLM Architectures est un cours intermédiaire destiné aux ingénieurs ML et aux praticiens de l'IA chargés de mettre en production des prototypes de grands modèles de langage (LLM). De nombreux modèles puissants échouent sous la charge du monde réel en raison de défauts architecturaux. Vous apprendrez à analyser les architectures multi-étapes telles que RAG pour diagnostiquer et quantifier les goulots d'étranglement de performance avec des preuves, et non des hypothèses. Vous maîtriserez ensuite les outils des opérations de niveau production, en concevant et en écrivant des diagrammes Helm déclaratifs pour déployer des applications LLM conteneurisées sur Kubernetes. Le cursus se concentre sur la construction de systèmes résilients et évolutifs en mettant en œuvre Horizontal Pod Autoscaling (HPA) pour gérer le trafic imprévisible et gérer le cycle de vie complet du déploiement avec des déploiements contrôlés et des rollbacks rapides. À la fin de ce cours, vous serez en mesure de transformer des prototypes fragiles en services de production robustes, fiables et évolutifs.