Apprenez à orchestrer des systèmes d’IA dans des environnements locaux et cloud grâce à des exercices pratiques portant sur la configuration de l’infrastructure, le déploiement de modèles et l’intégration de workflows. Vous construirez une pyramide d’ingénierie des prompts, allant des prompts de base au raisonnement par chaîne de pensée implémenté en Rust, puis vous évaluerez six critères de décision permettant de choisir entre des modèles locaux et cloud, notamment la latence, le débit, le coût et la confidentialité. Ce cours aborde en détail l’infrastructure IA locale : exécution d’Ollama avec des fichiers de modèles personnalisés pour des assistants dédiés à des tâches spécifiques, déploiement de llamafile pour une inférence portable sans dépendance, compilation de Rust Candle avec CUDA pour une inférence locale accélérée par GPU, et optimisation du RAG local à l’aide de stratégies de mise en cache. Vous configurerez une station de travail IA complète avec tmux pour la gestion des sessions, nvidia-smi et Zenith pour la surveillance des GPU, ainsi que l’optimisation des GPU NVIDIA. Le dernier module aborde les workflows cloud, notamment les instances Spot d’AWS pour un calcul GPU économique, la découverte et le téléchargement de modèles sur Hugging Face, ainsi que l’intégration de modèles d’IA depuis GitHub. À l’issue de ce cours, vous serez en mesure de mettre en place une infrastructure d’IA locale, de déployer des modèles dans des environnements locaux et cloud, et de concevoir des workflows d’orchestration qui concilient coût, confidentialité et performances.