„Analyze & Deploy Scalable LLM Architectures“ ist ein Kurs für Fortgeschrittene, der sich an ML-Ingenieure und KI-Praktiker richtet, deren Aufgabe es ist, Prototypen großer Sprachmodelle (LLM) in die Produktion zu überführen. Viele leistungsstarke Modelle versagen unter realen Lastbedingungen aufgrund architektonischer Mängel. In diesem Kurs lernen Sie, wie Sie dies verhindern können.

Sie lernen, mehrstufige Architekturen wie RAG zu analysieren, um Leistungsengpässe anhand von Belegen – und nicht anhand von Annahmen – zu diagnostizieren und zu quantifizieren. Anschließend beherrschen Sie die Werkzeuge für den produktionsreifen Betrieb und entwerfen und schreiben deklarative Helm-Charts, um containerisierte LLM-Anwendungen auf Kubernetes bereitzustellen. Der Lehrplan konzentriert sich auf den Aufbau widerstandsfähiger, skalierbarer Systeme durch die Implementierung von Horizontal Pod Autoscaling (HPA) zur Bewältigung unvorhersehbarer Zugriffszahlen sowie auf die Verwaltung des gesamten Bereitstellungslebenszyklus mit kontrollierten Rollouts und schnellen Rollbacks. Am Ende dieses Kurses werden Sie in der Lage sein, anfällige Prototypen in robuste, zuverlässige und skalierbare Produktionsdienste umzuwandeln.