Sie lernen, wie Sie Engpässe in Ihrem KI-Trainingscode aufspüren und beheben und so die Leistung von der Datenverarbeitung bis zum Modelltraining verbessern können. Sie nutzen integrierte Tools, um Probleme wie langsames Laden von Daten zu identifizieren, und wenden anschließend zwei praktische Techniken an: eine, die mathematische Berechnungen beschleunigt und dabei weniger Speicherplatz beansprucht, und eine andere, die es Ihnen ermöglicht, mit größeren Datenbatches zu trainieren, ohne dass der Speicherplatz knapp wird. Anhand von Quizfragen, kopierfertigen Code-Beispielen und anschaulichen Erklärungen erfahren Sie, wie Sie Ihre GPU auf Hochtouren halten, anstatt sie ungenutzt laufen zu lassen. Am Ende sind Sie in der Lage, komplexe Trainingsabläufe zu effizienten Prozessen zu optimieren, die den Geschäftserfolg unterstützen.

Sie werden erkunden, wie visuelle Dashboards Ihnen helfen, das Modellverhalten zu verstehen und verschiedene Trainingsläufe zu vergleichen. Sie lernen, wie man Genauigkeitskurven und Verlustverläufe interpretiert und Kompromisse berechnet, damit Sie die für die jeweilige Aufgabe am besten geeignete Modellvariante auswählen können. Am Ende werden Sie wissen, wie Sie Experimente anhand klarer visueller Belege statt durch Spekulationen bewerten können.

Sie üben, wiederverwendbare ML-Workflows mithilfe modularer Komponenten zu strukturieren. Sie setzen sich mit den Mustern „LightningModule“ und „DataModule“ auseinander, festigen Ihre Dokumentationsgewohnheiten und lernen, wie strukturierte Vorlagen Fehler reduzieren.

Sie werden untersuchen, wie sich das Laden von Daten, die Batch-Verarbeitung, das Caching und das Vorabrufen auf die Trainingsgeschwindigkeit auswirken. Sie werden erfahren, wie Frameworks wie tf.data und PyTorch DataLoader Eingabeoperationen parallelisieren, um die GPUs auszulasten.

Sie werden untersuchen, wie Berechnungsgraphen funktionieren, warum redundante Operationen vorkommen und wie deren Reduzierung die Latenz bei der Modellinferenz verbessert. Sie werden einen Modellgraphen analysieren, unnötige „reshape“- und „identity“-Operationen identifizieren, diese reduzieren, das SavedModel erneut exportieren und die daraus resultierenden Verbesserungen der Latenz messen.

Sie werden untersuchen, wie sich ML-Modelle mithilfe einer slice-basierten Leistungsanalyse bewerten lassen. Sie werden erfahren, wie unterschiedliche Umgebungen, Geräte und Nutzungskontext-Slices verborgene Schwachstellen in einem ansonsten präzisen Modell aufdecken können. Anhand von TFMA-Workflows und praktischen Übungen werden Sie einen tatsächlichen Leistungsabfall von 5 % bei Smartphone-Bildern mit schlechten Lichtverhältnissen feststellen und umsetzbare Empfehlungen zur Verbesserung der Datenqualität und Fairness erarbeiten. Diese Lektion legt den Schwerpunkt auf die praktische Bewertung der Robustheit und nicht auf rein theoretische Metriken.

Sie werden Modelle mithilfe von TensorFlow Lite optimieren und auf Edge-Hardware bereitstellen. Sie werden ein SavedModel in ein quantisiertes TFLite-Modell konvertieren, Optionen zur Gewichts- und Ganzzahlquantisierung untersuchen und das optimierte Modell auf einem Jetson Nano bereitstellen. Sie werden die Veränderungen bei der Dateigröße, der Inferenzgeschwindigkeit (FPS) und der Genauigkeit messen und Ihre Ergebnisse anschließend in einem reproduzierbaren Übergabeleitfaden zusammenfassen. Am Ende werden Sie die praktischen Kompromisse zwischen Geschwindigkeit, Speicherbedarf und Genauigkeit bei realen Edge-Bereitstellungen verstehen.

In der Praxis durchlaufen Computer-Vision-Systeme mehrere Phasen, bevor sie einsatzbereit sind. Ingenieure müssen Modellversuche auswerten, Ineffizienzen im Arbeitsablauf diagnostizieren, Trainingspipelines verbessern und sicherstellen, dass die Modelle unter realen Bedingungen und bei den jeweiligen Geräteeinschränkungen zuverlässig funktionieren. Diese Aktivitäten erfordern die Kombination von Leistungsanalysen mit praktischen technischen Entscheidungen hinsichtlich des Systemdesigns und der Einsatzbereitschaft. In diesem Integrationsprojekt schlüpfen Sie in die Rolle eines Machine-Learning-Ingenieurs, der ein Computer-Vision-Modell für den Einsatz auf Edge-Geräten in einer ressourcenbeschränkten Umgebung vorbereitet. Sie analysieren Versuchsergebnisse, identifizieren Leistungsengpässe, bewerten die Robustheit auf Slice-Ebene und schlagen Optimierungen für Arbeitsabläufe und die Bereitstellung vor. Das Projekt vereint zentrale technische Aktivitäten zur Vorbereitung von Bildverarbeitungssystemen für den Produktionsbetrieb, darunter die Diagnose der GPU-Leistung, die Visualisierung und den Vergleich von Experimenten, die Optimierung der Datenpipeline, die Standardisierung von Arbeitsabläufen sowie die Analyse von Kompromissen bei der Edge-Bereitstellung. Anstatt sich auf isolierte Techniken zu konzentrieren, bewerten Sie den gesamten Machine-Learning-Workflow – von Trainingsineffizienzen und der Interpretation von Experimenten bis hin zu Robustheitsrisiken und der Machbarkeit der Bereitstellung. Ihr abschließendes Ergebnis wird ein „Optimierungs- und Edge-Bereitstellungs-Strategiebericht“ sein, ein strukturierter technischer Bericht, der Workflow-Engpässe identifiziert, gezielte Optimierungsstrategien vorschlägt, Risiken auf Slice-Ebene bewertet und eine fundierte Empfehlung für die Edge-Bereitstellung vorlegt. Das Projekt spiegelt reale Aufgaben im Bereich des ML-Engineering wider, bei denen Fachleute vor der Freigabe einer Produktionsbereitstellung einen Ausgleich zwischen Genauigkeit, Geschwindigkeit, Wartbarkeit und Hardware-Einschränkungen finden müssen.