Die Entwicklung von LLM-Anwendungen stellt eine besondere Herausforderung dar, da es immer wichtig ist, Sicherheits- und Qualitätsaspekte in Ihren Anwendungen zu berücksichtigen und zu überwachen. Der Aufbau von LLM-Anwendungen stellt besondere Herausforderungen dar. In diesem Kurs lernen Sie neue Metriken und Best Practices kennen, um Ihre LLM-Systeme zu überwachen und Sicherheit und Qualität zu gewährleisten. Sie werden lernen, wie man:

1. Halluzinationen mit Methoden wie SelfCheckGPT zu erkennen. 2. Jailbreaks (Prompts, die versuchen, LLM-Antworten zu manipulieren) mit Hilfe von Sentiment-Analysen und Modellen zur Erkennung impliziter Toxizität erkennen. 3. Identifizieren Sie Datenlecks mit Hilfe von Entitätserkennung und Vektorähnlichkeitsanalyse. 4. Erstellen Sie Ihr eigenes Überwachungssystem, um die Sicherheit von Anwendungen im Laufe der Zeit zu bewerten. Nach Abschluss des Kurses werden Sie in der Lage sein, häufige Sicherheitsprobleme in LLM-basierten Anwendungen zu identifizieren und Ihre Tools zur Bewertung der Sicherheit an die LLM anzupassen, die Sie für Ihre Anwendung verwenden.