Notice: This page requires JavaScript to function properly.
Please enable JavaScript in your browser settings or update your browser.
Lernen Visualisierung und Protokollierung von Metriken | Abschnitt
MLOps-Grundlagen

bookVisualisierung und Protokollierung von Metriken

123456789101112131415161718192021
import matplotlib.pyplot as plt import numpy as np # Simulate model metric logging over 12 weeks weeks = np.arange(1, 13) accuracy = np.array([0.89, 0.90, 0.91, 0.91, 0.92, 0.91, 0.90, 0.89, 0.87, 0.85, 0.86, 0.86]) precision = np.array([0.88, 0.88, 0.89, 0.90, 0.89, 0.89, 0.88, 0.87, 0.86, 0.84, 0.85, 0.85]) recall = np.array([0.87, 0.88, 0.90, 0.89, 0.91, 0.90, 0.88, 0.86, 0.85, 0.83, 0.84, 0.84]) plt.figure(figsize=(10, 6)) plt.plot(weeks, accuracy, marker='o', label='Accuracy') plt.plot(weeks, precision, marker='s', label='Precision') plt.plot(weeks, recall, marker='^', label='Recall') plt.axhline(0.88, color='red', linestyle='--', label='Alert Threshold') plt.title('Model Metrics Over Time') plt.xlabel('Week') plt.ylabel('Metric Value') plt.ylim(0.8, 1.0) plt.legend() plt.grid(True) plt.show()
copy

Durch die Überwachung von Modellmetriken wie Genauigkeit, Präzision und Recall im Zeitverlauf erhalten Sie Einblicke in die kontinuierliche Leistungsfähigkeit Ihres Modells. Stabile Werte deuten auf ein konsistentes Verhalten hin, während deutliche Rückgänge – insbesondere unter einen vordefinierten Schwellenwert – auf zugrunde liegende Probleme hinweisen können. Ein plötzlicher Rückgang der accuracy kann beispielsweise auf Data Drift, Veränderungen im Nutzerverhalten oder Probleme mit der Datenqualität hindeuten.

Um die Zuverlässigkeit des Modells proaktiv zu gewährleisten, sollten Alarme eingerichtet werden, die ausgelöst werden, wenn Metriken unter kritische Schwellenwerte fallen. Diese Alarme können von einfachen E-Mail-Benachrichtigungen bis hin zu automatisierten Retraining-Jobs reichen. Entscheidend ist eine schnelle Reaktion auf Leistungsänderungen, um negative Auswirkungen auf Nutzer oder Geschäftsergebnisse zu minimieren.

Note
Hinweis

Das Monitoring sollte sowohl Modell- als auch Datenqualitätsmetriken umfassen.

question mark

Warum ist es wichtig, sowohl Modell- als auch Datenqualitätsmetriken in produktiven Machine-Learning-Systemen zu überwachen?

Select the correct answer

War alles klar?

Wie können wir es verbessern?

Danke für Ihr Feedback!

Abschnitt 1. Kapitel 15

Fragen Sie AI

expand

Fragen Sie AI

ChatGPT

Fragen Sie alles oder probieren Sie eine der vorgeschlagenen Fragen, um unser Gespräch zu beginnen

bookVisualisierung und Protokollierung von Metriken

Swipe um das Menü anzuzeigen

123456789101112131415161718192021
import matplotlib.pyplot as plt import numpy as np # Simulate model metric logging over 12 weeks weeks = np.arange(1, 13) accuracy = np.array([0.89, 0.90, 0.91, 0.91, 0.92, 0.91, 0.90, 0.89, 0.87, 0.85, 0.86, 0.86]) precision = np.array([0.88, 0.88, 0.89, 0.90, 0.89, 0.89, 0.88, 0.87, 0.86, 0.84, 0.85, 0.85]) recall = np.array([0.87, 0.88, 0.90, 0.89, 0.91, 0.90, 0.88, 0.86, 0.85, 0.83, 0.84, 0.84]) plt.figure(figsize=(10, 6)) plt.plot(weeks, accuracy, marker='o', label='Accuracy') plt.plot(weeks, precision, marker='s', label='Precision') plt.plot(weeks, recall, marker='^', label='Recall') plt.axhline(0.88, color='red', linestyle='--', label='Alert Threshold') plt.title('Model Metrics Over Time') plt.xlabel('Week') plt.ylabel('Metric Value') plt.ylim(0.8, 1.0) plt.legend() plt.grid(True) plt.show()
copy

Durch die Überwachung von Modellmetriken wie Genauigkeit, Präzision und Recall im Zeitverlauf erhalten Sie Einblicke in die kontinuierliche Leistungsfähigkeit Ihres Modells. Stabile Werte deuten auf ein konsistentes Verhalten hin, während deutliche Rückgänge – insbesondere unter einen vordefinierten Schwellenwert – auf zugrunde liegende Probleme hinweisen können. Ein plötzlicher Rückgang der accuracy kann beispielsweise auf Data Drift, Veränderungen im Nutzerverhalten oder Probleme mit der Datenqualität hindeuten.

Um die Zuverlässigkeit des Modells proaktiv zu gewährleisten, sollten Alarme eingerichtet werden, die ausgelöst werden, wenn Metriken unter kritische Schwellenwerte fallen. Diese Alarme können von einfachen E-Mail-Benachrichtigungen bis hin zu automatisierten Retraining-Jobs reichen. Entscheidend ist eine schnelle Reaktion auf Leistungsänderungen, um negative Auswirkungen auf Nutzer oder Geschäftsergebnisse zu minimieren.

Note
Hinweis

Das Monitoring sollte sowohl Modell- als auch Datenqualitätsmetriken umfassen.

question mark

Warum ist es wichtig, sowohl Modell- als auch Datenqualitätsmetriken in produktiven Machine-Learning-Systemen zu überwachen?

Select the correct answer

War alles klar?

Wie können wir es verbessern?

Danke für Ihr Feedback!

Abschnitt 1. Kapitel 15
some-alt