Bewertung von KI-Ausgaben

Das Wissen, dass KI halluzinieren kann, ist hilfreich. Zu wissen, wie man ihre Ausgabe überprüft, macht Sie zu einem effektiven und sicheren KI-Anwender.

Dieses Kapitel bietet ein praxisorientiertes Rahmenwerk zur Bewertung von KI-Ergebnissen – damit Sie Probleme erkennen, bevor sie zu echten Problemen werden.

Nicht jede Aufgabe erfordert das gleiche Maß an Überprüfung

Bevor Sie zu einer Checkliste für Faktenprüfung greifen, hilft es, einzuschätzen, wie viel Überprüfung ein bestimmtes Ergebnis tatsächlich benötigt.

Aufgaben mit geringem Überprüfungsbedarf – bei denen Halluzinationen kaum ins Gewicht fallen:

• Ideenfindung (Sie wählen daraus aus, nicht zitieren sie);
• Entwurf der Struktur eines Dokuments (Sie werden es überprüfen und umschreiben);
• Erstellung eines ersten Entwurfs, den Sie stark überarbeiten;
• Umformulierung von etwas, das Sie bereits als korrekt kennen.

Aufgaben mit hohem Überprüfungsbedarf – bei denen Fehler echte Konsequenzen haben:

• Jede Ausgabe mit spezifischen Fakten, Statistiken oder Daten;
• Rechtliche, medizinische, finanzielle oder compliance-relevante Inhalte;
• Inhalte, die ohne Überprüfung veröffentlicht oder an Kunden gesendet werden;
• Zusammenfassungen von Dokumenten, bei denen Genauigkeit entscheidend ist.

Faustregel: Je höher der Einsatz und je spezifischer die Aussage, desto sorgfältiger muss überprüft werden.

Eine praktische Checkliste zur Überprüfung

Gehen Sie diese Liste durch, bevor Sie KI-Ausgaben im beruflichen Kontext verwenden:

• Enthält dies spezifische Fakten, Zahlen oder Statistiken? Falls ja – jede einzelne anhand einer Primärquelle überprüfen;
• Wird ein echtes Dokument, eine Studie, ein Gesetz oder eine Person zitiert? Falls ja – bestätigen, dass es tatsächlich existiert;
• Klingt etwas verdächtig spezifisch oder autoritativ? Spezifität in KI-Ausgaben ist kein Beweis für Genauigkeit;
• Widerspricht dies meinem vorhandenen Wissen? Diskrepanzen ernst nehmen;
• Wäre es mir recht, wenn mein Vorgesetzter oder Kunde genau sehen würde, wie ich dies erstellt habe? Falls nicht – weitere Überprüfung erforderlich.

Effiziente Überprüfung

Nicht jeder Satz muss einzeln überprüft werden. Der Fokus sollte liegen auf:

• Namentlich genannten Quellen (Personen, Organisationen, Berichte) – gezielt danach suchen;
• Statistiken und Prozentangaben – die Originalquelle finden, nicht eine weitere KI-generierte Zusammenfassung davon;
• Rechtliche oder regulatorische Verweise – offizielle Regierungs- oder institutionelle Quellen prüfen;
• Daten und Zeitangaben – leicht zu überprüfen, aber auch leicht von KI falsch dargestellt.

Für allgemeine Inhalte, die nicht auf spezifischen Fakten beruhen, reicht meist ein sorgfältiges Durchlesen durch eine fachkundige Person aus.

Übung: Eine echte KI-Antwort überprüfen

Nehmen Sie eine Antwort, die Sie kürzlich von einem KI-Tool erhalten haben – oder generieren Sie jetzt eine, indem Sie zu einem Ihnen vertrauten Thema fragen.

Lesen Sie diese kritisch durch:

1. Jede konkrete Aussage identifizieren – ein Fakt, ein Name, eine Statistik, eine Empfehlung;
2. Alles markieren, was Sie nicht aus dem Gedächtnis überprüfen können;
3. Mindestens zwei dieser Punkte mit einer zuverlässigen Quelle abgleichen;
4. Notieren, ob die KI-Antwort korrekt, teilweise korrekt oder falsch war.

Meistens ist die Ausgabe weitgehend korrekt. Gelegentlich fällt etwas Wichtiges auf. Ziel ist es, eine Gewohnheit des kritischen Lesens zu entwickeln – nicht Misstrauen gegenüber jedem Satz.