KI-Halluzinationen vermeiden: Warum jede Antwort eine Quelle braucht

KI-Modelle halluzinieren, weil sie Text nach Wahrscheinlichkeit erzeugen und nicht nach geprüften Fakten. Im Betrieb verhindern Sie das mit vier Regeln: Die KI antwortet nur aus Ihren eigenen Unterlagen, nennt zu jeder Antwort die Quelle, darf sagen «steht nicht in den Unterlagen» und muss vor dem Einsatz einen Test mit festgelegten Fragen bestehen.

Was ist eine KI-Halluzination?

Von Halluzination spricht man, wenn eine KI eine Antwort gibt, die überzeugend klingt, aber falsch oder frei erfunden ist. Ein Drehmoment, das in keinem Datenblatt steht. Eine Garantiebedingung, die es nie gab. Ein Gesetzesartikel mit falschem Inhalt.

Das Tückische daran: Die falsche Antwort ist genauso flüssig formuliert wie eine richtige. Wer sie liest, merkt den Unterschied nicht. In den USA mussten sich 2023 Anwälte vor Gericht verantworten, weil ihr Schriftsatz von einem Chatbot erfundene Urteile zitierte. Im KMU sind die Folgen meist kleiner, aber unangenehm genug: eine falsche Auskunft an einen Kunden, ein falsch bestelltes Ersatzteil, ein verärgerter Anruf.

Warum erfindet eine KI Antworten?

Ein Sprachmodell hat beim Training gelernt, welches Wort mit welcher Wahrscheinlichkeit auf das vorherige folgt. Es hat kein eingebautes Register, in dem steht, was wahr ist. Drei Dinge verstärken das Problem:

• Das Modell will helfen. Es ist darauf trainiert, eine Antwort zu geben, und tut das auch dann, wenn es keine verlässliche hat.
• Es kennt Ihren Betrieb nicht. Ihre Handbücher, Preislisten und internen Regeln waren nie Teil seines Trainings.
• Sein Wissen hat ein Ablaufdatum. Was nach dem Training geändert wurde, weiss es nicht.

Vier Regeln gegen Halluzinationen im Betrieb

1. Nur aus Ihren eigenen Unterlagen antworten

Vor jeder Antwort sucht das System die passenden Stellen in Ihren Dokumenten und gibt sie dem Modell mit. Das Modell formuliert nur aus diesen Stellen. Fachleute nennen das Retrieval-Augmented Generation, kurz RAG. Damit antwortet die KI aus Ihrem Wissen statt aus dem Internet von gestern.

2. Jede Antwort mit Quelle

Die Antwort nennt das Dokument und die Stelle, aus der sie stammt. Das hat zwei Vorteile: Ihre Mitarbeitenden können jede Aussage in Sekunden nachprüfen. Und eine Antwort ohne Quelle fällt sofort auf.

3. «Steht nicht in den Unterlagen» ist eine gute Antwort

Die KI bekommt die ausdrückliche Regel: Wenn die Unterlagen keine Antwort hergeben, sagt sie das. Keine Antwort ist besser als eine falsche. Unser Support-Agent ist genau so gebaut: Was nicht dokumentiert ist, sagt er offen.

4. Vor dem Einsatz testen, mit Ihren Fragen

Bevor die KI in den Alltag geht, legen Sie Testfragen fest, zusammen mit den richtigen Antworten. Dazu gehören auch Fragen, deren Antwort nicht in den Unterlagen steht: Dort muss die KI ablehnen. Erst wenn der Test bestanden ist, geht sie in Betrieb. Nach grösseren Änderungen an Unterlagen oder Modell wird der Test wiederholt.

Woran Sie einen seriösen Anbieter erkennen

• Die Antworten zeigen ihre Quelle, und Sie können sie anklicken oder nachschlagen.
• Das System darf und soll «weiss ich nicht» sagen. Fragen Sie danach.
• Der Anbieter testet mit Ihren Fragen, bevor Sie bezahlen, und schreibt das Abnahmekriterium vorher auf.
• Er legt offen, welche Daten an welches Modell gehen.
• Er verspricht keine Fehlerfreiheit, sondern zeigt Testergebnisse.

Bei uns ist der Abnahmetest Teil jedes Projekts: Erfüllt der Workflow die vorab festgelegten Testfälle nicht, gibt es keine Rechnung.