Eine der häufigsten Überraschungen für KI-Neulinge: Das Modell antwortet absolut selbstbewusst — und erzählt trotzdem etwas, das gar nicht stimmt. Im Fachjargon heißt das Halluzination. Es ist kein Bug, sondern eine Eigenschaft, die man kennen und einfangen muss.
Was ist eine Halluzination?
Wenn ein Sprachmodell etwas erfindet, das plausibel klingt — eine ausgedachte Quelle, eine erdachte Telefonnummer, ein nie ausgesprochenes Zitat. Tückisch ist: das Modell sagt „falsch“ mit derselben Selbstsicherheit wie „richtig“. Es kennt den Unterschied nicht — auch das gehört zu den Grenzen heutiger KI.
Warum das passiert
Sprachmodelle sind keine Datenbanken. Sie sind Wahrscheinlichkeits-Maschinen. Wenn die Frage „nach Fakten klingt“, die im Training nicht oft genug vorkamen, raten sie eine plausibel klingende Antwort.
Beispiel: Sie fragen nach einer DIN-Norm, die nicht im Trainingsmaterial war. Das Modell „weiß“, dass eine Antwort eine Nummer und einen Titel haben sollte — und erfindet beides.
Wann das im Betrieb gefährlich wird
- Rechtsverbindliche Texte (Verträge, Kündigungen, Anschreiben)
- Technische Daten (Maße, Toleranzen, Normbezüge)
- Personalien (Namen, Adressen, Kontonummern)
- Berechnungen (Mengen, Preise, Steuersätze, Fristen)
- Medizinische oder rechtliche Auskünfte
Was wirklich hilft
RAG (Retrieval-Augmented Generation)
Die KI bekommt vor jeder Antwort die relevanten Dokumente aus Ihrer Datenbank vorgelegt. Sie antwortet auf Basis dieser Stellen, statt zu raten. Mehr dazu im Artikel zu RAG.
Quellen-Anzeige
Jede Antwort zeigt, woher sie kommt — als klickbarer Link zur Originalstelle. Der Mitarbeiter kann mit einem Blick prüfen, ob die KI richtig zitiert.
Mensch im Loop
Bei wichtigen Aufgaben prüft eine Person die KI-Antwort, bevor sie verschickt oder verbucht wird. Die KI ist Vorlage, nicht Endprodukt.
Tool-Use
Statt Zahlen zu raten, bittet die KI einen Taschenrechner. Statt Wetter zu erfinden, fragt sie eine API. Bei Fakten-Aufgaben wird auf verlässliche Werkzeuge ausgewichen.
Lassen Sie die KI Texte vorbereiten — nicht verschicken. Spätestens vor dem Klick auf „Senden“ gehört ein menschliches Auge dazwischen, wann immer Verantwortung im Spiel ist.
Was das praktisch bedeutet
Halluzinationen sind kein Argument gegen KI — sondern eines für die richtige Architektur. Wir bauen Systeme, die Quellen anzeigen, kritische Felder doppelt prüfen und unsichere Antworten als solche kennzeichnen.
Mit den richtigen Maßnahmen ist das Risiko überschaubar. Ohne diese Maßnahmen wird KI im Betrieb schnell zur Fehlerquelle, der niemand mehr vertraut.
Wir bauen KI-Systeme, die Quellen zeigen.
So sehen Ihre Mitarbeiter sofort, woher eine Antwort kommt — und ob sie stimmt.
Erstgespräch vereinbaren