Digee / Wiki / KI-Grundlagen
Erklärung
KI-Halluzinationen: Warum erfindet KI Dinge?
Eine Halluzination liegt vor, wenn eine KI selbstbewusst etwas schreibt, das nicht stimmt – eine erfundene Zahl, einen nicht existierenden Paragrafen oder ein falsches Datum. Das ist kein Programmfehler, sondern eine Eigenschaft von Sprachmodellen. Man kann aber gut damit umgehen.
Kurz gesagt
- Das Modell schreibt, was wahrscheinlich klingt – nicht unbedingt, was wahr ist.
- Am meisten hilft es, der KI Ihre geprüften Unterlagen zu geben und eine Quellenangabe zu verlangen.
- Bei wichtigen Schritten entscheidet immer ein Mensch.
Auf dieser Seite
Warum Halluzinationen entstehen
Ein Sprachmodell enthält keine Faktendatenbank, die es durchsucht. Es setzt die Antwort so zusammen, dass sie natürlich klingt und zur Frage passt. Fehlt ihm eine Information, „ergänzt“ es sie oft durch etwas, das glaubwürdig aussieht.
Typisch passiert das bei genauen Angaben: Zahlen, Daten, Namen, Gesetzeszitaten oder internen Regeln des Unternehmens, die das Modell nie gesehen hat.
Wie eine Halluzination in der Praxis aussieht
- Der Chatbot eines Onlineshops verspricht einem Kunden kostenlosen Versand, den Sie gar nicht anbieten.
- Eine KI-Zusammenfassung eines Vertrags nennt eine Kündigungsfrist, die im Vertrag nicht steht.
- Eine Antwort an einen Bürger zitiert eine Verordnung, die es nicht gibt.
Alle drei Fälle haben eines gemeinsam: Die KI hat aus ihrem „allgemeinen Gedächtnis“ geantwortet statt aus Ihren Unterlagen.
Wie Sie Halluzinationen reduzieren
- Geben Sie der KI Ihre Unterlagen. Der Agent soll nur aus Preisliste, Richtlinien oder Dokumenten antworten, die Sie freigeben. Diese Technik heißt RAG.
- Verlangen Sie eine Quelle. Zu jeder Antwort zeigt der Agent, aus welchem Dokument er geschöpft hat. Die Prüfung dauert dann nur Sekunden.
- Erlauben Sie „Ich weiß es nicht“. Der Agent hat eine klare Anweisung: Steht die Antwort nicht in den Unterlagen, gibt er die Frage an einen Menschen weiter.
- Prüfen Sie maschinell, was möglich ist. Zahlen, Daten und Firmennummern (in Tschechien die IČO) lassen sich automatisch mit dem System abgleichen.
- Lassen Sie Menschen entscheiden. Bei Geld, Bedingungen und sensiblen Themen bereitet der Agent nur einen Entwurf vor (Human-in-the-Loop).
Heißt das, man kann KI nicht vertrauen?
Nein. Es heißt, dass man KI wie einen neuen Kollegen einsetzen sollte: mit klaren Unterlagen, Regeln und Kontrolle. Ein gut gebauter Agent macht weniger Fehler, weil er nicht „aus dem Kopf“ arbeitet, sondern mit Ihren Daten – und wenn er unsicher ist, sagt er es.
Häufige Fragen
Lassen sich Halluzinationen ganz verhindern?
Ganz nicht, aber sie lassen sich deutlich reduzieren: durch die Arbeit mit eigenen Unterlagen, eine Quellenangabe bei jeder Antwort, die maschinelle Prüfung von Daten und die Freigabe wichtiger Schritte durch einen Menschen.
Halluzinieren alle Modelle gleich stark?
Nein. Neuere Modelle halluzinieren seltener und geben eher zu, dass sie etwas nicht wissen. Entscheidend ist aber die Art des Einsatzes, nicht nur die Wahl des Modells.
Woran erkenne ich, dass die KI halluziniert?
Am zuverlässigsten, indem Sie eine Quelle verlangen. Kann die KI nicht zeigen, woher eine Information stammt, betrachten Sie sie als ungeprüft.
Möchten Sie wissen, wo KI gerade Ihnen Zeit spart?
Wir gehen mit Ihnen eine normale Woche durch und finden die erste Aufgabe, die sich lohnt, an einen Agenten zu übergeben. Unverbindlich.
Verwandte Artikel
RAG: So nutzt KI Ihre Firmendokumente
Mit RAG antwortet KI aus Ihren Dokumenten statt aus ihrem allgemeinen Gedächtnis. Wie es funktioniert, wozu es Firmen nützt und worauf Sie achten sollten.
→Erklärung · 3 minHuman-in-the-Loop: Der Mensch entscheidet
Human-in-the-Loop: Die KI bereitet Arbeit vor, ein Mensch gibt sie frei. So legen Sie die Grenzen eines Agenten fest, damit er Zeit spart und sicher arbeitet.
→Erklärung · 3 minGroßes Sprachmodell (LLM)
Was ein großes Sprachmodell (LLM) ist, wie es funktioniert und warum es die Basis von ChatGPT und KI-Agenten ist. Ohne Mathematik erklärt für Unternehmer.
→