Ein Sprachmodell klingt am sichersten, wenn es raten muss. Das ist keine Macke, sondern die logische Folge davon, wie es arbeitet – und sobald du das verstanden hast, fällst du nicht mehr darauf herein.
Das Modell kennt keine Fakten, es kennt Wahrscheinlichkeiten
Ein Sprachmodell hat nicht gelernt, was wahr ist. Es hat gelernt, welches Wort auf welches folgt. Bei einer Frage zur Hauptstadt Frankreichs führt dieser Weg zuverlässig zu „Paris“, weil diese Wortfolge millionenfach vorkam. Bei der Frage nach der Telefonnummer deines Steuerberaters führt derselbe Weg zu einer Nummer, die aussieht wie eine Telefonnummer. Sie ist erfunden. Das Modell hat nicht gelogen – es hat getan, wofür es gebaut wurde.
Der Fachbegriff dafür ist Halluzination, und er ist irreführend. Er klingt nach einem Aussetzer, nach einem seltenen Fehler. Tatsächlich ist es derselbe Vorgang wie bei jeder richtigen Antwort. Nur das Ergebnis ist falsch.
Warum falsche Antworten überzeugender wirken als richtige
Menschen zögern, wenn sie unsicher sind. Wir sagen „ich glaube“, „vielleicht“, „da bin ich mir nicht ganz sicher“. Ein Sprachmodell tut das nicht von selbst. Es formuliert eine erfundene Jahreszahl im selben ruhigen Ton wie eine korrekte. Es gibt kein Zittern in der Stimme, keine Pause, kein Ausweichen.
Schlimmer noch: Je spezieller deine Frage, desto flüssiger klingt oft die falsche Antwort. Zu allgemeinen Themen gibt es viel Trainingsmaterial und dadurch stabile Muster. Zu einer bestimmten Norm, einem bestimmten Paragrafen, einem bestimmten Studienergebnis gibt es wenig – und das Modell füllt die Lücke mit etwas, das die richtige Form hat.
Die Faustregel
Je präziser du fragst und je seltener das Gefragte, desto sorgfältiger musst du prüfen. Genau umgekehrt zur Intuition.
Drei Handgriffe, die zuverlässig helfen
1. Frag nach der Quelle – und öffne sie
Verlange bei jeder überprüfbaren Behauptung eine Quelle. Und dann klick sie an. Ein Modell ohne Internetzugang erfindet Quellenangaben genauso bereitwillig wie Fakten: plausible Titel, plausible Autoren, plausible Seitenzahlen. Erst der Klick trennt die echte Quelle von der gut gebauten.
2. Stell dieselbe Frage zweimal, in zwei Fenstern
Öffne einen neuen Chat und frag noch einmal, ohne den ersten Verlauf. Weichen die Antworten bei einer Tatsachenfrage voneinander ab, hat das Modell geraten. Bei belastbarem Wissen bleibt die Antwort stabil, auch wenn die Formulierung wechselt.
3. Gib dem Modell die Erlaubnis, nichts zu wissen
Schreib in deine Anweisung ausdrücklich: Wenn du es nicht sicher weißt, sag das, statt zu raten. Das klingt banal und wirkt erstaunlich gut. Ohne diesen Satz optimiert das Modell auf eine hilfreiche Antwort. Mit ihm wird „ich weiß es nicht“ zu einer erlaubten Antwort.
Wo es wirklich gefährlich wird
Bei einem Blogtext fällt eine erfundene Zahl auf, wenn du sie prüfst. Bei drei Dingen fällt sie oft nicht auf, und dort ist der Schaden groß: bei Zahlen und Rechtsangaben, weil sie autoritativ wirken; bei Zitaten, weil sie einer realen Person in den Mund gelegt werden; und bei Fachbegriffen aus deinem eigenen Gebiet, weil du dort am ehesten glaubst, dass das Modell mitreden kann.
Die praktische Konsequenz ist unspektakulär: Nutz KI für Struktur, Formulierung, Ideen und Vorarbeit. Für alles, was nachprüfbar sein muss, bleibt die Prüfung deine Aufgabe. Das ist kein Argument gegen KI. Es ist die Bedienungsanleitung.