Die Grundlagen

KI verstehen

Man muss nicht wissen, wie ein Motor gebaut ist, um Auto zu fahren. Aber man sollte wissen, dass er kein Wasser trinkt. Genauso ist es hier.

Die meisten Enttäuschungen mit Künstlicher Intelligenz kommen nicht von schlechter Technik, sondern von falschen Erwartungen. Wer glaubt, ein Sprachmodell sei eine Suchmaschine mit besserer Sprache, wird zwangsläufig enttäuscht. Wer versteht, was da tatsächlich passiert, stellt andere Fragen – und bekommt andere Antworten.

Kein Bewusstsein, keine Absicht

Wenn ein Assistent schreibt „Das ist eine gute Frage“, findet er die Frage nicht gut. Er erzeugt eine Zeichenfolge, die an dieser Stelle statistisch üblich ist. Das klingt kleinlich, ist aber der wichtigste Punkt überhaupt: Unser Gehirn vermutet hinter flüssiger Sprache automatisch einen Sprecher mit Absichten. Diese Annahme war Jahrhunderttausende richtig und ist seit wenigen Jahren falsch.

Die praktische Folge: Höflichkeit ist kein Qualitätssignal. Souverän formulierter Unsinn sieht genauso aus wie eine souverän formulierte Wahrheit.

Drei Ebenen, die man auseinanderhalten sollte

Im Alltag wird alles „KI“ genannt. Für die Praxis lohnt sich eine Unterscheidung:

• Das Modell – das trainierte System selbst. Kein Gedächtnis, kein Internet. Text rein, Text raus.
• Das Produkt – die App drumherum. Sie bringt Gesprächsverlauf, Dateiupload, Websuche und Bildgenerierung mit. ChatGPT ist ein Produkt, GPT ist ein Modell.
• Der Arbeitsablauf – das, was du daraus baust. Hier entsteht der eigentliche Nutzen, und hier kümmert sich fast niemand drum.

Wer das trennt, formuliert anders. „Die KI kennt die aktuellen Preise nicht“ heißt: Das Modell kennt sie nicht. Das Produkt könnte sie kennen, wenn die Websuche aktiv ist. Also sagt man das dazu.

Der Wissensstand

Jedes Modell hat einen Zeitpunkt, bis zu dem es Text gesehen hat. Danach ist Schluss. Perfide daran: Das Modell weiß nicht zuverlässig, was es nicht weiß. Es kann eine Antwort geben, die für seinen Wissensstand korrekt war und heute falsch ist – ohne das zu markieren.

Erfundene Angaben

Sprachmodelle erfinden Quellen, Aktenzeichen, Studien und Zitate. Das ist keine Fehlfunktion, sondern eine Folge der Funktionsweise: Das System erzeugt, was plausibel aussieht, nicht, was belegt ist. Deshalb gilt für alles, was du weitergibst: Zahlen, Namen, Zitate und Paragrafen werden geprüft. Nicht stichprobenartig.

Weiterlesen

Im Bereich KI anwenden geht es darum, wie man daraus brauchbare Ergebnisse macht. Unter Wissen stehen einzelne Beiträge zu Grundlagenthemen.