Die KI klingt immer sicher. Sie ist es nicht.

Eine KI antwortet immer. Sie zögert nicht, sie sagt selten „Ich weiß es nicht“, und ihre Sätze klingen fast immer souverän. Genau das ist das Problem. Sie klingt gleich sicher, wenn sie recht hat und wenn sie danebenliegt.

Wer mit KI arbeitet, braucht deshalb eine Fähigkeit, die wichtiger ist als jedes Tool: merken, wann man einer Antwort nicht trauen sollte.

Warum KI Dinge erfindet

Sprachmodelle sind darauf gebaut, plausible Texte zu erzeugen. Plausibel heißt: Es klingt so, wie eine richtige Antwort klingen würde. Ob es stimmt, ist eine andere Frage. Wo Wissen fehlt, füllt das Modell die Lücke mit etwas, das passen könnte. Ein Zitat, das nie gesagt wurde. Eine Studie, die es nicht gibt. Eine Zahl, die gut aussieht.

Wie ernst das werden kann, hat 2023 ein Anwalt in New York erlebt. Er reichte bei Gericht einen Schriftsatz ein, in dem mehrere Urteile zitiert wurden, die eine KI erfunden hatte. Das Gericht verhängte eine Geldstrafe.¹

Bei mir lief alles. Und es stimmte nicht.

Mir ist etwas Ähnliches passiert, nur leiser. Ich hatte eine Automatik gebaut, die aus meinem Material Entwürfe für Beiträge erstellt. Sie lief jeden Tag, ohne Fehlermeldung. Was ich lange nicht bemerkt habe: Ihre Quelle war längst eingefroren. Die Automatik baute wochenlang neue Entwürfe aus denselben alten Inhalten. Und an einer Stelle beschrieb sie eine Szene aus meinem Leben, die nie passiert ist.

Technisch war alles in Ordnung. Inhaltlich nicht. Ich habe die Automatik abgeschaltet. Seitdem gilt bei mir: Persönliche Geschichten kommen nur von mir. Fehlt eine, bleibt eine Lücke, statt dass etwas erfunden wird.

„Läuft“ heißt nicht „stimmt“.

Die gezackte Grenze

Eine Studie mit Beratern einer großen Unternehmensberatung hat etwas Wichtiges gezeigt. Bei Aufgaben, die gut zu den Stärken der KI passten, arbeiteten die Berater mit KI schneller und besser. Bei einer Aufgabe, die außerhalb dieser Stärken lag, kamen sie mit KI seltener zur richtigen Lösung als ohne.² Sie hatten der Maschine dort vertraut, wo sie es nicht hätten tun sollen.

Die Forscher nennen das eine gezackte Grenze: Die KI ist nicht einfach gut oder schlecht. Sie ist bei manchen Aufgaben erstaunlich stark und bei scheinbar ähnlichen erstaunlich schwach. Von außen sieht man nicht, auf welcher Seite der Grenze man gerade steht.

Woran du merkst, dass du prüfen musst

• Zahlen, Namen, Daten, Zitate. Alles, was man nachschlagen kann, solltest du nachschlagen.
• Quellenangaben. Wenn die KI eine Studie nennt, such sie. Gibt es sie nicht, ist auch der Rest der Antwort verdächtig.
• Antworten, die genau das bestätigen, was du hören wolltest. KI neigt dazu, dir zuzustimmen.
• Alles, was unter deinem Namen rausgeht. Eine Bewerbung, eine Mail, ein Beitrag. Du stehst dafür gerade, nicht die Maschine.

Drei Fragen, die immer helfen

Du musst kein Faktenprüfer werden. Drei Fragen reichen für den Alltag:

1. Woher weißt du das? Frag die KI direkt nach der Quelle und prüf, ob es sie gibt.
2. Was spricht dagegen? Lass dir die Gegenposition geben. Eine gute Antwort hält das aus.
3. Würde ich das so sagen? Wenn ein Satz nicht nach dir klingt, gehört er nicht in deinen Text.

Je besser die KI wird, desto wertvoller wird der Mensch, der merkt, wann sie danebenliegt.