Die Sache klang gut. Sie klang sogar richtig gut.
Ein sauber formulierter Absatz, ordentlicher Satzbau, freundlicher Ton. Darin die Information, dass Marion und ich in Spanien leben.
Das stimmt nicht. Wir verbringen dort regelmäßig die Winter. Zwischen diesen beiden Sätzen liegt ein ganzes Leben, eine Wohnung, ein Hausarzt und eine Menge Bürokratie.
Geschrieben hatte den Satz kein Mensch. Geschrieben hatte ihn eine KI. Und sie hatte ihn so geschrieben, wie man etwas schreibt, das man weiß.
Der Tag, an dem Marion zweimal geboren wurde
Für unseren Podcast hinterlegen wir das Buch als Quelle. Als PDF, vollständig, mit allen Daten. Die Anweisung war eindeutig: Halte dich an das Buch.
Trotzdem machte die KI aus dem 26. Juni 1994, dem Tag von Marions Reitunfall, plötzlich den 19. April 1973. Das ist ihr Geburtsdatum.
Beide Zahlen standen im Material. Die Maschine hat keine erfunden. Sie hat zwei richtige Informationen falsch miteinander verbunden und das Ergebnis so formuliert, als wäre alles in bester Ordnung.
Für ein Sprachmodell sind das zwei passende Zahlen im selben Zusammenhang.
Für uns ist der eine Tag der Anfang von allem, was danach kam. Und der andere ist ein Geburtstag mit Kuchen.
Nichts davon ist veröffentlicht worden. Wir prüfen jedes Skript, bevor Marion es einspricht. Aber genau darin liegt die Lehre, die ich für die wichtigste in diesem ganzen Thema halte: Eine verlässliche Quelle hochzuladen verhindert nicht, dass daraus Unsinn wird.
Ein Mensch stockt. Eine Maschine nicht.
Wenn ein Mensch etwas nicht weiß, merkst du das meistens.
Er zögert. Er sucht nach Worten. Er sagt „ich glaube“ oder „ohne Gewähr“ oder im besten Fall einfach „keine Ahnung“.
Ein Sprachmodell macht nichts davon.
Es formuliert eine falsche Antwort mit demselben ruhigen Selbstvertrauen wie eine richtige. Es räuspert sich nicht. Es wird nicht rot. Und neben dem erfundenen Satz leuchtet keine kleine Warnlampe.
Fachleute nennen solche Fälle Halluzinationen. Das amerikanische National Institute of Standards and Technology benutzt das nüchternere Wort: Konfabulation. Überzeugend vorgetragene falsche Inhalte.
Ich finde, das trifft es besser. Halluzination klingt nach Fieber. Konfabulation klingt nach dem, was es ist: nach einem sehr gut sitzenden Anzug ohne jemanden darin.
366 Seiten. Ein einziger Impuls.
Damit das hier nicht nach Belehrung von außen klingt: Wir sind selbst darauf hereingefallen.
Für das E-Book 365 Tage Mut sollten 365 vorhandene Tagesimpulse als PDF gestaltet werden. Die Aufgabe klang zunächst einfach genug, um sie kurz zu formulieren.
Das Ergebnis hatte 366 Seiten.
Auf jeder Seite stand derselbe Impuls.
Das ist nicht einmal ein besonders raffinierter Fehler. Er war nur gut verpackt. Ein Dokument mit 366 sauber gesetzten Seiten sieht nach viel Arbeit aus. Wenn auf jeder Seite dasselbe steht, ist es ein sehr langer Fehler in schöner Typografie.
Ich habe die Aufgabe danach enger formuliert. Jeder einzelne Impuls geprüft, jeder auf einer eigenen Seite, Aufbau und Gestaltung genau beschrieben. Dann kam ein brauchbares Ergebnis.
Die Lehre daraus lautet nicht, dass du jetzt meterlange Anweisungen schreiben musst. Für einfache Aufgaben reichen bei uns oft wenige Sätze. Die Länge einer Anweisung ist weniger wichtig als ihre Eindeutigkeit.
Und niemand außer dir stellt am Ende fest, ob das Ergebnis tatsächlich vollständig ist.
Es geht auch teurer
2023 landete ein Fall vor einem US-Bundesgericht. In einem Schriftsatz standen Gerichtsentscheidungen, die es nicht gab. Die Anwälte hatten sich auf einen Chatbot verlassen und die genannten Fälle nicht geprüft. Es folgten Sanktionen und eine Geldbuße von 5.000 Dollar.
Das Beispiel ist spektakulär. Der Mechanismus dahinter ist es überhaupt nicht.
Eine erfundene Studie in einem Beitrag. Eine falsche Produktangabe im Shop. Ein veralteter Paragraf in einem Schreiben, das deinen Namen trägt.
Immer dasselbe Muster: Die Antwort sah fertig aus. Also wurde sie wie ein fertiges Ergebnis behandelt.
Überschrift, Absätze, Gliederung, freundlicher Ton. Mehr Businesskostüm kann ein Irrtum kaum tragen.
Wahrheit erkennst du nicht am Schreibstil
Das ist der unbequeme Teil.
Du kannst einer KI-Antwort eine Menge ansehen. Ob sie verständlich ist. Ob sie sich widerspricht. Ob sie auffällig übertreibt. Ob Quellen genannt werden und ob ein Datum zum Zusammenhang passt.
Was du ihr nicht ansehen kannst, ist die Wahrheit.
Gute Sprache ist noch kein Beleg für gutes Wissen.
Ein unsicher formulierter Satz kann richtig sein. Ein selbstbewusster Satz kann falsch sein.
Wir verwechseln sprachliche Sicherheit mit fachlicher Sicherheit. Und zwar nicht erst seit es KI gibt. Das machen wir bei Menschen seit jeher. Bei dem Kollegen, der im Meeting am festesten auftritt. Bei dem Bekannten, der jede Zahl parat hat, nur leider die falsche.
KI macht diesen alten Fehler lediglich schneller und hübscher.
Fünf Fragen, bevor du etwas weitergibst
Deshalb hilft eine einfache Trennung. Nicht als Misstrauensbekundung, sondern als Handgriff.
Formulierung: Ist der Text klar und passend?
Das kann die Maschine oft gut. Darum geht es hier nicht.
Fakt: Stimmt die überprüfbare Aussage?
Zahlen, Daten, Namen, Paragrafen. Alles, was man nachschlagen kann, sollte auch nachgeschlagen werden.
Quelle: Belegt die Quelle wirklich genau diesen Satz?
Nicht das Thema. Diesen Satz. Eine Quelle kann zur Frage passen, ohne die Behauptung zu tragen.
Kontext: Wurde eine richtige Information richtig eingeordnet?
Das ist die Stelle, an der bei uns aus einem Unfalltag ein Geburtstag wurde. Beide Angaben waren korrekt. Die Verbindung war es nicht.
Folge: Was passiert, wenn die Aussage falsch ist?
Diese Frage entscheidet, wie genau du hinsehen musst.
Nicht jede Antwort braucht eine wissenschaftliche Untersuchung
Eine Idee für ein Abendessen prüfst du anders als eine Dosierungsangabe, einen Vertrag oder einen Text, den du im Namen eines Kunden veröffentlichst.
Wer alles gleich streng kontrolliert, hält die Zeitersparnis für ein Gerücht.
Wer gar nichts kontrolliert, macht aus Bequemlichkeit ein Geschäftsmodell für Fehler.
Die brauchbare Frage lautet deshalb nicht, ob KI Fehler macht. Das tut sie. Menschen tun es auch.
Die brauchbare Frage lautet: Ist dein Arbeitsablauf so eingerichtet, dass ein Fehler auffällt, bevor er Folgen hat?
Was uns geholfen hat
Wir arbeiten heute in einem festen Projekt. Dort liegen das Buch, klare Anweisungen, korrigierte Skripte und alle bisherigen Folgen. Die KI kann auf deutlich mehr Zusammenhang zurückgreifen.
Die Fehler sind fast verschwunden.
Fast. Dieses kleine Wort ist mir wichtig genug, um es nicht wegzulassen.
Unsere feste Anweisung
Wenn eine Angabe nicht aus den bereitgestellten Unterlagen hervorgeht, kennzeichne die Lücke und erfinde nichts.
Das ist eine gute Grenze. Es ist keine Kontrolle. Du brauchst beides.
Und wir zerlegen größere Aufgaben. Erst den Inhalt ordnen. Dann einzelne Aussagen prüfen. Dann formulieren. Am Ende das Ganze kontrollieren. Solche Zwischenstationen kosten ein paar Minuten. Sie verhindern, dass ein sauber gestalteter Irrtum unbemerkt bis zur Veröffentlichung durchläuft.
Was das für dich bedeutet
Ich halte nichts davon, KI für unbrauchbar zu erklären. Sie ist ein ausgezeichnetes Werkzeug. Sie sortiert, strukturiert, formuliert und beschleunigt. Sie hat mich an Stellen weitergebracht, an denen ich sonst tagelang gesessen hätte.
Aber ein Akkuschrauber ist auch kein schlechtes Werkzeug, nur weil er keine Wasserwaage ist.
Man sollte nur wissen, was man gerade in der Hand hält.
Die Maschine nimmt dir Arbeit ab. Sie nimmt dir nicht die Aufgabe ab, Ergebnisse zu prüfen, Entscheidungen zu verantworten und die Folgen deines Handelns zu tragen.
Ich bin immer noch nicht nach Spanien ausgewandert.
Aber es stand da. In einem wirklich schönen Satz.
Passend zu diesem Artikel
Die KI übernimmt.
Wenn du sie lässt.
Kein Ratgeber, der dir erklärt, welcher Knopf wohin führt. Und keine Warnschrift, die dich mit Angst durch die Kapitel treibt. Sondern ein Buch für alle, die KI praktisch nutzen wollen, ohne sich dabei das eigene Denken abnehmen zu lassen.