ChatGPT klingt manchmal wie ein freundlicher Mensch und manchmal erfindet es selbstbewusst Unsinn. Beides hängt eng damit zusammen, wie ein Sprachmodell wirklich funktioniert — und das ist überraschend einfach erklärt.

Trainiert auf riesigen Textmengen

Bevor ein Sprachmodell wie ChatGPT eine einzige Frage beantwortet, hat es bereits Milliarden von Texten gelesen: Bücher, Webseiten, Wikipedia-Artikel, Foren-Beiträge, Zeitungen. Das ist die sogenannte Trainingsphase.

Während dieser Phase merkt sich das Modell keine Inhalte wörtlich — es lernt vielmehr Muster der Sprache: Welche Wörter folgen typischerweise auf welche? Wie ist ein höflicher Brief strukturiert? Wie klingt eine Erklärung, wie ein Kochrezept, wie eine politische Rede?

Im Kern macht es nur eines: das nächste Wort vorhersagen

Wenn Sie ChatGPT eine Frage stellen, passiert Folgendes: Das Modell schaut sich Ihre Frage an und fragt sich Wort für Wort — „Was ist das wahrscheinlichste nächste Wort?"

Es schreibt das Wort, schaut wieder, schreibt das nächste, und so weiter. Aus Tausenden solcher Mini-Entscheidungen entsteht ein vollständiger Antworttext, der oft erstaunlich passend wirkt.

Das ist der zentrale Punkt: Ein Sprachmodell weiß nicht die Antwort — es vermutet wahrscheinlichste Wörter.

Was Sprachmodelle richtig gut können

• Texte zusammenfassen — komplexe Dokumente auf das Wesentliche reduzieren.
• Übersetzen — zwischen Dutzenden Sprachen, auch in stilistischen Nuancen.
• Formulieren helfen — Bewerbungsschreiben, Emails, Texte umformulieren.
• Erklären — Sachverhalte für unterschiedliche Zielgruppen aufbereiten.
• Programmieren — Software-Entwickler nutzen es als Assistenten.

Das Halluzinations-Problem

Weil ein Sprachmodell „nur" Wörter vorhersagt, kann es überzeugend Falsches schreiben. Ohne Vorwarnung. In ganzen Sätzen. Mit perfekter Grammatik.

Klassische Beispiele:

• Es erfindet Quellenangaben („siehe Maier 2019"), die es nie gegeben hat.
• Es nennt Telefonnummern oder Adressen, die nicht stimmen.
• Es schreibt zu einer historischen Person Fakten, die ausgedacht sind.

Das nennt man Halluzination. Es ist kein Bug, sondern ergibt sich direkt aus dem Funktionsprinzip: Das Modell weiß nicht, dass es nichts weiß.

Was Sie konkret tun sollten

• Faktenbehauptungen immer prüfen — besonders Zahlen, Namen, Datumsangaben, Quellen.
• Nicht für medizinische, rechtliche oder finanzielle Entscheidungen ohne Fachperson nutzen.
• Vertrauliche Daten nicht eingeben — viele Anbieter werten Eingaben aus.
• Geeignet für Entwürfe, Inspiration, Erklärungen — danach mit eigenem Verstand drüberlesen.