Ein Werkzeug, das keiner im Betrieb erklären kann
Die Büroleiterin eines Sanitärbetriebs in Bochum probiert an einem Freitagnachmittag zum ersten Mal ChatGPT aus. Sie bittet das Programm, ein Antwortschreiben an einen verärgerten Kunden zu formulieren – höflich, aber bestimmt, mit einem Vorschlag zur Nachbesserung. Was nach wenigen Sekunden auf dem Bildschirm steht, ist besser als das, was sie selbst in einer halben Stunde geschrieben hätte. Beeindruckt stellt sie die nächste Frage: Wie viele Mitarbeiter ihr Betrieb hat. Die Antwort kommt genauso flüssig und selbstbewusst – und ist komplett erfunden.
Diese beiden Erlebnisse innerhalb von fünf Minuten bringen viele Anwender zum Grübeln. Wie kann ein Programm gleichzeitig so gut und so daneben sein? Die Antwort liegt in der Funktionsweise von Sprachmodellen, und sie ist weniger kompliziert, als viele befürchten. Wer sie einmal verstanden hat, weiß nicht nur, warum die KI sich manchmal irrt – sondern auch, wie man sie so einsetzt, dass sie ihre Stärken ausspielt.
Vorhersage statt Nachschlagen
Klassische Software funktioniert nach Regeln, die ein Mensch aufgeschrieben hat. Eine Buchhaltungssoftware addiert Beträge, weil ein Entwickler ihr genau diese Rechenschritte einprogrammiert hat. Eine Datenbank liefert den Datensatz zurück, der unter einem bestimmten Schlüssel abgelegt wurde. In beiden Fällen gilt: Was das Programm kann, hat jemand explizit hineingeschrieben, und man kann jede Antwort bis zur entsprechenden Codezeile zurückverfolgen.
Ein Sprachmodell wie GPT oder Claude arbeitet grundlegend anders. Es schlägt nichts nach, und es folgt keinen handgeschriebenen Regeln für einzelne Fragen. Stattdessen macht es im Kern immer dasselbe: Es sagt vorher, welches Wort – genauer gesagt: welches Wortbruchstück, ein sogenanntes Token – als Nächstes am wahrscheinlichsten kommt. Steht im Text "Der Himmel ist", berechnet das Modell eine Wahrscheinlichkeitsverteilung über zehntausende mögliche Fortsetzungen. "Blau" liegt weit vorn, "bewölkt" auch, "gelb" weit hinten. Das Modell wählt eine der wahrscheinlichen Fortsetzungen, hängt sie an – und wiederholt den Vorgang für das nächste Wort. Aus dieser simpel klingenden Schleife entsteht Wort für Wort eine komplette Antwort.
#
Warum das trotzdem erstaunlich gut funktioniert
Auf den ersten Blick klingt das nach besserem Würfeln. Der Trick liegt in der schieren Menge an Mustern, die das Modell verinnerlicht hat. Um das nächste Wort in einem juristischen Schreiben, einer Python-Funktion oder einem Gedicht korrekt vorherzusagen, muss das Modell implizit sehr viel "können": Grammatik, Fachvokabular, logische Zusammenhänge, typische Argumentationsstrukturen. All das steckt als statistisches Muster in Milliarden von Zahlenwerten, den sogenannten Parametern. Deshalb kann ein Sprachmodell einen Text zusammenfassen, den es nie zuvor gesehen hat: Es hat gelernt, wie Zusammenfassungen zu Texten stehen – nicht diese eine Zusammenfassung auswendig.
Wichtig ist dabei ein Punkt, der im Alltag oft untergeht: Nirgendwo in diesem Prozess gibt es eine eingebaute Prüfung auf Wahrheit. Das Modell optimiert auf plausible Sprache, nicht auf korrekte Fakten. Meistens fällt beides zusammen, weil wahre Aussagen in den Trainingstexten häufiger vorkommen als falsche. Aber eben nicht immer – und genau daher stammt die erfundene Mitarbeiterzahl aus dem Eingangsbeispiel.
#
Das Kontextfenster: das Kurzzeitgedächtnis der KI
Ein zweiter Begriff hilft, das Verhalten im Chat zu verstehen: das Kontextfenster. Bei jeder Antwort betrachtet das Modell den gesamten bisherigen Gesprächsverlauf als einen einzigen langen Text – Ihre Fragen, seine Antworten, eingefügte Dokumente – und sagt auf dieser Grundlage die Fortsetzung vorher. Dieses Fenster ist groß, aber endlich. In sehr langen Gesprächen kann es passieren, dass frühe Details aus dem Fenster herausfallen oder an Gewicht verlieren; die KI wirkt dann vergesslich, obwohl sie schlicht nicht mehr alles gleichzeitig im Blick hat. Für die Praxis folgt daraus eine einfache Gewohnheit: Für ein neues Thema einen neuen Chat beginnen und wichtige Informationen im Zweifel noch einmal wiederholen, statt sich darauf zu verlassen, dass die Erwähnung von vor einer Stunde noch präsent ist.
Wie ein Sprachmodell trainiert wird
Woher kommen diese Muster? Aus dem Training. In der ersten Phase, dem sogenannten Pre-Training, bekommt das Modell gewaltige Textmengen vorgelegt: Webseiten, Bücher, Fachartikel, Programmcode. Bei jedem Textausschnitt wird ein Teil verdeckt, das Modell rät die Fortsetzung, und der Fehler zwischen Vorhersage und tatsächlichem Text wird genutzt, um die Parameter minimal anzupassen. Dieser Vorgang wiederholt sich billionenfach. Am Ende hat kein Mensch dem Modell Wissen "eingegeben" – es hat sich die Struktur der Sprache und einen großen Teil des in Texten dokumentierten Weltwissens selbst aus den Daten herausdestilliert.
In einer zweiten Phase wird das rohe Modell zugeschliffen. Menschen bewerten Antworten, geben Beispiele für hilfreiches Verhalten vor und trainieren dem Modell an, Anweisungen zu befolgen, höflich zu bleiben und gefährliche Inhalte abzulehnen. Erst diese Phase macht aus einer reinen Textvorhersagemaschine den Assistenten, den man aus dem Chatfenster kennt.
Zwei praktische Konsequenzen ergeben sich daraus. Erstens: Das Wissen des Modells hat einen Stichtag. Was nach dem Ende des Trainings passiert ist – neue Gesetze, neue Preise, neue Produkte –, kennt das Modell schlicht nicht, sofern es nicht über eine angeschlossene Websuche nachschauen kann. Zweitens: Das Modell kennt Ihren Betrieb nicht. Ihre Preislisten, Ihre Kunden, Ihre internen Abläufe kamen im Training nicht vor. Alles, was die KI darüber wissen soll, müssen Sie ihr in der Anfrage mitgeben.
Brillant und ahnungslos zugleich
Wer Sprachmodelle als Vorhersagemaschinen versteht, kann ihr merkwürdiges Leistungsprofil einordnen. Die Modelle sind hervorragend bei allem, wovon es im Training viele Beispiele gab: Standardtexte formulieren, umformulieren, zusammenfassen, übersetzen, strukturieren, Programmcode in gängigen Sprachen schreiben. Ein Kündigungsschreiben, eine höfliche Zahlungserinnerung oder eine verständliche Erklärung der Mehrwertsteuer gelingen fast immer, weil solche Texte in unzähligen Varianten in den Trainingsdaten steckten.
Schwach sind die Modelle dort, wo Muster nicht weiterhelfen. Präzises Rechnen mit größeren Zahlen ist so ein Fall: Das Modell hat kein Rechenwerk, es sagt Ziffern vorher wie Wörter – das Ergebnis sieht plausibel aus und ist trotzdem oft falsch. Ähnliches gilt für sehr spezielle lokale Fakten, für Nischenwissen mit wenigen Quellen und für alles, was aktueller ist als der Wissensstichtag. Ein Modell, das mühelos einen Vertrag zusammenfasst, kann an der Frage scheitern, wie viele Buchstaben ein bestimmtes Wort hat. Diese Ungleichmäßigkeit irritiert, ist aber kein Defekt, sondern eine direkte Folge des Funktionsprinzips.
Ein Beispiel aus dem Alltag macht das greifbar. Dieselbe KI, die einer Zahnarztpraxis in Sekunden einen einfühlsamen Erinnerungstext für säumige Vorsorgetermine schreibt, scheitert womöglich an der Frage, welche Handwerkskammer für einen bestimmten Landkreis zuständig ist – oder nennt selbstbewusst eine Adresse, die seit Jahren nicht mehr stimmt. Der Erinnerungstext ist ein Sprachmuster, von dem es unzählige Vorbilder gibt; die Kammerzuständigkeit ist ein seltener, veränderlicher Einzelfakt. Wer diese Unterscheidung verinnerlicht – Sprachaufgabe oder Faktenabfrage? –, kann vor jeder Anfrage in einer Sekunde abschätzen, wie viel Vertrauen die Antwort verdient.
Für den Betriebsalltag heißt das: Beurteilen Sie die KI nicht nach einem einzelnen Erfolg oder Misserfolg. Testen Sie sie systematisch an den Aufgabentypen, die bei Ihnen tatsächlich anfallen, und merken Sie sich, wo sie zuverlässig liefert und wo nicht.
Kein Bewusstsein, keine Gefühle, keine Absicht
Wenn eine KI schreibt "Das tut mir leid, ich helfe Ihnen gern", entsteht schnell der Eindruck, da sitze jemand. Dieser Eindruck täuscht. Das Modell erzeugt diese Sätze, weil sie in vergleichbaren Gesprächssituationen die statistisch passende Fortsetzung sind – nicht, weil es etwas empfindet. Es hat keine Ziele, keine Meinung, keine Erinnerung an Sie über das aktuelle Gespräch hinaus (sofern keine explizite Speicherfunktion aktiviert ist) und kein Verständnis im menschlichen Sinn.
Das ist mehr als eine philosophische Fußnote, denn die Vermenschlichung führt im Alltag zu handfesten Fehlern. Wer der KI Absichten unterstellt, vertraut ihren Aussagen zu stark ("sie klang so sicher") oder scheut sich, eine schlechte Antwort einfach zu verwerfen und neu zu fragen. Hilfreicher ist die nüchterne Haltung: Sie arbeiten mit einem extrem leistungsfähigen Textwerkzeug, das man ausprobieren, korrigieren und beliebig oft neu starten darf. Der KI ist es – im wörtlichen Sinn – egal.
Der Unterschied zu klassischer Software
Bleibt die Frage, warum sich der Umgang mit KI so anders anfühlt als mit jeder Software zuvor. Der Kern: Klassische Programme sind deterministisch. Excel liefert bei gleicher Eingabe immer dasselbe Ergebnis, heute, morgen und in zehn Jahren. Ein Sprachmodell ist probabilistisch – dieselbe Frage kann heute eine etwas andere Antwort ergeben als gestern, und keine der beiden ist garantiert korrekt.
Daraus folgt ein neuer Arbeitsmodus. Bei klassischer Software prüft man einmal, ob sie korrekt rechnet, und vertraut ihr dann. Bei KI-Ergebnissen prüft man jedes Ergebnis, das nach außen geht oder auf dem Entscheidungen beruhen – so, wie man den Entwurf eines neuen Mitarbeiters gegenliest. Im Gegenzug bekommt man etwas, das klassische Software nie konnte: den souveränen Umgang mit unstrukturierter Sprache. Ein Programm, das E-Mails versteht, Angebote formuliert, Protokolle zusammenfasst und dabei den Ton trifft, war vor wenigen Jahren undenkbar. Beides gehört zusammen – die neue Fähigkeit und die neue Prüfpflicht.
Fazit: Verstehen macht den Unterschied
Sprachmodelle sind keine Datenbanken und keine digitalen Kollegen, sondern Mustererkennungs- und Vorhersagemaschinen von beispielloser Qualität. Sie formulieren brillant, wissen viel – und garantieren nichts. Wer das Prinzip verstanden hat, nutzt die Stärken gezielt und umschifft die Schwächen, statt nach dem ersten Fehler frustriert aufzugeben oder nach dem ersten Erfolg blind zu vertrauen.
Drei konkrete nächste Schritte: Nehmen Sie sich dreißig Minuten und testen Sie ein aktuelles Modell an fünf echten Aufgaben aus Ihrem Arbeitsalltag – vom Kundenbrief bis zur Terminplanung. Halten Sie schriftlich fest, was gut funktionierte und was nicht; daraus entsteht Ihr betriebsinternes Stärken-Schwächen-Profil. Und vereinbaren Sie im Team eine einfache Grundregel: Kein KI-Text verlässt ungeprüft das Haus. Wenn Sie Ihr Team strukturiert an das Thema heranführen möchten, unterstützt FJ Design mit praxisnahen KI-Workshops für den Mittelstand.