Untertitel: Keine denkende Maschine – eine Fortschreibungsmaschine für Sprache.
Chatbots wirken wie kluge Kollegen: sie „verstehen“, „wissen“, „überlegen“. Technisch passiert etwas anderes – und wer das mental klar hat, nutzt LLMs besser und riskiert weniger.
Die These in einem Satz
Ein Large Language Model ist eine extrem fähige Vorhersagemaschine für Sprache – nützlich als Entwurfspartner, riskant als allwissende Autorität.
Das Missverständnis
Ein LLM hat kein inneres Erleben, keine stabile Weltkarte und keine Garantie auf Wahrheit. Was es hat: unfassbar viele gelernte Muster, wie Menschen Sprache fortsetzen. Genau daraus entsteht der Eindruck von Verständnis.
Fünf Prinzipien
1. Tokenisierung
Text wird in Bausteine zerlegt – Tokens (Wörter, Wortteile, Zeichen) mit numerischen IDs. Das Modell „sieht“ Sequenzen von Nummern. Das Kontextfenster begrenzt, wie viel gleichzeitig in die Berechnung passt.
2. Das eine Spiel: Next-Token-Prediction
Training und Nutzung drehen sich um eine Frage: Gegeben dieser Text – welches Token kommt als Nächstes? Übersetzen, Zusammenfassen, Code, E-Mails: Varianten desselben Spiels, nicht fünfzig separate Intelligenzen.
3. Attention
Self-Attention im Transformer gewichtet: Welche Stellen im Kontext sind jetzt relevant? Pronomen finden ihr Nomen, Code-Stellen ihre Definition. Keine magische Gedankenkette – dynamische Bezüge in einer Sequenz.
4. Training als Kompression
Pretraining auf riesigen Textmengen speichert Musterstatistik in Parametern – keine saubere Faktentabelle. „Wissen“ ist oft rekonstruierbare Fortsetzung; häufiges und konsistentes Material sitzt fester.
5. Scale
Mehr Parameter, Daten und Compute verändern Fähigkeiten (Skalierungsgesetze). Manche Fähigkeiten wirken „emergent“ – oft Gradienten, die erst ab einem Schwellwert sichtbar nützlich werden. Größer hilft oft; Halluzinationen verschwinden nicht automatisch.
Alignment
Nach dem Pretraining: Instruction Tuning, Präferenzlernen (z. B. RLHF), Guardrails. Ziel: hilfreiche, eher unschädliche Ausgaben. Alignment ändert die Ausgabeverteilung – nicht die Grundmechanik. Kein Wahrheitsorakel.
Drei harte Grenzen
- Halluzination – Plausibilität ≠ Wahrheit
- Kein verlässliches Langzeitgedächtnis jenseits des Kontexts (ohne Tools)
- Stil täuscht Expertise – selbstsicherer Ton ist kein Kompetenznachweis
Denkfilter: fünf Fragen
- Brauche ich Plausibilität oder einen Nachweis?
- Ist der Kontext im Prompt vollständig genug?
- Kann ich prüfen (Quelle, Test, Fachperson)?
- Wie teuer ist ein falsches Token hier?
- Helfen Tools (Suche, Code, DB) besser als reine Generierung?
Zum Mitnehmen
Token · Next-Token · Attention · Training · Scale · Alignment – das sind die Grundprinzipien. Wer LLMs als Fortschreibungssystem einsetzt, holt den Nutzen. Wer sie für einen allwissenden Kollegen hält, baut Risiko ein.
Video: Systembrief · ca. 6 Minuten · deutsche Narration