LLM-Grundlagen ohne Paper

Ein Large Language Model lernt statistische Muster in Text. Es versteht nicht wie ein Mensch – es approximiert nützliche Fortsetzungen.

Tokens

Text wird in Tokens zerlegt. Kosten und Limits beziehen sich meist auf Token-Anzahl (Input + Output).

Kontextfenster

Alles, was das Modell „sieht“ (Systemprompt, Chat-History, Tool-Ergebnisse), muss in das Fenster passen. Lange Threads → Zusammenfassen oder Retrieval.

Wann LLMs stark sind

• Boilerplate und Refactors
• Erklären von Fehlermeldungen
• Entwurf von Alternativen

Wann sie schwach sind

• Aktuelle Fakten ohne Retrieval
• Exakte Arithmetik / deterministische Specs
• Sicherheitssensitive Entscheidungen ohne Review