Kapitel 0.2

LLM-Grundlagen & Grundkonzepte

Bevor es losgeht: dieselben Wörter

Inhalt

Wozu dieses Kapitel

Damit wir ab Modul 1 dieselben Wörter benutzen: LLM, Token, Kontextfenster, Prompt, Halluzination.
Kein KI-Kurs — nur die Begriffe, die wir die nächsten drei Tage brauchen.

Ihr müsst das nicht können

Wer täglich mit KI-Werkzeugen arbeitet, darf hier auf Durchzug schalten — für euch ist das Wiederholung.

Aber es lohnt sich

Fast jeder Einstiegsfehler in Modul 1 lässt sich auf ein missverstandenes Grundwort zurückführen. Eine Viertelstunde, die sich auszahlt.

Die Landkarte: KI, ML, LLM

KI · Künstliche Intelligenz
ML · Machine Learning
LLM
Large Language Model
Claude, GPT & Co. — hier baut Claude Code auf

Von außen nach innen immer spezifischer: LLM steckt in ML, ML in KI. Kurzdefinitionen im Glossar am Kapitelende.

Vom Prompt zum Kontextfenster

Bevor das Modell rechnet, wird euer Prompt aufbereitet: ein Tokenizer zerlegt ihn deterministisch in Tokens, jedes Token wird zu einem Vektor (Embedding) und belegt einen Slot im Kontextfenster.

Mensch
User
Client · nimmt den Prompt
Claude CodeConsole / Web-Input
Daten
Prompt„…die Buchung"
Prozess
TokenizerText Tokens
landet im Array
Kontextfenster
0 System-Prompt
1 vorherige Eingaben …
k Der·Kunde·…·ung
n frei
Prozess Daten Mensch

Tokenizer-Beispiel — ganze Wörter zerfallen in Teil-Tokens:

Der Kunde storniert die Buchung
Zwischen zwei Aufrufen bleibt nichts — das Modell ist „stateless": was es „wissen" soll, muss jedes Mal im Kontextfenster stehen (praktische Folgen: Modul 1).

Der unsichtbare Rahmen: System-Prompt & Tools

Slot 0 im Kontextfenster ist der System-Prompt — den tippst nicht du. Den setzt Claude Code unsichtbar davor, bei jedem Aufruf.

Mensch
User
„Refactore diese Klasse"
Client · hängt davor
Claude CodeSystem-Prompt + Tool-Defs + Skill-Katalog + CLAUDE.md
Kontextfenster
Kontextfenster
0 System-Prompt + Tools
CLAUDE.md, Verlauf
k „Refactore diese Klasse"
Prozess Daten
# So sieht Slot 0 ungefähr aus (gekürzt):
„Du bist ein präziser Software-Agent. Tools: Bash, Edit, Read, Grep
Antworte für Tool-Calls im vorgegebenen Format. Halte dich an die Projektregeln …
Verfügbare Skills: /deploy — „veröffentlicht den Stand …" · /commit — „…""
Entmystifiziert: Claude Code ist eine CLI-Anwendung, die einen großen System-Prompt + Tool-Definitionen + einen Katalog der verfügbaren Skills vor jeden deiner Prompts schnallt. Daher „weiß" der Agent, welche Werkzeuge er hat — und Slot 0 ist nie leer, kostet also immer Kontext.
Die vollständige Liste aller Blöcke: Modul 3.

Im Inneren: durch die Schichten

Der Input ist das Kontextfenster als Folge von Vektoren (je Token einer). Diese laufen durch N Transformer-Schichten — je Self-Attention + Feed-Forward + Residual, wiederholt pro Token.

Daten · Vektoren
je Token 1 Vektor
pro Token neu durchlaufen
Prozess
Transformer · N Schichten
Schicht 1 · Attention + Feed-Forward
weitere Schichten
Schicht N · Attention + Feed-Forward
trainierte Gewichte = das Modell (z.B. Opus 4.8)
Prozess
Output-ProjektionWahrscheinlichkeit je Token
Daten
wahrsch. = 1 Token
Token anhängen alles erneut, bis Stopp-Token (autoregressiv, nächste Folie)
Prozess Daten Vektoren · vereinfacht
Ein Durchlauf durch alle N Schichten = genau 1 Token (nicht zwingend ein Wort: „Buchung" = 2 Tokens = 2 Durchläufe).
Die Output-Projektion sitzt innen und liefert ein Token, noch keinen Text — TokenText (Detokenizer) erst am Ende.

Die Vorhersage ist bedingt durch den Kontext

Das Modell berechnet über sein ganzes Vokabular eine Wahrscheinlichkeitsverteilung fürs nächste Token — bedingt durch alle Tokens im Kontextfenster: P(nächstes Token | Kontext).

Daten · Kontext (Auszug)
Konto·Beleg·Rechnung
· … ·storniert·die·?
setzt die Domäne: Buchhaltung
Prozess
Transformer
Daten · Verteilung übers Vokabular
Buchung62%
Rechnung28%
Reise2%
Daten Prozess
  1. Nicht magisch, sondern konditioniert: weil der Kontext „Konto/Beleg/Rechnung" enthält, ist „Buchung" wahrscheinlich.
  2. Anderer Kontext, andere Verteilung: derselbe Satz zwischen Flug und Hotel macht „Reise" wahrscheinlich — bei gleichen letzten Tokens.
  3. Gewählt wird meist gezogen, nicht stur das Top-1 — daher wird dieselbe Frage unterschiedlich beantwortet (Modul 1, Nicht-Determinismus).

Autoregressiv — Token für Token

Der Transformer liefert Token für Token (Folie zuvor), jedes angehängt und neu durchlaufen — bis ein Stopp-Token kommt. Dann schließt sich der Kreis von „Vom Prompt…": die Tokens werden zu Text und gehen zurück an dich.

Prozess · Loop
GenerierungToken für Token, bis Stopp-Token
Daten
Token-Folge
Prozess
DetokenizerTokens Text
Client
Claude Code
Mensch
User liest
Prozess Daten Mensch
Jedes Token = ein voller Durchlauf über den ganzen Kontext. Zwei Folgen für den ganzen Kurs: langer Output = mehr Rechenaufwand (teurer, langsamer), und der Verlauf muss jedes Mal wieder mit hinein.
Was das praktisch heißt Modul 1.

Lesen und Schreiben kosten verschieden

Ein Aufruf zerfällt in zwei Phasen mit völlig anderem Kosten-Profil: den Kontext einlesen (Prefill) und die Antwort schreiben (Decode).

1. Prefill — Input lesen massiv parallel

Wie: Das Modell liest den ganzen Prompt (alle Slots) auf einmal — die Transformer-Schichten verarbeiten alle Tokens gleichzeitig.

Ergebnis: der KV-Cache (Key-Value-Cache) — die im Speicher abgelegte „Verständnis-Matrix" des gesamten Kontexts.

Profil: schnell und ressourcenschonend.

2. Decode — Output schreiben strikt sequenziell

Wie: der autoregressive Loop (Folie zuvor) — auf Basis des KV-Cache entsteht ein Token, wird angehängt, dann von vorn.

Flaschenhals: nicht parallelisierbar — Token 2 braucht zwingend Token 1.

Profil: langsam (man sieht den Text „tippen") und teuer (belegt den Grafikprozessor, die GPU).

Fazit: „Lies diese 50 Dateien" (Prefill) dauert oft kürzer als „Schreib mir 50 Zeilen Code" (Decode).
Pro Token ist der Output der langsame und teure Teil — warum der Input in Summe trotzdem ins Geld ginge: nächste Folie.

Prompt Caching macht Agenten bezahlbar

Weil die API stateless ist, schickt Claude Code bei jedem Schritt den ganzen Kontext neu. Ohne Caching liefe der Prefill jedes Mal komplett.

Ohne Caching

Turn 1: [20k statische Tokens] + Frage Prefill über ~20.050 Tokens.

Turn 2: [dieselben 20k] + Antwort Prefill läuft erneut über alle 20k.

Agentische Loops (Grep Read Edit) wären so zu langsam und zu teuer.

Mit Caching (serverseitiger KV-Cache)

Anthropic legt den KV-Cache des Prefix ab (API-Standard ~5 Min, optional 1 Std; was Claude Code nutzt: Modul 3).

Turn 2: die API erkennt den Prefix-Block Cache Hit.

Die Lese-Phase für die 20k Tokens entfällt — nur die wenigen neuen Tokens werden gelesen. Cache-Treffer sind rund 90 % günstiger als frischer Input.

Darum ist der Agent stark: statisches Wissen strikt an den Prompt-Anfang.
Hoher Cache-Hit-Anteil heißt: der Kontext wird recycelt — weniger Zeit und Kosten.
checked am 2026-07-22 gegen platform.claude.com

Prompt, Antwort, Halluzination

Prompt

Eure Eingabe an das Modell — Frage, Auftrag, Kontext. Das, was ihr tippt.

Antwort

Die vom Modell erzeugte Fortsetzung — Text, Code, ein Plan.

Halluzination

Eine Antwort, die überzeugend klingt, aber falsch ist — eine erfundene Methode, eine erfundene Quelle.

Das Tückische: Eine Halluzination klingt genauso souverän wie eine richtige Antwort.

Wie ein Modell entsteht: Pre-Training Fine-Tuning

Daten · öffentlich
Code · Text
GitHub · OpenJDK
Prozess · Phase 1
Pre-Trainingliest riesige Mengen Muster, Rohwissen
Daten
Basis-
Modell
Prozess · Phase 2
Fine-TuningSFT + RL hilfreich & richtig
Daten · fix
Modell = Gewichte
Prozess Daten

Stark

Standard-Patterns sitzen perfekt — Singleton, REST-Controller, Stream-API. Millionenfach gesehen.

Blind

Dein projektspezifischer Code, interne Konventionen, private Repos — nie gesehen.

Veraltet

Alles nach dem Cut-off (neue Framework-Versionen, geänderte APIs) — unbekannt, wird geraten.

Pre-Training gibt das breite Rohwissen (daher stark bei Standard-Code), Fine-Tuning richtet aus: SFT (Supervised Fine-Tuning, aus guten Beispielen) + RL (Reinforcement Learning, per Feedback).
RL & Cut-off im Detail Modul 1.

Code ist verifizierbar — Compiler-Feedback im Training

Ein Essay muss ein Mensch bewerten. Code hat eine objektive Wahrheit: er kompiliert — oder nicht. Tests sind grün — oder rot. Das nutzt das Fine-Tuning.

  1. Im Fine-Tuning erzeugt das Modell Code, eine automatische Sandbox führt javac + Unit-Tests aus.
  2. Nur Kompilierendes und Grünes wird behalten bzw. belohnt (Rejection Sampling + RL mit Compiler-Reward).
  3. Millionenfach wiederholt: korrekte Syntax, Typen und APIs werden massiv bevorzugt.

Im Training

Milliarden Compiler-Feedback-Schleifen — das Netz verinnerlicht Java-Syntax & -Muster.

Zur Laufzeit (Chat/Web)

Kein Compiler. Code entsteht rein statistisch, Token für Token — ungeprüft, ob er kompiliert.

Der Agent (Claude Code)

Bringt die Schleife zurück an den Arbeitsplatz: mvn test echter javac-Fehler korrigiert bis grün.

Dieselbe Feedback-Schleife — zweimal: erst im Training, dann durch den Agenten an deinem Arbeitsplatz.
Genau das macht einen Agenten aus mehr als „Chat mit Code".
checked am 2026-07-21 gegen Doku

Was ein LLM nicht ist

Kein Google

Es sucht nicht live im Netz. Es antwortet aus dem, was es beim Training gelesen hat (Stichtag!) — sofern ihm keine Werkzeuge etwas anderes geben.

Keine Datenbank

Es ruft nichts exakt ab. Es rekonstruiert plausibel — deshalb kann dieselbe Frage unterschiedlich beantwortet werden.

Kein normales Programm

Gleiche Eingabe heißt nicht gleiche Ausgabe. Es ist nicht deterministisch — anders als jeder Code, den ihr kennt.

Kein Compiler / keine IDE

Es versteht Code nicht strukturell (kein AST — Abstract Syntax Tree) und führt ihn nicht aus. Ob etwas kompiliert, weiß es nicht — dafür braucht es echte Werkzeuge (gleich mehr).

Die meisten Enttäuschungen entstehen, weil man eines dieser vier Dinge erwartet — und das Modell etwas anderes ist.

LLM vs. IDE — Text statt AST

IDE / Compiler

Versteht den AST: Typen, Symbole, Struktur. Kompiliert — und weiß, ob der Code korrekt ist.

LLM

Sieht nur einen Strom aus Text-Tokens. Kein AST, keine Typprüfung. Es sagt plausiblen Text voraus — ob er kompiliert, weiß es nicht.

Konsequenz — der rote Faden des ganzen Kurses: Ein Agent braucht den Compiler und die Tests als Rückkopplung.
Sie geben ihm das Realitäts-Feedback, das dem reinen Text-Modell fehlt.
Daten
generierter
Code
Prozess · Realität
Compiler / TestsMaven · Gradle · JUnit
Daten · Feedback
grün / rot
zurück an
Agentkorrigiert
Prozess Daten

Welches Problem welches Werkzeug braucht

Beide Problem-Achsen kombiniert — Wissen (Y) und Größe (X) — ergeben vier Felder — jedes mit einem anderen Werkzeug.

Wissen & Aktualität
kleinModul / Prompt
großRepo / Multi-Service
spezifischFirmenwissen / nach Cut-off
allgemeinöffentlich / vor Cut-off
Q3 Micro-Domain Handler mit interner CompanyAuth-Bibliothek RAG · MCP · Web-Suche
Q4 · der schwerste Fall Firmenwissen quer durch viele Dienste Compliance quer durch Monolith + 12 Services MCP-Ökosystem · RAG über Code-Graph · Multi-Agent
Q1 Baseline & Snippets Standard-Algorithmus, kurzer Refactor Direktes Prompting reicht
Q2 Repo-weites Refactoring Library-Umstellung übers ganze Repo großes Kontextfenster · Code-Graph/AST · agentische Loops
Kontextgröße & Codebase-Umfang
Modell allein Werkzeuge nötig volle Orchestrierung
Unten links kann das Modell allein; je weiter rechts (größer) und oben (spezifischer, neuer), desto mehr braucht es Werkzeuge.

Problemfelder & Erkenntnisse

Zwei Wurzeln: das Modell unterscheidet Belegtes nicht von Erfundenem (Verlässlichkeit) — und sieht nur, was ins Kontextfenster passt (Größe).

Problemfelder

Souveräner Ton ist kein Genauigkeits-Signal.

Erfindung sitzt im Konkreten (Zahlen, APIs, Zitate).

Kann die eigene Sicherheit nicht kalibrieren.

Software > Kontextfenster — nie alles sichtbar.

Was folgt daraus

Ausgaben sind Entwürfe — verifizieren.

Nicht jede Aufgabe ist gleich riskant.

Ohne erdende Werkzeuge bleibt es Raten.

Teile & herrsche — fokussierte Scheiben.

Lösungen: Was dagegen hilft

Die Wurzelprobleme lassen sich nicht wegtrainieren — aber Produkt-Features und Standards erden das Modell an der Realität.

Web-Suche

Holt aktuelle Informationen zur Laufzeit, statt aus dem Trainings-Gedächtnis zu antworten.

kontert: Cut-off & veraltetes Wissen

RAG & MCP

RAG (Retrieval-Augmented Generation) legt passende Dokumente in den Kontext. MCP (Model Context Protocol) ist der offene Standard zu echten Datenquellen.

kontert: Erfinden statt Belegen

Tool-Use

Das Modell ruft echte Werkzeuge auf (Compiler, Tests, Dateien) und liest deren Ergebnis — Feedback statt Statistik.

kontert: kann Sicherheit nicht kalibrieren

Cut-off offenlegen

Das Produkt sagt, bis wann das Wissen reicht — man weiß, wann Skepsis und Nachschlagen nötig sind.

kontert: falsche Sicherheit
Ein Agent wie Claude Code macht genau das nutzbar.
RAG & MCP: Modul 2 und 8 · Web-Suche & Tool-Use: ab Modul 1/4.

Mini-Übung — die Matrix anwenden

Aufgabe

Ordnet jede Aufgabe in die Wissens-Matrix ein (Quadrant Q1–Q4) und nennt das passende Werkzeug plus einen Satz Begründung:

(a) Standard-RegEx für E-Mail-Validierung schreiben · (b) einen Handler mit unserer internen Billing-Bibliothek bauen · (c) Library X ist letzte Woche in Version 5 erschienen — Breaking Changes prüfen · (d) Logging-Bibliothek im gesamten Repo austauschen · (e) DSGVO-Löschkonzept quer durch alle unsere Services umsetzen

Verifizierbares Ergebnis: eine ausgefüllte Matrix — je Aufgabe Quadrant + Werkzeug + Ein-Satz-Begründung über die beiden Achsen.

Dauer ca. 10 Minuten · Partnerarbeit · hier ist Pause — die Auflösung folgt auf der nächsten Folie, nicht vorblättern

Auflösung Mini-Übung

Die beiden Achsen genügen, um fast jede KI-Aufgabe einzuordnen — und das Werkzeug folgt aus dem Quadranten.

Aufgabe Quadrant Werkzeug Achsen-Begründung
(a) Standard-RegExQ1direktes Promptingallgemein, vor Cut-off, klein
(b) interne Billing-BibliothekQ3Kontext / RAG · MCPFirmenwissen — steht in keinem Training
(c) Library X v5, letzte WocheQ3Web-Sucheöffentlich, aber nach Cut-off
(d) Logging-Lib im ganzen RepoQ2großes Kontextfenster · agentische Loopsallgemeines Wissen, aber groß
(e) DSGVO quer durch alle ServicesQ4MCP-Ökosystem · RAG · Multi-Agentspezifisch und groß — der schwerste Fall
(c) ist der Lieblings-Streitfall: die Library ist öffentlich — aber neuer als der Cut-off.
Beide Achsen prüfen, nicht nur eine.

Von hier geht es los

Jetzt kennen wir die Wörter.
Ab Modul 1 fragen wir: Was folgt daraus für die Praxis?
Warum stateless im Alltag wehtut — und was man dagegen tut
Warum Nicht-Determinismus heißt: auf Abnahmekriterien setzen, nicht auf Wiederholbarkeit
Wie aus dem Textmodell ein Agent wird, der in eurem Projekt arbeitet

Glossar 1 · Grundbegriffe Glossar

KI — Künstliche Intelligenz Sammelbegriff für Systeme mit „intelligentem" Verhalten. Sehr weit gefasst — oft ein Marketingwort.
ML — Machine Learning Der Teil der KI, der Muster aus Daten lernt, statt fest programmiert zu sein. LLMs sind eine Form davon.
LLM — Large Language Model Ein großes, auf Text trainiertes ML-Modell, das das nächste Token vorhersagt. Claude, GPT & Co. Claude Code baut darauf auf.
System-Prompt Der von Claude Code unsichtbar vorangestellte Rahmen (Rolle, Tools, Regeln, CLAUDE.md). Belegt Slot 0 — bei jedem Aufruf.
Kontextfenster Die feste Zahl an Token-Slots, die das Modell bei einem Aufruf gleichzeitig sieht — der gesamte Input. Was nicht hineinpasst, existiert nicht.
Stateless (kein Gedächtnis) Zwischen zwei Aufrufen behält das Modell nichts. Was es „wissen" soll, muss jedes Mal im Kontextfenster stehen — der bisherige Verlauf wird stets neu mitgeschickt.
Embedding Die Vektor-Darstellung eines Tokens (Zahlenliste plus Positionsinfo), mit der das Modell rechnet — der Schritt vom Text in die Mathematik.
AST — Abstract Syntax Tree Die Baum-Darstellung von Code, mit der Compiler/IDEs arbeiten (Typen, Symbole, Gültigkeit). Ein LLM hat sie nicht — es sieht nur Text-Tokens.
RAG — Retrieval-Augmented Generation Passende Dokumente/Daten werden zur Laufzeit gesucht und in den Kontext gelegt, bevor das Modell antwortet. Schließt die Wissens- und Cut-off-Lücke.
MCP — Model Context Protocol Offener Standard, der einen Agenten mit echten Datenquellen und Werkzeugen (Wikis, Datenbanken, APIs) verbindet. Vertieft in Modul 2 und 8.
KV-Cache — Key-Value-Cache Die beim Prefill berechnete „Verständnis-Matrix" des Kontexts im Speicher. Erlaubt es, für weitere Tokens nicht den ganzen Prompt neu zu lesen.
Prompt Caching Serverseitiges Wiederverwenden des KV-Cache für einen unveränderten Prompt-Prefix (z.B. System-Prompt, CLAUDE.md). Standard-TTL ~5 Min; ein Treffer heißt Cache Hit.

Modell- & Trainings-Begriffe: nächste Folie.

Glossar 2 · Modell & Training Glossar

Transformer Das Kernstück eines LLM: das neuronale Netz aus einem Stapel gleichartiger Schichten (Self-Attention + Feed-Forward, mit Residual).
Self-Attention In jeder Schicht darf jede Token-Position auf alle anderen schauen und sie gewichten. So fließt Kontext zwischen den Tokens.
Feed-Forward (FFN) Der zweite Teil jeder Schicht: verarbeitet jede Position einzeln. Attention mischt zwischen Positionen, Feed-Forward rechnet pro Position.
Residual-Verbindung Eine Umgehung, die den Eingang einer Schicht zum Ausgang addiert. Frühere Information bleibt erhalten, tiefe Netze bleiben trainierbar.
Gewichte / Parameter Die Milliarden Zahlen in den Schichten — hier steckt das trainierte Wissen. Nach dem Training fix (daher Cut-off).
Modell (z.B. Opus 4.8) Ein konkreter trainierter Gewichts-Satz samt Architektur. Opus/Sonnet/Haiku = verschiedene Modelle; neue Version = neu trainierte Gewichte.
SFT — Supervised Fine-Tuning Fine-Tuning-Phase, in der das Modell aus kuratierten guten Beispielen (Eingabe gewünschte Antwort) lernt. Prägt Stil, Format, Verhalten.
RL — Reinforcement Learning Fine-Tuning per Belohnungssignal statt fester Beispiele: das Modell erzeugt Antworten, ein Bewerter belohnt gute. Bei Code ist der Bewerter der Compiler/Tests.
RLHF — RL from Human Feedback RL-Variante, bei der Menschen bewerten, welche Antwort besser ist — nötig, wo es keine objektive Wahrheit gibt (z.B. Essays). Gegenstück: verifizierbare Domänen wie Code.
Cut-off-Datum Der Trainings-Stichtag. Alles danach (neue API-Versionen, dein letztes halbes Jahr Projekt) ist unbekannt — das Modell rät dann plausibel.

Alle Begriffe fließen ins Gesamt-Glossar am Kursende ein (alle Module).

© 2026 CGS IT Solutions GmbH

Alle Rechte vorbehalten

Diese Schulungsunterlagen sind urheberrechtlich geschützt. Vervielfältigung, Weitergabe oder kommerzielle Nutzung — auch in Auszügen — nur mit ausdrücklicher schriftlicher Genehmigung der CGS IT Solutions GmbH.

cgsit-claude-training · Kapitel 0.2 · LLM-Grundlagen · v0.11.5