Bevor es losgeht: dieselben Wörter
Wer täglich mit KI-Werkzeugen arbeitet, darf hier auf Durchzug schalten — für euch ist das Wiederholung.
Fast jeder Einstiegsfehler in Modul 1 lässt sich auf ein missverstandenes Grundwort zurückführen. Zehn Minuten, die sich auszahlen.
Von außen nach innen immer spezifischer: LLM ⊂ ML ⊂ KI. Kurzdefinitionen im Glossar am Kapitelende.
Bevor das Modell rechnet, wird euer Prompt aufbereitet: ein Tokenizer zerlegt den Text deterministisch in Tokens (Teilwörter aus festem Vokabular), jedes Token wird zu einem Vektor (Embedding) mit Positionsinfo — und belegt einen Slot im Kontextfenster.
Tokenizer-Beispiel — ganze Wörter zerfallen in Teil-Tokens:
Slot 0 im Kontextfenster ist der System-Prompt — den tippst nicht du. Den setzt Claude Code unsichtbar davor, bei jedem Aufruf.
Der Input ist das Kontextfenster als Folge von Vektoren (je Token einer). Diese laufen durch N Transformer-Schichten — je Self-Attention (jede Position → alle) + Feed-Forward + Residual. Dieser Teil wird pro Token wiederholt.
Der Transformer liefert Token für Token (Folie zuvor), jedes angehängt und neu durchlaufen — bis ein Stopp-Token kommt. Dann schließt sich der Kreis von „Vom Prompt…": die Tokens werden zu Text und gehen zurück an dich.
Eure Eingabe an das Modell — Frage, Auftrag, Kontext. Das, was ihr tippt.
Die vom Modell erzeugte Fortsetzung — Text, Code, ein Plan.
Eine Antwort, die überzeugend klingt, aber falsch ist — eine erfundene Methode, eine erfundene Quelle.
Standard-Patterns sitzen perfekt — Singleton, REST-Controller, Stream-API. Millionenfach gesehen.
Dein projektspezifischer Code, interne Konventionen, private Repos — nie gesehen.
Alles nach dem Cut-off (neue Framework-Versionen, geänderte APIs) — unbekannt, wird geraten.
Ein Essay muss ein Mensch bewerten. Code hat eine objektive Wahrheit: er kompiliert — oder nicht. Tests sind grün — oder rot. Das nutzt das Fine-Tuning.
javac + Unit-Tests aus → nur Kompilierendes/Grünes wird behalten bzw. belohnt
(Rejection Sampling + RL mit Compiler-Reward). Millionenfach
→ korrekte Syntax, Typen und APIs werden massiv bevorzugt.
Milliarden Compiler-Feedback-Schleifen — das Netz verinnerlicht Java-Syntax & -Muster.
Kein Compiler. Code entsteht rein statistisch, Token für Token — ungeprüft, ob er kompiliert.
Bringt die Schleife zurück an den Arbeitsplatz: mvn test → echter javac-Fehler → korrigiert bis grün.
Es sucht nicht live im Netz. Es antwortet aus dem, was es beim Training gelesen hat (Stichtag!) — sofern ihm keine Werkzeuge etwas anderes geben.
Es ruft nichts exakt ab. Es rekonstruiert plausibel — deshalb kann dieselbe Frage unterschiedlich beantwortet werden.
Gleiche Eingabe heißt nicht gleiche Ausgabe. Es ist nicht deterministisch — anders als jeder Code, den ihr kennt.
Es versteht Code nicht strukturell (kein AST) und führt ihn nicht aus. Ob etwas kompiliert, weiß es nicht — dafür braucht es echte Werkzeuge (gleich mehr).
Versteht den AST: Typen, Symbole, Struktur. Kompiliert — und weiß, ob der Code korrekt ist.
Sieht nur einen Strom aus Text-Tokens. Kein AST, keine Typprüfung. Es sagt plausiblen Text voraus — ob er kompiliert, weiß es nicht.
Diese Begriffe fließen ins Gesamt-Glossar am Kursende ein (alle Module).
Alle Rechte vorbehalten
Diese Schulungsunterlagen sind urheberrechtlich geschützt. Vervielfältigung, Weitergabe oder kommerzielle Nutzung — auch in Auszügen — nur mit ausdrücklicher schriftlicher Genehmigung der CGS IT Solutions GmbH.
cgsit-claude-training · Kapitel 0 · v0.2.1