Learn to Burnvon ← Zum Learning Lab
GRUNDLAGEN DER LABORE

Quellen & Hintergründe

Tokens werden tatsächlich berechnet. Kontextqualität und Compacting sind bewusst vereinfachte, veränderbare Simulationen. Sie stellen keine Prognose für ein bestimmtes Modell dar. Die Preisfelder verwenden frei wählbare Beispieltarife.

Andrej Karpathy: Sequoia Ascent 2026 ↗

Grundlage für das Labor „Selbst bauen“, zusammen mit seinen Notizen zu Claude vom Januar 2026 und HackerTube vom November 2026. Karpathy arbeitet seit Mai 2026 bei Anthropic.

Blitztext · Blackboat ↗

Open-Source-Diktier-App für den Mac unter MIT-Lizenz. Übungsprojekt im Labor „Selbst bauen“; die gezeigten Agentenläufe sind vorbereitete Beispiele.

Tiktokenizer · dqbd ↗

Inspiration für die direkte Gegenüberstellung von Text, farbigen Tokens und IDs. Learn to Burn ist eine eigenständige Umsetzung. Danke an dqbd und Diagram.

gpt-tokenizer · niieani ↗

MIT-lizenzierte Tokenizer-Implementierung. GPT-2 nutzt r50k_base; GPT-4o nutzt o200k_base. Gezählt wird ausschließlich der eingegebene Text, ohne Chat-Overhead.

Matt Pocock · AI Coding Dictionary ↗

Inspiration für die anschauliche Erklärung von Kontext, „Smart Zone“, „Dumb Zone“ und Compacting. Diese Begriffe sind didaktische Bilder, keine verbindlichen Leistungsgrenzen.

Chroma · Context Rot ↗

Untersuchung zu Leistungseinbußen bei längeren Eingaben. Ergebnisse hängen von Modell und Aufgabe ab; unsere Kurve ist keine Reproduktion der Messdaten.

Liu u. a. · Lost in the Middle (2023) ↗

Zeigt, dass Modelle Informationen am Anfang und Ende langer Kontexte verlässlicher nutzen als in der Mitte. Grundlage der Vertiefung im Kontext-Labor; neuere Modelle sind teils robuster.

KI-Einsatz: Anbieter, Datenwege und Verträge

Prüfstand: 08.11.2026. Die Lernübung unterscheidet Produkte und Vertragsvarianten. Ein Speicherort allein belegt keine regionale Verarbeitung; öffentliche Störungsmeldungen sind keine vergleichbare Sicherheitsquote.

Grenzen der Simulationen

Ein größeres Kontextfenster garantiert keine höhere Antwortqualität. Gleichzeitig ist langer Kontext nicht grundsätzlich schlecht: Relevanz, Aufgabenstellung und Fähigkeiten des Modells zählen. Zusammenfassungen können lange Aufgaben unterstützen; Qualität und Detailtreue hängen davon ab, was erhalten bleibt und was später wieder nachgeladen werden kann.

Die Demo-Schwelle von 82%, die Kurven, Platzverhältnisse und Detailverluste sind illustrative Einstellungen. Sie dürfen nicht als allgemeine Grenzen, gemessene Intelligenz oder reale Anbieterpreise gelesen werden.

Recherche- und Implementierungsstand: 13. Oktober 2026. Bibliotheken und Lizenzhinweise sind im Projekt dokumentiert.