Laguna S 2.1

Die Zahlen auf einen Blick

Synthetischer Labortest mit pp512 und tg128, kein Agentenlauf. Die Geschwindigkeit stammt daher aus einer Messreihe, nicht aus gewerteten Antworten eines echten Laufs. Eine Tokenbilanz gibt es nicht, sie setzt viele aufeinanderfolgende Anfragen voraus. Die Kurven über die Kontexttiefe stammen aus einer eigenen Messung am laufenden Server mit Prompts wachsender Länge. Das Spiel daneben stammt aus einem eigenen Durchgang desselben Modells, gebaut in UD-Q4_K_XL.

Synthetisch: llama-bench pp512, pp4096 und tg128, dazu llama-server über die Kontexttiefe. Messreihen vom 22. und 23.07.2026. · Rohprotokoll

Ergebnisse

Messreihen

llama.cpp Startparameter

Kontext

262.144

KV-Cache

q8_0 / q8_0

Micro-Batch

512

Spekulativ

draft-dflash · n_max 3 · im Spiellauf aktiv, später abgeschaltet

Build

04b2b72

llama-server -m Laguna-S-2.1-UD-Q4_K_XL-00001-of-00003.gguf ^
  --host 127.0.0.1 --port 8091 ^
  -c 262144 -ngl 999 -fa on ^
  -ctk q8_0 -ctv q8_0 -b 2048 -ub 512 ^
  --spec-type draft-dflash --spec-draft-n-max 3 ^
  --jinja --reasoning on

Einordnung

Diese Bewertung ist ein Vorschlag und von Kai Bennett noch nicht bestätigt. Codequalität und Umfang stützen sich auf ausgezählte Dateien, Quell- und Testzeilen sowie Reparaturskripte im Belegrepo.

Was schiefging

• Die Modellkarte empfiehlt --spec-draft-n-max 15. Mit Q4_K_M an einem einzelnen Prompt sind das auf dieser Maschine 8,1 t/s, zweieinhalbmal langsamer als ganz ohne Spekulation.
• In einer echten Agentensitzung in VS Code bei rund 26 K Kontext fiel die Annahme der Entwürfe auf null. Das Schreiben sank auf 8,56 t/s, und selbst Anfragen mit 17 neuen Token brauchten fast 12 Sekunden für den Prompt.
• Mit der Entwurfstiefe 15, auf die das Entwurfsmodell trainiert ist, verliert DFlash in jeder Arbeitslast, gemessen mit Q3_K_M: beim Code das 0,94fache, bei Fließtext das 0,26fache, beim Nachdenken das 0,38fache. DFlash bleibt deshalb aus.
• Ohne Reasoning ist das Modell achtmal schneller, löst aber nur noch 3 von 5 Programmieraufgaben statt 5 von 5.
• UD-Q3_K_M schreibt 51 Prozent schneller, denkt aber bei zwei von fünf Aufgaben ohne Ende nach und liefert auch nach 24 576 Token keine Antwort. Eine davon erledigt Q4_K_M mit 623 Token. Der Bericht verwirft Q3 deshalb.
• In der Messreihe über die Kontexttiefe dauerte es bei 128 K 13,2 Minuten bis zum ersten Token.
• Die Laborwerte stammen überwiegend von Q4_K_M. Der Vergleich DFlash an und aus ist mit Q3_K_M gemessen, und für die Kurven über die Kontexttiefe nennt der Bericht keine eindeutige Quantisierung. Das Spiel hat das Modell in UD-Q4_K_XL gebaut. Dessen eigene Geschwindigkeit ist nicht gemessen, weil es von diesem Lauf kein Serverprotokoll gibt.

Synthetisch: llama-bench pp512, pp4096 und tg128, dazu llama-server über die Kontexttiefe. Messreihen vom 22. und 23.07.2026.