Trial GPU-resident Qwen3.5-9B with verified 4B rollback

docs/NEW_WORKSTATION.md

@@ -1,8 +1,9 @@
 # Aktuelles Workstation-Setup neu installieren
 
-Stand: 23.10.2026. Diese Anleitung stellt den aktuellen lokalen Modellbetrieb
-wieder her: Qwen3.5-4B für den Alltag, Qwen3.8-27B als explizite Alternative,
-Qwen3-1.7B für Kompression auf der CPU, 64K Kontext sowie Antwort- und Zeitlimits.
+Stand: 27.10.2026. Diese Anleitung stellt den aktuellen lokalen Modellbetrieb
+wieder her: Qwen3.5-9B mit 64K für den Alltag als Erprobung, Qwen3.5-4B mit 64K als
+Rückfallprofil, Qwen3.8-27B als explizite Alternative und Qwen3-1.7B für
+Kompression auf der CPU sowie Antwort- und Zeitlimits.
 Die Modelle werden nacheinander betrieben; der Kompressionsserver läuft separat.
 
 ## 1. Voraussetzungen und Deployment
@@ -75,7 +76,7 @@ Während dieser Konfigurationsänderung muss der Gateway gestoppt sein:
 ```bash
 systemctl --user stop hermes-gateway.service
 python3 scripts/prepare-workstation.py \
-  --download --models routine,large,compression \
+  --download --models routine,large,compression,fallback \
   --select routine --configure-hermes --unpin-local-cron
 ```
 
@@ -83,7 +84,7 @@ Bei noch nicht installierter Gateway-Unit ist deren Stop-Fehler unkritisch.
 Die Vorbereitung startet selbst keine Dienste. Sie prüft vor Änderungen, dass
 kein Gateway läuft, und teilt das Maintenance-Lock mit Updater und Watchdog.
 
-Alle fünf Modelldateien zusammen benötigen rund **22,6 GiB**. Wer zunächst nur
+Alle sieben Modelldateien zusammen benötigen rund **28,3 GiB**. Wer zunächst nur
 das Alltagsmodell möchte, verwendet `--models routine`. Für Routine plus CPU-
 Kompression `--models routine,compression`. Ohne `--download` müssen die Dateien
 bereits im erwarteten Modellverzeichnis liegen; das ermöglicht eine Offline-
@@ -96,7 +97,7 @@ Prüfung umbenannt. Beschädigte vorhandene Dateien werden gemeldet und behalten
 Fehlgeschlagene Downloads können erneut gestartet werden; bei einem falschen
 Partial-Download muss die betroffene `.part` vor erneutem Download entfernt werden.
 
-Der Helfer erzeugt fehlende Dateien `llama-routine.env`, `llama-large.env` und
+Der Helfer erzeugt fehlende Dateien `llama-routine.env`, `llama-fallback.env`, `llama-large.env` und
 `compression.env` für den jeweiligen Benutzernamen. Bereits vorhandene Profile
 und deren Tuning bleiben erhalten. `--select routine` übernimmt das vorbereitete
 Routineprofil ausdrücklich als aktive `llama.env` und sichert deren alten Stand.
@@ -106,9 +107,9 @@ verzeichnis verschieben. Das gilt auch für `LLAMA_SERVER_BIN`.
 
 `--configure-hermes` aktualisiert mit Backup die lokalen Provider-, Vision- und
 optional Kompressionseinstellungen, das 30-Minuten-Auftragsbudget und die
-600-Sekunden-/2048-Token-Limits. Dabei setzt er `model.context_length: 65536`
-passend zu beiden Hauptmodellprofilen. Bei CPU-Kompression bleibt die
-Kompressionsschwelle auf 24.000 Tokens begrenzt. Fremde Provider, Terminal, Plugins und andere
+600-Sekunden-/2048-Token-Limits. Dabei setzt er `model.context_length`
+passend zur Auswahl: 65536 für alle drei Profile. Die
+Kompressionsschwelle beträgt 24.000 Tokens. Fremde Provider, Terminal, Plugins und andere
 Einstellungen bleiben bestehen. `--unpin-local-cron` löst nur bekannte lokale
 Modellbindungen über die Hermes-CLI; eigene Cloud-Provider bleiben gebunden.
 Die Option legt keine Cronjobs an. Vorhandene Cronjobs kommen aus dem privaten
@@ -146,8 +147,9 @@ systemctl --user status hermes-stack-llama-watchdog.timer
 ```
 
 Danach eine deutsche Textantwort, ein Bild und einen Werkzeugaufruf in Hermes
-prüfen. Der bisherige Live-Test erreichte bei kurzen Textanfragen etwa
-130–136 Tokens/s; das ist kein Benchmark für lange Kontexte oder Bildaufgaben.
+prüfen. Messungen zur aktuellen 9B-Erprobung stehen in
+[QWEN9B_TRIAL.md](QWEN9B_TRIAL.md). Der historische 4B-Test erreichte bei
+kurzen Textanfragen etwa 130–136 Tokens/s; das ist kein Benchmark für lange Kontexte oder Bildaufgaben.
 Eine erzwungene lange Antwort endete bei genau 2048 Tokens, und ein reiner
 Tool-Call wurde korrekt als JSON erzeugt. Ein zehnminütiger echter Hänger wurde
 nicht absichtlich erzeugt; dessen Watchdog-Recovery ist automatisiert simuliert.
@@ -156,15 +158,17 @@ nicht absichtlich erzeugt; dessen Watchdog-Recovery ist automatisiert simuliert.
 
 ```bash
 hermes-stack-model          # aktives Modell anzeigen
-hermes-stack-model routine  # schnelles Alltagsmodell
+hermes-stack-model routine  # 9B/64K-Erprobung
+hermes-stack-model fallback # bisheriges 4B/64K-Profil
 hermes-stack-model large    # größeres Modell für bewusste Einzelnutzung
 ```
 
 Ein Wechsel stoppt laufende Gateway-Anfragen, prüft die Kandidatenkonfiguration,
-sichert `llama.env`, wartet nach dem Modellstart auf `/health` und startet den
+sichert `llama.env` und die Hermes-Konfiguration, setzt Kontext und
+Kompressionsschwelle passend, wartet nach dem Modellstart auf `/health` und startet den
 Gateway wieder. Bei Fehlern wird die vorherige Konfiguration zurückkopiert und
 die Wiederaufnahme der Dienste versucht; Journal und Dienststatus kontrollieren.
-Beide Modelle verwenden den stabilen API-Alias `hermes-local` und dieselben Limits.
+Alle Hauptmodelle verwenden den stabilen API-Alias `hermes-local` und dieselben Limits.
 
 Automatischer Wechsel zwischen den Modellen findet nicht statt. Das große Modell
 bleibt auf der 10-GB-Karte langsam. Für Betrieb ohne Anmeldung optional