73 lines
4.3 KiB
Markdown
73 lines
4.3 KiB
Markdown
# 2026-10-23 — Routineprofil und Begrenzung lokaler Inferenz
|
|
|
|
- Qwen3.5-4B als Alltagsmodell, 27B als explizite Alternative und bestehendes
|
|
CPU-Kompressionsmodell mit festen Revisionen, Größen und SHA-256 erfasst.
|
|
- Offline-/Download-Vorbereitung, portable Profile und gezielte Hermes-
|
|
Konfigurationsübernahme mit Backups und optionalem Lösen lokaler Cronbindungen.
|
|
- 2048-Tokens-Serverstandard, Hermes-Requestlimits und unabhängiger 15-Sekunden-
|
|
Slot-Watchdog gegen zu lange oder endlose Modellantworten ergänzt.
|
|
- `hermes-stack-model` ohne Pfad, mit Status, Vorprüfung und Fehler-Rückweg.
|
|
- Neuinstallation, Migration, Modellwahl, Aktivierung und Grenzen dokumentiert;
|
|
Tests für Prüfsummen, Konfigurationsschutz, Modellwechsel und Recovery.
|
|
|
|
# 2026-10-21 — Erfolgreiche Hermes-Prüfung ohne Versionswechsel
|
|
|
|
- Ein unveränderter Commit nach erfolgreichem `hermes update` gilt als Erfolg:
|
|
Der konfigurierte Stable-Kanal kann aktuell sein, obwohl `origin/main` weiter ist.
|
|
- Abschließende Meldungen erscheinen direkt im Journal des Update-Dienstes.
|
|
- Isolierte Regressionstests prüfen unveränderte/aktualisierte Commits,
|
|
Updater-Fehler und Gateway-Rollback ohne Netzwerk oder echte Dienstaufrufe.
|
|
|
|
# 2026-10-12 — VRAM-Reserve und portable CPU-Kompression
|
|
|
|
- `desktop-64k` mit 4096 MiB Fit-Zielmarge und 64K Kontext als Standard neuer
|
|
Konfigurationen ergänzt; frühere Profile bleiben verfügbar.
|
|
- Separaten CPU-Kompressionsdienst mit eigener portabler Konfiguration,
|
|
Geräte-/Op-/KV-Offload-Ausschluss und Installation ohne Aktivierung ergänzt.
|
|
- Migrationsschritte, tatsächliche Workstation-Abnahme und Prüfgrenzen dokumentiert.
|
|
- Bestehende lokale Konfigurationen und laufende Dienste bleiben beim Deployment
|
|
erhalten; Optionen werden vor dem Modellstart auf Unterstützung geprüft.
|
|
|
|
# 2026-09-10 — Cleanup-Reparatur und dauerhafte Modelle
|
|
|
|
- Korrigierte Cleanup-Skripte unter maintenance/ aufgenommen: kein globales
|
|
Cache-Leeren im Sanity-Skript und keine Docker-Netzbereinigung.
|
|
- Vorlage für lokale Modell-/Projektor-Dateien ergänzt; baseline beibehalten.
|
|
- Wiederherstellung von Modellserver und hermes-net samt Prüfgrenzen dokumentiert.
|
|
- Modelldateien/Downloads von Git ausgeschlossen; Cleanup-Syntaxprüfung ergänzt.
|
|
- Workstation-Notiz zur inzwischen erfolgten Updater-Installation korrigiert.
|
|
|
|
# 2026-09-09 — Workstation-Abgleich
|
|
|
|
- Healthcheck und llama-Helfer übernommen; portable Helferpfade ergänzt.
|
|
- Signal-/Telegram-Helfer übernommen; Repository-Updater mit Retry-Pfaden behalten.
|
|
- Docker-Netzprüfung optional; vram-64k ergänzt, baseline bleibt Standard.
|
|
- Ressourcenlimits und Startbegrenzung in die llama-Unit übernommen.
|
|
- Messgrenzen und ausstehende Übernahme des Updaters dokumentiert.
|
|
|
|
# 2026-09-05 — RTX-3080-/Qwen-Deployment
|
|
|
|
- CUDA-Quellbuild mit expliziter Revision, dokumentierter SHA, drei Tools und
|
|
getrennten Build-Verzeichnissen. Bestehende Binary-Auswahl bleibt erhalten.
|
|
- Modellwahl per HF oder lokaler GGUF, optional lokaler Vision-Projektor,
|
|
stabiler Hermes-Modellalias.
|
|
- Vier Profile mit 64K/48K/32K Kontext und 1536/1280 MiB Fit-Zielmarge;
|
|
ursprüngliche Parameter bleiben Standard und Rückweg.
|
|
- Vorprüfung bekannter Optionsnamen ohne Modellstart. Keine automatische
|
|
Hardware-/Treiberänderung oder Behauptung einer garantierten VRAM-Reserve.
|
|
- Profilwahl mit Backup ohne Neustart; separater Neustart mit ausdrücklicher
|
|
Bestätigung, dass Jobs fertig sind. Geteiltes Maintenance-Lock.
|
|
- Healthcheck startet den laufenden llama-server bei HTTP-Timeouts nicht neu.
|
|
Automatischer Start inaktiver llama-Dienste standardmäßig deaktiviert.
|
|
- Installationssicherung vorhandener Wrapper/Units; bestehende Konfigurationen
|
|
und Gateway-Unit bleiben erhalten. CUDA-Installation ausdrücklich optional.
|
|
- Anleitungen für neue Rechner, bestehende Workstation, Messung und Rücknahme.
|
|
- Isolierte Tests für Profilwerte, Legacy-Konfiguration, Pfade mit Leerzeichen,
|
|
Modellquellen, Optionsprüfung, Locks, Neustartschutz, HTTP-Fehler, CUDA-Build-
|
|
Veröffentlichung/Fehler und Signal-JSON-RPC-Payloads ohne echte Nachrichten.
|
|
|
|
Nicht hier getestet: echte CUDA-Kompilierung, Qwen-Modell-/Projektor-Download,
|
|
GPU-Offload, Hyprland-Spitzenlast, Inferenzqualität, tatsächlicher Hermes-Update-
|
|
Rollback oder externe Signal-/Telegram-Zustellung. Das Repository ist ein
|
|
Deployment-Paket, kein vollständiges Image deiner privaten Installation.
|