34 lines
2.0 KiB
Markdown
34 lines
2.0 KiB
Markdown
# 2026-09-09 — Workstation-Abgleich
|
|
|
|
- Healthcheck und llama-Helfer übernommen; portable Helferpfade ergänzt.
|
|
- Signal-/Telegram-Helfer übernommen; Repository-Updater mit Retry-Pfaden behalten.
|
|
- Docker-Netzprüfung optional; vram-64k ergänzt, baseline bleibt Standard.
|
|
- Ressourcenlimits und Startbegrenzung in die llama-Unit übernommen.
|
|
- Messgrenzen und ausstehende Übernahme des Updaters dokumentiert.
|
|
|
|
# 2026-09-05 — RTX-3080-/Qwen-Deployment
|
|
|
|
- CUDA-Quellbuild mit expliziter Revision, dokumentierter SHA, drei Tools und
|
|
getrennten Build-Verzeichnissen. Bestehende Binary-Auswahl bleibt erhalten.
|
|
- Modellwahl per HF oder lokaler GGUF, optional lokaler Vision-Projektor,
|
|
stabiler Hermes-Modellalias.
|
|
- Vier Profile mit 64K/48K/32K Kontext und 1536/1280 MiB Fit-Zielmarge;
|
|
ursprüngliche Parameter bleiben Standard und Rückweg.
|
|
- Vorprüfung bekannter Optionsnamen ohne Modellstart. Keine automatische
|
|
Hardware-/Treiberänderung oder Behauptung einer garantierten VRAM-Reserve.
|
|
- Profilwahl mit Backup ohne Neustart; separater Neustart mit ausdrücklicher
|
|
Bestätigung, dass Jobs fertig sind. Geteiltes Maintenance-Lock.
|
|
- Healthcheck startet den laufenden llama-server bei HTTP-Timeouts nicht neu.
|
|
Automatischer Start inaktiver llama-Dienste standardmäßig deaktiviert.
|
|
- Installationssicherung vorhandener Wrapper/Units; bestehende Konfigurationen
|
|
und Gateway-Unit bleiben erhalten. CUDA-Installation ausdrücklich optional.
|
|
- Anleitungen für neue Rechner, bestehende Workstation, Messung und Rücknahme.
|
|
- Isolierte Tests für Profilwerte, Legacy-Konfiguration, Pfade mit Leerzeichen,
|
|
Modellquellen, Optionsprüfung, Locks, Neustartschutz, HTTP-Fehler, CUDA-Build-
|
|
Veröffentlichung/Fehler und Signal-JSON-RPC-Payloads ohne echte Nachrichten.
|
|
|
|
Nicht hier getestet: echte CUDA-Kompilierung, Qwen-Modell-/Projektor-Download,
|
|
GPU-Offload, Hyprland-Spitzenlast, Inferenzqualität, tatsächlicher Hermes-Update-
|
|
Rollback oder externe Signal-/Telegram-Zustellung. Das Repository ist ein
|
|
Deployment-Paket, kein vollständiges Image deiner privaten Installation.
|