1.6 KiB
1.6 KiB
2026-09-05 — RTX-3080-/Qwen-Deployment
- CUDA-Quellbuild mit expliziter Revision, dokumentierter SHA, drei Tools und getrennten Build-Verzeichnissen. Bestehende Binary-Auswahl bleibt erhalten.
- Modellwahl per HF oder lokaler GGUF, optional lokaler Vision-Projektor, stabiler Hermes-Modellalias.
- Vier Profile mit 64K/48K/32K Kontext und 1536/1280 MiB Fit-Zielmarge; ursprüngliche Parameter bleiben Standard und Rückweg.
- Vorprüfung bekannter Optionsnamen ohne Modellstart. Keine automatische Hardware-/Treiberänderung oder Behauptung einer garantierten VRAM-Reserve.
- Profilwahl mit Backup ohne Neustart; separater Neustart mit ausdrücklicher Bestätigung, dass Jobs fertig sind. Geteiltes Maintenance-Lock.
- Healthcheck startet den laufenden llama-server bei HTTP-Timeouts nicht neu. Automatischer Start inaktiver llama-Dienste standardmäßig deaktiviert.
- Installationssicherung vorhandener Wrapper/Units; bestehende Konfigurationen und Gateway-Unit bleiben erhalten. CUDA-Installation ausdrücklich optional.
- Anleitungen für neue Rechner, bestehende Workstation, Messung und Rücknahme.
- Isolierte Tests für Profilwerte, Legacy-Konfiguration, Pfade mit Leerzeichen, Modellquellen, Optionsprüfung, Locks, Neustartschutz, HTTP-Fehler, CUDA-Build- Veröffentlichung/Fehler und Signal-JSON-RPC-Payloads ohne echte Nachrichten.
Nicht hier getestet: echte CUDA-Kompilierung, Qwen-Modell-/Projektor-Download, GPU-Offload, Hyprland-Spitzenlast, Inferenzqualität, tatsächlicher Hermes-Update- Rollback oder externe Signal-/Telegram-Zustellung. Das Repository ist ein Deployment-Paket, kein vollständiges Image deiner privaten Installation.