Initial commit
This commit is contained in:
commit
8641464a6c
44 files changed
+2192
No files matched your search
@@ -0,0 +1,25 @@
|
||||
# 2026-09-05 — RTX-3080-/Qwen-Deployment
|
||||
|
||||
- CUDA-Quellbuild mit expliziter Revision, dokumentierter SHA, drei Tools und
|
||||
getrennten Build-Verzeichnissen. Bestehende Binary-Auswahl bleibt erhalten.
|
||||
- Modellwahl per HF oder lokaler GGUF, optional lokaler Vision-Projektor,
|
||||
stabiler Hermes-Modellalias.
|
||||
- Vier Profile mit 64K/48K/32K Kontext und 1536/1280 MiB Fit-Zielmarge;
|
||||
ursprüngliche Parameter bleiben Standard und Rückweg.
|
||||
- Vorprüfung bekannter Optionsnamen ohne Modellstart. Keine automatische
|
||||
Hardware-/Treiberänderung oder Behauptung einer garantierten VRAM-Reserve.
|
||||
- Profilwahl mit Backup ohne Neustart; separater Neustart mit ausdrücklicher
|
||||
Bestätigung, dass Jobs fertig sind. Geteiltes Maintenance-Lock.
|
||||
- Healthcheck startet den laufenden llama-server bei HTTP-Timeouts nicht neu.
|
||||
Automatischer Start inaktiver llama-Dienste standardmäßig deaktiviert.
|
||||
- Installationssicherung vorhandener Wrapper/Units; bestehende Konfigurationen
|
||||
und Gateway-Unit bleiben erhalten. CUDA-Installation ausdrücklich optional.
|
||||
- Anleitungen für neue Rechner, bestehende Workstation, Messung und Rücknahme.
|
||||
- Isolierte Tests für Profilwerte, Legacy-Konfiguration, Pfade mit Leerzeichen,
|
||||
Modellquellen, Optionsprüfung, Locks, Neustartschutz, HTTP-Fehler, CUDA-Build-
|
||||
Veröffentlichung/Fehler und Signal-JSON-RPC-Payloads ohne echte Nachrichten.
|
||||
|
||||
Nicht hier getestet: echte CUDA-Kompilierung, Qwen-Modell-/Projektor-Download,
|
||||
GPU-Offload, Hyprland-Spitzenlast, Inferenzqualität, tatsächlicher Hermes-Update-
|
||||
Rollback oder externe Signal-/Telegram-Zustellung. Das Repository ist ein
|
||||
Deployment-Paket, kein vollständiges Image deiner privaten Installation.
|
||||
Reference in new issue
Block a user