Preserve desktop VRAM reserve and portable CPU compression setup

This commit is contained in:
admin committed 2026-10-12 12:36:11 +02:00
1 parent e8512b56f5
commit eb456b37ea
15 files changed
+255 -25

No files matched your search

+12 -1
View File
@@ -56,7 +56,16 @@ betreiben. Für Parallelbetrieb die neue Maschine als separates Gerät verknüpf
inklusive CLI und Benchmark) oder vorhandene Binary verwenden. Die GGUF-Datei
und einen ggf. benötigten Vision-Projektor übertragen oder beim ersten Start
über HF beziehen. Danach
`~/.config/hermes-stack-maintenance/llama.env` anpassen. Modellgewichte gehören
`~/.config/hermes-stack-maintenance/llama.env` anpassen.
Für eine Workstation mit Desktop auf derselben GPU `desktop-64k` (64K,
4096 MiB Fit-Zielmarge) als Ausgangspunkt verwenden. Den optionalen lokalen
Kompressionsserver über `compression.env` auf CPU konfigurieren und seine
GGUF-Datei separat übertragen. Die vollständige Einrichtung und Abnahme steht
unter [Desktop-Reserve und CPU-Kompression](RTX3080.md#desktop-reserve-und-cpu-kompression-seit-12102026).
Auch die eigenen `~/.config/hermes-stack-maintenance/`-Dateien sichern und
gezielt übertragen; lokale Pfade, Binary-Auswahl und Profil-Override auf der
neuen Maschine prüfen. Keine vollständige systemd-Konfiguration blind kopieren. Modellgewichte gehören
wegen Größe und Lizenz nicht in dieses Repository.
Die RTX-3080-Profile sind für 10 GB VRAM und die bisherige CPU ausgelegt; auf
@@ -70,6 +79,8 @@ NVIDIA-/Kernelpakete. Keine Binärkopie des alten CUDA-Builds erzwingen.
hermes gateway install --force
systemctl --user daemon-reload
systemctl --user enable --now signal-cli.service llama-qwen.service
# Nur nach Einrichtung der optionalen Kompression:
systemctl --user enable --now llama-compression.service
systemctl --user enable --now \
hermes-stack-hermes-update.timer \
hermes-stack-health.timer \