Preserve desktop VRAM reserve and portable CPU compression setup
This commit is contained in:
1 parent
e8512b56f5
commit
eb456b37ea
15 files changed
+255
-25
No files matched your search
@@ -9,9 +9,9 @@ LLAMA_MMPROJ=""
|
||||
LLAMA_HOST="127.0.0.1"
|
||||
LLAMA_PORT="8080"
|
||||
|
||||
# Erster Start unverändert mit 64K / 1536 MiB Fit-Zielmarge.
|
||||
# baseline bleibt Standard; vram-64k ist ein optionales Testprofil.
|
||||
LLAMA_PROFILE="baseline"
|
||||
# Standard für eine gemeinsam mit dem Desktop genutzte GPU: 64K / 4096 MiB.
|
||||
# Fit ist ein Planungsziel; die freie Reserve auf der Zielmaschine messen.
|
||||
LLAMA_PROFILE="desktop-64k"
|
||||
LLAMA_ARGS=()
|
||||
# HF lädt beim ersten echten Start herunter. Für offline/reproduzierbar:
|
||||
# LLAMA_MODEL und optional LLAMA_MMPROJ setzen; LLAMA_HF_REPO leeren.
|
||||
Reference in new issue
Block a user