Make local inference limits and workstation setup reproducible
This commit is contained in:
1 parent
7006991843
commit
8544abd2d4
28 files changed
+1022
-21
No files matched your search
@@ -8,6 +8,7 @@ LLAMA_ALIAS="qwen38-27b-local"
|
||||
LLAMA_MMPROJ=""
|
||||
LLAMA_HOST="127.0.0.1"
|
||||
LLAMA_PORT="8080"
|
||||
LLAMA_MAX_OUTPUT_TOKENS=2048
|
||||
|
||||
# Standard für eine gemeinsam mit dem Desktop genutzte GPU: 64K / 4096 MiB.
|
||||
# Fit ist ein Planungsziel; die freie Reserve auf der Zielmaschine messen.
|
||||
|
||||
Reference in new issue
Block a user