johannes/hermes-arch-stack
1
0 Fork 0
Code Issues Pull Requests Packages Projects Releases Wiki Activity

Trial GPU-resident Qwen3.5-9B with verified 4B rollback

Browse Source
This commit is contained in:
admin committed 2026-10-27 17:14:38 +01:00
1 parent 0929cdb555
commit dec534cc88
10 files changed
+307 -93
Download Patch File Download Diff File Expand all files Collapse all files

No files matched your search

docs/RTX3080.md
+3
View File
@@ -1,5 +1,8 @@
# Qwen auf RTX 3080 10 GB / Hyprland
Aktuelle 9B-Erprobung mit 4B-Rückfallprofil: [QWEN9B_TRIAL.md](QWEN9B_TRIAL.md).
Die folgenden Fit-Profile und älteren Messungen betreffen den 27B-Betrieb.
Zielhardware: RTX 3080 mit 10 GiB, i9-13900KF, 64 GB RAM. Der Desktop und
llama.cpp nutzen dieselbe GPU. Das 27B-Modell in Q4_K_M passt nicht vollständig
in 10 GiB: CPU/RAM-Offload bleibt erforderlich. Mehr VRAM für Gewichte kann