Files
hermes-arch-stack/libexec/hermes-stack-llama-report
T

20 lines
981 B
Bash
Executable File

#!/usr/bin/env bash
# Nur lesen: kein Modellstart, keine Inferenz, kein Neustart.
set -Euo pipefail
config_dir="${XDG_CONFIG_HOME:-$HOME/.config}/hermes-stack-maintenance"
if [[ -r "$config_dir/config.env" ]]; then
# shellcheck disable=SC1090,SC1091
source "$config_dir/config.env"
fi
printf '\nGPU (Gesamtspeicher, belegt, frei in MiB):\n'
nvidia-smi --query-gpu=name,memory.total,memory.used,memory.free,utilization.gpu,power.draw,temperature.gpu \
--format=csv || true
printf '\nDienstzustand:\n'
systemctl --user show "${LLAMA_SERVICE:-llama-qwen.service}" \
-p ActiveState -p SubState -p MainPID -p ExecMainStartTimestamp --no-pager || true
printf '\nLetzte Speicher-/Leistungsdaten (keine vollständigen Prompts):\n'
journalctl --user -u "${LLAMA_SERVICE:-llama-qwen.service}" -n 1000 --no-pager |
rg 'offload|buffer size|n_ctx|prompt eval time|eval time|sleeping|waking' |
tail -n 35 || true
printf '\nDas ist eine Momentaufnahme, kein Spitzenlast-Benchmark.\n'