llama-optimus的安装和测试

1. 安装 pipx

bash
sudo apt update
sudo apt install pipx

2. 确保 pipx 管理的程序路径已加入 PATH

bash
pipx ensurepath

3. 安装 llama-optimus

bash
pipx install llama-optimus

4、命令
llama-optimus \
--llama-bin ~/llama.cpp/build/bin \
--model /data/models/unsloth-qwen3.8-27b/Qwen3.8-27B-UD-Q4_K_M.gguf \
--trials 25 \
--repeat 5 \
--n-tokens 256 \
--ngl-max 99 \
--metric tg