git clone https://github.com/Niko1221/Strata.git
cd Strata
export HF_ENDPOINT=https://hf-mirror.com
./setup.sh --host 0.0.0.0 --api-key 123456
(加0.0.0.0,否则其他电脑不能访问)
Ubuntu 安装 Strata 简写步骤(RTX 2080 Ti 22G / 31G 内存)
装驱动:sudo ubuntu-drivers install nvidia:535,重启后 nvidia-smi 确认正常。
克隆仓库:git clone https://github.com/Niko1221/Strata.git && cd Strata
设镜像(关键):export HF_ENDPOINT=https://hf-mirror.com
运行安装:./setup.sh
按推荐选择:
模型 → 1(Qwen3.8-Flash-Next)
尺寸 → 1(Q2_0,32G 内存唯一合适档)
上下文 → 4(128K,推荐值)
KV cache → 1(8-bit)
图片 → n;实验加速 → n
等下载:约 66 GB,支持断点续传,中断后重跑 ./setup.sh 即可继续。
启动:浏览器打开 http://127.0.0.1:8080。
说明:你的 31G 内存只能选 Q2_0 或 IQ2_XS,脚本已自动启用 low-RAM 模式(GPU 放约 46% 专家,其余放内存)。首次启动会卡 1–3 分钟属正常。