STRATA安装方法

一把老骨头 发布于 阅读:506 经验技巧

git clone https://github.com/Niko1221/Strata.git
cd Strata
export HF_ENDPOINT=https://hf-mirror.com
./setup.sh --host 0.0.0.0 --api-key 123456

(加0.0.0.0,否则其他电脑不能访问)

Ubuntu 安装 Strata 简写步骤(RTX 2080 Ti 22G / 31G 内存)

装驱动:sudo ubuntu-drivers install nvidia:535,重启后 nvidia-smi 确认正常。

克隆仓库:git clone https://github.com/Niko1221/Strata.git && cd Strata

设镜像(关键):export HF_ENDPOINT=https://hf-mirror.com

运行安装:./setup.sh

按推荐选择:

模型 → 1(Qwen3.8-Flash-Next)

尺寸 → 1(Q2_0,32G 内存唯一合适档)

上下文 → 4(128K,推荐值)

KV cache → 1(8-bit)

图片 → n;实验加速 → n

等下载:约 66 GB,支持断点续传,中断后重跑 ./setup.sh 即可继续。

启动:浏览器打开 http://127.0.0.1:8080。

说明:你的 31G 内存只能选 Q2_0 或 IQ2_XS,脚本已自动启用 low-RAM 模式(GPU 放约 46% 专家,其余放内存)。首次启动会卡 1–3 分钟属正常。