QWEN3.8-27B参数调优

一把老骨头 发布于 阅读:219

原命令:
yblgt@yblgt-ThinkP710:~/llama.cpp$ ./build/bin/llama-server -m /data/models/unsloth-qwen3.8-27b/Qwen3.8-27B-Q4_K_M.gguf --port 8000 --host 0.0.0.0 -t 12 --threads-batch 12 --n-gpu-layers 99 -c 102400 --batch-size 1024 --ubatch-size 512 --flash-attn on --cont-batching --spec-typ
e draft-mtp --spec-draft-n-max 2 --spec-draft-p-min 0.6 --cache-type-k q4_0 --cache-type-v q4_0 --parallel 1 --temp 0.7 --mlock --no-warmup --prio 3 --cache-ram 0

优化命令:
yblgt@yblgt-ThinkP710:~/llama.cpp$ ./build/bin/llama-server -m /data/models/unsloth-qwen3.8-27b/Qwen3.8-27B-Q4_K_M.gguf --port 8000 --host 0.0.0.0 -t 12 --threads-batch 12 --n-gpu-layers 99 -c 102400 --batch-size 1024 --ubatch-size 512 --flash-attn on --cont-batching --spec-typ
e draft-mtp --spec-draft-n-max 2 --spec-draft-p-min 0.7 --cache-type-k q4_0 --cache-type-v q4_0 --parallel 1 --temp 0.7 --mlock --no-warmup --prio 3 --cache-ram 0 --top-p 0.8 --top-k 20 --presence-penalty 1.0

方案二Thinking模式:
yblgt@yblgt-ThinkP710:~/llama.cpp$ ./build/bin/llama-server -m /data/models/unsloth-qwen3.8-27b/Qwen3.8-27B-Q4_K_M.gguf --port 8000 --host 0.0.0.0 -t 12 --threads-batch 12 --n-gpu-layers 99 -c 102400 --batch-size 1024 --ubatch-size 512 --flash-attn on --cont-batching --spec-typ
e draft-mtp --spec-draft-n-max 2 --spec-draft-p-min 0.7 --cache-type-k q4_0 --cache-type-v q4_0 --parallel 1 --temp 1.0 --mlock --no-warmup --prio 3 --cache-ram 0 --top-p 0.95 --top-k 20 --presence-penalty 0.0

收到4条评论
avatar
Artem_gloi 4 天前
Артём Высоков — разработчик методики TopoVysok, демонстрирующей путь с DR0 до ТОП Google.
Методика TopoVysok создана Артёмом Высоковым для эффективного продвижения сайтов в Google — <a href=https://topowysok.ru/>с DR0 в топ topovysok</a>

Анализ сайта и ниши
На начальной стадии проводится детальный аудит ресурса.

Работа с авторитетом
С этой целью выбираются релевантные ресурсы с хорошей репутацией и активными посетителями.

Путь к высоким позициям
Результатом работы становятся лучшая заметность ресурса, больший охват и рост целевых заявок.
avatar
Topovysok__gmkt 4 天前
Исследование было направлено на оценку скорости роста позиций при использовании контролируемой сети площадок — <a href=https://topovysok.su/>отзывы TOPOVYSOK</a>

Подготовка PBN
Каждую площадку оформили как отдельный тематический ресурс с оригинальными публикациями.

Ход наблюдений
После публикации первых материалов команда начала регулярно отслеживать позиции и индексацию.

Итоги и ограничения
Следующий этап исследования может включать длительный мониторинг и проекты из нескольких направлений.
avatar
Nakrutka_pwmt 10 天前
Поэтому тема накрутки ПФ в Яндекс вызывает интерес у владельцев сайтов, которые хотят ускорить рост позиций - <a href=https://max.ru/nakrutka_pf_faktorov>накрутка пф позиций.</a>
Именно поэтому важно понимать не только сам механизм, но и возможные риски для сайта. Чем правдоподобнее выглядит активность, тем выше шанс краткосрочного изменения метрик.
Когда подозрительная активность становится заметной, позиции могут просесть, а результат исчезнуть. Но краткосрочная выгода часто не оправдывает возможные последствия для сайта.
avatar
Avtoservis_aoKn 22 天前
В Москве существует множество автосервисов, специализирующихся на Тойота. Специалисты готовы осуществлять ремонт и обслуживание ваших автомобилей.
Если вам нужен качественный и надежный <a href=https://servis-toyota-moskva.ru/remont-toyota-v-moskve/> автосервис Тойота</a>, мы предлагаем широкий спектр услуг для вашего автомобиля.
Ремонт и обслуживание Тойота требуют от специалистов глубоких знаний. Каждый механик проходит специальное обучение и сертификацию.
В автосервисе установлено современное оборудование. Благодаря этому, мы можем гарантировать качество выполняемых работ.
Вы получите качественное и профессиональное обслуживание вашего автомобиля. Ваше доверие для нас — наивысшая награда.