neurobrix run обслуживает все семейства моделей. Что нужно передать, зависит от семейства.
| Режим | Команды | Лучше всего для |
|---|---|---|
| Тёплый (рекомендуется) | neurobrix serve --model <name>, затем neurobrix run --prompt "..." |
Несколько запусков, интерактивная работа |
| Холодный | neurobrix run --model <name> --prompt "..." |
Разовые запуски, скрипты |
Холодный запуск загружает веса, выполняет и выгружает их. Пока демон обслуживает другую модель, холодный запуск отклоняется с Error: a serving daemon is running (PID n) with another model, and NeuroBrix runs one task at a time.; выполняйте запрос через тёплый демон. <name> ниже — единственное имя модели, org/Model. См. Руководство по обслуживанию.
| Семейство | Команда | Вывод |
|---|---|---|
| LLM | neurobrix run --model <name> --prompt "..." |
.txt |
| Изображения | neurobrix run --model <name> --prompt "..." --output x.png |
.png |
| Видео | neurobrix run --model <name> --prompt "..." --output x.mp4 |
.mp4 |
| TTS | neurobrix run --model <name> --prompt "text" --output x.wav |
.wav |
| STT | neurobrix run --model <name> --audio f.wav |
текст; куда он попадает без --output: пока не задокументировано |
| Апскейлер | neurobrix upscale --model <name> --input in.png --output out.png |
.png |
| VLM | --prompt и --input-image, оба обязательны |
текст |
| Audio LLM | --audio и --prompt, оба обязательны |
текст |
| Мультимодальная | --prompt и --mode text, image или audio; режим обязателен |
зависит от режима |
Если обязательный ввод отсутствует, движок останавливается с ZERO FALLBACK: family '<f>' requires <flag>. Provide it on the command line. Неверное расширение --output отклоняется так же, с указанием ожидаемого. Без --output файл называется output_<model> плюс расширение для семейства (в тексте --help по-прежнему указано output.png).
| Флаг | Применяется к | Значение |
|---|---|---|
--prompt |
большинство семейств | Входной текст |
--steps, --cfg, --seed |
изображения, видео | Шаги диффузии, масштаб guidance, начальное значение генератора случайных чисел |
--height, --width |
изображения | Размер вывода |
--num-frames, --fps |
видео | Длина и частота клипа |
--input-image |
изображения, видео, VLM, апскейлер | Входная картинка; для изображений выбирает img2img, для видео — i2v |
--mask-image |
изображения | Маска для inpainting; требует --input-image |
--video |
видео | Входной клип, выбирает v2v |
--speaker |
TTS | Идентификатор предустановленного голоса (--reference-audio в этой версии не подключён: отклоняется по имени) |
--max-tokens, --temperature, --repetition-penalty, --top-k, --top-p |
LLM | Сэмплирование |
--system |
LLM | Системный промпт |
--chat / --no-chat |
LLM | Взаимоисключающие |
--mode |
все | auto, text, chat, agent, image, audio, video, t2i, img2img, inpainting, t2v, i2v, v2v |
--set KEY=VALUE |
все | Переопределить значение модели по умолчанию; можно повторять |
--hardware |
все | Идентификатор профиля оборудования |
--explain-plan |
все | Показать план размещения |
--json |
все | С --explain-plan: план в виде одной JSON-записи |
Значения по умолчанию для шагов, guidance и размера берутся из самой модели. Значения по умолчанию для каждого семейства для флагов сэмплирования, таких как temperature: пока не задокументированы.
Изображение:
neurobrix run --model <name> --prompt "A cute robot in a garden" --steps 20 --seed 42 --cfg 5.0 --width 1024 --height 1024 --output robot.png
Ожидаемый результат: PNG в robot.png.
Переопределение значения по умолчанию:
neurobrix run --prompt "test" --set global.guidance_scale=7.5
Передавайте не более одного для run или serve:
| Флаг | Значение |
|---|---|
--compiled |
Движок PyTorch; по умолчанию там, где установлен PyTorch |
--sequential |
Движок PyTorch по одной операции, для отладки |
--triton |
Движок Triton (nbxtensor, без PyTorch); по умолчанию там, где PyTorch не установлен |
--triton-sequential |
Движок Triton по одной операции, для отладки |
Больше одного даёт Error: only one execution mode flag can be passed at a time и код выхода 1.
Далее: Руководство по обслуживанию
© 2025–2026 Hocine Benkelaya. NeuroBrix engine released under the Apache License 2.0.
Developed by Hocine Benkelaya · Supported and funded by Neural Network Holding Ltd · Commercial distribution by WizWorks OÜ
Источник документации: GitLab