O NeuroBrix não tem ficheiro de configuração do utilizador. O comportamento vem das definições incluídas no motor, das opções de cada comando (Referência da CLI) e das poucas variáveis abaixo.
| Variável | Efeito |
|---|---|
NEUROBRIX_REGISTRY |
Registo usado por hub e import. Por omissão https://neurobrix.org (versões anteriores a 0.6.5: https://neurobrix.es, ainda servido). A opção --registry substitui-o por comando |
NBX_ACCEPT_LICENSE=1 |
Aceita licenças com acesso restrito sem perguntar (para scripts e CI). Igual a --accept-license |
NBX_LOG=debug |
As linhas de desenvolvimento do motor e o traceback de um erro (igual a -vv) |
NEUROBRIX_HOME, NEUROBRIX_CACHE, NEUROBRIX_STORE |
Mudam a pasta do motor, os seus modelos extraídos ou os arquivos transferidos. Um caminho configurado que não existe é recusado pelo nome |
CUDA_VISIBLE_DEVICES |
Restringe as GPUs que o NeuroBrix vê. Defina-a vazia para forçar CPU |
OMP_NUM_THREADS, MKL_NUM_THREADS |
Número de threads de CPU. Se não estiverem definidas, o NeuroBrix define ambas para o número de núcleos de CPU |
As outras variáveis NBX_* e NEUROBRIX_* são diagnósticos internos e não fazem parte da interface pública.
CUDA_VISIBLE_DEVICES=0,1 neurobrix serve --model <org>/<Model>
~/.neurobrix/
├── store/ # downloaded .nbx archives (and .part files while downloading)
├── cache/ # extracted models; the runtime reads from here
├── license_acceptances.json # licences you accepted in the terminal
└── daemon.sock, .pid, .log # the serving daemon (see "neurobrix serve")
É a localização por omissão. Para a mudar, defina as variáveis acima para uma shell, ou escreva os caminhos em ~/.neurobrix/paths.json para a máquina; neurobrix info mostra os valores em vigor. Liberte espaço com neurobrix clean ou neurobrix remove.
Os valores predefinidos de um modelo (passos, guidance, temperature) podem ser alterados para uma só execução:
neurobrix run --model <org>/<Model> --prompt "test" --set KEY=VALUE
As chaves que existem dependem do modelo; as mais comuns têm a sua própria opção (--steps, --cfg, --seed, --temperature, ...).
| Opção | Significado |
|---|---|
--compiled |
O motor PyTorch; o predefinido onde o PyTorch está instalado |
--sequential |
O motor PyTorch uma operação de cada vez, mais lento, para diagnosticar problemas |
--triton, --triton-sequential |
O motor Triton (nbxtensor, sem PyTorch), instalado com o NeuroBrix; o predefinido onde o PyTorch não está instalado. O neurobrix doctor diz se pode correr |
--hardware <profile> |
Escolhe um perfil de hardware incluído em vez da deteção automática |
Execute neurobrix info --hardware para ver o que foi detetado. Detalhes: Instalar por hardware.
Seguinte: Resolução de problemas