NeuroBrix non ha alcun file di configurazione utente. Il comportamento deriva dalle impostazioni incluse nel motore, dai flag di ciascun comando (Riferimento CLI) e dalle poche variabili qui sotto.
| Variabile | Effetto |
|---|---|
NEUROBRIX_REGISTRY |
Registry usato da hub e import. Predefinito https://neurobrix.org (versioni precedenti alla 0.6.5: https://neurobrix.es, ancora servito). Il flag --registry lo sostituisce per singolo comando |
NBX_ACCEPT_LICENSE=1 |
Accetta le licenze ad accesso controllato senza prompt (per script e CI). Equivale a --accept-license |
NBX_LOG=debug |
Le righe di sviluppo del motore e il traceback di un errore (come -vv) |
NEUROBRIX_HOME, NEUROBRIX_CACHE, NEUROBRIX_STORE |
Spostano la cartella del motore, i suoi modelli estratti o i suoi archivi scaricati. Un percorso configurato che non esiste viene rifiutato per nome |
CUDA_VISIBLE_DEVICES |
Limita le GPU visibili a NeuroBrix. Impostarla vuota per forzare la CPU |
OMP_NUM_THREADS, MKL_NUM_THREADS |
Numero di thread CPU. Se non impostate, NeuroBrix le imposta entrambe al numero di core della CPU |
Le altre variabili NBX_* e NEUROBRIX_* sono diagnostica interna e non fanno parte dell'interfaccia pubblica.
CUDA_VISIBLE_DEVICES=0,1 neurobrix serve --model <org>/<Model>
~/.neurobrix/
├── store/ # downloaded .nbx archives (and .part files while downloading)
├── cache/ # extracted models; the runtime reads from here
├── license_acceptances.json # licences you accepted in the terminal
└── daemon.sock, .pid, .log # the serving daemon (see "neurobrix serve")
Questa è la posizione predefinita. Per spostarla, impostate le variabili qui sopra per una shell, oppure scrivete i percorsi in ~/.neurobrix/paths.json per la macchina; neurobrix info stampa i valori in vigore. Liberate spazio con neurobrix clean o neurobrix remove.
I valori predefiniti di un modello (passi, guidance, temperatura) possono essere modificati per una singola esecuzione:
neurobrix run --model <org>/<Model> --prompt "test" --set KEY=VALUE
Quali chiavi esistano dipende dal modello; quelle più comuni hanno un proprio flag (--steps, --cfg, --seed, --temperature, ...).
| Flag | Significato |
|---|---|
--compiled |
Il motore PyTorch; il predefinito dove PyTorch è installato |
--sequential |
Il motore PyTorch un'operazione alla volta, più lento, per diagnosticare problemi |
--triton, --triton-sequential |
Il motore Triton (nbxtensor, senza PyTorch), installato con NeuroBrix; il predefinito dove PyTorch non è installato. neurobrix doctor dice se può funzionare |
--hardware <profile> |
Sceglie un profilo hardware incluso invece del rilevamento automatico |
Eseguire neurobrix info --hardware per vedere ciò che è stato rilevato. Dettagli: Installazione per hardware.
Successivo: Risoluzione dei problemi