NeuroBrix heeft geen gebruikersconfiguratiebestand. Het gedrag komt uit de instellingen die met de engine worden meegeleverd, uit de flags van elke opdracht (CLI-referentie) en uit de enkele variabelen hieronder.
| Variabele | Effect |
|---|---|
NEUROBRIX_REGISTRY |
Registry die hub en import gebruiken. Standaard https://neurobrix.org (versies vóór 0.6.5: https://neurobrix.es, nog steeds bediend). De vlag --registry overschrijft het per opdracht |
NBX_ACCEPT_LICENSE=1 |
Afgeschermde licenties accepteren zonder prompt (voor scripts en CI). Gelijk aan --accept-license |
NBX_LOG=debug |
De ontwikkelaarsregels van de engine en de traceback van een fout (zoals -vv) |
NEUROBRIX_HOME, NEUROBRIX_CACHE, NEUROBRIX_STORE |
Verplaatsen de map van de engine, de uitgepakte modellen of de gedownloade archieven. Een geconfigureerd pad dat niet bestaat, wordt bij naam geweigerd |
CUDA_VISIBLE_DEVICES |
Beperk de GPU's die NeuroBrix ziet. Leeg laten om CPU af te dwingen |
OMP_NUM_THREADS, MKL_NUM_THREADS |
Aantal CPU-threads. Indien niet ingesteld, zet NeuroBrix beide op het aantal CPU-kernen |
Andere NBX_*- en NEUROBRIX_*-variabelen zijn interne diagnostiek en maken geen deel uit van de publieke interface.
CUDA_VISIBLE_DEVICES=0,1 neurobrix serve --model <org>/<Model>
~/.neurobrix/
├── store/ # downloaded .nbx archives (and .part files while downloading)
├── cache/ # extracted models; the runtime reads from here
├── license_acceptances.json # licences you accepted in the terminal
└── daemon.sock, .pid, .log # the serving daemon (see "neurobrix serve")
Dit is de standaardlocatie. Om die te verplaatsen, stelt u de variabelen hierboven in voor één shell, of schrijft u de paden in ~/.neurobrix/paths.json voor de machine; neurobrix info toont de geldende waarden. Maak ruimte vrij met neurobrix clean of neurobrix remove.
De standaardwaarden van een model (stappen, guidance, temperature) kunnen voor één uitvoering worden gewijzigd:
neurobrix run --model <org>/<Model> --prompt "test" --set KEY=VALUE
Welke sleutels bestaan hangt af van het model; de gangbare hebben een eigen flag (--steps, --cfg, --seed, --temperature, ...).
| Flag | Betekenis |
|---|---|
--compiled |
De PyTorch-engine; standaard waar PyTorch geïnstalleerd is |
--sequential |
De PyTorch-engine bewerking voor bewerking, trager, om problemen te diagnosticeren |
--triton, --triton-sequential |
De Triton-engine (nbxtensor, zonder PyTorch), geïnstalleerd met NeuroBrix; standaard waar PyTorch niet geïnstalleerd is. neurobrix doctor zegt of hij kan draaien |
--hardware <profile> |
Kies een meegeleverd hardwareprofiel in plaats van automatische detectie |
Voer neurobrix info --hardware uit voor wat er is gedetecteerd. Details: Installeren per hardware.
Volgende: Probleemoplossing