NeuroBrix hat keine Benutzer-Konfigurationsdatei. Das Verhalten ergibt sich aus den mit der Engine gebündelten Einstellungen, aus den Flags jedes Befehls (CLI-Referenz) und aus den wenigen Variablen unten.
| Variable | Wirkung |
|---|---|
NEUROBRIX_REGISTRY |
Registry für hub und import. Standard https://neurobrix.org (Versionen vor 0.6.5: https://neurobrix.es, weiterhin bedient). Das Flag --registry überschreibt es pro Befehl |
NBX_ACCEPT_LICENSE=1 |
Gesperrte Lizenzen ohne Abfrage akzeptieren (für Skripte und CI). Dasselbe wie --accept-license |
NBX_LOG=debug |
Die Entwicklerzeilen der Engine und der Traceback eines Fehlers (wie -vv) |
NEUROBRIX_HOME, NEUROBRIX_CACHE, NEUROBRIX_STORE |
Verschieben das Verzeichnis der Engine, ihre entpackten Modelle oder ihre heruntergeladenen Archive. Ein konfigurierter Pfad, der nicht existiert, wird namentlich abgelehnt |
CUDA_VISIBLE_DEVICES |
Beschränkt die GPUs, die NeuroBrix sieht. Leer setzen, um die CPU zu erzwingen |
OMP_NUM_THREADS, MKL_NUM_THREADS |
Anzahl der CPU-Threads. Wenn nicht gesetzt, setzt NeuroBrix beide auf die Anzahl der CPU-Kerne |
Weitere NBX_*- und NEUROBRIX_*-Variablen sind interne Diagnosen und gehören nicht zur öffentlichen Schnittstelle.
CUDA_VISIBLE_DEVICES=0,1 neurobrix serve --model <org>/<Model>
~/.neurobrix/
├── store/ # downloaded .nbx archives (and .part files while downloading)
├── cache/ # extracted models; the runtime reads from here
├── license_acceptances.json # licences you accepted in the terminal
└── daemon.sock, .pid, .log # the serving daemon (see "neurobrix serve")
Das ist der Standardort. Um ihn zu verschieben, setze die Variablen oben für eine Shell oder schreibe die Pfade in ~/.neurobrix/paths.json für den Rechner; neurobrix info zeigt die geltenden Werte. Platz schaffst du mit neurobrix clean oder neurobrix remove.
Die Standardwerte eines Modells (Schritte, Guidance, Temperatur) lassen sich für einen Lauf ändern:
neurobrix run --model <org>/<Model> --prompt "test" --set KEY=VALUE
Welche Schlüssel es gibt, hängt vom Modell ab; die gängigen haben ein eigenes Flag (--steps, --cfg, --seed, --temperature, ...).
| Flag | Bedeutung |
|---|---|
--compiled |
Die PyTorch-Engine; Standard, wo PyTorch installiert ist |
--sequential |
Die PyTorch-Engine Operation für Operation, langsamer, zur Fehlersuche |
--triton, --triton-sequential |
Die Triton-Engine (nbxtensor, ohne PyTorch), mit NeuroBrix installiert; Standard, wo PyTorch nicht installiert ist. neurobrix doctor sagt, ob sie laufen kann |
--hardware <profile> |
Ein mitgeliefertes Hardware-Profil statt der automatischen Erkennung wählen |
Führe neurobrix info --hardware aus, um zu sehen, was erkannt wurde. Details: Installation nach Hardware.
Weiter: Fehlerbehebung