NeuroBrix'in kullanıcı yapılandırma dosyası yoktur. Davranış, motorla birlikte gelen ayarlardan, her komutun bayraklarından (CLI Başvurusu) ve aşağıdaki birkaç değişkenden gelir.
| Değişken | Etkisi |
|---|---|
NEUROBRIX_REGISTRY |
hub ve import tarafından kullanılan kayıt. Varsayılan https://neurobrix.org (0.6.5 öncesi sürümler: https://neurobrix.es, hâlâ sunuluyor). --registry bayrağı bunu komut başına geçersiz kılar |
NBX_ACCEPT_LICENSE=1 |
Kapılı lisansları istem göstermeden kabul eder (betikler ve CI için). --accept-license ile aynıdır |
NBX_LOG=debug |
Motorun geliştirici satırları ve bir hatanın traceback'i (-vv ile aynı) |
NEUROBRIX_HOME, NEUROBRIX_CACHE, NEUROBRIX_STORE |
Motorun dizinini, açılmış modellerini veya indirilmiş arşivlerini taşır. Var olmayan yapılandırılmış bir yol adıyla reddedilir |
CUDA_VISIBLE_DEVICES |
NeuroBrix'in gördüğü GPU'ları kısıtlar. CPU'yu zorlamak için boş bırakın |
OMP_NUM_THREADS, MKL_NUM_THREADS |
CPU iş parçacığı sayıları. Ayarlanmamışsa NeuroBrix ikisini de CPU çekirdek sayısına ayarlar |
Diğer NBX_* ve NEUROBRIX_* değişkenleri dâhili tanılamadır ve herkese açık arayüzün parçası değildir.
CUDA_VISIBLE_DEVICES=0,1 neurobrix serve --model <org>/<Model>
~/.neurobrix/
├── store/ # downloaded .nbx archives (and .part files while downloading)
├── cache/ # extracted models; the runtime reads from here
├── license_acceptances.json # licences you accepted in the terminal
└── daemon.sock, .pid, .log # the serving daemon (see "neurobrix serve")
Bu varsayılan konumdur. Taşımak için yukarıdaki değişkenleri bir kabuk için ayarlayın veya yolları makine için ~/.neurobrix/paths.json dosyasına yazın; neurobrix info geçerli değerleri yazdırır. neurobrix clean veya neurobrix remove ile yer açın.
Bir modelin varsayılanları (adımlar, guidance, sıcaklık) tek bir çalıştırma için değiştirilebilir:
neurobrix run --model <org>/<Model> --prompt "test" --set KEY=VALUE
Hangi anahtarların bulunduğu modele bağlıdır; yaygın olanların kendi bayrağı vardır (--steps, --cfg, --seed, --temperature, ...).
| Bayrak | Anlamı |
|---|---|
--compiled |
PyTorch motoru; PyTorch kurulu olan yerde varsayılan |
--sequential |
PyTorch motoru, işlemleri tek tek, daha yavaş, sorunları teşhis etmek için |
--triton, --triton-sequential |
NeuroBrix ile kurulan Triton motoru (nbxtensor, PyTorch olmadan); PyTorch kurulu olmayan yerde varsayılan. neurobrix doctor çalışıp çalışamayacağını söyler |
--hardware <profile> |
Otomatik algılama yerine birlikte gelen bir donanım profilini seçin |
Nelerin algılandığını görmek için neurobrix info --hardware çalıştırın. Ayrıntılar: Donanıma göre kurulum.
Sonraki: Sorun Giderme