NeuroBrix heeft twee engines. De Triton-engine (--triton) draait op nbxtensor en Triton en heeft geen PyTorch nodig. De PyTorch-engine (--compiled) heeft PyTorch nodig, geïnstalleerd vanuit de index die bij uw hardware past. Zonder modusvlag gebruikt een run de PyTorch-engine waar PyTorch geïnstalleerd is en anders de Triton-engine, en de startregel zegt welke. NeuroBrix detecteert uw hardware als u --hardware niet opgeeft. Twijfelt u, voer dan neurobrix doctor uit.
Triton-engine. Installeer de NVIDIA-driver, daarna:
pip install neurobrix
neurobrix doctor
Zonder PyTorch gebruikt een run de Triton-engine (engine: triton (torch not installed)). De CUDA-runtimebibliotheek komt mee met nbxtensor; verder is niets nodig.
PyTorch-engine. Installeer de CUDA-build van PyTorch die uw driver ondersteunt (zie de selector op pytorch.org), daarna NeuroBrix met de extra pytorch. pip install torch alleen haalt de standaard-PyTorch-wheel van PyPI op, die gebouwd kan zijn voor een CUDA-versie die uw driver of GPU niet kan gebruiken.
pip install typing-extensions # from PyPI first: the PyTorch index carries only its source
pip install torch --index-url https://download.pytorch.org/whl/<cuda-build> # e.g. cu126
pip install "neurobrix[pytorch]"
neurobrix doctor
Verwacht resultaat: neurobrix doctor meldt de Triton-engine, de PyTorch-build en de GPU's die het ziet, en geen blokkerend probleem.
Huidige CUDA 13-builds van PyTorch ondersteunen Volta niet meer. De standaard-torch van PyPI en de builds cu128, cu129, cu130 en cu132 waren niet bruikbaar op de V100-machines van het project. Gebruik op Volta cu126:
pip install --force-reinstall torch --index-url https://download.pytorch.org/whl/cu126
neurobrix doctor vergelijkt de sm_XY van elke GPU met de architecturen waarvoor uw PyTorch is gebouwd en meldt het als die niet overeenkomen.
Er is nog geen minimale driverversie en geen minimale compute capability vastgesteld. De testmachines van het project zijn V100's. neurobrix doctor meldt wat uw machine heeft.
De Triton-engine draait via Metal op de Apple-GPU. PyPI publiceert geen Triton voor macOS: install-metal installeert de Triton-build van NeuroBrix voor Apple-GPU's, elke wheel gecontroleerd tegen de sha256 die in nbxtensor staat.
pip install neurobrix
python -m nbxtensor install-metal
neurobrix doctor
De Metal-toolchain van Xcode is de andere vereiste (neurobrix doctor meldt wanneer die ontbreekt). Ook de PyTorch-engine draait op de Apple-GPU, via MPS: pip install torch "neurobrix[pytorch]".
De PyTorch-engine draait op de CPU. Om de CUDA-build van PyTorch niet te downloaden:
pip install torch --index-url https://download.pytorch.org/whl/cpu
pip install "neurobrix[pytorch]"
Begin met de kleinste modellen in de catalogus.
Een leverancier detecteren is niet hetzelfde als erop draaien. De eerlijke niveaus:
| Niveau | Hardware |
|---|---|
| Gevalideerd | NVIDIA-GPU's (beide engines), Apple Silicon (de Triton-engine via Metal, de PyTorch-engine via MPS), CPU (de PyTorch-engine) |
| Experimenteel | Intel-GPU's met hun Level Zero-runtime: door de Triton-engine geprobeerd, nog niet op hardware gevalideerd door het NeuroBrix-lab — meldingen welkom |
| Een doel | AMD-GPU's: bereikt door de Triton-engine via de HIP-driver van nbxtensor, nog niet op een kaart gevalideerd |
| Alleen herkend | Tenstorrent, Moore Threads, Biren, Iluvatar, Hygon DCU, Cambricon |
"Alleen herkend" betekent dat er detectie bestaat en verder niets. neurobrix doctor geeft de installatieopdrachten van de fabrikant voor een Intel- of AMD-GPU. Plan geen uitrol op een experimenteel niveau of een doelniveau. Details: Hardware-ondersteuning.
© 2025–2026 Hocine Benkelaya. NeuroBrix engine released under the Apache License 2.0.
Developed by Hocine Benkelaya · Supported and funded by Neural Network Holding Ltd · Commercial distribution by WizWorks OÜ