Les profils matériels indiquent à NeuroBrix exactement à quoi ressemble votre machine — GPU, CPU, mémoire, interconnexions. Le solveur Prism lit le profil et choisit automatiquement la meilleure stratégie d'exécution.
Par défaut, NeuroBrix détecte automatiquement tout le matériel de votre machine :
neurobrix serve --model <name>
# Auto-detects all GPUs, CPU, interconnects
Écrivez un profil personnalisé lorsque vous voulez :
Voyez les profils comme un moyen de réserver une tranche de votre machine pour une instance NeuroBrix précise. Vous pouvez exécuter plusieurs instances sur la même machine, chacune avec son propre profil ciblant des GPU différents.
neurobrix serve --model <name> --hardware v100-32g
neurobrix serve --model <name> --hardware my-custom-profile
Ces identifiants de profil sont livrés avec le moteur et peuvent être passés à --hardware :
| Famille | Identifiants de profil |
|---|---|
| NVIDIA datacenter | a100-40g, a100-80g, a10-24g, h100-80g, l40s-48g, t4-16g, v100-16g, v100-32g |
| NVIDIA grand public | rtx2080ti-11g, rtx3060-12g, rtx3080-10g, rtx3090-24g, rtx4080-16g, rtx4090-24g |
| CPU | cpu-only-x86 |
Des variantes multi-GPU de certains d'entre eux sont également livrées. Listez les identifiants exacts installés sur votre machine en regardant dans le répertoire des profils ci-dessous.
Un profil inclus n'est pas une promesse que le matériel s'exécute : voir les trois niveaux d'honnêteté dans Prise en charge matérielle. Seul Volta est marqué comme validé empiriquement.
Les profils sont des fichiers YAML dans le paquet du moteur :
neurobrix/config/hardware/ # inside the installed package
├── default.yml # Auto-generated by detection (default-cpu.yml with no GPU)
├── v100-32g.yml # Bundled
├── ...
└── my-custom.yml # Your custom profile
Utilisez le nom du fichier (sans .yml) comme argument de --hardware.
Le cas d'usage le plus courant : vous avez 4 GPU et voulez n'en dédier qu'un seul à NeuroBrix :
id: single-v100-32g
preferred_dtype: float16
summary:
total_gpus: 1
total_vram_gb: 32.0
total_ram_gb: 251.5
topology: Single-GPU
cpu:
model: "Intel(R) Xeon(R) Gold 6230 CPU @ 2.10GHz"
cores: 40
threads: 80
ram_mb: 257530
architecture: x86_64
features: [avx2, avx512f, fma]
devices:
- index: 0
brand: nvidia
model: Tesla V100-SXM2-32GB
memory_mb: 32768
compute_capability: "7.0"
supports_dtypes: [float32, float16]
architecture: volta
pcie_version: "3.0"
notes: "Single V100 32GB — other GPUs reserved for training"
Vous pouvez maintenant exécuter un second modèle sur les GPU restants, ou les garder libres pour l'entraînement.
Profil multi-GPU complet avec interconnexion NVLink :
id: my-2xv100-32g
vendor: dell
preferred_dtype: float16
summary:
total_gpus: 2
total_vram_gb: 64.0
total_ram_gb: 251.5
topology: Multi-GPU
cpu:
model: "Intel(R) Xeon(R) Gold 6230 CPU @ 2.10GHz"
cores: 40
threads: 80
ram_mb: 257530
architecture: x86_64
features: [fma, avx2, avx512f, avx512_vnni]
devices:
- index: 0
brand: nvidia
model: Tesla V100-SXM2-32GB
memory_mb: 32768
compute_capability: "7.0"
supports_dtypes: [float32, float16]
architecture: volta
pcie_version: "3.0"
- index: 1
brand: nvidia
model: Tesla V100-SXM2-32GB
memory_mb: 32768
compute_capability: "7.0"
supports_dtypes: [float32, float16]
architecture: volta
pcie_version: "3.0"
interconnect:
groups:
- index: 0
members: [0, 1]
type: full_mesh
tech: nvlink
bandwidth_gbps: 300
pcie_fallback:
version: "3.0"
lanes: 16
bandwidth_gbps: 32
notes: "2 x V100 SXM2 32GB with NVLink, Dell C4140"
NeuroBrix gère les configurations de GPU hétérogènes. Prism place les composants les plus gros sur le GPU le plus grand :
devices:
- index: 0
brand: nvidia
model: Tesla V100-SXM2-16GB
memory_mb: 16384
compute_capability: "7.0"
supports_dtypes: [float32, float16]
architecture: volta
- index: 1
brand: nvidia
model: Tesla V100-SXM2-32GB
memory_mb: 32768
compute_capability: "7.0"
supports_dtypes: [float32, float16]
architecture: volta
Pour le développement ou les petits modèles :
id: cpu-workstation
preferred_dtype: float32
summary:
total_gpus: 0
total_vram_gb: 0
total_ram_gb: 32.0
topology: CPU-Only
cpu:
model: "AMD Ryzen 9 7950X"
cores: 16
threads: 32
ram_mb: 32768
architecture: x86_64
features: [avx2, fma]
devices: []
notes: "CPU-only workstation, no discrete GPU"
| Champ | Requis | Description |
|---|---|---|
id |
Oui | Identifiant unique du profil |
vendor |
Non | Constructeur de la machine (dell, supermicro, etc.) |
preferred_dtype |
Oui | Dtype de calcul par défaut |
summary |
Oui | Statistiques rapides pour l'affichage et indications au solveur |
cpu |
Oui | Informations sur le CPU |
devices |
Oui | Liste des GPU ([] vide pour CPU seul) |
interconnect |
Non | Liaisons GPU à GPU (à omettre pour mono-GPU/CPU seul) |
pcie_fallback |
Non | Caractéristiques PCIe pour la communication entre groupes |
| Matériel | Recommandé | Pourquoi |
|---|---|---|
| V100, T4, RTX 20 | float16 |
Pas de prise en charge de bf16 |
| A100, RTX 30/40 | float16 or bfloat16 |
Les deux fonctionnent, bf16 évite le dépassement |
| H100, H200 | bfloat16 |
Tensor cores bf16 natifs |
| CPU (générique) | float32 |
Pas d'accélération en demi-précision |
| CPU avec AMX | bfloat16 |
Multiplication matricielle bf16 matérielle |
Avertissement : Sans
preferred_dtype, Prism peut attribuer fp32 à un modèle construit en fp32, gaspillant mémoire et débit. Définissez-le pour votre matériel.
| Technologie | Bande passante typique | Cas d'usage |
|---|---|---|
nvlink |
300-900 GB/s | GPU de serveur (V100 SXM, A100, H100) |
xgmi |
200-400 GB/s | AMD Instinct (MI250X, MI300X) |
pcie |
16-64 GB/s | GPU grand public, configurations mixtes |
neurobrix info --hardware my-custom
neurobrix serve --model <name> --hardware my-custom
Si le profil comporte des erreurs, NeuroBrix plante avec un message explicite (ZERO FALLBACK — aucune valeur par défaut silencieuse).
--hardwareSuivant : Guide du service
© 2025–2026 Hocine Benkelaya. NeuroBrix engine released under the Apache License 2.0.
Developed by Hocine Benkelaya · Supported and funded by Neural Network Holding Ltd · Commercial distribution by WizWorks OÜ
Source de la documentation : GitLab