Els perfils de maquinari diuen a NeuroBrix exactament com és la vostra màquina: GPU, CPU, memòria, interconnexions. El solucionador Prism llegeix el perfil i tria automàticament la millor estratègia d'execució.
Per defecte, NeuroBrix detecta automàticament tot el maquinari de la vostra màquina:
neurobrix serve --model <name>
# Auto-detects all GPUs, CPU, interconnects
Escriviu un perfil personalitzat quan vulgueu:
Penseu en els perfils com una manera de reservar una part de la vostra màquina per a una instància concreta de NeuroBrix. Podeu executar diverses instàncies a la mateixa màquina, cadascuna amb el seu propi perfil apuntant a GPU diferents.
neurobrix serve --model <name> --hardware v100-32g
neurobrix serve --model <name> --hardware my-custom-profile
Aquests identificadors de perfil es distribueixen amb el motor i es poden passar a --hardware:
| Família | Identificadors de perfil |
|---|---|
| NVIDIA per a centres de dades | a100-40g, a100-80g, a10-24g, h100-80g, l40s-48g, t4-16g, v100-16g, v100-32g |
| NVIDIA de consum | rtx2080ti-11g, rtx3060-12g, rtx3080-10g, rtx3090-24g, rtx4080-16g, rtx4090-24g |
| CPU | cpu-only-x86 |
També s'inclouen variants multi-GPU d'alguns d'aquests. Llisteu els identificadors exactes instal·lats a la vostra màquina mirant al directori de perfils de sota.
Un perfil inclòs no és una promesa que el maquinari executi: vegeu els tres nivells d'honestedat a Suport de maquinari. Només Volta està marcada com a validada empíricament.
Els perfils són fitxers YAML dins del paquet del motor:
neurobrix/config/hardware/ # inside the installed package
├── default.yml # Auto-generated by detection (default-cpu.yml with no GPU)
├── v100-32g.yml # Bundled
├── ...
└── my-custom.yml # Your custom profile
Utilitzeu el nom del fitxer (sense .yml) com a argument de --hardware.
El cas d'ús més habitual: teniu 4 GPU i només en voleu dedicar una a NeuroBrix:
id: single-v100-32g
preferred_dtype: float16
summary:
total_gpus: 1
total_vram_gb: 32.0
total_ram_gb: 251.5
topology: Single-GPU
cpu:
model: "Intel(R) Xeon(R) Gold 6230 CPU @ 2.10GHz"
cores: 40
threads: 80
ram_mb: 257530
architecture: x86_64
features: [avx2, avx512f, fma]
devices:
- index: 0
brand: nvidia
model: Tesla V100-SXM2-32GB
memory_mb: 32768
compute_capability: "7.0"
supports_dtypes: [float32, float16]
architecture: volta
pcie_version: "3.0"
notes: "Single V100 32GB — other GPUs reserved for training"
Ara podeu executar un segon model a les GPU restants, o mantenir-les lliures per a entrenament.
Perfil multi-GPU complet amb interconnexió NVLink:
id: my-2xv100-32g
vendor: dell
preferred_dtype: float16
summary:
total_gpus: 2
total_vram_gb: 64.0
total_ram_gb: 251.5
topology: Multi-GPU
cpu:
model: "Intel(R) Xeon(R) Gold 6230 CPU @ 2.10GHz"
cores: 40
threads: 80
ram_mb: 257530
architecture: x86_64
features: [fma, avx2, avx512f, avx512_vnni]
devices:
- index: 0
brand: nvidia
model: Tesla V100-SXM2-32GB
memory_mb: 32768
compute_capability: "7.0"
supports_dtypes: [float32, float16]
architecture: volta
pcie_version: "3.0"
- index: 1
brand: nvidia
model: Tesla V100-SXM2-32GB
memory_mb: 32768
compute_capability: "7.0"
supports_dtypes: [float32, float16]
architecture: volta
pcie_version: "3.0"
interconnect:
groups:
- index: 0
members: [0, 1]
type: full_mesh
tech: nvlink
bandwidth_gbps: 300
pcie_fallback:
version: "3.0"
lanes: 16
bandwidth_gbps: 32
notes: "2 x V100 SXM2 32GB with NVLink, Dell C4140"
NeuroBrix gestiona configuracions de GPU heterogènies. Prism col·loca els components més grans a la GPU més gran:
devices:
- index: 0
brand: nvidia
model: Tesla V100-SXM2-16GB
memory_mb: 16384
compute_capability: "7.0"
supports_dtypes: [float32, float16]
architecture: volta
- index: 1
brand: nvidia
model: Tesla V100-SXM2-32GB
memory_mb: 32768
compute_capability: "7.0"
supports_dtypes: [float32, float16]
architecture: volta
Per a desenvolupament o models petits:
id: cpu-workstation
preferred_dtype: float32
summary:
total_gpus: 0
total_vram_gb: 0
total_ram_gb: 32.0
topology: CPU-Only
cpu:
model: "AMD Ryzen 9 7950X"
cores: 16
threads: 32
ram_mb: 32768
architecture: x86_64
features: [avx2, fma]
devices: []
notes: "CPU-only workstation, no discrete GPU"
| Camp | Obligatori | Descripció |
|---|---|---|
id |
Sí | Identificador únic del perfil |
vendor |
No | Fabricant de la màquina (dell, supermicro, etc.) |
preferred_dtype |
Sí | Dtype de càlcul per defecte |
summary |
Sí | Estadístiques ràpides per a la visualització i pistes per al solucionador |
cpu |
Sí | Informació de la CPU |
devices |
Sí | Llista de dispositius GPU ([] buit per a només CPU) |
interconnect |
No | Enllaços entre GPU (ometeu-lo per a una sola GPU o només CPU) |
pcie_fallback |
No | Especificacions PCIe per a la comunicació entre grups |
| Maquinari | Recomanat | Per què |
|---|---|---|
| V100, T4, RTX 20 | float16 |
Sense suport de bf16 |
| A100, RTX 30/40 | float16 o bfloat16 |
Tots dos funcionen, bf16 evita el desbordament |
| H100, H200 | bfloat16 |
Nuclis tensorials bf16 natius |
| CPU (genèrica) | float32 |
Sense acceleració de mitja precisió |
| CPU amb AMX | bfloat16 |
Multiplicació de matrius bf16 per maquinari |
Advertència: Sense
preferred_dtype, Prism pot assignar fp32 a un model construït en fp32, malgastant memòria i rendiment. Definiu-lo per al vostre maquinari.
| Tecnologia | Amplada de banda típica | Cas d'ús |
|---|---|---|
nvlink |
300-900 GB/s | GPU de servidor (V100 SXM, A100, H100) |
xgmi |
200-400 GB/s | AMD Instinct (MI250X, MI300X) |
pcie |
16-64 GB/s | GPU de consum, configuracions mixtes |
neurobrix info --hardware my-custom
neurobrix serve --model <name> --hardware my-custom
Si el perfil té errors, NeuroBrix falla amb un missatge explícit (ZERO FALLBACK — cap valor per defecte silenciós).
--hardwareSegüent: Guia de servei
© 2025–2026 Hocine Benkelaya. NeuroBrix engine released under the Apache License 2.0.
Developed by Hocine Benkelaya · Supported and funded by Neural Network Holding Ltd · Commercial distribution by WizWorks OÜ
Font de la documentació: GitLab