Los perfiles de hardware le dicen a NeuroBrix exactamente cómo es tu máquina: GPU, CPU, memoria, interconexiones. El solucionador Prism lee el perfil y elige automáticamente la mejor estrategia de ejecución.
Por defecto, NeuroBrix detecta automáticamente todo el hardware de tu máquina:
neurobrix serve --model <name>
# Auto-detects all GPUs, CPU, interconnects
Escribe un perfil personalizado cuando quieras:
Piensa en los perfiles como una forma de reservar una porción de tu máquina para una instancia concreta de NeuroBrix. Puedes ejecutar varias instancias en la misma máquina, cada una con su propio perfil dirigido a GPU distintas.
neurobrix serve --model <name> --hardware v100-32g
neurobrix serve --model <name> --hardware my-custom-profile
Estos ids de perfil se distribuyen con el motor y se pueden pasar a --hardware:
| Familia | Ids de perfil |
|---|---|
| NVIDIA centro de datos | a100-40g, a100-80g, a10-24g, h100-80g, l40s-48g, t4-16g, v100-16g, v100-32g |
| NVIDIA consumo | rtx2080ti-11g, rtx3060-12g, rtx3080-10g, rtx3090-24g, rtx4080-16g, rtx4090-24g |
| CPU | cpu-only-x86 |
También se distribuyen variantes multi-GPU de algunos de ellos. Consulta los ids exactos instalados en tu máquina mirando en el directorio de perfiles de más abajo.
Un perfil incluido no es una promesa de que el hardware se ejecute: consulta los tres niveles de honestidad en Soporte de hardware. Solo Volta está marcada como validada empíricamente.
Los perfiles son archivos YAML en el paquete del motor:
neurobrix/config/hardware/ # inside the installed package
├── default.yml # Auto-generated by detection (default-cpu.yml with no GPU)
├── v100-32g.yml # Bundled
├── ...
└── my-custom.yml # Your custom profile
Usa el nombre del archivo (sin .yml) como argumento de --hardware.
El caso de uso más habitual: tienes 4 GPU y quieres dedicar solo una a NeuroBrix:
id: single-v100-32g
preferred_dtype: float16
summary:
total_gpus: 1
total_vram_gb: 32.0
total_ram_gb: 251.5
topology: Single-GPU
cpu:
model: "Intel(R) Xeon(R) Gold 6230 CPU @ 2.10GHz"
cores: 40
threads: 80
ram_mb: 257530
architecture: x86_64
features: [avx2, avx512f, fma]
devices:
- index: 0
brand: nvidia
model: Tesla V100-SXM2-32GB
memory_mb: 32768
compute_capability: "7.0"
supports_dtypes: [float32, float16]
architecture: volta
pcie_version: "3.0"
notes: "Single V100 32GB — other GPUs reserved for training"
Ahora puedes ejecutar un segundo modelo en las GPU restantes, o mantenerlas libres para entrenar.
Perfil multi-GPU completo con interconexión NVLink:
id: my-2xv100-32g
vendor: dell
preferred_dtype: float16
summary:
total_gpus: 2
total_vram_gb: 64.0
total_ram_gb: 251.5
topology: Multi-GPU
cpu:
model: "Intel(R) Xeon(R) Gold 6230 CPU @ 2.10GHz"
cores: 40
threads: 80
ram_mb: 257530
architecture: x86_64
features: [fma, avx2, avx512f, avx512_vnni]
devices:
- index: 0
brand: nvidia
model: Tesla V100-SXM2-32GB
memory_mb: 32768
compute_capability: "7.0"
supports_dtypes: [float32, float16]
architecture: volta
pcie_version: "3.0"
- index: 1
brand: nvidia
model: Tesla V100-SXM2-32GB
memory_mb: 32768
compute_capability: "7.0"
supports_dtypes: [float32, float16]
architecture: volta
pcie_version: "3.0"
interconnect:
groups:
- index: 0
members: [0, 1]
type: full_mesh
tech: nvlink
bandwidth_gbps: 300
pcie_fallback:
version: "3.0"
lanes: 16
bandwidth_gbps: 32
notes: "2 x V100 SXM2 32GB with NVLink, Dell C4140"
NeuroBrix gestiona configuraciones de GPU heterogéneas. Prism coloca los componentes más grandes en la GPU mayor:
devices:
- index: 0
brand: nvidia
model: Tesla V100-SXM2-16GB
memory_mb: 16384
compute_capability: "7.0"
supports_dtypes: [float32, float16]
architecture: volta
- index: 1
brand: nvidia
model: Tesla V100-SXM2-32GB
memory_mb: 32768
compute_capability: "7.0"
supports_dtypes: [float32, float16]
architecture: volta
Para desarrollo o modelos pequeños:
id: cpu-workstation
preferred_dtype: float32
summary:
total_gpus: 0
total_vram_gb: 0
total_ram_gb: 32.0
topology: CPU-Only
cpu:
model: "AMD Ryzen 9 7950X"
cores: 16
threads: 32
ram_mb: 32768
architecture: x86_64
features: [avx2, fma]
devices: []
notes: "CPU-only workstation, no discrete GPU"
| Campo | Obligatorio | Descripción |
|---|---|---|
id |
Sí | Identificador único del perfil |
vendor |
No | Fabricante de la máquina (dell, supermicro, etc.) |
preferred_dtype |
Sí | Dtype de cálculo por defecto |
summary |
Sí | Estadísticas rápidas para mostrar y pistas para el solucionador |
cpu |
Sí | Información de la CPU |
devices |
Sí | Lista de dispositivos GPU ([] vacío para solo CPU) |
interconnect |
No | Enlaces entre GPU (omítelo para una sola GPU o solo CPU) |
pcie_fallback |
No | Especificaciones PCIe para la comunicación entre grupos |
| Hardware | Recomendado | Por qué |
|---|---|---|
| V100, T4, RTX 20 | float16 |
Sin soporte de bf16 |
| A100, RTX 30/40 | float16 or bfloat16 |
Ambos funcionan, bf16 evita el desbordamiento |
| H100, H200 | bfloat16 |
Tensor cores bf16 nativos |
| CPU (genérica) | float32 |
Sin aceleración de media precisión |
| CPU con AMX | bfloat16 |
Multiplicación matricial bf16 por hardware |
Advertencia: Sin
preferred_dtype, Prism puede asignar fp32 a un modelo construido en fp32, desperdiciando memoria y rendimiento. Defínelo para tu hardware.
| Tecnología | Ancho de banda típico | Caso de uso |
|---|---|---|
nvlink |
300-900 GB/s | GPU de servidor (V100 SXM, A100, H100) |
xgmi |
200-400 GB/s | AMD Instinct (MI250X, MI300X) |
pcie |
16-64 GB/s | GPU de consumo, configuraciones mixtas |
neurobrix info --hardware my-custom
neurobrix serve --model <name> --hardware my-custom
Si el perfil tiene errores, NeuroBrix se detiene con un mensaje explícito (ZERO FALLBACK: sin valores por defecto silenciosos).
--hardwareSiguiente: Guía de servicio
© 2025–2026 Hocine Benkelaya. NeuroBrix engine released under the Apache License 2.0.
Developed by Hocine Benkelaya · Supported and funded by Neural Network Holding Ltd · Commercial distribution by WizWorks OÜ
Código fuente de la documentación: GitLab