NeuroBrix detecta el hardware en el que se ejecuta cuando omites --hardware. Detectado no es soportado: la tabla siguiente indica lo que realmente se ejecuta.
| Nivel | Hardware |
|---|---|
| Validado | GPU NVIDIA (los dos motores); Apple Silicon (el motor Triton mediante Metal, el motor PyTorch mediante MPS); CPU (el motor PyTorch) |
| Experimental | GPU Intel con su runtime Level Zero: probadas por el motor Triton, aún no validadas en hardware por el laboratorio de NeuroBrix — se agradecen los informes |
| Un objetivo | GPU AMD, mediante el controlador HIP de nbxtensor: aún no validadas en una tarjeta |
| Solo reconocido | Tenstorrent, Moore Threads, Biren, Iluvatar, Hygon DCU, Cambricon |
Solo Volta (V100) está marcada como validada empíricamente en la configuración de fabricante del motor; Turing, Ampere, Ada y Hopper tienen archivos de configuración de fabricante. Una versión mínima de controlador y una capacidad de cómputo mínima: aún no está documentado.
| SO | Estado |
|---|---|
| Linux | Los dos motores |
| Windows | Los dos motores; el motor Triton necesita el controlador de la GPU y la versión de Triton para tu GPU (neurobrix doctor indica lo que falta) |
| macOS | Apple Silicon: el motor Triton mediante Metal (python -m nbxtensor install-metal), el motor PyTorch mediante MPS |
Sin --hardware, el motor sondea en orden: nvidia-smi, ROCm, xpu-smi, tt-smi, otras herramientas de fabricante, lspci y después PyTorch. Se reconocen las CPU x86_64, ARM64 y RISC-V. Un perfil detectado se escribe en default.yml dentro del paquete instalado; un proceso que no ve ninguna GPU obtiene un perfil de CPU.
Comprueba cómo ve el motor tu máquina:
neurobrix doctor
Resultado esperado: No blocking problem found y código de salida 0, o una lista de problemas con la corrección de cada uno. doctor indica si el motor Triton puede ejecutarse, la versión de PyTorch si hay una instalada y las GPU que ve el proceso; en Apple Silicon informa de la GPU de Apple (Metal). Consulta Solución de problemas.
El solucionador de hardware Prism evalúa las estrategias por orden de prioridad:
| Prioridad | Estrategia | Descripción |
|---|---|---|
| 1 | single_gpu |
Todo cabe en una sola GPU |
| 2 | lifecycle |
Gestión del ciclo de vida de los componentes |
| 3 | pipeline_parallel |
Etapas de canalización entre GPU |
| 4 | component_placement |
Componentes en GPU concretas |
| 5 | block_scatter |
Bloques del transformer entre GPU |
| 6 | weight_sharding |
Pesos fragmentados entre GPU |
| 7 | component_placement_lazy |
Colocación diferida de componentes |
| 8 | lazy_sequential |
Secuencial con carga diferida |
| 9 | zero3 |
ZeRO Stage 3 + descarga a CPU |
El solucionador estima los requisitos de memoria a partir de las cabeceras de safetensors sin cargar los tensores, lo que hace rápida la selección de estrategia.
Selección automática de dtype según el hardware:
| GPU | Dtype recomendado |
|---|---|
| V100, T4 | float16 |
| A100, serie RTX 30/40 | float16 o bfloat16 |
| H100 | bfloat16 |
| CPU | float32 |
Solo CPU es una ruta soportada: la detección de hardware selecciona un perfil de CPU y los modelos pequeños se ejecutan sin configuración. Receta de instalación: Instalar según el hardware.
El solucionador Prism analiza de forma independiente la memoria y la capacidad de cómputo de cada dispositivo, de modo que las configuraciones de GPU mixtas se gestionan con las estrategias anteriores.
Usa --hardware para nombrar un perfil:
neurobrix serve --model <org>/<Model> --hardware v100-32g
La lista de perfiles incluidos está en Perfiles de hardware.
Siguiente: Perfiles de hardware
© 2025–2026 Hocine Benkelaya. NeuroBrix engine released under the Apache License 2.0.
Developed by Hocine Benkelaya · Supported and funded by Neural Network Holding Ltd · Commercial distribution by WizWorks OÜ
Código fuente de la documentación: GitLab