يكتشف NeuroBrix العتاد الذي يعمل عليه عندما تحذف --hardware. المكتشَف ليس مدعومًا: يبيّن الجدول أدناه ما يُنفَّذ فعلًا.
| المستوى | العتاد |
|---|---|
| مُتحقَّق منه | وحدات GPU من NVIDIA (المحركان كلاهما)؛ وApple Silicon (محرك Triton عبر Metal، ومحرك PyTorch عبر MPS)؛ والمعالج المركزي (محرك PyTorch) |
| تجريبي | وحدات GPU من Intel مع بيئة تشغيل Level Zero: يجرّبها محرك Triton، ولم يتحقق منها مختبر NeuroBrix على العتاد بعد — نرحب بالتقارير |
| هدف | وحدات GPU من AMD، عبر برنامج تشغيل HIP في nbxtensor: لم يُتحقق منها على بطاقة بعد |
| مُتعرَّف عليه فقط | Tenstorrent وMoore Threads وBiren وIluvatar وHygon DCU وCambricon |
وحدها Volta (V100) موسومة بأنها مُتحقَّق منها تجريبيًا في إعدادات المصنّع بالمحرك؛ أما Turing وAmpere وAda وHopper فلها ملفات إعداد للمصنّع. الحد الأدنى لإصدار برنامج التشغيل والحد الأدنى للقدرة الحسابية: غير موثّقين بعد.
| نظام التشغيل | الحالة |
|---|---|
| Linux | المحركان كلاهما |
| Windows | المحركان كلاهما؛ يحتاج محرك Triton إلى برنامج تشغيل الـ GPU وإصدار Triton الخاص بها (يذكر neurobrix doctor ما ينقص) |
| macOS | Apple Silicon: محرك Triton عبر Metal (python -m nbxtensor install-metal)، ومحرك PyTorch عبر MPS |
دون --hardware، يفحص المحرك بالترتيب: nvidia-smi وROCm وxpu-smi وtt-smi وأدوات المصنّعين الأخرى وlspci، ثم PyTorch. تُعرَف معالجات x86_64 وARM64 وRISC-V. يُكتب ملف التعريف المكتشَف في default.yml داخل الحزمة المثبتة؛ والعملية التي لا ترى أي GPU تحصل على ملف تعريف للمعالج المركزي.
تحقق من الشكل الذي يبدو به جهازك للمحرك:
neurobrix doctor
النتيجة المتوقعة: No blocking problem found ورمز الخروج 0، أو قائمة بالمشكلات مع إصلاح كل منها. يبلّغ doctor إن كان محرك Triton قادرًا على العمل، وعن إصدار PyTorch إن كان مثبتًا، وعن وحدات GPU التي تراها العملية؛ وعلى Apple Silicon يبلّغ عن GPU من Apple (Metal). انظر استكشاف الأخطاء وإصلاحها.
يقيّم محلّل العتاد Prism الاستراتيجيات بحسب أولويتها:
| الأولوية | الاستراتيجية | الوصف |
|---|---|---|
| 1 | single_gpu |
كل شيء يتسع في GPU واحد |
| 2 | lifecycle |
إدارة دورة حياة المكوّنات |
| 3 | pipeline_parallel |
مراحل خط الأنابيب عبر عدة GPU |
| 4 | component_placement |
المكوّنات على GPU محددة |
| 5 | block_scatter |
كتل المحوّل (Transformer) عبر عدة GPU |
| 6 | weight_sharding |
الأوزان مجزّأة عبر عدة GPU |
| 7 | component_placement_lazy |
توزيع كسول للمكوّنات |
| 8 | lazy_sequential |
تسلسلي مع تحميل كسول |
| 9 | zero3 |
ZeRO Stage 3 + تفريغ إلى المعالج المركزي |
يقدّر المحلّل متطلبات الذاكرة من ترويسات safetensors دون تحميل التنسورات، مما يجعل اختيار الاستراتيجية سريعًا.
اختيار تلقائي لنوع البيانات بحسب العتاد:
| GPU | نوع البيانات الموصى به |
|---|---|
| V100, T4 | float16 |
| A100، سلسلة RTX 30/40 | float16 أو bfloat16 |
| H100 | bfloat16 |
| المعالج المركزي | float32 |
المعالج المركزي فقط مسار مدعوم: يختار اكتشاف العتاد ملف تعريف للمعالج المركزي وتعمل النماذج الصغيرة دون إعداد. وصفة التثبيت: التثبيت حسب العتاد.
يحلّل محلّل Prism ذاكرة كل جهاز وقدرته الحسابية بشكل مستقل، لذلك تُعالَج إعدادات GPU المختلطة بالاستراتيجيات أعلاه.
استخدم --hardware لتسمية ملف تعريف:
neurobrix serve --model <org>/<Model> --hardware v100-32g
قائمة ملفات التعريف المرفقة في ملفات تعريف العتاد.
التالي: ملفات تعريف العتاد
© 2025–2026 Hocine Benkelaya. NeuroBrix engine released under the Apache License 2.0.
Developed by Hocine Benkelaya · Supported and funded by Neural Network Holding Ltd · Commercial distribution by WizWorks OÜ
مصدر التوثيق: GitLab