تُقدّم EdgeCortix معالج SAKURA-II، وهو مُسرّع ذكاء اصطناعي مُصمّم للحوسبة الطرفية، يتميّز بأداءٍ مُذهل يصل إلى 60 تيرابايت في الثانية (INT8) واستهلاكٍ منخفض للطاقة يبلغ 8 واط. صُمّمت هذه الشريحة خصيصًا لمهام الذكاء الاصطناعي المُعقّدة، مثل معالجة نماذج اللغة الكبيرة (LLM) ونماذج الرؤية الكبيرة (LVM) والتطبيقات متعددة الوسائط القائمة على المحوّلات، بالإضافة إلى تطبيقات الحوسبة الطرفية مثل أجهزة إنترنت الأشياء والمركبات ذاتية القيادة.
يُوفر هذا النظام مرونةً في تصميم المكونات، مما يسمح بدمجه في بطاقات توسعة PCIe باستخدام شريحة واحدة أو شريحتين من SAKURA-II ، أو في وحدات M.2 2280 (واجهة PCIe x8 أو x16) حسب الرغبة. وبالتالي، يمكن أن تصل الأداء إلى 120 تيرابايت في الثانية مع معالج INT8 أو 60 تيرابايت في الثانية مع معالج BF16.
توفر منصة الذكاء الاصطناعي أيضًا مكونًا برمجيًا متطورًا، يضم مجموعة أدوات MERA للبرمجة والتحسين، ومنصة بناء متعددة الاستخدامات، وتقنيات تكميم متقدمة، وقدرات معايرة النماذج. كما تتميز بتكاملها مع أطر التطوير الشائعة مثل PyTorch وTensorFlow Lite وONNX، بالإضافة إلى إمكانية الوصول إلى مكتبة شاملة من أحدث نماذج التحويل والالتفاف.
علاوة على ذلك، فكرت شركة EdgeCortix أيضًا في تطوير تصميمات مسرعات الذكاء الاصطناعي الخاصة بها، مما يجعلها قابلة للتكامل مع أنظمة SoC من شركات أخرى، مثل AMD.
المواصفات الفنية لـ IA SAKURA-II
المواصفات الفنية لجهاز EdgeCortix SAKURA-II هي كالتالي:
- وحدة NPU مزودة ببنية DNA-II أو الجيل الثاني من المسرع العصبي الديناميكي.
- أداء يصل إلى 60 TOPS مع INT8 أو 30 TFLOPS مع BF16.
- ذاكرة DRAM مزدوجة القناة 64 بت من نوع LPDDR4x (8 جيجابايت، 16 جيجابايت، 32 جيجابايت على اللوحة) مع عرض نطاق يصل إلى 68 جيجابايت/ثانية.
- ذاكرة SRAM مدمجة بسعة 20 ميجابايت.
- كفاءة استخدام تصل إلى 90%، مع استهلاك طاقة 8 وات.
- التعبئة والتغليف بغا.
إذا أشرنا إلى وحدة SAKURA-II ذات تنسيق M.2 ، فسنحصل على ما يلي:
- ذاكرة الرام
- 8 جيجابايت (2x بنك LPDDR4 بسعة 4 جيجابايت)
- 16 جيجابايت (2x بنك LPDDR8 بسعة 4 جيجابايت)
- واجهة PCIe Gen 3.0x4
- أقصى أداء يبلغ 60 TOPS على INT8، و30 TFLOPS على BF16
- قوة الوحدة 10 واط
- الأبعاد M.2 2280 (22x80 ملم)
بالنسبة لبطاقة التوسعة PCIe ، فإن مواصفات مُسرِّع الذكاء الاصطناعي هي كما يلي:
- واجهة PCIe Gen 3.0x8
- لطراز SAKURA-II ذو الشريحة الواحدة:
- ذاكرة DRAM سعة 16 جيجابايت (2x بنك LPDDR8 بسعة 4 جيجابايت)
- أداء 60 TOPS على INT8، و30 TFLOPS على BF16
- قوة 10 واط.
- للطراز الذي يحتوي على شريحتين SAKURA-II:
- ذاكرة DRAM سعة 32 جيجابايت (2x بنك LPDDR16 بسعة 4 جيجابايت)
- أداء 120 TOPS على INT8، و60 TFLOPS على BF16
- قوة 20 واط
- فتحة 1x
- يشمل غرفة التبريد
أما بالنسبة للأسعار ، إذا كنت تتساءل، فستصل ابتداءً من الربع الثاني من عام 2024 مع:
- M.2 8 جيجابايت: 249 دولارًا
- M.2 16 جيجابايت: 299 دولارًا
- PCIe 1xSAKURA-II: 429 دولارًا
- PCIe 2xSAKURA-II: 749 دولارًا