d矩阵转换为AI sram

d矩阵转换为AI sram

AI-processor启动出现了从隐形模式chiplet-based推理引擎,采用数字内存计算(IMC)运行像伯特和GPT-3变压器模型。

d矩阵是一种采用数字AI-processor启动开发chiplets内存计算(IMC)比起运行的基于变压器推理模型。首次chiplet-Nighthawk-is只是一个概念验证(PoC),但该公司的目标是规模数据中心的体系结构推理作为PCIe加速器卡片和服务器上。

夜鹰一个小小的10平方毫米死建于6 nm台积电技术,集成了四份基神经网络加速器,d矩阵称为一片以及SiFive S76 CPU控制chiplet。每个片阿波罗计算包括两个公司的核心,一个全局内存(GM)用于存储输入和输出数据,并与chiplet NoC接口连接的其他单位。阿波罗核心有八个digital-IMC单元并行操作,每个执行64 x64矩阵乘法使用各种浮点和整数格式。每个核心可以执行2048年INT8 multiply-accumulate每周期(MAC)操作,产生每秒运算33万亿次(上衣)整个chiplet 1 ghz。

夜鹰d矩阵是展示给客户,但chiplet不会进入生产。在2 h22,该公司计划向其添加第二个chiplet示范平台,叫做强盗,它将实现die-to-die接口基于开放领域特定的架构(ODSA)标准。然而,完整的产品,客户必须等到2 h23海盗船chiplet。512年设备将整合IMCs-eight倍Nighthawk-boosting性能超过200。在年底前,d矩阵将有选择地许可其设计作为一个知识产权(IP)宏的客户帮助启动它的软件生态系统。