高效端侧运算 小米推出玄戒O100 AI加速芯片 端侧算力的端侧指的是啥
摘要:小米推出自研AI加速芯片玄戒O100,据小米方面介绍,玄戒O100为6nm工艺端侧专用AI加速芯片,可与玄戒O3协同工作,提升设备端侧大模型推理速度,支持弱网、离线场景AI运算。,高效端侧运算 小米推出玄戒O100 AI加速芯片 端侧算力的端侧指的是啥

PChome 8月24日报道,小米凭借MiMo大模型的出色表现,跻身全球顶尖大模型行列。而为了发挥出大模型能力,为消费者打造更具安全性和隐私性的端侧使用体验,小米特意打造了玄戒O100自研AI加速芯片。
据小米方面介绍,玄戒O100为6nm工艺端侧专用AI加速芯片,可与玄戒O3协同工作,提升设备端侧大模型推理速度,支持弱网、离线场景AI运算。
该芯片采用3D Wafer On Wafer立体堆叠工艺与Hybrid Bonding键合技术,将两层DRAM晶圆与一层NPU计算晶圆堆叠融合,内置258万个键合节点,节点间距1.4μm,内存互联规格优于常规云端HBM方案。而这会带来史无前例的带宽与传输速度。
玄戒O100能带来16倍于常规手机的内存带宽,端侧大模型最高推理速度可达330Token/s。内置14核大模型专用NPU,搭配XRING HB-Matrix高带宽矩阵总线,提升多核心协同运算效率。
官方表示,该芯片在研发阶段完成多轮版图迭代,解决晶圆堆叠翘曲、碎裂等工艺难题,F2F金属层直连结构已获得多项技术专利。
玄戒O100目前已研发完成,将于2027年正式商用。搭载玄戒O3+玄戒O100的原型机也已经公布,其能够进行双芯片协同计算,内置风冷散热,并内置MiMo端侧模式,能够为创新的断则AI体验,提供平台级支持。
