无需GPU纯CPU推理!阿里玄铁C950芯片完成历史首秀
今日阿里巴巴达摩院迎来里程碑时刻——今年3月发布的RISC-V旗舰CPU玄铁C950,成功原生运行通义千问3.8-27B大模型。这是RISC-V架构芯片首次在不依赖GPU、无需任何模拟层或二进制翻译技术的前提下,直接驱动270亿参数级别的AI大模型。
玄铁C950基于5nm先进工艺打造,是一颗64位服务器级RISC-V处理器。芯片集成64个高性能计算核心,每8核一组通过高速AMBA CHI总线互联,最高主频达3.2GHz。芯片内部直接集成了专为AI推理负载优化的矩阵加速引擎与向量加速引擎。该芯片采用8指令译码宽度和16级流水线设计,访存带宽较上一代玄铁C920提升4倍以上。在SPECint2006整数性能基准测试中,单核得分突破70分,刷新全球RISC-V CPU性能纪录。
在实际运行表现方面,玄铁C950运行通义千问3.8-27B模型时,解码速度达到每秒30个token,首Token延迟控制在1.9秒以内。相比之下,传统方案运行同等规模模型通常需要16GB至24GB独立显存支持。玄铁C950仅靠CPU本体加片上加速引擎即可完成推理,无需外接独立显卡。
在生态层面,RISC-V的开源特性赋予其独特的战略优势。与依赖x86或ARM架构需要支付高昂授权费用的模式不同,阿里巴巴同时掌控千问模型家族、云计算基础设施和玄铁芯片架构,实现了从芯片设计到模型推理的全链条自主可控。
玄铁C950的成功首秀,标志着开源RISC-V架构正式迈入服务器级高性能AI计算领域,为AI基础设施的多元化发展开辟了全新道路。