寒武纪今日宣布,基于自研NeuWare软件生态与vLLM框架,已完成对深度求索公司最新大模型DeepSeek-V4的“Day 0”适配,适配代码同步开源。这是寒武纪连续第二次在DeepSeek新模型发布首日便推出国产芯片适配方案。
针对DeepSeek-V4全新结构,寒武纪通过自研高性能融合算子库Torch-MLU-Ops,对Compressor、mHC等模块专项加速;并运用BangC编程语言编写稀疏/压缩Attention、GroupGemm等热点算子的极致优化Kernel,充分释放硬件底层潜力。此前双方通过软硬件协同优化,已实现业界领先的算力利用率。
DeepSeek-V4预览版同步上线并开源,拥有百万字超长上下文,Agent能力与推理性能表现突出。DeepSeek-V4原生运行于寒武纪芯片,对中国AI产业具有里程碑意义。
最近更新日本岩手县山火持续蔓延 资讯
冬季游逐渐升温 四川文旅深度融合成旅游新热点 12-24 08:01:24
前三季度我国服务进出口总额同比增长18.2% 12-24 07:57:34
张庭夫妇96套房产查封后又被解封 张庭林瑞阳现状最新消息 12-20 10:18:04
黄旭熙solo告吹 3月20日关闭所有社交账号 12-20 10:18:22
【光明论坛】关键环节精准发力 提升乡村特色产业发展空间 12-10 09:14:22
中国泡菜,在韩国卖爆了?!盛产泡菜的国家,为何大量进口? 12-24 08:01:00