2026年09月22日

【AI存储】

2026年9月21日，在CCF全国信息存储技术学术会议上，中科曙光正式发布全新迭代升级的AI推理原生存储FN Neo。这款产品的核心定位是用一套存储解决中小规模算力集群的本地化部署需求，同时兼顾未来扩展。实测数据显示，FN Neo单阵列带宽可达160GB/s、亚毫秒级时延，延迟表现、吞吐量和多请求并发数相比传统本地NVMe方案均有约2倍提升。该方案实现模型首Token响应时间缩减73%，整体Token吞吐能力提升150%，在AI Coding场景下Token输出效率相比完全不卸载可提升6倍以上。

FN Neo的技术创新集中在四个核心能力上。第一是原生三协议一体化直出，在统一数据存储池基座上直接提供SAN、NAS和KV原生语义，协议栈最短，避免层层叠加带来的时延。第二是高性能表现，单阵列25盘位可输出160GB/s带宽和300万综合业务IOPS。第三是极致可靠性，继承FlashNexus系列集中式全闪能力，提供99.999%高可靠运行保障。第四是灵活扩展，控制器可扩展至1024个，支持数据中心级大规模推理应用。基础款为2U、25盘位双控阵列，搭载两颗国产高主频CPU，支持标准IB卡、NVMe网络以及曙光基于IB协议自研的原生RDMA和RoCE协议。

在KV Cache实现上，FN Neo选择从存储直出原生KV语义，这是与传统方案的核心差异点。相比通过文件系统接口回读回写KV Cache，原生KV协议更极简，操作可控制在纳秒和亚毫秒级别。产品通过高效空间管理机制让元数据基本保持在缓存中，基于cache line检索加速，一次KV定位可在300ns以内完成。原生KV协议不仅适配曙光ParaCache组件，也可对接LMCache、HiCache或作为Mooncake的KV后端。客户端为全用户态组件，对计算节点应用基本无感知，结合GPU对后端存储的GDR能力可实现GPU直通后端存储的极简快速访问。

产品还引入了超级隧道技术，它一方面对CPU核心、内存、网络、硬盘等硬件资源做极致编排和隔离，避免热点和木桶效应；另一方面通过去除不可控操作系统、ByPass、自定义内存操作、协程、无锁原生语义和看板机制，解决软件竞争与排队问题。再叠加XNIO、XDIO零拷贝和三级负载均衡，用户只需定义一个卷就能发挥整个阵列的极致性能。在可靠性保障方面，通过全局镜像缓存、RAID-0C、自动缩列修复、亚健康盘和慢盘自动隔离等机制，保障推理业务7x24小时不间断运行，并针对P99和P99.9等尾延迟敏感需求提供稳定可预测的低延迟。

从应用场景来看，FN Neo重点面向智能体推理和AI Coding两类快速增长的工作负载。随着大模型应用从单次命令式交互演变为持续多轮对话和复杂任务编排，上下文不断增长，KV Cache如果不卸载到存储层，GPU就会重复计算，成本非常高。以典型的AI Coding工程为例，上下文甚至达到上百兆量级。单节点8卡计算节点测试DeepSeek R1模型时，通过KV Cache卸载可实现7至12倍不同上下文的性能提升。使用共享NAS单卷可提供至少70GB/s文件协议访问能力，相比本地盘7至10GB/s的上限提升10倍以上。

在生态方面，FN Neo坚持三重开放策略。推理框架层面兼容vLLM、SGLang、LMCache、HiCache和Mooncake等主流框架。组网层面适配RoCE、IB、国产400G IB、FC和IP SAN，可同时服务多种GPU与网络组合方案。操作系统层面兼容多种主流系统包括信创环境。产品不改内核态，提供纯轻量级用户态客户端组件作为中间件连接存储与大模型，企业无需大规模改造现有推理环境。对于私有化部署的中小规模算力企业，一台基础版即可满足核心KV Cache卸载诉求，后续可横向或纵向扩展，打的就是极致性价比。

来源：TechWeb  查看原文

扫码关注金支点公众号，获取每日行业报告