芯展速李蓁：内存墙下，存储正从算力附属品转向核心底座

事件概述

在AI推理时代，尽管GPU单精度算力在过去二十年提升了四个数量级以上，但显存带宽与容量的线性增长已无法匹配算力的狂奔速度。芯展速副总裁李蓁指出，当大模型参数跨过千亿级、上下文窗口扩展至百万Token以及Agent应用批量兴起时，旧有的供给体系难以满足新需求，存储正从幕后的数据仓库走向台前，成为决定AI体验上限的关键变量。

核心信息

1. “内存墙”导致算力空转

• 瓶颈显现：AI是基于数据实现的智能化应用，数据的规模、处理速度与流动效率直接决定智能体的智能化程度。当前常见的问题是GPU因等待数据而陷入空转，而非单纯的计算速度慢。
• 数据流转重要性：数据如同石油，需经过顺畅的链路流转和处理才能转化为生产力。在AI全链路（采集、清洗、训练、检索、推理、反馈）中，若数据流动受阻，再强的算力也无法发挥作用。

2. 传统分层存储逻辑失效

• 痛点分析：过去几十年主流的分层存储方案（热数据高性能、冷数据低成本）在AI时代面临失效风险。其核心痛点在于数据跨层搬运产生的隐形损耗，导致GPU长时间等待，设备持续上电却无产出，增加了用户成本。
• 运维复杂度：多套系统、多类介质对应不同分层，使得架构设计、软件开发与日常运维的复杂度指数级上升，且存在可靠性低、安全性不足等问题。

3. “架构之上无分层”解决方案

• 协同模式：芯展速与VAST Data合作，面向云端AI存储提出“架构之上无分层”解决方案。上层构建统一数据平台，应用仅看到一套系统和一份数据，无需感知底层介质差异；底层通过介质精准分工承担不同角色。
• 介质组合策略：芯展速围绕写入缓冲、容量经济性和关键负载性能三个角色，采用以下产品组合支撑无分层架构：
  • SCM (Storage Class Memory)：承担低延迟、高耐久的写入缓冲与全局状态持久化。
  • QLC (Quad-Level Cell)：主打海量数据的容量经济性。
  • TLC (Triple-Level Cell)：保障高并发关键负载的性能弹性。

值得关注

• 未来趋势：未来三到五年，数据存储将呈现下沉与分化趋势。定制化模型与数据将在本地存储与处理，以存强算、存算协同的边缘与端侧场景将成为新的增长主线。
• 行业挑战：AI数据增长速度远超预期，对存储性能、容量、耐久度要求持续提升，无分层架构优化仍有长路要走。同时，行业周期波动要求企业在技术投入与稳健节奏之间找到平衡，避免盲目堆砌技术。