2024多样性算力产业峰会：江波龙FORESEE解码AI存储方案的未来之路

时间： 2024-06-29 来源：FORESEE（江波龙电子公众号）

技术问答

选型帮助

研发客服

商务客服

企业级存储,QLC SSD,企业级PCIe 4.0 NVMe SSD,企业级SATA SSD

2024年6月18日，多样性算力产业峰会2024在北京圆满举行，江波龙企业级存储事业部市场总监曹浔峰受邀出席本次峰会并发表了《大模型时代AI存储方案挑战与创新》主题演讲，深入探讨了多样性算力产业的发展趋势和创新应用。

曹浔峰在演讲中指出，随着AI中大语言模型人工智能参数量呈指数级增长，AI应用的复杂度也日益增加，这对AI训练过程中所需的缓存存储容量和性能提出了更高的要求。然而，尽管AI应用发展迅速，但相关的缓存硬件技术和产品的发展速度并未与之同步，这导致了AI模型训练过程中的性能瓶颈问题。曹浔峰深入分析了这一问题，并针对数据缓存、传输和存储的瓶颈提出了具体的解决方案。

在AI应用的实践中，原始数据通常需要经历精细的清洗和预处理流程，以转化为符合AI训练要求的高质量数据集。随后，这些数据集通过网络传输至AI服务器的本地SSD存储，再通过PCIe通道upload至GPU HBM缓存中进行训练。训练过程产生的中间数据量是训练初始数据的4~7倍。依靠目前GPU配备的数十GB HBM容量来存储这些数据是远远不够的，因此需要利用系统内存RDIMM或性能和延时接近的高速存储器设备作为补充。

曹浔峰指出，随着AI训练模型参数量增长至千亿或万亿级别，HBM缓存和RDIMM容量不足将会成为训练效率的瓶颈。在3D-stacked DRAM内存成本高企的情况下，采用高性能、大容量的CXL存储器或是8x GPU卡AI服务器理想的缓存优化解决方案。同时，江波龙正在预研能够支持AIC和E3.S的JBOM系统，结合即将到来支持CXL2.0的服务器系统，将为万卡AI训练集群提供更具成本效益的内存池化共享硬件解决方案。

曹浔峰还分享了对AI应用数据存储优化的思考。他提到，AI训练应用对数据存储的访问主要为顺序读写操作，而QLC在顺序读写性能上与TLC接近，且成本更低。随着PCIe Gen5带宽的提升，QLC技术能够满足训练过程中Checkpoint数据存储高带宽高并发的存储需求，因此，QLC SSD有望替代当前主流的TLC SSD，成为大语言模型AI训练应用的更优选择。

曹浔峰重点介绍了江波龙的企业级存储发展历程。经过不断地技术创新，江波龙已成功构建了完整的企业级存储布局，涵盖了NAND Flash+DRAM多颗粒类型产品，至今已经成功推出了包括企业级PCIe 4.0 NVMe SSD、企业级SATA SSD、企业级RDIMM、CXL 2.0内存拓展模块在内的多款高性能产品。

其中，江波龙今年推出的FORESEE CXL 2.0内存拓展模块，则是面向AI应用的存储优化的成果之一。一方面，该产品支持内存池化共享，能够基于24Gb SDP颗粒实现192GB大容量，相比业界同期水平实现成本大幅度下降的优势。另一方面，产品基于DDR5 DRAM开发，支持PCIe 5.0×8接口，理论带宽高达32GB/s，可与支持CXL规范及E3.S接口的背板和服务器主板实现无缝连接，并减少高昂的内存成本和闲置的内存资源，大幅提高内存利用率，从而有效拓展AI服务器的内存容量并提升带宽性能，为应用场景提供更具弹性和扩展性的存储解决方案。

在演讲的最后，曹浔峰提到了公司面向行业领先客户正在积极推进从传统产品销售模式向TCM（Technology Contract Manufacture，技术合约制造）合作模式的转型升级。这一转型旨在简化存储晶圆厂与终端客户之间的沟通流程，解决因中间环节繁杂而导致的“断层”问题，并有效应对下游应用市场对存储产品的多样化、定制化和创新化需求。通过TCM合作模式，江波龙将基于上游存储晶圆厂或下游Tier1客户的产品需求，高效完成存储产品的一站式交付，从而提高存储产业链从原厂、产品开发、封装测试、产品制造到行业应用的效率和效益。

多样性算力产业正迎来高速发展的黄金时期，创新技术层出不穷，新业态和新模式竞相迸发。在这一进程中，存储技术扮演着至关重要的角色。江波龙将持续为计算产业发展贡献新的动力，开创更多的合作机会，共同塑造计算产业的新未来。

发送到邮箱 |
+1 赞 0
收藏
评论 0
| 转发至：

本文由犀牛先生转载自FORESEE（江波龙电子公众号），原文标题为:2024多样性算力产业峰会：江波龙解码AI存储方案的未来之路，本站所有转载文章系出于传递更多信息之目的，且明确注明来源，不希望被转载的媒体或个人可与我们联系，我们将立即进行删除处理。

全部评论（0）

暂无评论

FORESEE江波龙加入正式龙蜥社区，共拓存储产业生态体系

近日，深圳市江波龙电子股份有限公司（FORESEE）签署了CLA，正式加入龙蜥社区（OpenAnolis）。目前，包括FORESEE DDR5 RDIMM、FORESEE UNCIA 3836 SATA eSSD等多款企业级产品已完成与龙蜥操作系统的适配，并成功进入社区官网AVL列表。同时，FORESEE更多产品的适配工作也正在稳步推进中。

厂牌及品类发布时间 : 2024-05-31

江波龙亮相第十八届CPSE安博会，展示应用于智慧安防行业的存储产品和成功案例

安博会现场，深耕行业市场的存储品牌FORESEE分享了一系列可应用于智慧安防行业的存储产品和成功案例，其中涵盖了FORESEE全系列存储产品，包括以“小型化智能化”为核心优势的Subsize eMMC、UFS等；以宽温耐用见长的车规级eMMC、工规级SSD等。

厂牌及品类发布时间 : 2023-02-08

江波龙荣登《财富》中国科技50强，成榜单中唯一半导体存储品牌企业

2024年8月21日，全球知名商业杂志《财富》于今年首度推出“《财富》中国科技50强”榜单，试图找到出生在中国、正在影响世界的科技公司。深圳市江波龙电子股份有限公司（FORESEE）凭借其核心技术、企业规模和全球产业链布局等优势，在上千家企业中脱颖而出，荣登榜单，并成为该榜单中唯一入选的半导体存储品牌企业。

厂牌及品类发布时间 : 2024-08-29

江波龙企业级存储正式量产一周年，交出亮眼“成绩单”

自2023年1月江波龙首次发布企业级存储产品FORESEE ORCA 4836系列NVMe SSD与FORESEE UNCIA 3836系列SATA 3.2 SSD以来，企业级存储产品于过去的一年中，在技术研发和市场应用中取得了显著成果。随着创新技术不断涌现，江波龙将持续加大研发投入，积极探索企业级存储技术创新应用。

产品发布时间 : 2024-02-09

江波龙精彩亮相CITE2024，旗下企业级NVMe SSD揽获创新奖项，打造先进企业级数据中心存储

2024年4月9日，以“追求卓越数创未来”为主题的第十二届电子信息博览会（CITE2024）在深圳召开。本届博览会期间重磅发布了第十二届中国电子信息博览会创新奖评选结果，江波龙（FORESEE）凭借“FORESEE ORCA 4836系列企业级NVMe SSD”高端产品揽获该奖项。江波龙企业级存储市场总监曹浔峰受邀参加本届博览会并发表“打造先进企业级数据中心存储”主题演讲。

厂牌及品类发布时间 : 2024-04-17

UNCIA 3836系列企业级 SATA SSD

型号- UNCIA 3836,UNCIA 3836系列

数据手册 - FORESEE - 2024/2/6 PDF 中文下载

COMPUTEX 2024“AI串联共创未来”，江波龙存储矩阵全面出击，展示一系列业内创新产品

6月4日至7日，江波龙旗下国际高端消费类存储品牌Lexar（雷克沙）、元信电子、专注于传统定制化业务的子公司迈仕渡电子将在COMPUTEX 2024同台亮相。在这里，您将有机会亲身体验FORESEE江波龙旗下一系列业内创新产品，深入探索全方位的存储矩阵，感受其实际的应用场景。

厂牌及品类发布时间 : 2024-05-30

UNCIA 3836 Series Enterprise SATA SSD

型号- UNCIA 3836,UNCIA 3836 SERIES

数据手册 - FORESEE - 2023/9/13 PDF 英文下载查看更多版本

涨价已成定局！二季度存储市场展望

受到持续的通货膨胀和区域冲突造成的压力影响下，全球多个主要经济体表现仍充满不确定性。延滞性通胀可能拖延降息时机，连带影响经济活动的重启。尽管消费者购买力度反弹不如预期，工业应用需求却因蓬勃发展的生成式AI应用而迅速增长。面对锐不可当的AI趋势，请参考二季存储市场关键应用的市场展望和价格预测。

行业资讯发布时间 : 2024-05-07

大普微电子（DapuStor）Haishen5企业级NVMe SSD选型指南

描述- DapuStor PCIe Gen5 eSSD专注于数据中心，可满足企业IT、互联网、金融、智能制造、AI、石油、电力、能源等不同行业存储需求，帯来更强劲的性能提升，并为不同数据读写工作负载提供高效SSD解决方案。

型号- HAISHEN5,HAISHEN5系列

选型指南 - 大普微电子 - 2023/6/14 PDF 中文下载

大普微凭借出色的产品研发能力和成熟的存储解决方案成为新华三SSD产品的合作企业

大普微凭借出色的产品研发能力和成熟的存储解决方案成为了新华三SSD产品的合作企业。其中大普微PCIe 4.0企业级SSD系列产品已全面适配新华三服务器。双方在联合定制研发、存储解决方案创新、产品落地等多个方面达成合作。

厂牌及品类发布时间 : 2023-07-04

研讨会2024高算力SOC/MCU新技术研讨会

描述- 9月26日直播，带来SOC，DSP，MCU，AFE，IMU等高算力及周边产品，分享在机器人，多模态感知，AI，低空无人机，自动驾驶，视觉惯性里程计，微型逆变器，光伏储能，智慧医疗，数字健康，光模块等领域应用，点击了解报名

活动发布时间 : 2024-07-04

FORESEE存储器选型表

FORESEE存储产品有内存模块、固态硬盘、闪存、eMMC等。工规MSATA SSD，工规 SATA M.2 2242 SSD，工规 SATA M.2 2280 SSD，商规DDR3L，用于工业电脑，轨道交通，工业设备，电力设备，服务器，POS机，医疗设备等。工规PPI SLC NAND FLASH，工规NMCP，工规PPI SLC NAND FLASH，工规SPI SLC NAND FLASH，用于电视，机顶盒，网通，IPC，行车记录仪，智能手环等。车规II EMMC，车规III EMMC，应用于车载前装，智能仪表，IVI，ADAS，域控，BMS，记录仪。工规EMMC，用于耐用性消费类电子，车载后装，商显，TV，黑白家电等。工业宽温EMMC，用于工业控制，通讯基站，智能电网，车载前装。

产品型号	品类	Density（Mb、Gb、GB、TB）	Speed（MT/s、Gbps、MHz）	Voltage (V）	Memory	Temp. Range (℃)	Bus	Interface	Package	Size (mm)
FI4S26M016GSC3	DDR4 DIMM	16GB	2666MT/s	1.2V	DDR4	0℃ to 85℃	64bits	260pin	SODIMM	69.6 x 30mm