2024多样性算力产业峰会：江波龙FORESEE解码AI存储方案的未来之路
2024年6月18日，多样性算力产业峰会2024在北京圆满举行，江波龙企业级存储事业部市场总监曹浔峰受邀出席本次峰会并发表了《大模型时代AI存储方案挑战与创新》主题演讲，深入探讨了多样性算力产业的发展趋势和创新应用。
曹浔峰在演讲中指出，随着AI中大语言模型人工智能参数量呈指数级增长，AI应用的复杂度也日益增加，这对AI训练过程中所需的缓存存储容量和性能提出了更高的要求。然而，尽管AI应用发展迅速，但相关的缓存硬件技术和产品的发展速度并未与之同步，这导致了AI模型训练过程中的性能瓶颈问题。曹浔峰深入分析了这一问题，并针对数据缓存、传输和存储的瓶颈提出了具体的解决方案。
在AI应用的实践中，原始数据通常需要经历精细的清洗和预处理流程，以转化为符合AI训练要求的高质量数据集。随后，这些数据集通过网络传输至AI服务器的本地SSD存储，再通过PCIe通道upload至GPU HBM缓存中进行训练。训练过程产生的中间数据量是训练初始数据的4~7倍。依靠目前GPU配备的数十GB HBM容量来存储这些数据是远远不够的，因此需要利用系统内存RDIMM或性能和延时接近的高速存储器设备作为补充。
曹浔峰指出，随着AI训练模型参数量增长至千亿或万亿级别，HBM缓存和RDIMM容量不足将会成为训练效率的瓶颈。在3D-stacked DRAM内存成本高企的情况下，采用高性能、大容量的CXL存储器或是8x GPU卡AI服务器理想的缓存优化解决方案。同时，江波龙正在预研能够支持AIC和E3.S的JBOM系统，结合即将到来支持CXL2.0的服务器系统，将为万卡AI训练集群提供更具成本效益的内存池化共享硬件解决方案。
曹浔峰还分享了对AI应用数据存储优化的思考。他提到，AI训练应用对数据存储的访问主要为顺序读写操作，而QLC在顺序读写性能上与TLC接近，且成本更低。随着PCIe Gen5带宽的提升，QLC技术能够满足训练过程中Checkpoint数据存储高带宽高并发的存储需求，因此，QLC SSD有望替代当前主流的TLC SSD，成为大语言模型AI训练应用的更优选择。
曹浔峰重点介绍了江波龙的企业级存储发展历程。经过不断地技术创新，江波龙已成功构建了完整的企业级存储布局，涵盖了NAND Flash+DRAM多颗粒类型产品，至今已经成功推出了包括企业级PCIe 4.0 NVMe SSD、企业级SATA SSD、企业级RDIMM、CXL 2.0内存拓展模块在内的多款高性能产品。
其中，江波龙今年推出的FORESEE CXL 2.0内存拓展模块，则是面向AI应用的存储优化的成果之一。一方面，该产品支持内存池化共享，能够基于24Gb SDP颗粒实现192GB大容量，相比业界同期水平实现成本大幅度下降的优势。另一方面，产品基于DDR5 DRAM开发，支持PCIe 5.0×8接口，理论带宽高达32GB/s，可与支持CXL规范及E3.S接口的背板和服务器主板实现无缝连接，并减少高昂的内存成本和闲置的内存资源，大幅提高内存利用率，从而有效拓展AI服务器的内存容量并提升带宽性能，为应用场景提供更具弹性和扩展性的存储解决方案。
在演讲的最后，曹浔峰提到了公司面向行业领先客户正在积极推进从传统产品销售模式向TCM（Technology Contract Manufacture，技术合约制造）合作模式的转型升级。这一转型旨在简化存储晶圆厂与终端客户之间的沟通流程，解决因中间环节繁杂而导致的“断层”问题，并有效应对下游应用市场对存储产品的多样化、定制化和创新化需求。通过TCM合作模式，江波龙将基于上游存储晶圆厂或下游Tier1客户的产品需求，高效完成存储产品的一站式交付，从而提高存储产业链从原厂、产品开发、封装测试、产品制造到行业应用的效率和效益。
多样性算力产业正迎来高速发展的黄金时期，创新技术层出不穷，新业态和新模式竞相迸发。在这一进程中，存储技术扮演着至关重要的角色。江波龙将持续为计算产业发展贡献新的动力，开创更多的合作机会，共同塑造计算产业的新未来。
- |
- +1 赞 0
- 收藏
- 评论 0
本文由犀牛先生转载自FORESEE（江波龙电子公众号），原文标题为:2024多样性算力产业峰会：江波龙解码AI存储方案的未来之路，本站所有转载文章系出于传递更多信息之目的，且明确注明来源，不希望被转载的媒体或个人可与我们联系，我们将立即进行删除处理。
相关研发服务和供应服务
相关推荐
FORESEE江波龙加入正式龙蜥社区，共拓存储产业生态体系
近日，深圳市江波龙电子股份有限公司（FORESEE）签署了CLA，正式加入龙蜥社区（OpenAnolis）。目前，包括FORESEE DDR5 RDIMM、FORESEE UNCIA 3836 SATA eSSD等多款企业级产品已完成与龙蜥操作系统的适配，并成功进入社区官网AVL列表。同时，FORESEE更多产品的适配工作也正在稳步推进中。
江波龙新品发布2xnm SLC NAND Flash，推出PTM商业模式下的全栈定制服务
展会上江波龙首次提出PTM（存储产品技术制造）商业模式，旨在通过技术定制与联合创新、高质量智能制造，以存储界的Foundry模式，为高端客户提供更具价值的全栈定制化服务，实现快速交付存储产品的目标。还特别推出了FORESEE品牌的2xnm SLC NAND Flash新品，备受瞩目。
COMPUTEX 2024“AI串联 共创未来”，江波龙存储矩阵全面出击，展示一系列业内创新产品
6月4日至7日，江波龙旗下国际高端消费类存储品牌Lexar（雷克沙）、元信电子、专注于传统定制化业务的子公司迈仕渡电子将在COMPUTEX 2024同台亮相。在这里，您将有机会亲身体验FORESEE江波龙旗下一系列业内创新产品，深入探索全方位的存储矩阵，感受其实际的应用场景。
UNCIA 3836系列企业级SATA固态硬盘
描述- UNCIA 3836系列企业级SATA SSD支持SATA3.2接口，提供高达3.84TB的容量和560MB/s的顺序读取速度。该系列SSD具备多种高级功能，包括增强的电源保护、端到端数据保护和固件升级等，适用于互联网、云计算、金融等行业。产品具有出色的性能、可靠的数据存储和低功耗特点，适用于服务器、分布式存储、边缘计算和工作站等多种应用场景。
型号- UNCIA 3836,UNCIA 3836 SERIES
江波龙荣登《财富》中国科技50强，成榜单中唯一半导体存储品牌企业
2024年8月21日，全球知名商业杂志《财富》于今年首度推出“《财富》中国科技50强”榜单，试图找到出生在中国、正在影响世界的科技公司。深圳市江波龙电子股份有限公司（FORESEE）凭借其核心技术、企业规模和全球产业链布局等优势，在上千家企业中脱颖而出，荣登榜单，并成为该榜单中唯一入选的半导体存储品牌企业。
Orca 4836系列企业级NVMe固态硬盘
描述- ORCA 4836系列企业级NVMe SSD采用PCIe Gen4 U.2接口，支持NVMe 1.4，提供高达7.68TB的容量和高达1000K IOPS的随机读取性能。该系列SSD具备多种高级功能，包括NVMe MI 1.1、安全启动与下载、增强的断电保护等，适用于互联网、云计算、金融等行业。产品特点包括高性能、低延迟、高可靠性和灵活的电源调整。主要应用领域包括云计算、服务器、分布式存储、边缘计算和工作站。
型号- ORCA 4836,ORCA 4836 SERIES,ORCA 4836 MAX,ORCA 4836 PRO
江波龙企业级存储正式量产一周年，交出亮眼“成绩单”
自2023年1月江波龙首次发布企业级存储产品FORESEE ORCA 4836系列NVMe SSD与FORESEE UNCIA 3836系列SATA 3.2 SSD以来，企业级存储产品于过去的一年中，在技术研发和市场应用中取得了显著成果。随着创新技术不断涌现，江波龙将持续加大研发投入，积极探索企业级存储技术创新应用。
ODCC 2024：AI存力挑战，PTM商业模式助力企业级存储创新实践
江波龙在2024年ODCC大会上展示了其PTM商业模式，通过自主研发和制造，提供定制化企业级存储解决方案，满足AI应用的存储需求。市场总监曹浔峰讨论了AI训练对存储技术的挑战，并提出QLC SSD作为成本效益高的AI训练存储方案。江波龙致力于扩大存储容量和提升性能，推动算力产业发展。
ORCA 4836系列企业级 NVMe SSD
描述- ORCA 4836系列企业级NVMe SSD采用国产128层TLC NAND Flash，支持PCIe Gen4x4接口，提供2.5inch U.2形态，具备端到端数据保护、多档功耗调节等高级特性，适用于服务器、分布式存储、云计算等领域。
型号- ORCA 4836,ORCA 4836 MAX,ORCA 4836系列,ORCA 4836 PRO
涨价已成定局！二季度存储市场展望
受到持续的通货膨胀和区域冲突造成的压力影响下，全球多个主要经济体表现仍充满不确定性。延滞性通胀可能拖延降息时机，连带影响经济活动的重启。尽管消费者购买力度反弹不如预期，工业应用需求却因蓬勃发展的生成式AI应用而迅速增长。面对锐不可当的AI趋势，请参考二季存储市场关键应用的市场展望和价格预测。
UNCIA 3836系列企业级 SATA SSD
描述- UNCIA 3836系列企业级SATA SSD采用国产主控和128层TLC NAND Flash，提供480GB至3.84TB容量配置，具备高性能、低功耗、高可靠性，适用于云计算、服务器、分布式存储、边缘计算和通讯基站等领域。
型号- UNCIA 3836,UNCIA 3836系列
江波龙精彩亮相CITE2024，旗下企业级NVMe SSD揽获创新奖项，打造先进企业级数据中心存储
2024年4月9日，以“追求卓越 数创未来”为主题的第十二届电子信息博览会（CITE2024）在深圳召开。本届博览会期间重磅发布了第十二届中国电子信息博览会创新奖评选结果，江波龙（FORESEE）凭借“FORESEE ORCA 4836系列企业级NVMe SSD”高端产品揽获该奖项。江波龙企业级存储市场总监曹浔峰受邀参加本届博览会并发表“打造先进企业级数据中心存储”主题演讲。
江波龙亮相第十八届CPSE安博会，展示应用于智慧安防行业的存储产品和成功案例
安博会现场，深耕行业市场的存储品牌FORESEE分享了一系列可应用于智慧安防行业的存储产品和成功案例，其中涵盖了FORESEE全系列存储产品，包括以“小型化智能化”为核心优势的Subsize eMMC、UFS等；以宽温耐用见长的车规级eMMC、工规级SSD等。
DuraFlash SP2800 PCIe NVMe u.2固态硬盘
描述- SMART Modular Technologies推出的DuraFlash SP2800系列PCIe NVMe U.2固态硬盘（SSD）是一款针对服务器、存储缓存/加速器、网络和数据通信应用的顶级产品。该系列产品具备高性能、可靠性和数据安全功能，适用于企业级计算、医疗、交通、视频监控和其他工业应用。
型号- SRU2P1920TIS1A71,SP2800,SRU2P1920TCS1A71,SRU2P960GTIS1A71,SRU2P960GTCS1A71,SRU2P240GF1S1B71,SRU2P240GTIS1A71,SRU2P480GF2S1B71,SRU2P1920F2S1B71,SRU2P960GF1S1B71,SRU2P480GTCS1A71,SRU2P240GTCS1A71,SRU2P960GF2S1B71,SRU2P240GF2S1B71,SRU2P1920F1S1B71,SRU2P480GTIS1A71,SRU2P480GF1S1B71
浪潮NF5468M6 极致灵活AI服务器
描述- 浪潮NF5468M6是浪潮推出的高性能AI服务器，具备灵活配置和卓越性能。该产品支持多种AI加速卡和芯片，适用于互联网AI公有云、企业级AI云平台、智能安防等场景。NF5468M6提供大容量本地存储，支持多种拓扑软件一键切换，满足不同AI应用场景的性能调优需求。产品亮点包括领先架构、灵活配置、出色生态等，支持多种操作系统和散热解决方案。
型号- NF5468M6-P,NF5468M6,NF5468M6-V,NF5468M6-T
电子商城
现货市场
服务
深圳市启威测实验室，面向所有企业提供信号完整性测试服务，主要包括USB、HDMI 、DP、MIPI、PCIe 、SD/EMMC、DDR接口信号测试。测试手段有波形测试、眼图测试、抖动测试等。
提交需求>
支持Bluetooth SIG最新的测试规范，支持2.0(EDR), 2.1(EDR), 3.0(HS), 4.0(LE)规范, 并且能完整覆盖BR/EDR/HS/BLE的所有射频测试项目。测试标准：RF.TS/4.03 ；RF-PHYTS/40.3。
实验室地址： 深圳 提交需求>
授权代理品牌：集成电路
授权代理品牌：分立元件
授权代理品牌：接插件及结构件
授权代理品牌：部件、组件及配件
授权代理品牌：电源及模块
授权代理品牌：电子材料
授权代理品牌：仪器仪表及测试配组件
授权代理品牌：电工工具及材料
授权代理品牌：机械电子元件
授权代理品牌：加工与定制
我要提问
登录 | 立即注册
提交评论