ODCC 2024:AI存力挑战,PTM商业模式助力企业级存储创新实践
9月3日至4日,2024开放数据中心大会(以下简称“ODCC”)在北京召开。江波龙企业级存储事业部市场总监曹浔峰受邀出席,并发表了题为《大模型AI应用对存力挑战与创新实践》的精彩演讲,深入剖析了当前算力产业的发展趋势及其创新应用,并探讨了在PTM(存储产品技术制造)商业模式下如何有效满足客户需求的问题。
ODCC 2024
PTM商业模式企业级存储全栈定制
PTM商业模式
PTM商业模式的核心在于将公司的自研存储控制芯片、自研固件和硬件以及自有的先进封测制造等技术优势进行无缝衔接,实现更灵活、高效的全栈式定制化服务和一站式交付。
企业级存储全栈定制
存储全栈式定制服务就像高级西装的量身定制,每一细节都经过一对一精心打造,确保每款产品方案“裁剪”出来都能贴合、匹配客户的独特需求。在提及江波龙最新提出的PTM商业模式时,曹浔峰表示,企业级存储产品作为该模式下的重要组成部分,江波龙已经成功打造了eSSD+RDIMM的全面产品矩阵,以满足大模型AI应用的存力需求。这包括一系列高性能的企业级PCIe 4.0 NVMe SSD、SATA SSD、DDR5/DDR4 RDIMM以及CXL 2.0内存拓展模块等标准产品。
在技术领域,江波龙拥有自主研发NAND Flash芯片、主控芯片、固件和硬件的能力,并采用多颗粒类型产品布局,能够根据客户的特定技术需求提供定制化的存储解决方案。此外,江波龙汇聚了众多行业资深专家,积累了丰富的技术经验,特别是在颗粒研究、测试算法和设备开发等方面,公司能够深入分析NAND Flash和DRAM的特性,并与客户预先确认技术需求。通过建立专业、专项的FAE+AE+R&D团队,PTM商业模式能够帮助企业级客户高效实现产品创新和大幅成本优化,从而提升客户的业务竞争力。
在制造方面,江波龙通过在中山存储产业园、苏州和南美洲封装测试基地的国内、海外双循环产业链布局,实现了从存储芯片到模组产品的全链条覆盖。公司不仅保证了业内领先的企业级生产产能,还实现了高效的全站点追溯能力,如同餐厅的开放式厨房,确保每道工序都可视化、透明化,让客户对产品品质和生产流程拥有更为清晰而直观的了解。
以SATA SSD标准产品为例,如果客户对其基本性能感到满意,但需要更大容量的解决方案,并且希望在不牺牲产品特性的前提下实现成本效益,那么PTM(存储产品技术制造)合作模式将是理想选择。江波龙固件开发团队能够为客户量身定制固件,以支持大容量规格和Wafer颗粒的导入。同时,封测制造基地也将按照具体要求进行Wafer的封装,确保满足工艺规格和颗粒特性指标,为客户提供个性化且高效的存储解决方案。
通过综合措施,PTM商业模式实现了从技术到制造,再到产品的全方位支持,为客户提供全栈式服务和一站式交付。
AI存力挑战新技术探索实践
曹浔峰在演讲中强调,随着人工智能技术的飞速发展,AI训练过程中对缓存存储容量和性能的需求日益增长。他指出,尽管AI应用日益复杂,但现有缓存硬件技术和产品的发展尚未跟上这一步伐,导致AI模型训练面临性能瓶颈。对此,曹浔峰提出了一系列创新的解决方案,旨在突破数据缓存、传输和存储的瓶颈。
在AI应用实践中,原始数据需经过精细的清洗和预处理,转化为高质量的数据集,进而通过网络传输至AI服务器的本地SSD存储,并最终upload至GPU HBM缓存中进行训练。曹浔峰指出,随着AI训练模型参数量的增长,现有HBM缓存和系统内存RDIMM容量已难以满足需求。他提出,采用高性能、大容量的CXL存储器或8x GPU卡AI服务器,将是理想的缓存优化解决方案。
江波龙正积极探索支持AIC和E3.S的JBOM系统,并结合即将到来的支持CXL2.0的服务器系统,为万卡AI训练集群提供更具成本效益的内存池化共享硬件解决方案。
曹浔峰还分享了对AI应用数据存储优化的深刻见解。他提到,AI训练应用主要涉及顺序读写操作,QLC SSD在顺序读写性能上与TLC相近,且成本更具优势。随着PCIe Gen5带宽的提升,QLC技术完全能够满足AI训练过程中Checkpoint数据存储的高带宽高并发需求,预示着QLC SSD有望成为大语言模型AI训练应用的更优选择。
在演讲的尾声,曹浔峰展望了江波龙企业级存储产品的未来发展方向,主要聚焦于扩大存储容量、提升产品性能、引入QLC NAND Flash作为资源补充的发展趋势,以满足不同客户的差异化需求,与产业链合作伙伴共同推动算力产业进步。
- |
- +1 赞 0
- 收藏
- 评论 0
本文由samsara转载自FORESEE(江波龙公众号),原文标题为:ODCC 2024:AI存力挑战,PTM商业模式助力企业级存储创新实践,本站所有转载文章系出于传递更多信息之目的,且明确注明来源,不希望被转载的媒体或个人可与我们联系,我们将立即进行删除处理。
相关推荐
FORESEE江波龙加入正式龙蜥社区,共拓存储产业生态体系
近日,深圳市江波龙电子股份有限公司(FORESEE)签署了CLA,正式加入龙蜥社区(OpenAnolis)。目前,包括FORESEE DDR5 RDIMM、FORESEE UNCIA 3836 SATA eSSD等多款企业级产品已完成与龙蜥操作系统的适配,并成功进入社区官网AVL列表。同时,FORESEE更多产品的适配工作也正在稳步推进中。
一图读懂FORESEE内存条产品线
本文主要为江波龙内存条产品的介绍,其产品涵盖了目前应用较广的DDR4、DDR5的产品,并介绍了产品具体应用场景以及产品优势特性。
江波龙发布多款新品,PTM商业模式推动汽车存储创新
江波龙在本次海外展会中首次推出了多款新品和PTM商业模式,重点围绕工业、汽车存储解决方案,满足全球不同行业智能化发展的存储需求。 针对德国这一工业和汽车大国,江波龙展示了包括xSPI NOR Flash和车规级Grade2 LPDDR4x在内的高可靠性工规级和车规级产品。而Lexar品牌则带来JumpDrive® 行车记录U盘、PCIe Gen5 SSD等产品,覆盖更广泛的汽车消费级市场。
【IC】江波龙FORESEE LPCAMM2内存新形态,速率高达9600Mbps,打破传统内存速度瓶颈,带来性能和能效飞跃性提升
在此次CFMS峰会中,江波龙还发布了FORESEE LPCAMM2(16GB / 32GB / 64GB),该产品以其独特的128bit位宽设计,实现了内存形态的新突破,有望打通PC和手机存储应用场景。与传统的SODIMM形态相比,LPCAMM2的体积减少了近60%,能效提升了近70%,功耗减少了近50%,同时其速率高达9600Mbps,远超DDR5 SODIMM的6400Mbps。
【产品】工作温度范围为-40℃~85℃的DDR4 DIMM,速率达2666Mbps,兼容大多支持DDR4接口的主流平台
FORESEE推出的工规级DDR4 DIMM,可以为更严酷的应用领域打造安全、可靠、耐久的方案。本产品由江波龙电子中山存储产业园全面实施硬件和材料的开发和选型,确保产品在各种极限环境下的稳定性和可靠性。
Longsys Unveils New Products, PTM Business Model Drives Innovation in Automotive Storage
In Germany—a powerhouse of the automotive and industrial sectors—Longsys unveiled high-reliability industrial and automotive-grade products, including the xSPI NOR Flash and Automotive Grade 2 LPDDR4x. The Lexar brand showcased products like the JumpDrive dashcam USB and PCIe Gen5 SSD, covering a broader range of automotive consumer markets.
2024年Q3-DRAM与SSDA市场态势剖析:AI驱动下的涨势与变数
AI的蓬勃发展持续推动半导体和IT产业的成长,尤其在存储领域,生成式AI应用助长了市场对高性能运算方面的需求。从数据中心的AI服务器到消费端的AI PC,内存运算和存储性能表现至关重要,成为提升AI应用落地的关键推手。
【IC】读写性能提高40%!FORESEE XP2200系列SSD推出M.2 2280规格
近日,FORESEE XP2200系列PCIe SSD推出M.2 2280规格,产品搭载主流232层3D TLC闪存颗粒,并采用基于12nm工艺的4通道高性能主控芯片,支持HMB主机高速缓冲技术,能够提供高达2400MT/s的I/O速率,进一步释放产品潜能。产品所用的主控芯片减少了一半的读写通道数量,从而显著降低25%的功耗并减少发热量,让该产品的整体功耗低至4W,能够有效延长智能终端的续航时间。
江波龙于揭幕全新高速microSD Express Card,加速智能安防创新步伐
第十七届安博会在北京举行,聚焦“智能安防新未来”。江波龙推出FORESEE microSD Express Card新品,突破性地融合了PCIe接口,性能直逼SSD,满足智能安防市场对存储的高需求。同时,江波龙还展示了自研固件SSD产品,注重数据安全与性能,并在全球产业链布局上强化供应链安全自控。
【IC】江波龙FORESEE全新工规级DDR4 SODIMM,速率达3200Mbps,高可靠性设计赋能工业应用
江波龙推出全新的FORESEE工规级DDR4 SODIMM,为严苛工业环境下的计算机系统提供强大而可靠的“稳定内核”。FORESEE工规级DDR4 SODIMM覆盖4GB、8GB、16GB、32GB多种容量选择,拥有1R×8、2R×8、1R×16三种设计架构,速率可达3200Mbps,功耗为1.2V,支持ECC(Error Correcting Code)功能,有效降低了潜在的数据错误风险。
【元件】FORESEE XP2300 PCIe SSD:引领AI PC存储革新的旗舰级解决方案
FORESEE XP2300 PCIe SSD搭载236层3D TLC闪存颗粒,采用了新一代PCIe 4.0 SSD控制器,容量覆盖256GB~4TB,顺序读写速度最高可达7400MB/s / 6700MB/s;随机读写速度最高可达1070K / 1130K IOPS。产品集成了HMB主机内存缓冲器、IDA初始数据加速、FBA空闲块数据加速等自研技术,专为AI PC、超薄笔记本、电竞主机等设计。
电子商城
现货市场
服务
深圳市启威测实验室,面向所有企业提供信号完整性测试服务,主要包括USB、HDMI 、DP、MIPI、PCIe 、SD/EMMC、DDR接口信号测试。测试手段有波形测试、眼图测试、抖动测试等。
提交需求>
支持Bluetooth SIG最新的测试规范,支持2.0(EDR), 2.1(EDR), 3.0(HS), 4.0(LE)规范, 并且能完整覆盖BR/EDR/HS/BLE的所有射频测试项目。测试标准:RF.TS/4.03 ;RF-PHYTS/40.3。
实验室地址: 深圳 提交需求>
登录 | 立即注册
提交评论