认识AI硬体的开放架构-OAI&OAM,正凌为为OAM设计者提供高速I/O与OAM相关产品,共同迎接AI发展新挑战

2024-07-08 正凌官网
散热器,散热模组,高速I/O,正凌 散热器,散热模组,高速I/O,正凌 散热器,散热模组,高速I/O,正凌 散热器,散热模组,高速I/O,正凌


在AI领域,开放加速器基础设施(OAI)是由全球最具影响力的开源硬体组织之一:开放计算项目(OCP)所设立的一个子组织。  自2019年起,OAI专注于定义适合大规模深度学习训练的AI加速卡形态,解决了多元AI加速卡形态和接口不统一的问题。  透过发布OAI-UBB(通用底板)1.0设计规范,OAI推动了AI加速硬体平台的标准化,使其能够无需修改即支援不同厂商的产品,显著提升了AI模组的扩展性和灵活性。

 

AI巨头们陆续采用的架构- OAM (Open Accelerator Module)

对于AI伺服器开发商来说,开放加速模组(OAM)带来了显著的好处。  由于AI加速晶片的多样化和专业化,开发商面临着更高的开发成本和较长的开发周期。  OAM的出现为这些开发商提供了一种高效且可扩展的解决方案,使他们能够更容易地整合新的AI加速器。  这不仅降低了进入门槛,还加快了产品的市场推广时间。



OAM带来的优点与挑战

OAM有着三项显著优点,使其在当今快速发展的AI市场中显得尤为重要。

1.高效能与效率:OAM能显著提高处理的性能和效率,对于需求高算力的应用,如深度学习和机器学习,表现特别突出。

2.可扩展性:OAM设计允许在不同的系统和基板之间实现灵活的兼容性和扩展性,从而能够适应不断进步的高算力负载和技术发展。

3.支持多样的应用场景:OAM适用于多种领域,包括AI推理、科学模拟以及数据分析等,这种多样性使其能够满足广泛的业务需求。

这些优点展示了OAM在现代数据中心和高性能计算环境中的应用潜力和灵活性。

但是与此同时,采用OAM也需要面对几项挑战。

1.技术和设计复杂性:当前专用的AI硬体系统在技术和设计上相当复杂,这使得将新的AI加速器整合到系统中通常需要6到12个月的时间,从而阻碍了新竞争技术的快速采纳。

2.高功耗管理:随着OAM产品设计功率的增加,达到600W以上时Base Specification已经建议采用液体冷却技术,这表示高功耗管理是一大挑战,特别是在未来功率可能轻易超过700W的情况下。

3.标准化和兼容性:AI加速器的快速演进和多样性对于标准化和兼容性有更高的要求,以支持各种硬体加速解决方案的可扩展性和模块间的高速通信链接。


正凌能为OAM设计者做什么?

正凌为市场上少数同时拥有高速传输、机构设计与散热模组的方案商。 已经为市场上几家领导AI晶片设计者提供高速I/O与OAM相关产品。 对于OAM的设计,正凌总结出两项常见的挑战:

1. 配合散热的结构设计:Top Stiffener with Thermal Solution

Top Stiffener 虽然在Base  Specification中着墨甚少,但却需要良好的结构设计来配合OAM设计,否则会直接影响散热的效率。 好的Top  Stiffener设计包括良好的支撑与导热,才能让air-cooling solution 例如3U 或是4U高度的3D VC充分发挥功效。  面对超过600W TDP的下一世代方案,还需要整合Cold plate的liquid cooling 。  这些都考验制作厂商在机构设计、材料选择以及对散热技术的了解才能实现。


2. 加工工艺上的挑战:OAM Bottom Stiffener

OAM与UBB连接不良是实务上最常见的问题,而连接不良往往来自于对于OAM  Bottom Stiffener的轻忽。 OAM普遍采用的是Mirror Mezz Pro Connector,在Base  Specification里提到的公差必须维持在± 0.15mm,但由于组装能力以及加工能力的差异,不良的Bottom  Stiffener往往会导致最终组装公差过大或是两端 不平均导致连接不良。 无论是多优秀的AI晶片。



结语

AI相关的技术在近年来发展突飞猛进,带来的挑战更是跨领域的。  正凌在与AI领导者一起克服种种困难的同时,更加深刻体会到要实现让人惊艳的AI表现背后,每一个小细节都至关重要。  也希望所累积的各种经验与能力,能够为更多的AI产品开发者解决问题,让这个改变人类文明的技术能够更加便利的为所有人使用。

  • +1 赞 0
  • 收藏
  • 评论 0

本文由walkonair转载自正凌官网,原文标题为:认识AI硬体的开放架构-OAI & OAM,本站所有转载文章系出于传递更多信息之目的,且明确注明来源,不希望被转载的媒体或个人可与我们联系,我们将立即进行删除处理。

评论

   |   

提交评论

全部评论(0

暂无评论

相关推荐

【应用】正凌推出QSFP28等连接器用于英伟达DGX A100,速度100Gb/s~400Gb/s,具有出色的散热设计

Nextron的产品系列包括QSFP+、QSFP28和QSFP-DD连接器,速度范围从100Gb/s到400Gb/s。它们具有出色的散热设计,可确保高速信号的完整性。我们提供1x1和1x4配置,支持多端口和单端口应用。

应用方案    发布时间 : 2023-07-26

【应用】触点额定电流最大为0.5A的连接器助力RRU设备提供高效散热,解决热设计难题

客户RRU设备在选用光模块CAGE时发现散热较差, 原因为CAGE与模块之间为间隙配合,仅很少部分接触。给客户推荐了正凌的SFP 28 CAGE,顶部凹陷式设计,与光模块过盈配合,增加散热面积,提高散热效率。

应用方案    发布时间 : 2022-12-23

兆科导热界面材料赋能新时代,助力解决新能源、AI、5G等各领域电子产品的散热问题

随着科学技术高速发展、5G通讯互联时代的覆盖、以及硬件零部件的升级,导致设备的功耗不断加大,热量也随之迅速上升。包括新能源、AI、5G等各领域在内的电子产品将面临棘手的散热问题。导热界面材料对于设备内部的热量散到外部是不可或缺的,可让散热器发挥自己的力量,从而确保机器和设备在合适的温度范围内运行。

应用方案    发布时间 : 2024-04-09

研讨会2024电气自动化新技术研讨会

描述- 8月15日直播,带来分布式IO、柔性制造、接线端子、半导体测试设备、机器人方案等电气自动化新产品新技术,点击了解报名

议题- 连接技术:接线端子,导轨式端子,线缆,圆形连接器,重载连接器  |  电气电机:开关电源,中低压电器,继电器,工业电子模块,按钮指示灯,熔断器,电机,气动元件,电池  |  工业:工业互联网,机器人,柔性制造  |  控制技术:上位机,可编程控制器(PLC),I/O模块,分布式IO  |  其他热点产品:安全产品,工业交换机,人机交互,显示屏  |  半导体:电子电路,半导体测试设备,智能制造  |  其他应用领域:海外电网等  |  Weidmueller(魏德米勒)——全球电气联接技术产品领域的领先制造商  |  世界电气连接和工业自动化行业巨头:Phoenix Contact(菲尼克斯电气)  |  全球最大的连接器制造商&传感器行业龙头企业——TE Connectivity  |  全球弹簧夹持连接技术的领导者:WAGO(万可)  |  全球第一的综合马达电机制造商——Nidec(尼得科)  |  阿普奇(APQ)——工业AI边缘计算服务商  |  全球弹簧连接技术解决方案专家——速普(SUPU)  |  国内领先的设备自动化控制与数字化工厂解决方案供应商——步科(Kinco)  |  全球领先的高等级工业标准连接器制造商——ITT(埃梯梯)  |  致力于按钮开关的自主研发、生产与销售的制造型企业——欧宝龙(ONPOW)  |  专注各类继电器的生产厂商、全球前三的开关领域领导者——ECE(百容)  |  专注于工业自动化领域的科技公司——Mibbo(米博)  |  能快速为各种工业应用提供定制化工业计算机解决方案——研勤工控(OITECH)  |  国内先进的工业传感器及测控系统供应商——兰宝(LANBAO)  |  致力于成为一家领先的电磁兼容服务商——维爱普(VIIP)  |  专注于生产研发、创新各类高品质精密位移传感器的供应商——OPKON  |  30年老牌石英晶体谐振器专家——新天源(XTY)  |  百年匠心的安全连接方案提供专家——Wieland(威琅电气)  |  致力于能量快速存储与锂离子超快充电池整体解决方案的高新技术企业——合盛科技(Burstcap)  |  全球第二大PM—OLED厂商:智晶光电(WISECHIP)  |  世界级控制电机制造商及系统集成方案提供者——富兴机电(FULLING MOTOR)  |  专业从事真空、高温、深低温等特殊环境电机开发、制造及应用的企业——中固维科(DDON)  |  国内领先的工业自动化控制领域供应商——ELESY(伊莱斯)  |  专注工业自动化领域,国产自主可控PLC优质生产制造商——傲拓科技(ATEKON)  |  商显行业的领航者——森克(SENKE)  |  与国际先进水平接轨的高端直驱电机以及高端自动化设备专业制造商——德康威尔(DYNAMIKWELL)  |  直线电机技术达到国际先进水平、国内直驱电机的领先者——大族电机(HANS MOTOR)  |  国内专业锂电池定制方案及生产商——HHX(惠华欣)  |  中国最大的微特电机研发、制造和出口企业之一——科力尔(KELI)运动控制  |  集驱动和智能控制于一体的新一代智能电缸机械臂引领者——VINKO(银光)  |  卓越完善的中低压电器专业制造商——士林电机(Shihlin Electric)  |  行业领先的锂微型电池制造商——力佳科技(Lijia)  |  国内领先专用线缆和连接产品的设计与制造企业——兆龙互连(ZHAOLONG)  |  业界领先的国产连接器方案提供商——万连科技(valnk)  |  全球领先的RF(射频)、微波和毫米波互连解决方案提供商——Delta(德尔特)  | 

活动    发布时间 : 2024-06-20

世强硬创携6G/AI服务器/新能源等十二大主题新产品亮相2024慕尼黑上海电子展

十二大主题展区涵盖6G&AI&服务器、功率半导体、电气自动化、新材料、电源&显示屏、传感技术、汽车电子&EV、新能源&电力、IOT&智能家居等新产品新技术新方案。

公司动态    发布时间 : 2024-07-11

导热界面材料确保服务器及其相关基础设施的可靠性和性能

导热界面材料(‌TIM)‌是一种新型工业材料,‌专门设计用于满足设备的热传导要求,‌具有优异的性能和可靠性。‌这些材料适用于各种环境和要求,‌能有效解决导热问题,‌对设备的高度集成和超小超薄设计提供了有力支持。‌在AI高算力服务器散热方面,‌导热界面材料尤为重要,‌能够显著提高散热效果,‌保证系统的稳定性和可靠性。‌,

技术探讨    发布时间 : 2024-07-31

正凌(Nextron)高速光电连接器选型指南

目录- Company Profile and Test Capabilities    Connector Application    Connector Customized-Solutions    High Speed I/O Connector Overview    SFP series High Speed Connector    QSFP series High Speed Connector    MiniSAS HD series High Speed Connector    Dust/EMI Covers   

型号- Z-H03B0011**000,Z-8420011**0001,Z-855**10000*10,Z-834B***P****1,Z-834E***P****1,Z-861E0**00**01,Z-828***000D0*0,Z-844E0**P0***1,Z-861T0**00**01,Z-8560**1000000,Z-8350011**0001,Z-840B000020000,Z-828***000**00,Z-848T***P****1,Z-8670011**0001,Z-868**0***0**0,Z-830B000100000,Z-83220S00****0,Z-848B***P*00*1,Z-848E***P*00*1,Z-H02R0111**0R0,Z-8270000*0*000,Z-H02R0111**1R0,Z-85020S******0,Z-824**1000***0,Z-844T0**P0**01,Z-S892000*0B22,Z-854***000***0,Z-834T********1,Z-S891000*0B22

选型指南  -  正凌  - 2020/6/17 PDF 英文 下载

Nextron Group Company Profile

型号- DSA8200,LM2 SERIES,BSM SERIES,N5247A

商品及供应商介绍  -  正凌  - 2020 Jan PDF 英文 下载

【产品】正凌提供400G高速连接与散热解决方案QSFP112,每条通道皆可支援112Gb/s

大型数据中心对资料传输速度的要求不断提升,正凌推出QSFP模组QSFP112,每条通道皆可支援112Gb/s并可向后兼容QSFP56及QSFP28;在不重建网路结构的前提下,该产品是升级频宽最具成本效益的方式,也是迈向800G通讯的垫脚石。

产品    发布时间 : 2022-08-31

正凌携高速连接器、液体冷却解决方案探索高效能运算的未来

作为高速运算技术的伙伴企业,正凌了解 I/O 和高速运算的要求,能够提供灵活的解决方案,以适应不同的机箱设计。 可以说,正凌正在引领这场革命,利用液体冷却和 3D Vapor Chamber(3D VC)等技术的进步,满足高效能运算应用不断发展的需求。

厂牌及品类    发布时间 : 2024-05-07

台达“解密Cloud to Edge AI”于COMPUTEX 2024展出驱动AI技术

台达于2024台北国际电脑展(COMPUTEX TAIPEI 2024)聚焦AI人工智能,以“解密 Cloud to Edge AI”为主题,全方位展出涵盖云端到边缘的数据中心基础设施方案,以及应用于AI运算及终端设备的高效电源、散热、被动元件等技术,包含多款首次亮相的AI服务器电源及液冷散热方案、芯片垂直供电技术等,发挥所长驱动AI产业发展。

厂牌及品类    发布时间 : 2024-06-27

宜科(ELCO)FX20系列插片式IO产品选型指南

描述- 天津宜科自动化股份有限公司是中国工业自动化的领军企业,于2003年在天津投资成立,销售和服务网络覆盖全国。作为中国本土工业自动化产品的提供商和智能制造解决方案的供应商,宜科在汽车、汽车零部件、工程机械、新能源、物流设备、食品制药、印刷包装、纺织机械、电子制造等诸多领域占据领先地位。

型号- FX20-CNT-BB00,FX20-GW-EC00,FX20-DO-BH00,FX20-DI-BL60,FX20-DO-BF00,FX20-DI-BF60,FX20-DO-BL00,FX20-DI-BH60,FX20-AO-BF60,FX20-AI-BD80,FX20-AI-BF60,FX20-AI-BD60,FX20-GW-PN00,FX20-DO-BH50,FX20-DO-BF50,FX20-DO-BL50,FX20-SCM-BB00,FX20,FX20-AO-BD60,FX20-PS-AB00,FX20-AI-BD90,FX20-GW-EP00,FX20-LKM-BD00,FX20系列,FX20-GW-CE00

选型指南  -  宜科  - 2024/4/12 PDF 中文 下载

【材料】大图热控全新液冷板DTC-1500,实现千瓦级芯片散热能力,满足高算力服务器产业日益增长的散热需求

当芯片功耗提升到700W以上、热流密度超过100W每平方厘米时,传统液冷板也面临严重挑战,大图热控开发出的全新液冷板DTC-1500,成功突破了传统液冷板的散热瓶颈,实现了千瓦级的芯片散热能力。目前大图热控也已着手开发针对最新一代BlackWell系列GPU芯片的高效液冷板解决方案,以应对AI大模型训练等高算力服务器产业日益增长而产生的散热需求。

产品    发布时间 : 2024-04-24

认识AI硬体的开放架构

在AI领域,开放加速器基础设施(OAI)是由全球最具影响力的开源硬体组织之一:开放计算项目(OCP)所设立的一个子组织。自2019年起,OAI专注于定义适合大规模深度学习训练的AI加速卡形态,解决了多元AI加速卡形态和接口不统一的问题。

技术探讨    发布时间 : 2024-05-22

Z-82811100000P0 SFP+ 1X1 ASSY WITH HEATSINK PRESS FIT, WITH EMI SPRINGS

型号- Z-82811100000S0,Z-82811100000P0,Z-82811100000**,Z-82811100000N0

产品图纸  -  正凌  - REV C  - 03/19/14 PDF 英文 下载

展开更多

电子商城

查看更多

品牌:正凌

品类:Connector

价格:¥60.6528

现货: 20

品牌:正凌

品类:Connector

价格:¥22.8625

现货: 10

品牌:正凌

品类:Connector

价格:¥2.7625

现货: 9

品牌:正凌

品类:Connector

价格:¥11.3565

现货: 8

品牌:正凌

品类:Connector

价格:¥11.6000

现货: 7

品牌:正凌

品类:Connector

价格:¥14.0443

现货: 0

品牌:正凌

品类:Connector

价格:

现货: 0

品牌:正凌

品类:Connector

价格:

现货: 0

品牌:正凌

品类:Connector

价格:

现货: 0

品牌:正凌

品类:Connector

价格:

现货: 0

品牌:

品类:

价格:

现货:

品牌:

品类:

价格:

现货:

品牌:

品类:

价格:

现货:

品牌:

品类:

价格:

现货:

品牌:

品类:

价格:

现货:

品牌:

品类:

价格:

现货:

品牌:

品类:

价格:

现货:

品牌:

品类:

价格:

现货:

品牌:

品类:

价格:

现货:

品牌:

品类:

价格:

现货:

现货市场

查看更多

品牌:ADI

品类:PMIC(电源管理专用型)

价格:¥35.0000

现货:1,727

品牌:ADI

品类:PMIC(电源管理专用型)

价格:¥35.0000

现货:267

品牌:

品类:

价格:

现货:

品牌:

品类:

价格:

现货:

服务

查看更多

散热方案设计

使用FloTHERM和Smart CFD软件,提供前期热仿真模拟、结构设计调整建议、中期样品测试和后期生产供应的一站式服务,热仿真技术团队专业指导。

实验室地址: 深圳 提交需求>

FloTHERM热仿真

提供稳态、瞬态、热传导、对流散热、热辐射、热接触、和液冷等热仿真分析,通过FloTHERM软件帮助工程师在产品设计初期创建虚拟模型,对多种系统设计方案进行评估,识别潜在散热风险。

实验室地址: 深圳 提交需求>

世强和原厂的技术专家将在一个工作日内解答,帮助您快速完成研发及采购。
我要提问

954668/400-830-1766(工作日 9:00-18:00)

service@sekorm.com

研发客服
商务客服
服务热线

联系我们

954668/400-830-1766(工作日 9:00-18:00)

service@sekorm.com

投诉与建议

E-mail:claim@sekorm.com

商务合作

E-mail:contact@sekorm.com

收藏
收藏当前页面