认识AI硬体的开放架构-OAI＆OAM，正凌为为OAM设计者提供高速I/O与OAM相关产品，共同迎接AI发展新挑战

时间： 2024-07-08 来源：正凌官网

技术问答

在AI领域，开放加速器基础设施（OAI）是由全球最具影响力的开源硬体组织之一：开放计算项目（OCP）所设立的一个子组织。自2019年起，OAI专注于定义适合大规模深度学习训练的AI加速卡形态，解决了多元AI加速卡形态和接口不统一的问题。透过发布OAI-UBB（通用底板）1.0设计规范，OAI推动了AI加速硬体平台的标准化，使其能够无需修改即支援不同厂商的产品，显著提升了AI模组的扩展性和灵活性。

AI巨头们陆续采用的架构- OAM (Open Accelerator Module)

对于AI伺服器开发商来说，开放加速模组（OAM）带来了显著的好处。由于AI加速晶片的多样化和专业化，开发商面临着更高的开发成本和较长的开发周期。 OAM的出现为这些开发商提供了一种高效且可扩展的解决方案，使他们能够更容易地整合新的AI加速器。这不仅降低了进入门槛，还加快了产品的市场推广时间。

OAM带来的优点与挑战

OAM有着三项显著优点，使其在当今快速发展的AI市场中显得尤为重要。

1.高效能与效率：OAM能显著提高处理的性能和效率，对于需求高算力的应用，如深度学习和机器学习，表现特别突出。

2.可扩展性：OAM设计允许在不同的系统和基板之间实现灵活的兼容性和扩展性，从而能够适应不断进步的高算力负载和技术发展。

3.支持多样的应用场景：OAM适用于多种领域，包括AI推理、科学模拟以及数据分析等，这种多样性使其能够满足广泛的业务需求。

这些优点展示了OAM在现代数据中心和高性能计算环境中的应用潜力和灵活性。

但是与此同时，采用OAM也需要面对几项挑战。

1.技术和设计复杂性：当前专用的AI硬体系统在技术和设计上相当复杂，这使得将新的AI加速器整合到系统中通常需要6到12个月的时间，从而阻碍了新竞争技术的快速采纳。

2.高功耗管理：随着OAM产品设计功率的增加，达到600W以上时Base Specification已经建议采用液体冷却技术，这表示高功耗管理是一大挑战，特别是在未来功率可能轻易超过700W的情况下。

3.标准化和兼容性：AI加速器的快速演进和多样性对于标准化和兼容性有更高的要求，以支持各种硬体加速解决方案的可扩展性和模块间的高速通信链接。

正凌能为OAM设计者做什么？

正凌为市场上少数同时拥有高速传输、机构设计与散热模组的方案商。已经为市场上几家领导AI晶片设计者提供高速I/O与OAM相关产品。对于OAM的设计，正凌总结出两项常见的挑战：

1. 配合散热的结构设计：Top Stiffener with Thermal Solution

Top Stiffener 虽然在Base Specification中着墨甚少，但却需要良好的结构设计来配合OAM设计，否则会直接影响散热的效率。好的Top Stiffener设计包括良好的支撑与导热，才能让air-cooling solution 例如3U 或是4U高度的3D VC充分发挥功效。面对超过600W TDP的下一世代方案，还需要整合Cold plate的liquid cooling 。这些都考验制作厂商在机构设计、材料选择以及对散热技术的了解才能实现。

2. 加工工艺上的挑战：OAM Bottom Stiffener

OAM与UBB连接不良是实务上最常见的问题，而连接不良往往来自于对于OAM Bottom Stiffener的轻忽。 OAM普遍采用的是Mirror Mezz Pro Connector，在Base Specification里提到的公差必须维持在± 0.15mm，但由于组装能力以及加工能力的差异，不良的Bottom Stiffener往往会导致最终组装公差过大或是两端不平均导致连接不良。无论是多优秀的AI晶片。

结语

AI相关的技术在近年来发展突飞猛进，带来的挑战更是跨领域的。正凌在与AI领导者一起克服种种困难的同时，更加深刻体会到要实现让人惊艳的AI表现背后，每一个小细节都至关重要。也希望所累积的各种经验与能力，能够为更多的AI产品开发者解决问题，让这个改变人类文明的技术能够更加便利的为所有人使用。

发送到邮箱 |
+1 赞 0
收藏
评论 0
| 转发至：

本文由walkonair转载自正凌官网，原文标题为:认识AI硬体的开放架构-OAI & OAM，本站所有转载文章系出于传递更多信息之目的，且明确注明来源，不希望被转载的媒体或个人可与我们联系，我们将立即进行删除处理。

全部评论（0）

暂无评论

【应用】正凌推出QSFP28等连接器用于英伟达DGX A100，速度100Gb/s~400Gb/s，具有出色的散热设计

Nextron的产品系列包括QSFP+、QSFP28和QSFP-DD连接器，速度范围从100Gb/s到400Gb/s。它们具有出色的散热设计，可确保高速信号的完整性。我们提供1x1和1x4配置，支持多端口和单端口应用。

应用方案发布时间 : 2023-07-26

【应用】触点额定电流最大为0.5A的连接器助力RRU设备提供高效散热，解决热设计难题

客户RRU设备在选用光模块CAGE时发现散热较差，原因为CAGE与模块之间为间隙配合，仅很少部分接触。给客户推荐了正凌的SFP 28 CAGE，顶部凹陷式设计，与光模块过盈配合，增加散热面积，提高散热效率。

应用方案发布时间 : 2022-12-23

兆科导热界面材料赋能新时代，助力解决新能源、AI、5G等各领域电子产品的散热问题

随着科学技术高速发展、5G通讯互联时代的覆盖、以及硬件零部件的升级，导致设备的功耗不断加大，热量也随之迅速上升。包括新能源、AI、5G等各领域在内的电子产品将面临棘手的散热问题。导热界面材料对于设备内部的热量散到外部是不可或缺的，可让散热器发挥自己的力量，从而确保机器和设备在合适的温度范围内运行。

应用方案发布时间 : 2024-04-09

世强硬创携6G/AI服务器/新能源等十二大主题新产品亮相2024慕尼黑上海电子展

十二大主题展区涵盖6G＆AI＆服务器、功率半导体、电气自动化、新材料、电源＆显示屏、传感技术、汽车电子＆EV、新能源＆电力、IOT＆智能家居等新产品新技术新方案。

公司动态发布时间 : 2024-07-11

研讨会2024热设计服务＆导热散热材料研讨会

12月5日直播，世强硬创平台将汇聚国内外顶尖品牌原厂，带来高导热热界面材料、新型散热器、隔热材料、散热风扇、TEC、氟化冷却液等新产品新技术。

活动发布时间 : 2024-10-24

正凌自主开发一系列连接器产品，满足高速传输技术发展需求，应用涵盖工业物联网及车联网等

围绕着云端运算、物联网、大数据以及AI技术而生的高速资料传输需求急速发展，讯号传输除了追求速度，安全可靠更是必要条件。为了满足科技急速发展而产生的各种新需求，正凌结合30几年来累积的专利技术，不断推出自主开发的新产品，包含高速I/O连接器、圆形连接器和背板连接器，应用范畴涵盖高速资料中心、工业物联网及车联网等。

产品发布时间 : 2024-11-13

正凌（Nextron）高速光电连接器选型指南

目录- Company Profile and Test Capabilities Connector Application Connector Customized-Solutions High Speed I/O Connector Overview SFP series High Speed Connector QSFP series High Speed Connector MiniSAS HD series High Speed Connector Dust/EMI Covers

型号- Z-H03B0011**000,Z-8420011**0001,Z-855**10000*10,Z-834B***P****1,Z-834E***P****1,Z-861E0**00**01,Z-828***000D0*0,Z-844E0**P0***1,Z-861T0**00**01,Z-8560**1000000,Z-8350011**0001,Z-840B000020000,Z-828***000**00,Z-848T***P****1,Z-8670011**0001,Z-868**0***0**0,Z-830B000100000,Z-83220S00****0,Z-848B***P*00*1,Z-848E***P*00*1,Z-H02R0111**0R0,Z-8270000*0*000,Z-H02R0111**1R0,Z-85020S******0,Z-824**1000***0,Z-844T0**P0**01,Z-S892000*0B22,Z-854***000***0,Z-834T********1,Z-S891000*0B22

选型指南 - 正凌 - 2020/6/17 PDF 英文下载

认识AI硬体的开放架构

在AI领域，开放加速器基础设施（OAI）是由全球最具影响力的开源硬体组织之一：开放计算项目（OCP）所设立的一个子组织。自2019年起，OAI专注于定义适合大规模深度学习训练的AI加速卡形态，解决了多元AI加速卡形态和接口不统一的问题。

技术探讨发布时间 : 2024-05-22

“冷静卫士”意兆电子授权世强硬创，代理通讯/消费/汽车领域散热器

意兆电子的高速连接器具有信号质量好、兼容性好、可实现高速数据传输、环境适应性好等优势。

签约新闻发布时间 : 2024-11-11

【产品】正凌提供400G高速连接与散热解决方案QSFP112，每条通道皆可支援112Gb/s

大型数据中心对资料传输速度的要求不断提升，正凌推出QSFP模组QSFP112，每条通道皆可支援112Gb/s并可向后兼容QSFP56及QSFP28；在不重建网路结构的前提下，该产品是升级频宽最具成本效益的方式，也是迈向800G通讯的垫脚石。

产品发布时间 : 2022-08-31

宜科（ELCO）FX20系列插片式IO产品选型指南

描述- 天津宜科自动化股份有限公司是中国工业自动化的领军企业，于2003年在天津投资成立，销售和服务网络覆盖全国。作为中国本土工业自动化产品的提供商和智能制造解决方案的供应商，宜科在汽车、汽车零部件、工程机械、新能源、物流设备、食品制药、印刷包装、纺织机械、电子制造等诸多领域占据领先地位。

型号- FX20-CNT-BB00,FX20-GW-EC00,FX20-DO-BH00,FX20-DI-BL60,FX20-DO-BF00,FX20-DI-BF60,FX20-DO-BL00,FX20-DI-BH60,FX20-AO-BF60,FX20-AI-BD80,FX20-AI-BF60,FX20-AI-BD60,FX20-GW-PN00,FX20-DO-BH50,FX20-DO-BF50,FX20-DO-BL50,FX20-SCM-BB00,FX20,FX20-AO-BD60,FX20-PS-AB00,FX20-AI-BD90,FX20-GW-EP00,FX20-LKM-BD00,FX20系列,FX20-GW-CE00

选型指南 - 宜科 - 2024/4/12 PDF 中文下载