认识AI硬体的开放架构

时间： 2024-05-22 来源：正凌

技术问答

选型帮助

研发客服

商务客服

在AI领域，开放加速器基础设施（OAI）是由全球最具影响力的开源硬体组织之一：开放计算项目（OCP）所设立的一个子组织。自2019年起，OAI专注于定义适合大规模深度学习训练的AI加速卡形态，解决了多元AI加速卡形态和接口不统一的问题。

透过发布OAI-UBB（通用底板）1.0设计规范，OAI推动了AI加速硬体平台的标准化，使其能够无需修改即支援不同厂商的产品，显著提升了AI模组的扩展性和灵活性。

AI巨头们陆续采用的架构-OAM (Open Accelerator Module)

对于AI伺服器开发商来说，开放加速模组（OAM）带来了显著的好处。由于AI加速晶片的多样化和专业化，开发商面临着更高的开发成本和较长的开发周期。OAM的出现为这些开发商提供了一种高效且可扩展的解决方案，使他们能够更容易地整合新的AI加速器。这不仅降低了进入门槛，还加快了产品的市场推广时间。

OAM带来的优点与挑战

OAM有着三项显著优点，使其在当今快速发展的AI市场中显得尤为重要。

1.高效能与效率：OAM能显著提高处理的性能和效率，对于需求高算力的应用，如深度学习和机器学习，表现特别突出。

2.可扩展性：OAM设计允许在不同的系统和基板之间实现灵活的兼容性和扩展性，从而能够适应不断进步的高算力负载和技术发展。

3.支持多样的应用场景：OAM适用于多种领域，包括AI推理、科学模拟以及数据分析等，这种多样性使其能够满足广泛的业务需求。

这些优点展示了OAM在现代数据中心和高性能计算环境中的应用潜力和灵活性。

但是与此同时，采用OAM也需要面对几项挑战

1.技术和设计复杂性：当前专用的AI硬体系统在技术和设计上相当复杂，这使得将新的AI加速器整合到系统中通常需要6到12个月的时间，从而阻碍了新竞争技术的快速采纳。

2.高功耗管理：随着OAM产品设计功率的增加，达到600W以上时Base Specification已经建议采用液体冷却技术，这表示高功耗管理是一大挑战，特别是在未来功率可能轻易超过700W的情况下。

3.标准化和兼容性：AI加速器的快速演进和多样性对于标准化和兼容性有更高的要求，以支持各种硬体加速解决方案的可扩展性和模块间的高速通信链接。

正凌能为OAM设计者做什么？

正凌为市场上少数同时拥有高速传输、机构设计与散热模组的方案商。已经为市场上几家领导AI晶片设计者提供高速I/O与OAM相关产品。对于OAM的设计，正凌总结出两项常见的挑战：

1.配合散热的结构设计：Top Stiffener with Thermal Solution

Top Stiffener虽然在Base Specification中着墨甚少，但却需要良好的结构设计来配合OAM设计，否则会直接影响散热的效率。好的Top Stiffener设计包括良好的支撑与导热，才能让air-cooling solution例如3U或是4U高度的3D VC充分发挥功效。面对超过600W TDP的下一世代方案，还需要整合Cold plate的liquid cooling 。这些都考验制作厂商在机构设计、材料选择以及对散热技术的了解才能实现。

2.加工工艺上的挑战：OAM Bottom Stiffener

OAM与UBB连接不良是实务上最常见的问题，而连接不良往往来自于对于OAM Bottom Stiffener的轻忽。OAM普遍采用的是Mirror Mezz Pro Connector，在Base Specification里提到的公差必须维持在±0.15mm，但由于组装能力以及加工能力的差异，不良的Bottom Stiffener往往会导致最终组装公差过大或是两端不平均导致连接不良。无论是多优秀的AI晶片。

结语

AI相关的技术在近年来发展突飞猛进，带来的挑战更是跨领域的。正凌在与AI领导者一起克服种种困难的同时，更加深刻体会到要实现让人惊艳的AI表现背后，每一个小细节都至关重要。也希望所累积的各种经验与能力，能够为更多的AI产品开发者解决问题，让这个改变人类文明的技术能够更加便利的为所有人使用。

发送到邮箱 |
+1 赞 0
收藏
评论 0
| 转发至：

本文由咪猫转载自正凌，原文标题为:认识AI硬体的开放架构，本站所有转载文章系出于传递更多信息之目的，且明确注明来源，不希望被转载的媒体或个人可与我们联系，我们将立即进行删除处理。

全部评论（0）

暂无评论

Understanding the Open Architecture of AI Hardware: OAI ＆ OAM

NEXTRON is one of the few market solution providers with expertise in high-speed transmission, structural design, and cooling modules. It has already provided high-speed I/O and OAM-related products to several leading AI chip designers.

技术探讨发布时间 : 2024-06-22

Nextron’s Next Generation QSFP112 cage/connector system and Heat Dissipation Strategies

In this article we discuss 3 most popular types of thermal management, air cooling methods, liquid cooling systems, thermal conductive material and additions. Then Nextron tells the heat dissipation solutions based on QSFP112.

技术探讨发布时间 : 2022-09-02

【技术】虚拟示波器相较于传统仪器的优势分析

虚拟示波器是在PC技术的基础上发展起来的，所以*“继承”了以现成即用的PC技术为主导的新商业技术的优点，包括功能超卓的处理器和文件I/O，使您在数据导入磁盘的同时就能实时地进行复杂的分析。　　随着数据传输到硬驱功能的不断加强，以及与PC总线的结合，高速数据记录已经较少依赖大容量的本地内存。

技术探讨发布时间 : 2023-12-18

日本电产集团综合产品目录(Nidec Group Products Catalog)

型号- PM4系列,H300,D SERIES,NRFEIS-5060,DFS,GATS-2000 SERIES,TPI SERIES,GATS-7800 SERIES,R-6100,TVX,GATS-6300,GATS-8600,SX-20,RWI SERIES,ZI20A,GATS-7500系列,LSR-3230,BP100,RSH,GATS-7700 SERIES,K-MC1000,P2H系列,E300,GATS-2000系列,GATS-6300系列,NVM-6060GCP,VL-H系列,GATS-7500,MH3NCV,VL SERIES,GATS-7800系列,SS-SV,DEWE3-A4,TPI,TVX SERIES,RGA20,NRTES-1000 SERIES,FCPL,ΜV1,RSH系列,ZG SERIES,ID300,FMD,TPI系列,GATS-8600系列,S-CART,GATS-6300 SERIES,KS,CM,R-580,SS-SV SERIES,ANEX SERIES,LD SERIES,VP600GC,GE15FR PLUS,MD2,ANEX系列,NRTES-1000,P2H SERIES,FFB,VL系列,LS,RSH SERIES,RVL,VL-H SERIES,RVP,F600,SS-SV系列,S-FLAG,GATS-7500 SERIES,REC-92FT,DEWE3-PA8,ECO-KA,KCV1000-5AX,S-CART-V1000-LFT,RVL SERIES,RVP SERIES,R-700 SERIES,P2H,ZE16C,CPLS,S-CART-V500,HM500S,VM53RⅡ,GATS-7700,ANEX,NRTES-1000系列,HM-X6100,RWI,TVX系列,KA SERIES,S-CART-MINI,GATS-2000,PM4,VL-H,GATS-7700系列,CBZ,GH,GATS-8600 SERIES,R-700,R-5920系列,NRFEIS-3570,DFS SERIES,MVR-HX,MAF130EⅡ,BL-V20,ECO-KA SERIES,SERIES S-FLAG,RWI系列,HE,GATS-7800,R-5920

商品及供应商介绍 - NIDEC - 第10版 (10th Edition) - 2022年12月 (December, 2022) PDF 中英文下载

正凌（Nextron）高速光电连接器选型指南

目录- Company Profile and Test Capabilities Connector Application Connector Customized-Solutions High Speed I/O Connector Overview SFP series High Speed Connector QSFP series High Speed Connector MiniSAS HD series High Speed Connector Dust/EMI Covers

型号- Z-H03B0011**000,Z-8420011**0001,Z-855**10000*10,Z-834B***P****1,Z-834E***P****1,Z-861E0**00**01,Z-828***000D0*0,Z-844E0**P0***1,Z-861T0**00**01,Z-8560**1000000,Z-8350011**0001,Z-840B000020000,Z-828***000**00,Z-848T***P****1,Z-8670011**0001,Z-868**0***0**0,Z-830B000100000,Z-83220S00****0,Z-848B***P*00*1,Z-848E***P*00*1,Z-H02R0111**0R0,Z-8270000*0*000,Z-H02R0111**1R0,Z-85020S******0,Z-824**1000***0,Z-844T0**P0**01,Z-S892000*0B22,Z-854***000***0,Z-834T********1,Z-S891000*0B22

选型指南 - 正凌 - 2020/6/17 PDF 英文下载

正凌自主开发一系列连接器产品，满足高速传输技术发展需求，应用涵盖工业物联网及车联网等

围绕着云端运算、物联网、大数据以及AI技术而生的高速资料传输需求急速发展，讯号传输除了追求速度，安全可靠更是必要条件。为了满足科技急速发展而产生的各种新需求，正凌结合30几年来累积的专利技术，不断推出自主开发的新产品，包含高速I/O连接器、圆形连接器和背板连接器，应用范畴涵盖高速资料中心、工业物联网及车联网等。

产品发布时间 : 2024-11-13

Delta Industrial Automation 2022 Full Range Catalogue

型号- VIS,PMT-12V35W2BA,DRS60LCSS1BN002,AX-3,DVS-016,DVS-G406W01-2GF,DFM,DMV-CC2M1GC055,DMV-CL5M0GM023,ECM-SD3,PJ-24V30WBNA,AHBP05M2-5A,ECM-PFC83,ECM-PFC84,ECM-PFC81,ECM-PFC82,PMT-30V50W2BA,PCIE-L221 SERIES,DVPEN01-SL,DOP-107WV,DRR-40N,AH,DX-3001H9,DVS-G008W01,PMT-36V350W2BM,AS,DRC-12V30W1AZ,PJ-5V15WBNA,AS500,DVP04DA-E2,PMT-36V350W2BR,PMT-12V100W2BA,DRP024V060W1BN,DVPAEXT01-E2,DVP02LC-SL,PMT-D2V75W2CA,DVPO4AD-E2,DTMN08-C,DRS60L6SS1BN302,REG2000,IFD6530,DRC-24V10W1HZ,DVS-G900-6GM12,AH SERIES,DVS-G900-8GE,DVP10RC-E2,DIAVIEW,R1-EC6022D0,ISE,DTMN08-L,DTMN08-R,DVS-G900-8GF,TP04G-AL-C,TP70P,EA-FM02MBT01,DTM-DOL,,DRP048V480W1BN,DMV1000G,DIADESINGER-AX,DVP16XM211N,UC-PRG020-12A,DVP-SE,DRP012V015W1AZ,VFD-EL-W,CP2000,DRS60L3SS1BN002,MS300 SERIES,DRP024VO60W3BN,R2-ECO902D0,DMV-C,DRP-24V100W1NN,DVP-EH2 SERIES,ME300,ECM-PF,KPC-CC01,ECML-S1608,VFD-E,DVP-ES2,PMT-15V50W2BA,DTM-BDR,DVS-G408W01,DVP-ES3,DFS131,ECML-S1606,DTM-BDV,ASDA-A2R SERIES,ED,PMT-30V100W2BA,DTMN08-V,DVS-109,DOP-110IS,DVS-108,RTU-DNET,EH,DAH1000S,DOP-112MX,DVS-103,PMT-D2V75W2BA,DVP202LC-SL,ES,DRP012V030W1AZ,DIASECS-GEM FAMILY,ECM-PU,AFE2000,DRS80LC,DRP024V960W3BN,DOP-110IG,IFD6500,IFD6503,ECML-SM32,PJ-12V100WBNA,PJB-24V150WBNA,FD8540,ECML-SM35,PMT-30V35W2BA,CH2000,DVP-PM,PJH-24V300WBBA,DRS70L6,DVS-110,ECML-S,DFS150,DVPCP02-H2,DVP08XM211N,PJ-12V30WBNA,DRS70LC,CP2000 SERIES,PJ-12V150WBNA,DX-2300LN,ECML-SM20,AH500,ECML-SM25,DVP-S SERIES,DTM-BDC,DVS-008,DVS-005,DVPSCM12-SL,DVP04PT-E2,PJH-24V300WBCA,DVP04TC-E2,DTM-BDL,DMV,DVPPF02-SL,DRP048V120W1BN,PJB-24V240WBNA,DVW-W0112-E1,FD8520,PMT-12V75W2BA,RM-04PI,ECML-SM16,TP04G-BL-C,HH,EA-FM02MVN02,DVP20PM00DT,DRS60L3SS1BN502,RS-AFS60LB06,PMT-15V35W2BA,RS-AFS60LB01,HS,RS-AFS60LB05,RS-AFS60LB04,REG2000 SERIES,RS-AFS60LB02,LU-46,LD-E,PMT-12V150W2CA,DVP-15MC,DOP-103WQ,LD-N,DVS-G928W01,PCI-DMC-B02,DPM-M,PCI-DMC-B01,DRS40L3SS1BN002,DMV-CL,PJ-24V100WBNA,ECM-PU212,PMT-48V100W2BA,LU-S,DMV-CC,DMV-CL12MGM008,DRP-24V240W2BN,AX-308E,DPA,ECM-PU211,R1-EC5614D0,DPB,DVW-ANT,DOP-100,AHCPU560-EN2,PMT-30V150W2BA,DVPDNET-SL,DOP-115WX,PMT2,PMT-36V200W2BM,DAH2000H,DVW-W02W2-E2,PMT-D1V75W2CA,DVP08XN211R,DVP08XN211T,DPM-C,DPM-D,DRC-24V10W1AZ,ESP-S,PMT-30V150W2CA,LU-26,VTSCADA,PCI-DMC-A02,DMV-CL12MGC008,DRP-24V480W1CAN,DRS60L3,ECM-PU433,ECM-PU432,PMT-12V50W2BA,PJ-24V5OWBNA,DRS60L6,ESP-E,ECM-PU435,PMT-12V200W2BM,PMT-D1V75W2BA,PJ-12V50WBNA,ECM-PU434,PMT-12V200W2BR,PMT-36V75W2BA,AMBD,ECML-S2504,IFD8540,LU-33,AS-E,ECML-S2508,DRS60LC,ECML-S2506,AS-B,DVP04AD-SL,PMT-24V200W2BR,ASDA-B3,PMT-24V200W2BM,ASDA-B2,PMT-36V150W2BR,PMT-48V350W2BM,DVP-EH3 SERIES,ASDA-A3,DRS,PMT-48V350W2BR,DVP-SV2,DRP024V240W1AA,PJB,DRV,PCI-L221 SERIES,PMT-24V100W2BA,PJH,PJL,PMT-36V150W2BA,DOP-107BV,R1-EC70F2D0,IFD9503,IFD9502,ECML-S3505,DRP024V060W1AA,PMT-48V200W2BM,ECML-S3506,PMT-12V350W2BM,PMT-12V350W2BR,PJU,IFD9506,ASDA-M SERIES,PJT,DVP-F422,ASDA-A2,DMV-CL20MGMO05,DTM-CT030,ECM-PFC8,DRP048V060W1BN,DRV90L7,DT3,PMT-24V75W2BA,MH300,ASDA-S,DVP-FEN01,DTA,IFD8520,DTC,DVP08XP211R,ASDA-M,DTB,DTE,LCP-1FE,DTK,ASDA-B2-F SERIES,DTM,DRP024V060W1AZ,PJ-12V15WBNA,DOP-107EG,DVPPF01-S,DTS,DTM-DOR,PMT-48V150W2BA,DTV,DRP012V060W1AA,RS-AFS60LA01,DTM-DOV,AS324MT-A,DVP08XP211T,RS-AFS60LA06,RS-AFS60LA05,RS-AFS60LA04,PMT-24V150W2CA,LA-S8,LA-S7,DOP-107DV,DVS-G112,DRC-24V30W1AZ,LA-S4,TP04G-AL2,LA-S6,PIC-DMC-B03,LA-S5,LA-S,RTU-ECAT,DTM-DOC,CSJ,DVS-G116,DRP048V240W1BN,PMT-24V150W2BA,DRP-24V120W2BN,DRP024V240W1BN,PJB-24V300WBNA,PMT-48V150W2CA,DRS80LCSS1BN002,DVP-SS2,PMC,PMF,DMV-CL5M0GCO23,DIASECS,LA-SB,LA-SA,ASD-SD3,PMT-30V75W2BA,PA,CTA,PMT-12V150W2BA,PMT-36V150W2CA,DIALINK MINI,DOP-107CV,PMR,DVP-EX2,MH2,PMT-48V35W2BA,R1-EC70E2D0,PMU,DVS-G106,PJ,DOP-112WX,DMV-CL20MGC005,DVP,DLAENERGIE,DRC-12V10W1AZ,PS,CLIQ M SERIES,DMCNET,AS516E,DRP024V120W3BN,DOP-105CQ,NC30EB,DMV-CL6M3GC016,TP04P,PMT-36V50W2BA,PJB-24V100WBNA,DMV-CL1M6GM060,DRS70L6SS1BN002,AH10SCM-5A,DOP-108IG,IFD8510A,PMT-24V350W2BM,ASDA-A3-E,PCI-DMC-F02,ASDA-A3-F,TRU-PD01,DRS6016SS1BN002,PMT-24V350W2BR,DTMR08,DOP-107EV,DTMR04,DVP16XP211R,DVP-F232,DVP16XP211T,DOP-H,DIAENERGIE,IED-S,DMV2000,DOP-107IV,DVP06PT-E2,ECML-S3206,ECM-PF802,ECM-PF803,ECML-S3208,PMT-48V75W2BA,ECM-PF801,DRS40L3,DVP-10MC,ASD-CNFS0808,ECML-S3204,ECM-PF804,DRP012V100W1AA,DVS-G005I00C,DVS-G005I00A,DVPPF02-H2,DVPDT02-H2,ASDA-A2-M,DMV-CC1M6GC075,ASDA-A2-F,DRV70L7,DIAVISION VGR,DVP02DA-E2,ASDA-A2-E,PMT-48V200W2BR,MS300,RTU-485,EA-CP16,RS60H6,DOP-110WS,DX-2100RW,DX-3001H9-V,DRP024V240W3BN,DVP-SX2,DRP024V480W3BN,ASDA-B3-F,ASDA-B3-E,AS524C,PJH-36V300WBBA,DMV-CC1M6GM075,ECM-PU381,ASD-CNSC0026,ECM-PU383,ECMA,ECM-PU382,ECM-PU384,DRP024V120W1BN,PJ-24V150WBNA,DMV-CC400GM290,DRP-24V120W1CAN,DVP01LC-SL,PMT-15V75W2BA,DOP-103BQ,DVP24XP200T,DVP24XP200R,PMT-36V35W2BA,AX-316E,DMV-CL6M3GM016,MH300-L,CFP2000,DMV-CL1M6GCO60,ECML-S2005,DVP32XP200T,DVS-G402,ECML-S2004,DRB-24V040ABN,DVS-G401,ECML-S2003,DVP32XP200R,PMT-48V50W2BA,DVP04DA-SL,AFE2000 SERIES,DVP06XA-E2,ASDA-B2-F,DRS70LCSS1BN002,DVPSCM52-SL,DMV-CC400GC290,DRASIMUCAD,PS-F,AX3,IFD8500A,DVP-F485,DVS-G512,AX8,DTME04,DIAEMS,ESP S,PJH-36V300WBCA,DVP-ES2 SERIES

选型指南 - 台达 - 20220420 PDF 英文下载

认识AI硬体的开放架构-OAI＆OAM，正凌为为OAM设计者提供高速I/O与OAM相关产品，共同迎接AI发展新挑战

开放加速器模块（OAM）为AI服务器开发商提供了一种高效且可扩展的解决方案，使他们能够更容易地整合新的AI加速器。OAM具有高效能与效率、可扩展性和支持多样的应用场景等优点，但同时也面临着技术和设计复杂性、高功耗管理和标准化和兼容性等挑战。正凌作为一家拥有高速传输、机构设计与散热模组的方案商，为OAM设计者提供了配合散热的结构设计和加工工艺上的挑战解决方案。

应用方案发布时间 : 2024-07-08

Nextron‘s Next-Gen High-Speed Connectors

To meet the new demands arising from the rapid development of technology, Nextron has been developing new products including high-speed I/O connectors, circular connectors, and backplane connectors, which are applied to high-speed data centers, IIoT and Internet of Vehicle(IoV), etc. by integrating the patented technology, domain know-how and capabilities of simulation and verification accumulated over the past 30 years.

产品发布时间 : 2024-11-07