认识AI硬体的开放架构

时间： 2024-05-22 来源：正凌

代理服务

技术支持

现货查询

批量订货

在AI领域，开放加速器基础设施（OAI）是由全球最具影响力的开源硬体组织之一：开放计算项目（OCP）所设立的一个子组织。自2019年起，OAI专注于定义适合大规模深度学习训练的AI加速卡形态，解决了多元AI加速卡形态和接口不统一的问题。

透过发布OAI-UBB（通用底板）1.0设计规范，OAI推动了AI加速硬体平台的标准化，使其能够无需修改即支援不同厂商的产品，显著提升了AI模组的扩展性和灵活性。

AI巨头们陆续采用的架构-OAM (Open Accelerator Module)

对于AI伺服器开发商来说，开放加速模组（OAM）带来了显著的好处。由于AI加速晶片的多样化和专业化，开发商面临着更高的开发成本和较长的开发周期。OAM的出现为这些开发商提供了一种高效且可扩展的解决方案，使他们能够更容易地整合新的AI加速器。这不仅降低了进入门槛，还加快了产品的市场推广时间。

OAM带来的优点与挑战

OAM有着三项显著优点，使其在当今快速发展的AI市场中显得尤为重要。

1.高效能与效率：OAM能显著提高处理的性能和效率，对于需求高算力的应用，如深度学习和机器学习，表现特别突出。

2.可扩展性：OAM设计允许在不同的系统和基板之间实现灵活的兼容性和扩展性，从而能够适应不断进步的高算力负载和技术发展。

3.支持多样的应用场景：OAM适用于多种领域，包括AI推理、科学模拟以及数据分析等，这种多样性使其能够满足广泛的业务需求。

这些优点展示了OAM在现代数据中心和高性能计算环境中的应用潜力和灵活性。

但是与此同时，采用OAM也需要面对几项挑战

1.技术和设计复杂性：当前专用的AI硬体系统在技术和设计上相当复杂，这使得将新的AI加速器整合到系统中通常需要6到12个月的时间，从而阻碍了新竞争技术的快速采纳。

2.高功耗管理：随着OAM产品设计功率的增加，达到600W以上时Base Specification已经建议采用液体冷却技术，这表示高功耗管理是一大挑战，特别是在未来功率可能轻易超过700W的情况下。

3.标准化和兼容性：AI加速器的快速演进和多样性对于标准化和兼容性有更高的要求，以支持各种硬体加速解决方案的可扩展性和模块间的高速通信链接。

正凌能为OAM设计者做什么？

正凌为市场上少数同时拥有高速传输、机构设计与散热模组的方案商。已经为市场上几家领导AI晶片设计者提供高速I/O与OAM相关产品。对于OAM的设计，正凌总结出两项常见的挑战：

1.配合散热的结构设计：Top Stiffener with Thermal Solution

Top Stiffener虽然在Base Specification中着墨甚少，但却需要良好的结构设计来配合OAM设计，否则会直接影响散热的效率。好的Top Stiffener设计包括良好的支撑与导热，才能让air-cooling solution例如3U或是4U高度的3D VC充分发挥功效。面对超过600W TDP的下一世代方案，还需要整合Cold plate的liquid cooling 。这些都考验制作厂商在机构设计、材料选择以及对散热技术的了解才能实现。

2.加工工艺上的挑战：OAM Bottom Stiffener

OAM与UBB连接不良是实务上最常见的问题，而连接不良往往来自于对于OAM Bottom Stiffener的轻忽。OAM普遍采用的是Mirror Mezz Pro Connector，在Base Specification里提到的公差必须维持在±0.15mm，但由于组装能力以及加工能力的差异，不良的Bottom Stiffener往往会导致最终组装公差过大或是两端不平均导致连接不良。无论是多优秀的AI晶片。

结语

AI相关的技术在近年来发展突飞猛进，带来的挑战更是跨领域的。正凌在与AI领导者一起克服种种困难的同时，更加深刻体会到要实现让人惊艳的AI表现背后，每一个小细节都至关重要。也希望所累积的各种经验与能力，能够为更多的AI产品开发者解决问题，让这个改变人类文明的技术能够更加便利的为所有人使用。

发送到邮箱 |
+1 赞 0
收藏
评论 0
| 转发至：

本文由咪猫转载自正凌，原文标题为:认识AI硬体的开放架构，本站所有转载文章系出于传递更多信息之目的，且明确注明来源，不希望被转载的媒体或个人可与我们联系，我们将立即进行删除处理。

全部评论（0）

暂无评论

Understanding the Open Architecture of AI Hardware: OAI ＆ OAM

NEXTRON is one of the few market solution providers with expertise in high-speed transmission, structural design, and cooling modules. It has already provided high-speed I/O and OAM-related products to several leading AI chip designers.

2024-06-22 - 技术探讨代理服务技术支持现货查询批量订货

Nextron’s Next Generation QSFP112 cage/connector system and Heat Dissipation Strategies

In this article we discuss 3 most popular types of thermal management, air cooling methods, liquid cooling systems, thermal conductive material and additions. Then Nextron tells the heat dissipation solutions based on QSFP112.

2022-09-02 - 技术探讨代理服务技术支持现货查询批量订货

【技术】虚拟示波器相较于传统仪器的优势分析

虚拟示波器是在PC技术的基础上发展起来的，所以*“继承”了以现成即用的PC技术为主导的新商业技术的优点，包括功能超卓的处理器和文件I/O，使您在数据导入磁盘的同时就能实时地进行复杂的分析。　　随着数据传输到硬驱功能的不断加强，以及与PC总线的结合，高速数据记录已经较少依赖大容量的本地内存。

2023-12-18 - 技术探讨

日本电产集团综合产品目录(Nidec Group Products Catalog)

型号- PM4系列,H300,D SERIES,NRFEIS-5060,DFS,GATS-2000 SERIES,TPI SERIES,GATS-7800 SERIES,R-6100,TVX,GATS-6300,GATS-8600,SX-20,RWI SERIES,ZI20A,GATS-7500系列,LSR-3230,BP100,RSH,GATS-7700 SERIES,K-MC1000,P2H系列,E300,GATS-2000系列,GATS-6300系列,NVM-6060GCP,VL-H系列,GATS-7500,MH3NCV,VL SERIES,GATS-7800系列,SS-SV,DEWE3-A4,TPI,TVX SERIES,RGA20,NRTES-1000 SERIES,FCPL,ΜV1,RSH系列,ZG SERIES,ID300,FMD,TPI系列,GATS-8600系列,S-CART,GATS-6300 SERIES,KS,CM,R-580,SS-SV SERIES,ANEX SERIES,LD SERIES,VP600GC,GE15FR PLUS,MD2,ANEX系列,NRTES-1000,P2H SERIES,FFB,VL系列,LS,RSH SERIES,RVL,VL-H SERIES,RVP,F600,SS-SV系列,S-FLAG,GATS-7500 SERIES,REC-92FT,DEWE3-PA8,ECO-KA,KCV1000-5AX,S-CART-V1000-LFT,RVL SERIES,RVP SERIES,R-700 SERIES,P2H,ZE16C,CPLS,S-CART-V500,HM500S,VM53RⅡ,GATS-7700,ANEX,NRTES-1000系列,HM-X6100,RWI,TVX系列,KA SERIES,S-CART-MINI,GATS-2000,PM4,VL-H,GATS-7700系列,CBZ,GH,GATS-8600 SERIES,R-700,R-5920系列,NRFEIS-3570,DFS SERIES,MVR-HX,MAF130EⅡ,BL-V20,ECO-KA SERIES,SERIES S-FLAG,RWI系列,HE,GATS-7800,R-5920

2022年12月 (December, 2022) - NIDEC - 商品及供应商介绍 - 第10版 (10th Edition) 代理服务技术支持现货查询批量订货

正凌（Nextron）高速光电连接器选型指南

目录- Company Profile and Test Capabilities Connector Application Connector Customized-Solutions High Speed I/O Connector Overview SFP series High Speed Connector QSFP series High Speed Connector MiniSAS HD series High Speed Connector Dust/EMI Covers

型号- Z-H03B0011**000,Z-8420011**0001,Z-855**10000*10,Z-834B***P****1,Z-834E***P****1,Z-861E0**00**01,Z-828***000D0*0,Z-844E0**P0***1,Z-861T0**00**01,Z-8560**1000000,Z-8350011**0001,Z-840B000020000,Z-828***000**00,Z-848T***P****1,Z-8670011**0001,Z-868**0***0**0,Z-830B000100000,Z-83220S00****0,Z-848B***P*00*1,Z-848E***P*00*1,Z-H02R0111**0R0,Z-8270000*0*000,Z-H02R0111**1R0,Z-85020S******0,Z-824**1000***0,Z-844T0**P0**01,Z-S892000*0B22,Z-854***000***0,Z-834T********1,Z-S891000*0B22

2020/6/17 - 正凌 - 选型指南代理服务技术支持现货查询批量订货

客户案例 | NGI高精度模拟量I/O卡助力头部PLC控制器模拟量高效测试

根据客户端的模块测试要求，NGI恩智测控模块化仪器平台自主研发与生产的模拟量输出卡配合高速数据采集卡可以实现客户端的研发测试要求。NGI全系列数据采集板卡是一种将低压模拟信号（通常为60V以下）转换为数字信号、以便计算机进行进一步处理和分析的模块化仪器，广泛应用于高校科研、汽车电子、工业自动化、航空航天和国防等行业。

2024-11-29 - 应用方案代理服务技术支持现货查询批量订货

Delta Industrial Automation 2022 Full Range Catalogue

型号- VIS,PMT-12V35W2BA,DRS60LCSS1BN002,AX-3,DVS-016,DVS-G406W01-2GF,DFM,DMV-CC2M1GC055,DMV-CL5M0GM023,ECM-SD3,PJ-24V30WBNA,AHBP05M2-5A,ECM-PFC83,ECM-PFC84,ECM-PFC81,ECM-PFC82,PMT-30V50W2BA,PCIE-L221 SERIES,DVPEN01-SL,DOP-107WV,DRR-40N,AH,DX-3001H9,DVS-G008W01,PMT-36V350W2BM,AS,DRC-12V30W1AZ,PJ-5V15WBNA,AS500,DVP04DA-E2,PMT-36V350W2BR,PMT-12V100W2BA,DRP024V060W1BN,DVPAEXT01-E2,DVP02LC-SL,PMT-D2V75W2CA,DVPO4AD-E2,DTMN08-C,DRS60L6SS1BN302,REG2000,IFD6530,DRC-24V10W1HZ,DVS-G900-6GM12,AH SERIES,DVS-G900-8GE,DVP10RC-E2,DIAVIEW,R1-EC6022D0,ISE,DTMN08-L,DTMN08-R,DVS-G900-8GF,TP04G-AL-C,TP70P,EA-FM02MBT01,DTM-DOL,,DRP048V480W1BN,DMV1000G,DIADESINGER-AX,DVP16XM211N,UC-PRG020-12A,DVP-SE,DRP012V015W1AZ,VFD-EL-W,CP2000,DRS60L3SS1BN002,MS300 SERIES,DRP024VO60W3BN,R2-ECO902D0,DMV-C,DRP-24V100W1NN,DVP-EH2 SERIES,ME300,ECM-PF,KPC-CC01,ECML-S1608,VFD-E,DVP-ES2,PMT-15V50W2BA,DTM-BDR,DVS-G408W01,DVP-ES3,DFS131,ECML-S1606,DTM-BDV,ASDA-A2R SERIES,ED,PMT-30V100W2BA,DTMN08-V,DVS-109,DOP-110IS,DVS-108,RTU-DNET,EH,DAH1000S,DOP-112MX,DVS-103,PMT-D2V75W2BA,DVP202LC-SL,ES,DRP012V030W1AZ,DIASECS-GEM FAMILY,ECM-PU,AFE2000,DRS80LC,DRP024V960W3BN,DOP-110IG,IFD6500,IFD6503,ECML-SM32,PJ-12V100WBNA,PJB-24V150WBNA,FD8540,ECML-SM35,PMT-30V35W2BA,CH2000,DVP-PM,PJH-24V300WBBA,DRS70L6,DVS-110,ECML-S,DFS150,DVPCP02-H2,DVP08XM211N,PJ-12V30WBNA,DRS70LC,CP2000 SERIES,PJ-12V150WBNA,DX-2300LN,ECML-SM20,AH500,ECML-SM25,DVP-S SERIES,DTM-BDC,DVS-008,DVS-005,DVPSCM12-SL,DVP04PT-E2,PJH-24V300WBCA,DVP04TC-E2,DTM-BDL,DMV,DVPPF02-SL,DRP048V120W1BN,PJB-24V240WBNA,DVW-W0112-E1,FD8520,PMT-12V75W2BA,RM-04PI,ECML-SM16,TP04G-BL-C,HH,EA-FM02MVN02,DVP20PM00DT,DRS60L3SS1BN502,RS-AFS60LB06,PMT-15V35W2BA,RS-AFS60LB01,HS,RS-AFS60LB05,RS-AFS60LB04,REG2000 SERIES,RS-AFS60LB02,LU-46,LD-E,PMT-12V150W2CA,DVP-15MC,DOP-103WQ,LD-N,DVS-G928W01,PCI-DMC-B02,DPM-M,PCI-DMC-B01,DRS40L3SS1BN002,DMV-CL,PJ-24V100WBNA,ECM-PU212,PMT-48V100W2BA,LU-S,DMV-CC,DMV-CL12MGM008,DRP-24V240W2BN,AX-308E,DPA,ECM-PU211,R1-EC5614D0,DPB,DVW-ANT,DOP-100,AHCPU560-EN2,PMT-30V150W2BA,DVPDNET-SL,DOP-115WX,PMT2,PMT-36V200W2BM,DAH2000H,DVW-W02W2-E2,PMT-D1V75W2CA,DVP08XN211R,DVP08XN211T,DPM-C,DPM-D,DRC-24V10W1AZ,ESP-S,PMT-30V150W2CA,LU-26,VTSCADA,PCI-DMC-A02,DMV-CL12MGC008,DRP-24V480W1CAN,DRS60L3,ECM-PU433,ECM-PU432,PMT-12V50W2BA,PJ-24V5OWBNA,DRS60L6,ESP-E,ECM-PU435,PMT-12V200W2BM,PMT-D1V75W2BA,PJ-12V50WBNA,ECM-PU434,PMT-12V200W2BR,PMT-36V75W2BA,AMBD,ECML-S2504,IFD8540,LU-33,AS-E,ECML-S2508,DRS60LC,ECML-S2506,AS-B,DVP04AD-SL,PMT-24V200W2BR,ASDA-B3,PMT-24V200W2BM,ASDA-B2,PMT-36V150W2BR,PMT-48V350W2BM,DVP-EH3 SERIES,ASDA-A3,DRS,PMT-48V350W2BR,DVP-SV2,DRP024V240W1AA,PJB,DRV,PCI-L221 SERIES,PMT-24V100W2BA,PJH,PJL,PMT-36V150W2BA,DOP-107BV,R1-EC70F2D0,IFD9503,IFD9502,ECML-S3505,DRP024V060W1AA,PMT-48V200W2BM,ECML-S3506,PMT-12V350W2BM,PMT-12V350W2BR,PJU,IFD9506,ASDA-M SERIES,PJT,DVP-F422,ASDA-A2,DMV-CL20MGMO05,DTM-CT030,ECM-PFC8,DRP048V060W1BN,DRV90L7,DT3,PMT-24V75W2BA,MH300,ASDA-S,DVP-FEN01,DTA,IFD8520,DTC,DVP08XP211R,ASDA-M,DTB,DTE,LCP-1FE,DTK,ASDA-B2-F SERIES,DTM,DRP024V060W1AZ,PJ-12V15WBNA,DOP-107EG,DVPPF01-S,DTS,DTM-DOR,PMT-48V150W2BA,DTV,DRP012V060W1AA,RS-AFS60LA01,DTM-DOV,AS324MT-A,DVP08XP211T,RS-AFS60LA06,RS-AFS60LA05,RS-AFS60LA04,PMT-24V150W2CA,LA-S8,LA-S7,DOP-107DV,DVS-G112,DRC-24V30W1AZ,LA-S4,TP04G-AL2,LA-S6,PIC-DMC-B03,LA-S5,LA-S,RTU-ECAT,DTM-DOC,CSJ,DVS-G116,DRP048V240W1BN,PMT-24V150W2BA,DRP-24V120W2BN,DRP024V240W1BN,PJB-24V300WBNA,PMT-48V150W2CA,DRS80LCSS1BN002,DVP-SS2,PMC,PMF,DMV-CL5M0GCO23,DIASECS,LA-SB,LA-SA,ASD-SD3,PMT-30V75W2BA,PA,CTA,PMT-12V150W2BA,PMT-36V150W2CA,DIALINK MINI,DOP-107CV,PMR,DVP-EX2,MH2,PMT-48V35W2BA,R1-EC70E2D0,PMU,DVS-G106,PJ,DOP-112WX,DMV-CL20MGC005,DVP,DLAENERGIE,DRC-12V10W1AZ,PS,CLIQ M SERIES,DMCNET,AS516E,DRP024V120W3BN,DOP-105CQ,NC30EB,DMV-CL6M3GC016,TP04P,PMT-36V50W2BA,PJB-24V100WBNA,DMV-CL1M6GM060,DRS70L6SS1BN002,AH10SCM-5A,DOP-108IG,IFD8510A,PMT-24V350W2BM,ASDA-A3-E,PCI-DMC-F02,ASDA-A3-F,TRU-PD01,DRS6016SS1BN002,PMT-24V350W2BR,DTMR08,DOP-107EV,DTMR04,DVP16XP211R,DVP-F232,DVP16XP211T,DOP-H,DIAENERGIE,IED-S,DMV2000,DOP-107IV,DVP06PT-E2,ECML-S3206,ECM-PF802,ECM-PF803,ECML-S3208,PMT-48V75W2BA,ECM-PF801,DRS40L3,DVP-10MC,ASD-CNFS0808,ECML-S3204,ECM-PF804,DRP012V100W1AA,DVS-G005I00C,DVS-G005I00A,DVPPF02-H2,DVPDT02-H2,ASDA-A2-M,DMV-CC1M6GC075,ASDA-A2-F,DRV70L7,DIAVISION VGR,DVP02DA-E2,ASDA-A2-E,PMT-48V200W2BR,MS300,RTU-485,EA-CP16,RS60H6,DOP-110WS,DX-2100RW,DX-3001H9-V,DRP024V240W3BN,DVP-SX2,DRP024V480W3BN,ASDA-B3-F,ASDA-B3-E,AS524C,PJH-36V300WBBA,DMV-CC1M6GM075,ECM-PU381,ASD-CNSC0026,ECM-PU383,ECMA,ECM-PU382,ECM-PU384,DRP024V120W1BN,PJ-24V150WBNA,DMV-CC400GM290,DRP-24V120W1CAN,DVP01LC-SL,PMT-15V75W2BA,DOP-103BQ,DVP24XP200T,DVP24XP200R,PMT-36V35W2BA,AX-316E,DMV-CL6M3GM016,MH300-L,CFP2000,DMV-CL1M6GCO60,ECML-S2005,DVP32XP200T,DVS-G402,ECML-S2004,DRB-24V040ABN,DVS-G401,ECML-S2003,DVP32XP200R,PMT-48V50W2BA,DVP04DA-SL,AFE2000 SERIES,DVP06XA-E2,ASDA-B2-F,DRS70LCSS1BN002,DVPSCM52-SL,DMV-CC400GC290,DRASIMUCAD,PS-F,AX3,IFD8500A,DVP-F485,DVS-G512,AX8,DTME04,DIAEMS,ESP S,PJH-36V300WBCA,DVP-ES2 SERIES

20220420 - 台达 - 选型指南代理服务技术支持现货查询批量订货

认识AI硬体的开放架构-OAI＆OAM，正凌为为OAM设计者提供高速I/O与OAM相关产品，共同迎接AI发展新挑战

开放加速器模块（OAM）为AI服务器开发商提供了一种高效且可扩展的解决方案，使他们能够更容易地整合新的AI加速器。OAM具有高效能与效率、可扩展性和支持多样的应用场景等优点，但同时也面临着技术和设计复杂性、高功耗管理和标准化和兼容性等挑战。正凌作为一家拥有高速传输、机构设计与散热模组的方案商，为OAM设计者提供了配合散热的结构设计和加工工艺上的挑战解决方案。

2024-07-08 - 应用方案代理服务技术支持现货查询批量订货

正凌自主开发一系列连接器产品，满足高速传输技术发展需求，应用涵盖工业物联网及车联网等

围绕着云端运算、物联网、大数据以及AI技术而生的高速资料传输需求急速发展，讯号传输除了追求速度，安全可靠更是必要条件。为了满足科技急速发展而产生的各种新需求，正凌结合30几年来累积的专利技术，不断推出自主开发的新产品，包含高速I/O连接器、圆形连接器和背板连接器，应用范畴涵盖高速资料中心、工业物联网及车联网等。

2024-11-13 - 产品代理服务技术支持现货查询批量订货

【产品】正凌提供400G高速连接与散热解决方案QSFP112，每条通道皆可支援112Gb/s

大型数据中心对资料传输速度的要求不断提升，正凌推出QSFP模组QSFP112，每条通道皆可支援112Gb/s并可向后兼容QSFP56及QSFP28；在不重建网路结构的前提下，该产品是升级频宽最具成本效益的方式，也是迈向800G通讯的垫脚石。

2022-08-31 - 产品代理服务技术支持现货查询批量订货散热方案设计

Nextron‘s Next-Gen High-Speed Connectors

To meet the new demands arising from the rapid development of technology, Nextron has been developing new products including high-speed I/O connectors, circular connectors, and backplane connectors, which are applied to high-speed data centers, IIoT and Internet of Vehicle(IoV), etc. by integrating the patented technology, domain know-how and capabilities of simulation and verification accumulated over the past 30 years.