打造极致效能的边缘AI计算基础方案，构建绿色、安全的智能世界

时间： 2024-06-17 来源：地平线HorizonRobotics公众号

技术问答

选型帮助

研发客服

商务客服

在近日举办的CES Asia上，地平线联合创始人&副总裁黄畅博士受邀在CES主论坛发表主题为《边缘AI计算发展趋势》的演讲。在一小时的演讲中，黄畅博士从边缘计算推动的行业变化、AI能效与企业责任、有效算力的定义、地平线开放赋能的战略与开发者平台分享了其对人工智能时代边缘计算趋势的洞察并深度解读地平线的“AI on Horizon, Journey Together”战略。黄畅表示，地平线愿意做一家平台化的公司，甘做技术底座，托起客户，跟客户一起走下去，成就客户价值。

新变量：边缘计算带来商业范式转移

全球著名的研究公司Gartner的技术成熟度曲线显示，AI普惠大众的时代已经开启，正在各个行业创造新的价值，在这个过程中，我们将会面临什么样的挑战？伴随着AI的商业化，最重要的挑战就是数据量的指数级增长，并且呈现出两个关键特征：数据的实时性和安全性。据国际IDC数据公司(IDC)白皮书《数据时代2025》预测，2025年，超过25%的数据将成为实时数据，其中95%生产自IoT终端，并且绝大部分不能直接创造价值，需要经过计算来提炼;而2025年全球数据总量的20%将直接关乎人们的日常生活乃至生存安危。

这对数据的计算带来严峻挑战，我们该如何高效处理海量的数据并挖掘其价值，并且对实时性数据以秒级，甚至毫秒级的处理，同时，保护数据隐私?随着5G商用开启，终端接入网的扩容极大，实时性要求进一步提升，但因为骨干网扩容成本高、延迟大，导致在边缘侧形成数据堰塞湖，边缘计算势在必行。Intel曾表示：MEC(多接入边缘计算)不一定需要5G，但5G一定需要MEC。有了边缘计算的加持，5G的商业价值才能真正得以发挥。

破解目前物联网数据计算面临的难题，边缘计算具有五大优势：

1.可靠性高，在离线状态下也可以正常运作；

2.安全合规，满足隐私要求；

3.降低数据传输和存储成本；

4.高实时性，减少反应延迟；

5.计算设备部署灵活，高效协同。

AI计算可以分为云计算、边缘计算、端计算三个层次。他们在AI算力、实时性以及计算的通用性三个维度上，各有所长：

云计算面向的是最通用的计算，在所有的计算中，云计算的时空范畴是最大的，多样性最强，所需要的算力最高，但实时性较差，并且与场景相关性弱；云端的数据种类也是最丰富的，可以横跨多个维度，因而可以做复杂的认知计算和模型训练。
端上的计算是另外一个极端，与场景相关性最强，计算专用性非常强，追求极致效率。主要面向推理。
处在中间的边缘计算是新物种，它就像我们的脊椎一样，连接我们的大脑(云)和神经末梢(端)。其算力远胜于端，同时对功耗的容忍度比端也强很多；相对于云，其实时性更好，且可以结合具体场景进行特定优化。而5G技术的应用，可以大幅改善边缘和端之间的数据带宽和传输延迟，使得它能够兼具云和端的优势，改变现有网络互联格局。

5G时代下的物联网模式也将随之而变，边缘计算成为数据过滤器与控制阀，通过它的处理，可仅将低至万分之一的有效数据上传到云端进行处理，大幅降低对于骨干网的数据传输压力。

在传统互联网时代，是端和云的二元计算架构，数据持续向云端转移并被处理，端只是流量入口；但是边缘计算的加入，带来了新变量，它在端和云之间，构造出一种全新的可能，其对于数据的控制力将带来新的商业范式转移，从技术角度讲，边缘计算具备了改造传统互联网计算架构的潜力，将带来从软件到硬件的全新构架变革。

AI能效成为新的企业责任

AI普及化带来新价值的同时，也带来了新的能源危机。

今天，数据中心耗电惊人，据《中国数据中心能耗现状白皮书》显示，在中国有40万个数据中心，每个数据中心平均耗电25万度，总体超过1000亿度，这相当于三峡和葛洲坝水电站1年发电量的总和。如果折算成碳排放的话，大概是9600万吨，这个数字接近目前中国民航年碳排放量的3倍。

数据中心平均消耗的功率是大型商业写字楼的100倍以上。而为服务器供电和冷却所需的电能占到数据中心总运营成本的40%，因此，数据中心的能源低效问题不容忽视。

为了降低功耗，阿里的数据中心建在张北，张北风力强劲，年平均气温不到3摄氏度，这就好比是一个天然散热场，从而减少冷却系统耗电，预计仅数据中心的制冷能耗就可以降低45%。腾讯数据中心建在贵州省贵安新区两座山的山体上，也是为了散热。

可以预见的是，未来我们需要的数据计算量将以数量级的方式高速增长，那这样的耗能方式是难以维持的。所以，通过极致的AI能效提升减少碳排放，已经成为AI企业新的社会责任，即充分利用有限的能源创造更大的价值。

有效算力带来极致效能

在传统芯片行业，PPA(算力、功耗和面积)是最经典的性能衡量指标。但在AI时代，我们需要新的范式来定义性能。

当前的业界存在一个很大的误区，往往会把峰值算力当作衡量AI芯片的主要指标。但我们真正需要的是有效算力，及其输出的算法性能。这需要从四个维度来衡量：每瓦的峰值算力和每美元的峰值算力(由芯片架构、前后端设计和芯片工艺共同决定)，峰值算力的有效利用率(由算法和芯片架构决定)，以及有效算力转化为AI性能的比率(主要是速度和精度两个方面，由算法决定)。之前业界普遍采用Resnet这样的模型，但是今天我们采用类似MobileNet这样更加精巧设计的小模型，可以用1/10的算力达到相同的精度和速度。但是这些精巧设计的算法给计算架构带来了巨大的挑战，往往使得传统设计的计算架构的有效利用率大幅下降，从最终的AI性能角度来说，甚至得不偿失。

地平线的最大特点，是对重要应用场景中，关键算法的发展趋势进行预判，前瞻性地将其计算特点融入到计算架构的设计当中，使得AI处理器经过一两年的研发，在推出的时候，仍然能够很好地适应最新的主流算法。因此，和其他典型的AI处理器相比，地平线的AI处理器，随着算法的演进趋势，始终能够保持相当高的有效利用率，从而真正意义上受益于算法创新带来的优势。

掌握了算法和计算架构，我们还只是具备了巨大的潜能。而编译器，则能够将这两者联合起来进行极致优化，释放出所有的潜能。举一个实际的例子，在没有优化的情况下，峰值算力的有效利用率是34%；但经过编译器对指令序列进行优化之后，这个数值被提升到了 85%。这使得芯片的处理速度，提升了2.5倍，或者说，处理相同多的任务，功耗降低到40%。

用未来重要应用场景中的关键算法发展趋势，来指导地平线AI芯片的架构设计，首重效率，兼顾灵活，这是地平线一直以来的设计理念——极致的AI能效是地平线在产品上始终如一的理想和追求。

高效的AI开发平台成就客户

创业几年来，我们深深感受到，AI从技术演示到商业落地的路径非常长，将AI解决方案集成到客户的产品中，赋能并成就客户，对大部分公司来说，存在不低的门槛。所以我们每天都在努力，如何去降低我们的方案被集成的难度。为此，地平线设计出一整套包含数据、训练、部署在内的算法开发流程，并开发出一套全栈式的AI平台工具用来高效地支撑这套开发流程。我们甚至提供大量优秀的算法模型和原型系统，作为参考样例提供给我们的客户。通过这些工具和样例，客户可以照猫画虎，快速地进行产品所需的算法开发，并持续迭代，由浅入深地进行全方位地调优，探索客户自己在数据和算法方面的独特价值。

地平线的全栈AI平台工具链，包括数据、训练和设备部署工具。它们形成了一个闭环，高效地运作起来，数据产生模型，模型可以被部署到设备上运行，运行过程中又可以指导模型的调优，甚至收集新的数据。这样的一种开发模式，可以提升开发速度，降低开发门槛，保证开发质量。我们当前的评估结果现实，它可以减少约30%的开发人力，节省50%的开发时间，更重要的是，因为开发门槛被降低了，开发者的规模甚至可以扩大一个数量级。

地平线会持续对开发工具进行升级，为客户提供半自动化的处理流程，这里包括：数据工具与模型，模型与端上设备之间的闭环迭代;丰富的模型/系统参考原型，简洁易用直观方便的交互手段；标准化开发流程，加上持续的测试，集成，部署机制。

以开放赋能客户为本，快速满足不同客户需求是地平线AI平台服务客户的宗旨，我们要节省更多的开发时间，节约更多的开发人员，也让越来越多的企业参与到人工智能开发的环境中来，打造良好的生态基础平台。

在目前这样一个能源消耗巨大的AI时代，地平线以其自身特有的优势及服务理念，为客户提供高性价比和易被继承的产品，友好的开发工具及参考样例、先进的计算架构、前沿的算法支持和优质的服务。

我们已经帮助合作伙伴开发了很多成功的产品，比如工地安全帽检测，小爱音箱，为理想One提供多音区语音交互解决方案，众包方式的高精语义地图建图产品等。我们还加入了96Boards开源社区，拥抱更为广泛的开发生态。

我们愿意做一家平台化的公司，做技术底座，赋能客户AI on Horizon。我们从来不认为创业是一个party, 而是一个和客户携手journey together的旅程。跟客户一起走下去，成就客户价值，践行我们的使命，赋能万物，让每个人的生活更安全，更美好，谢谢大家!

发送到邮箱 |
+1 赞 0
收藏
评论 0
| 转发至：

本文由子文转载自地平线HorizonRobotics公众号，原文标题为:打造极致效能的边缘AI计算基础方案，构建绿色、安全的智能世界，本站所有转载文章系出于传递更多信息之目的，且明确注明来源，不希望被转载的媒体或个人可与我们联系，我们将立即进行删除处理。

全部评论（0）

暂无评论

复旦微电子携FPAI芯片—FMQL100TAI及软硬一体全栈方案亮相世界人工智能大会，助力安防等传统行业智能升级

9月1至3日，2022年世界人工智能大会在上海举行，上海复旦微电子集团股份有限公司再次精彩亮相，向大众展示复旦微电基于自研FPAI芯片的人工智能解决方案，为安防、工业、农业、物流等传统行业的智能化升级带来无限可能。

厂牌及品类发布时间 : 2022-09-07

艾诺半导体携AI人工智能、超级计算机、数据中心电源解决方案，EXSilEnt®超低噪声技术等产品慕尼黑上海电子展

2024年7月8日-7月10日，艾诺半导体公司携AI人工智能、超级计算机、数据中心电源解决方案，EXSilEnt®超低噪声技术和EZSiP®微电源模块行业应用方案亮相慕尼黑上海电子展。

厂牌及品类发布时间 : 2024-08-27

灿芯半导体受邀参加2024国际AIoT生态发展大会，展示在“人工智能+无线连接”的成果，打造智能生活新体验

在当今这个科技飞速发展的时代，人工智能（AI）与无线连接技术的融合开启了一个全新的智能无线时代，从智能家居、智慧零售到智慧城市，从智能安防到智慧医疗等领域，这一创新组合正以前所未有的速度和深度改变着我们的生活和工作方式，推动社会向智能化、自动化迈进。

厂牌及品类发布时间 : 2024-08-15

AI加速边缘计算，聚焦AIOT芯片，NPU SOC，离线语音MCU，高算力智能模组等

世强硬创联合地平线，阿普奇，启英泰伦，美格智能，普林芯驰，唯创知音，九芯电子，芯闻，VINKO，MERRY带来AI新产品，聚焦AIOT芯片，NPU SOC，离线语音MCU，高算力智能模组等，加速边缘计算。

活动发布时间 : 2023-06-08

研讨会2024高算力SOC/MCU新技术研讨会

描述- 9月26日直播，带来SOC，DSP，MCU，AFE，IMU等高算力及周边产品，分享在机器人，多模态感知，AI，低空无人机，自动驾驶，视觉惯性里程计，微型逆变器，光伏储能，智慧医疗，数字健康，光模块等领域应用，点击了解报名

活动发布时间 : 2024-07-04

时钟芯片在人工智能领域的应用

时钟芯片是一种微电子设备，用于产生精确的时间信号。人工智能（AI）作为当今科技领域最热门的技术之一，正在逐步渗透到我们的日常生活中。在这个过程中，时钟芯片的应用起到了不可忽视的作用。本文赛思将详细探讨时钟芯片在人工智能领域的应用及其潜力。

技术探讨发布时间 : 2024-09-05

MEIG（美格）5G+AIoT模组选型指南

目录- 公司简介模组概览 5G模组系列 4G模组系列 NB-IoT/Cat M模组系列产品解决方案

型号- SLT866,SLT188A,SLM550,SLM756CH,SLM156,SLM828M,SLM790,SLM759J,SNM951,SRM825L,MT548,SLM820,SLM756LA,SRM930-C,SLM550-AU,SLM828,SLM925-AU,SRM900,SLM900NA,SLM758J,SLM750-Z,SLM900EU,SLM759C,SLM828G,SLM759E,SLM759A,SLM759B,SRM900L-C,MP617,SLT868Q,SRM900-C,SLM130,SLT818A,SRT873,SLM920,SLM500LA,SRT873S,SLM500LC,MC539,SLM920-J,SLM500LE,SLT719,SLM925,SLM500LJ,SLM900LA,SLM920-E,SLM920-C,SLT711,SLM130F,SLT818H,SLM920-A,SLM757,SLM900CH,SLM756,SLM550-C,SLM759,SLM758,SLM550-A,SNM900,SLM755,SLM130X,SLM550-E,SLM550-J,SLM328Y,MA800,SRM810,SLM190,SRM930,SRM811,SLM755L,SRM815,SLM750 MINI PCLE,SLM160X,SLM750,SLM900,MT504,SNM758,SLM925-E,SLM925-J,SRM821,SLM500L,SLT776,SRM825,SLM925-C,SLT778,SLM925-A,SRT856,SRM815N,SLM770A,SLM100,SRM900L,SRT853,SRM815-GL,SRT855,SLM500SC,SLM500SB,SLM500SE,SNM920,SLM730,SLM770U,SLM757QA,SLM757QC,SLM500S,SLM757QE,SLM500Q,SLM920-LA,SNM925,SLM330,SLM332,SLM190X,SRT853C,SLM758B,SLM328,SLM758C,SLM758E,SLM323,SLM756EU,SLM790 MINI PCLE,SNM930,SRM825WN,SLM326,SLM758A,SLM756NA,SLM925-LA,SRM930-E,SRM825W,SLM160,SRM930-J,SRT838S,SLT879,SRM825N,SLM320,SLM322,SRT830,SRT831,SLM500QA,SLM500QC,SLM500QE,SLM770A MINI PCLE,SLM920-AU,SLM500QJ

选型指南 - MEIG - 2022/9/7 PDF 中文下载

基于RK3588芯片设计的人工智能边缘计算网关DSGW-380，具有强大的计算和兼容性

AI边缘计算工业网关是一种用于工业环境的边缘计算设备，旨在将人工智能算法和数据处理能力引入工业场景中。它通常具有强大的计算能力、丰富的数据接口和工业级的可靠性。DSGW-380是一个基于RK3588芯片设计的人工智能边缘计算网关，具有强大的计算和兼容性特点。

产品发布时间 : 2023-11-03

启英泰伦（Chipintelli）三代人工智能语音芯片/语音模块选型指南

目录- 语音识别芯片语音模块

型号- CI-D03GS02S,CI-D02GS07J-BT,CI-D02GS02S,CI-D02GS01J,CI-C22GS02S,CI1122,CI1301,CI1312,CI-D03GS01J,CI1302,CI1303,CI-C22GS02J,CI2305,CI2306,CI1306

选型指南 - 启英泰伦 - V1.01 - 2022/10/28 PDF 中文下载

让AI更迅捷！TE LGA4710处理器插槽，支持8通道DDR5和第5代PCIe技术，带来最新的服务器架构

TE带来了与LGA4677插槽同系列的LGA4710处理器插槽新品，与LGA4677插槽一样，该款插槽和硬件针对下一代AI云计算需求而设计，增加了主板和处理器之间的连接通道。但在LGA4677插槽的基础上，LGA4710插槽增加了更多引脚数，搭载的处理器也做了升级。

产品发布时间 : 2024-08-23

安信可科技（Ai-Thinker）物联网专用模组&天线选型指南

目录- LoRa product Radar product WiFi+Bluetooth products 2.4G Series Module GPS Series Module UWB & 4G series module GPRS series module Offline Voice Module Series Antenna

型号- RA-01SH,PB-02-KIT,RTL8720 SERIES,AI-WB1,AI-WB2,AI-WB2-M1,HI-07S-KIT,TB-02-KIT,AI-WB2-12F-KIT,AI-WB2-13-KIT,AI-WB2-13U,AI-WB2-01S,A9,SX1268,RA-01SC,TG-02-KIT,PB SERIES,RTL8710BX SERIES,GPS SERIES,AI-WB2-01M,VC-01-KIT,HI-12F,TB SERIES,HI-12F-KIT,BW16,AI-WB2 SERIES,BW15,BW14,TG-12F-KIT,BW12,RTL8710BX,A9G,HI SERIES,AI-WB2-12S,PB-03,SX126X,AI-WB1-32S,HI-07S,HI-07SL-KIT,PB-01,PB-02,RG-02,AI-WB1-32S-KIT,RTL8720DN,AI-WB2-12F,TG-01M,AI-WB1SERIES,NF-05,NF-02-PA,NF-04,NF-03,BW16-KIT,NF-01-S,SX127X,TB-03F-KIT,LLCC68,TG-02,AI-WB2-07S,NF-01-N,NF-02-PE,AI-WB1-32S-CAM,GP-02-KIT,AI-WB2-M1-I,TG-02M-KIT,TG-02M,RA-08-KIT,GP-01,GP-02,CA-01-KITC,CA-01,2.4G SERIES,AI-WB2-13,PB-03F,PB-03M,TG SERIES,TB-04-KIT,TB-05,GPRS SERIES,TB-04,TG-02F,TB-02,RTL8720DN SERIES,TG-02F-KIT,4G SERIES,PB-03M-KIT,AI-WB2-32S-KIT,BU01,RA-01,PB-03-KIT,ESP32-G,RTL8720,RA-08H,NF-04-MI,VC-02-KIT,NF-05-S,RA-01S,HI-12FL,RA-01H,HI-07SL,AI-WB2-32S,RA-01SCH,PB-01-KIT,RTL8720CF,TG-01M-KIT,TG-12F,AI-WB1-A1S,AI-WB1-12F,TB-03F,BW15-KIT,GPRS,UWB SERIES,GP-01-KIT,AI-WB1-12F-KIT,NODEMCU-BU01,RA-08H-KIT,RD-01,RA-02,RTL8720CF SERIES,RA-08,VC-02,VC-01,HI-12FL-KIT,PB-03F-KIT

选型指南 - 安信可科技 - 2023/09/19 PDF 中文下载

【应用】地平线推出基于AI SoC X3M的扫地机方案，提供配套TROS操作系统和AI算法

地平线推出基于Sunrise®旭日芯片的扫地机方案，提供芯片+操作系统+算法的完整解决方案，实现更智能、更稳定、更主动的智能扫地机应用。

应用方案发布时间 : 2022-07-05

【IC】他山科技全球首款AI触感芯片TS3F605AQ，让机器拥有人的触觉感官

他山TS3F605AQ在机器人应用方面最大的优势在于触觉技术的发展并不仅仅依赖于算法的进步，更关键的是需要强大的底层硬件支撑，他山实现了全球首款AI触感专用芯片及领先的SNN分布式类脑产业化应用芯片，成为了在AI触觉感知赛道同时拥有AI触觉感知算法及底层芯片支撑能力的团队。

产品发布时间 : 2024-06-28

地平线发布具有4核ARMA53处理能力的X3派AI开发平台，支持H.264/H.265编解码和5Tops端侧推理｜视频

地平线旭日®️X3派是一款面向生态开发者的嵌入式AI开发板，接口兼容树莓派，具有5Tops端侧推理与4核ARMA53处理能力。可同时多路CameraSensor的输入并支持H.264/H.265编解码。

新产品发布时间 : 2022-06-16

AI赋能舞动最强音浪，GREENWAVES精彩亮相2024亚洲音频展！

2024年5月16-17日，蓝牙音频行业技术产业盛会2024（春季）亚洲音频展在深圳福田会展中心正式举行！2024年，GREENWAVES携基于AI降噪的创新GAP9处理器亮相本届盛会，带大家亲身体验GAP9处理器的卓越之处！与公司的资深工程师展开深入交流，包括GreenWaves如何巧妙融合DSP和AI技术，突破功耗限制，为可穿戴设备和物联网产品注入创新活力，打造用户心仪的卓越体验。

厂牌及品类发布时间 : 2024-08-08