打造极致效能的边缘AI计算基础方案，构建绿色、安全的智能世界

在近日举办的CES Asia上，地平线联合创始人&副总裁黄畅博士受邀在CES主论坛发表主题为《边缘AI计算发展趋势》的演讲。在一小时的演讲中，黄畅博士从边缘计算推动的行业变化、AI能效与企业责任、有效算力的定义、地平线开放赋能的战略与开发者平台分享了其对人工智能时代边缘计算趋势的洞察并深度解读地平线的“AI on Horizon, Journey Together”战略。黄畅表示，地平线愿意做一家平台化的公司，甘做技术底座，托起客户，跟客户一起走下去，成就客户价值。

新变量：边缘计算带来商业范式转移

全球著名的研究公司Gartner的技术成熟度曲线显示，AI普惠大众的时代已经开启，正在各个行业创造新的价值，在这个过程中，我们将会面临什么样的挑战？伴随着AI的商业化，最重要的挑战就是数据量的指数级增长，并且呈现出两个关键特征：数据的实时性和安全性。据国际IDC数据公司(IDC)白皮书《数据时代2025》预测，2025年，超过25%的数据将成为实时数据，其中95%生产自IoT终端，并且绝大部分不能直接创造价值，需要经过计算来提炼;而2025年全球数据总量的20%将直接关乎人们的日常生活乃至生存安危。

这对数据的计算带来严峻挑战，我们该如何高效处理海量的数据并挖掘其价值，并且对实时性数据以秒级，甚至毫秒级的处理，同时，保护数据隐私?随着5G商用开启，终端接入网的扩容极大，实时性要求进一步提升，但因为骨干网扩容成本高、延迟大，导致在边缘侧形成数据堰塞湖，边缘计算势在必行。Intel曾表示：MEC(多接入边缘计算)不一定需要5G，但5G一定需要MEC。有了边缘计算的加持，5G的商业价值才能真正得以发挥。

破解目前物联网数据计算面临的难题，边缘计算具有五大优势：

1.可靠性高，在离线状态下也可以正常运作；

2.安全合规，满足隐私要求；

3.降低数据传输和存储成本；

4.高实时性，减少反应延迟；

5.计算设备部署灵活，高效协同。

AI计算可以分为云计算、边缘计算、端计算三个层次。他们在AI算力、实时性以及计算的通用性三个维度上，各有所长：

• 云计算面向的是最通用的计算，在所有的计算中，云计算的时空范畴是最大的，多样性最强，所需要的算力最高，但实时性较差，并且与场景相关性弱；云端的数据种类也是最丰富的，可以横跨多个维度，因而可以做复杂的认知计算和模型训练。

• 端上的计算是另外一个极端，与场景相关性最强，计算专用性非常强，追求极致效率。主要面向推理。

• 处在中间的边缘计算是新物种，它就像我们的脊椎一样，连接我们的大脑(云)和神经末梢(端)。其算力远胜于端，同时对功耗的容忍度比端也强很多；相对于云，其实时性更好，且可以结合具体场景进行特定优化。而5G技术的应用，可以大幅改善边缘和端之间的数据带宽和传输延迟，使得它能够兼具云和端的优势，改变现有网络互联格局。

5G时代下的物联网模式也将随之而变，边缘计算成为数据过滤器与控制阀，通过它的处理，可仅将低至万分之一的有效数据上传到云端进行处理，大幅降低对于骨干网的数据传输压力。

在传统互联网时代，是端和云的二元计算架构，数据持续向云端转移并被处理，端只是流量入口；但是边缘计算的加入，带来了新变量，它在端和云之间，构造出一种全新的可能，其对于数据的控制力将带来新的商业范式转移，从技术角度讲，边缘计算具备了改造传统互联网计算架构的潜力，将带来从软件到硬件的全新构架变革。

AI能效成为新的企业责任

AI普及化带来新价值的同时，也带来了新的能源危机。

今天，数据中心耗电惊人，据《中国数据中心能耗现状白皮书》显示，在中国有40万个数据中心，每个数据中心平均耗电25万度，总体超过1000亿度，这相当于三峡和葛洲坝水电站1年发电量的总和。如果折算成碳排放的话，大概是9600万吨，这个数字接近目前中国民航年碳排放量的3倍。

数据中心平均消耗的功率是大型商业写字楼的100倍以上。而为服务器供电和冷却所需的电能占到数据中心总运营成本的40%，因此，数据中心的能源低效问题不容忽视。

为了降低功耗，阿里的数据中心建在张北，张北风力强劲，年平均气温不到3摄氏度，这就好比是一个天然散热场，从而减少冷却系统耗电，预计仅数据中心的制冷能耗就可以降低45%。腾讯数据中心建在贵州省贵安新区两座山的山体上，也是为了散热。

可以预见的是，未来我们需要的数据计算量将以数量级的方式高速增长，那这样的耗能方式是难以维持的。所以，通过极致的AI能效提升减少碳排放，已经成为AI企业新的社会责任，即充分利用有限的能源创造更大的价值。

有效算力带来极致效能

在传统芯片行业，PPA(算力、功耗和面积)是最经典的性能衡量指标。但在AI时代，我们需要新的范式来定义性能。

当前的业界存在一个很大的误区，往往会把峰值算力当作衡量AI芯片的主要指标。但我们真正需要的是有效算力，及其输出的算法性能。这需要从四个维度来衡量：每瓦的峰值算力和每美元的峰值算力(由芯片架构、前后端设计和芯片工艺共同决定)，峰值算力的有效利用率(由算法和芯片架构决定)，以及有效算力转化为AI性能的比率(主要是速度和精度两个方面，由算法决定)。之前业界普遍采用Resnet这样的模型，但是今天我们采用类似MobileNet这样更加精巧设计的小模型，可以用1/10的算力达到相同的精度和速度。但是这些精巧设计的算法给计算架构带来了巨大的挑战，往往使得传统设计的计算架构的有效利用率大幅下降，从最终的AI性能角度来说，甚至得不偿失。

地平线的最大特点，是对重要应用场景中，关键算法的发展趋势进行预判，前瞻性地将其计算特点融入到计算架构的设计当中，使得AI处理器经过一两年的研发，在推出的时候，仍然能够很好地适应最新的主流算法。因此，和其他典型的AI处理器相比，地平线的AI处理器，随着算法的演进趋势，始终能够保持相当高的有效利用率，从而真正意义上受益于算法创新带来的优势。

掌握了算法和计算架构，我们还只是具备了巨大的潜能。而编译器，则能够将这两者联合起来进行极致优化，释放出所有的潜能。举一个实际的例子，在没有优化的情况下，峰值算力的有效利用率是34%；但经过编译器对指令序列进行优化之后，这个数值被提升到了 85%。这使得芯片的处理速度，提升了2.5倍，或者说，处理相同多的任务，功耗降低到40%。

用未来重要应用场景中的关键算法发展趋势，来指导地平线AI芯片的架构设计，首重效率，兼顾灵活，这是地平线一直以来的设计理念——极致的AI能效是地平线在产品上始终如一的理想和追求。

高效的AI开发平台成就客户

创业几年来，我们深深感受到，AI从技术演示到商业落地的路径非常长，将AI解决方案集成到客户的产品中，赋能并成就客户，对大部分公司来说，存在不低的门槛。所以我们每天都在努力，如何去降低我们的方案被集成的难度。为此，地平线设计出一整套包含数据、训练、部署在内的算法开发流程，并开发出一套全栈式的AI平台工具用来高效地支撑这套开发流程。我们甚至提供大量优秀的算法模型和原型系统，作为参考样例提供给我们的客户。通过这些工具和样例，客户可以照猫画虎，快速地进行产品所需的算法开发，并持续迭代，由浅入深地进行全方位地调优，探索客户自己在数据和算法方面的独特价值。

地平线的全栈AI平台工具链，包括数据、训练和设备部署工具。它们形成了一个闭环，高效地运作起来，数据产生模型，模型可以被部署到设备上运行，运行过程中又可以指导模型的调优，甚至收集新的数据。这样的一种开发模式，可以提升开发速度，降低开发门槛，保证开发质量。我们当前的评估结果现实，它可以减少约30%的开发人力，节省50%的开发时间，更重要的是，因为开发门槛被降低了，开发者的规模甚至可以扩大一个数量级。

地平线会持续对开发工具进行升级，为客户提供半自动化的处理流程，这里包括：数据工具与模型，模型与端上设备之间的闭环迭代;丰富的模型/系统参考原型，简洁易用直观方便的交互手段；标准化开发流程，加上持续的测试，集成，部署机制。

以开放赋能客户为本，快速满足不同客户需求是地平线AI平台服务客户的宗旨，我们要节省更多的开发时间，节约更多的开发人员，也让越来越多的企业参与到人工智能开发的环境中来，打造良好的生态基础平台。

在目前这样一个能源消耗巨大的AI时代，地平线以其自身特有的优势及服务理念，为客户提供高性价比和易被继承的产品，友好的开发工具及参考样例、先进的计算架构、前沿的算法支持和优质的服务。

我们已经帮助合作伙伴开发了很多成功的产品，比如工地安全帽检测，小爱音箱，为理想One提供多音区语音交互解决方案，众包方式的高精语义地图建图产品等。我们还加入了96Boards开源社区，拥抱更为广泛的开发生态。

我们愿意做一家平台化的公司，做技术底座，赋能客户AI on Horizon。我们从来不认为创业是一个party, 而是一个和客户携手journey together的旅程。跟客户一起走下去，成就客户价值，践行我们的使命，赋能万物，让每个人的生活更安全，更美好，谢谢大家!