从Apple Intelligence到IoT Intelligence，端侧生成式AI时代加速到来

时间： 2024-10-21 来源：MEIG（美格智能公众号）

技术问答

选型帮助

研发客服

商务客服

9月10日凌晨1点，苹果新品发布会如期举行，全新iPhone16系列成为苹果生态中真正意义上的第一款原生AI手机，在第二代3nm工艺A18和A18 Pro芯片的加持下，iPhone16系列能够容纳并快速运行以Apple Intelligence为中心的生成式AI功能在手机端侧运行。用库克的话说：“新一代iPhone彻彻底底为Apple Intelligence打造”。

本次发布会的主要亮点除苹果新增的相机控制按钮外，主要集中在苹果对AI生态的全面构建方面。在理解苹果发布会的新功能之前，先带大家回顾一下苹果在生成式AI方面的主要成果。

具体来说，苹果开发了两种全新基础语言模型，构成了苹果Apple Intelligence的核心：一个是可以在苹果云服务器中运行的较大参数的大语言模型（LLM），称为AFM-server，专为密集型任务设计，并使用私人云计算（Private Cloud Compute）的系统来保护用户数据；另一个是端侧小语言模型（SLM）AFM-on-device，大约有30亿参数，通过对大语言模型进行剪枝、蒸馏，并通过精选的高质量数据训练和架构调整而来，优化后可以在iPhone和其他终端设备上运行，具备更高效率和响应能力。

苹果为何可以称为重新定义了AI手机？

苹果的AI战略通过整合操作系统、软件、模型和数据，强化了对应用场景的理解，训练出了能够深刻洞察用户需求并帮助用户决策的AI Agent。

简单来讲，相较于各类传统的生成式AI应用工具，苹果将AI功能融合到用户使用手机的每一个环节，通过手机端侧运行的小语言模型能力让智能手机真正成为日常生活、办公、娱乐的私人管家，它会收集整理手机端本地的各类信息，在用户使用或有需要时主动提供建议或直接帮助实现。

并且因为其端侧模型在本地运行的特性，可以充分保护用户的隐私信息安全、提升信息反馈效率。可以说每一个搭载了AI功能的苹果手机都是一个独立的个体。

为何大厂们最终选择了端侧AI赛道？

在大语言模型产品的实际应用中，从业者们逐渐意识到大模型存在产品训练成本高、算力需求高、资源消耗大等难点，以及应用适配性差、网络传输不稳定等缺点。在此背景下，AI模型的发展正在着力摆脱网络、参数的多方限制，努力向更简单、更小体量，为应用场景量身定制和跨应用生态的智能化转变。

在端侧AI的实际应用方面，2023年3月谷歌推出参数规模达5620亿的PaLM-E的大模型，并在同年10月发布搭载Google AI基础功能的Pixel 8系列手机。2023年11月，vivo发布1750亿规模的自研蓝心大模型，落地终端侧70亿参数大语言模型；2024年9月6日，荣耀CEO赵明在2024德国柏林消费电子展IFA上面向全球推出行业首个跨应用开放生态AI Agent。

不难看出，端侧小模型将成为未来智能手机乃至各类智能终端的语言模型应用样本。IDC（国际数据公司）预计2024年全球新一代 AI 手机的出货量将超过1.7亿部，约占智能手机整体出货量的15%，Counterpoint预计2027年出货量达到5.22亿部，渗透率达到40%。从大厂们的选择不难看出，随着端侧算力的提升，端侧AI成为大模型终端落地的最优解，模型语言与应用生态融合发展的AI Agent成为未来的趋势。

随着软硬件技术的高速发展，相信除智能手机外，各类IoT终端产品也将逐步落地端侧AI，相关硬件算力和通信交互需求也将持续增长。

美格智能持续加码高算力AI模组研发与行业伙伴共建端侧AI新生态

洞察到端侧AI的优势和广阔前景，美格智能围绕高算力、大带宽、低功耗、广链接，打造多款高算力AI模组产品，为端侧小语言模型落地提供12Tops~48Tops算力支持。

在模组强大算力的支持下，不仅能够在模组上成功运行Stable Diffusion、LLaMA-2、通义千问Qwen、百川大模型、RedPajama、ChatGLM2、Vicuna等大模型产品，展现出卓越的边缘端大模型部署能力，同时模组产品丰富的外围接口，能够以AI模组的形式将语音识别、机器视觉、导航、定位、避障和多模态技术通过各种传感器植入到终端侧，帮助终端产品快速收集和整合信息，打造不断学习进步的智能“大脑”，助力客户快速实现端侧AI落地应用，节约开发成本。

同时，面对端侧AI与物联网生态融合发展的新趋势，美格智能以智能车载为切入打造端云协作的智能物联网解决方案。以美格智能在2023年即已发布的车规级5G R16/R17 + C-V2X系列模组为例，该模组具备的5G通信能力和高算力成为端侧+云端结合的混合式AI的落地形式之一，可广泛应用于AI Agent智能座舱、高阶辅助驾驶、无人驾驶、车路云一体化相关领域。

在通信方面，相关模组产品符合3GPP Release 16/17标准，支持5G NR 独立组网（SA）和非独立组网（NSA），兼容全球主流国家和地区的频段，支持选配C-V2X功能，使用全球统一的ITS 5.9GHz频段部署V2X应用，可采用PC5 Mode4模式直连通信，内置ECDSA硬件引擎，可实现高达6000次/秒的C-V2X验签性能，具备在高速移动环境中提供远距离传输、大带宽、低延时连接的优越性能；在算力方面，模组内置多核心CPU处理器，最大支持22K的算力，在充足算力的支持下，车辆可基于C-V2X构建网联智能，实现由端侧车载计算、路侧边缘计算和中心云计算构成的分级、网络化智能决策与控制，快速进行如车辆碰撞预警、车速引导、红绿灯信息获取等应用。

端侧AI是大模型技术落地的最优解，而端侧AI与云侧大模型协同的混合式AI被行业从业者称为“大模型时代的终极范式”，充分适配智能座舱、智能机器人、手持终端、AR/VR眼镜等产品，成为人工智能落地应用的新方向。同时混合式AI生态的发展又对终端的无线通信能力和算力提出了新的要求，集成了4G/5G 通信能力和高算力芯片以及众多功能接口的智能模组和高算力AI模组，或将成为智能终端厂商们的首选。

从苹果的选择来看，随着端侧算力的不断增长和大模型技术的持续演进，终端侧AI与混合式AI或许将成为大模型时代的最终选择。美格智能也将持续不断推出高算力模组和智能模组解决方案，以模组+解决方案双轮驱动，支持更广泛的垂直领域和合作伙伴共同引领生态发展，以先进的无线通信和AI技术加快实现万物智联的美好愿景。

发送到邮箱 |
+1 赞 0
收藏
评论 0
| 转发至：

本文由ll转载自MEIG（美格智能公众号），原文标题为:从Apple Intelligence到IoT Intelligence，端侧生成式AI时代加速到来，本站所有转载文章系出于传递更多信息之目的，且明确注明来源，不希望被转载的媒体或个人可与我们联系，我们将立即进行删除处理。

全部评论（0）

暂无评论

美格智能推出基于ARM架构的SoC阵列式服务器，最高可配置80路高算力AI模组可以构建大规模智能算力矩阵

美格智能团队已经与行业领先的SoC阵列式服务器客户密切协作，陆续打造出了针对SoC阵列式服务器场景，基于高通骁龙865/SM8475/QCS8550三代SoC芯片的深度定制的算力模组，同时做到封装兼容，更好助力客户产品的算力提升和产品迭代，为相关产品后续在AIGC领域的应用推广，以及向传统服务器市场的渗透，提供更好助力。

原厂动态发布时间 : 2023-07-29

让AI触手可及——2024高通＆美格智能边缘智能技术进化日隆重举行，围绕AI领域议题发表精彩洞见

2024年5月9日，高通技术公司携手MEIG美格智能联合举办了主题为“让智能计算无处不在，2024高通＆美格智能边缘智能技术进化日”在深圳隆重举行。大会现场，智能物联网行业合作伙伴齐聚一堂，多位行业资深专家围绕AI与通讯、智能计算、边缘大模型等议题发表精彩洞见。

原厂动态发布时间 : 2024-05-16

美格智能亮相2024世界移动通信大会，发布5G-A、5G RedCap系列FWA、端侧AI等创新成果

日前，全球瞩目的2024世界移动通信大会（MWC）在西班牙巴塞罗那隆重举办。作为全球领先的无线通信模组及解决方案提供商，美格智能亮相2024世界移动通信大会，发布了5G-A、5G RedCap系列FWA、端侧AI等创新成果，展示了在物联网前沿创新领域的先进技术方案。

原厂动态发布时间 : 2024-03-06

美格智能技术股份有限公司（以下简称：美格智能）成立于2007年，总部位于深圳市宝安区，并在深圳、上海、西安、武汉分别设立研发中心，物联网研发人员近千人，获得了国家级高新技术企业认证和深圳市高新技术企业认证，为全球用户提供领先的物联网产品和无线数据解决方案。

4G模组 4G LTE数传模组 5G模组 5G数传模组 5G智能模组 NB-IoT模组智能模组算力模组车规级模组 GNSS模组

授权代理商 - 世强先进（深圳）科技股份有限公司线上商城技术资料

展开

有方科技（neoway）无线通信模组选型指南

目录- 公司简介和无线通信模组应用 5G模组 4G模组 NB-IoT/eMTC模组 2G/3G/4G智能&车规级模组定位模组

型号- N300,N720,N58 PCIE,N311-CN,N100,N75 PCIE,N308,N720 PCIE,N21,N303,N23,N306,N25,S2-CN,N27,N75-X,S6X,N715-CA,N303-CN,A70,LM11-CN,N308-CN,N311,N511,N1,N510M,N77-CA,N715,N306-CD,N716,S6X-XX,N51,N75,N77,N11,G7A,N58,N716-CA,A590,N720V5 PCIE,N100-CA,N720V5,S2

选型指南 - 有方科技 - 2021/11/24 PDF 中文下载

美格智能5G车规级通信模组MA922系列：以连接+算力驱动智能化进阶

随着5G高速网联逐步成为智能汽车标配，MA922系列模组已与多家主机厂、Tier 1厂商开展密切合作，当前产品开发正在稳步推进中，已完成实车测试、路端测试等，模组性能表现良好。美格智能将继续协同Tier 1伙伴加速进入量产阶段，配合主机厂5G网联车型快速上市。

产品发布时间 : 2024-11-21

LONGSUNG（龙尚）无线通信模块选型指南（中文）

目录- 公司简介 5G模组宽带模组 LTE Catl 模组窄带模组智能模组车载模组 GNSS模组 PCBA

型号- PM5320,MU990 C,U9507C V3,PM5160,MU960 X,U9507C SGCC,H27,EX520C,EX510CE,U9507C ATA,G66MB,M7630C,G68MB,V9700,U9507X,M5700-D,EX531E,E7906X,M7080G,A8901,MU8970X,EX620C,EX511C,A9600 R2,A9600 R3,VX610,M7630C R2,M5700,G68D,U9507C AT,PM5300,E9720,EX530C,EX651C,U9507C V2C,U9507C V2A,M5750,MU8580X,M5720 R3,PM5310,MU960 V2C,MU8906CE,M5720 R2,E9510,E7906X-M2,MU8500X,EX630C,PM5150,EX610C,E7912X,U9300C,M5700-D2,E9730C,M5720,M7026,MU8908X,E7912X-M2,M7025

选型指南 - LONGSUNG - 版本号：LS-B-PC-202204-CH - 202204 PDF 中文下载

全球领先的物联网解决方案供应商:loT&M2M Modules

型号- EC600N-CN,RG501Q-EU,EC200U,LG69T(AP),EC200T,LG77L(C),RM500K-CN,LC29D(C),EG06,BC95-CNV,UG96,BC28-CNV,EC20 R2.1,AG522R,EG25-G MINI PCIE,L26-T,BC260Y-CN,L26-P,AG35,EG91,EM120R-GL,EG95,BG600L-M3,BC20,EC200S MINI PCIE,HC06U,M35-R,LG77L(B),LC29D(B),BC28-F,AG521R,EG21-G MINI PCIE,L76,SC60,FC31R,L70-RL,BC35-G（宽压),UG89,BC95 R2.0,SC66,L26C R2.0,EG512R-EA,BC35-G,EC20 R2.1 MINI PCIE,SA800U,LG69T(AA),BC28（宽压),AF20,RG500U-CN,BG95,SC200K,L80-R,EC25,FC30R,FG50V,RM500Q-CN,SC200L,LC29H,EC20-CN,L80,EC25 MINI PCIE,L86,AF51Y,AG529R,M26,FC66E,M25,LC29Y,MC30,BC28,SC200R,L26-LB,BC26,BC25,L76C,SC200Y,AF50T,EG25-G,L26-DR,L76-L,EG12,BC95-GF,EG21-G,L96,EG18,M35,FC65E,MC20,M36,AG55XQ,FC41D,LC98S,EC600U,EC21,MC25,LC86L(B),BC32,LC79H,RG500Q-EA,L76-LB,AG215S,EM05,EM06,L26C,L26,FC64E,EC200N-CN,L26K,LG69T(AD),FC20,FC21,EM121R-GL,EC100Y,UC200T,L76K,SC665S,M56-R,SC20,M56,AG52XR,L89 R2.0,RM500Q-GL,RM500U-CN,RG500Q-CN,LC79D(A),EC200T MINI PCIE,LC29D(A),LG77L(A),RG500L-EU,M72-D,M08-R,EP06,AG15,FC62E,EC600S-CN,EC21 MINI PCIE,EG912Y,RM502Q-G,L70-R,RM502Q-AE,EM12,RG502Q-EA,RM510Q-GL,EM160R-GL,EC200H,UC200T MINI PCIE,EG060V,L76C R2.0,RM500Q-AE,EC200S,BG77,LC79D(C)

商品及供应商介绍 - QUECTEL - V6.6 - 2021.05 PDF 中文下载

【IC】美格智能MA922系列5G车规级通信模组：高精度定位守护极致安全

美格智能打造的MA922系列5G车规级通信模组支持双频 GNSS（全球导航卫星系统）、高精度PPE（RTK）算法和数据校正服务等多种定位技术，以及高通惯性导航技术（QDR），多项领先技术的叠加为整车提供极致的全时全方位高精度定位服务，保障行车安全。

产品发布时间 : 2024-11-19

MEIG无线通信模组选型表

MEIG提供4G LTE数传模组/MiniPCIe封装模组/LTE Cat NB1 LCC封装模组/M2M通信模组/智能模组/5G智能模组/高算力AI模组/物联网无线通信模组选型：分集接收：支持/不支持/支持/选配，多种封装：LCC 封装（80pin+LGA 64pin）/LCC+LGA 272PIN/160pinLCC + 112pin LGA/LCC+LGA 238PIN等，多种尺寸：32.0×29.0×2.4mm/51.0×30.0×5.5mm/32.0×29.0×2.8mm/17.6×15.9×2.3mm/42.0×30.0×2.3mm等。

LTE-FDD: B1/B3/B5/B8/(B28) LTE-TDD: B38/B39/B40/B41 WCDMA: B1/B8 TD-SCDMA: B34/B39 CDMA&EVDO: BC0 GSM: 900/1800

支持

支持/选配

LCC 封装（80pin+LGA 64pin）

32.0×29.0×2.4mm

CCC/SRRC/CTA/CE/FCC/ROHS

GSM850/900 33±2dBm,GSM1800/1900 30±2dBm,CDMA/EVDO 23~30dBm,WCDMA/HSPA 23+1/-3dBm,TD-SCDMA 23+1/-3dBm,LTE-TDD 23±2.7dBm,LTE-FDD 23±2.7dBm

TCP/UDP/HTTP(S*)/SSL*/FTP/PPP/PING/DTMF/ QMI(*正在开发中)

Windows XP, Windows Vista,Windows 7, Windows 8, Windows 8.1,Windows 10, Linux, Android

一键式升级工具，Gobinet 拨号工具

选型表 - MEIG 立即选型

车规级5G模组助力车辆网联化、智能化

描述- 公开数据显示，国内日均两轮出行次数超过10亿，电动自行车和摩托车保有量达到4亿，且每年还有4600万增量，二轮电动车是80%国民首选的交通工具。某种意义上而言，两轮电动车更需要一次类似智能汽车的全面升级，需要一套便利的智能系统改变如此庞大人群的出行体验。龙尚模组赋能两轮智能出行，实现通过APP实时掌控爱车状态。

型号- SM4350,SM6350,U9507C,MU990,MU9650,SA515M,MU8970,MU9350,SL8541E,UIS8910DM,MU990C,VX610,SDM450,E9730C,MDM9628,M5700,QCM6125,MU8500CE,ASR1803,MDM9X07,MSM8953

商品及供应商介绍 - LONGSUNG PDF 中文下载

MeiG-MA922车规级 5G R16 + C-V2X 模组集成 CPU（~20K DMIPS 算力）

型号- MA922-NA,MA922-EU,MA922-JP,MA922-CN,MA922 系列,MA922,MA922-ROW

数据手册 - MEIG - 2024/10/21 PDF 中文下载查看更多版本

【IC】美格智能发布基于高通QCS8550处理器的48Tops高算力AI模组SNM970，定义未来终端新体验

美格智能高算力AI模组SNM970是行业首批基于高通®QCS8550处理器开发的AI模组产品，并凭借卓越的8核高通®Kryo™ CPU、综合AI算力高达48Tops、支持Wi-Fi 7等特性，满足智能时代对智慧计算能力的需求。

新产品发布时间 : 2023-05-07

移远通信-全球领先的物联网整体解决方案供应商

型号- BC35-GR,RG501Q-EU,RM500K-CN,EG06,BC95-CNV,RG500U-EA,BC28-CNV,BG95XA-GL 系列,LC99T,BC260Y-CN,EM120R-GL,UC200A-GL,BG600L-M3,HC06U,EG120K,SC310K,LC29HAA,BC28-F,AG521R,SG150H,AG800D-CN,RG500U-CN,BG95,LC76F,LC76G,SC200K,LC29HBA,FC30R,LG77L,SC200L,RM500Q-CN,LC29H,LC29F,EC25 MINI PCIE,LC29D,AG520R,LG77LIC,SC200E,RG510Q-GL,AG569N,EM12-G,FC66E,MC30,SC200R,RM530N-GL,BC25,RG502Q-GT,SC200Y,LC29HCA,EG12,EG21-G,L26-ADR,L96,EG18,FC800L,FC65E,MC20,AG568N,AG525R-GL,AG55XQ,FC41D,LC98S,EC600U,RG500Q-AE,LC86G,MC25,BC32,LC79H,LC79D,BG77XA-GL,EC25 MINI PCLE,AG215S,EM05,EM06,FC64E,EC200D-CN MINI PCLE-C,EC600G-CN,EC200N-CN,FC900E,L26K,RG502Q-EU,SC665S,SC20,EC800M-CN,EM060K-GL,EG915N,RG200U-CN MINI PCIE,RM500Q-GL,EG915U,BC95-B8R,RG520F,LG69T,AF56C,RG200U-CN,AF68E,RG500L-NA,AG57XQ,AF31G,AG15,BG95XA-GL系列,FC62E,EC200U MINI PCLE,BC300Y-CN,RG520N,EC800G-CN,EC600M-CN,RM502Q-AE,BG77XA-GL 系列,LC79HAL,EC200D-CN,RG502Q-EA,RM510Q-GL,BG95系列,RG200U-CN MINI PCLE,AF66T,EC200U,AG529R-CN,RG530F,SG500Q-CN,EC20 R2.1,L26-T,EG25-G MINI PCIE,RG502Q-AE,L26-P,BG95 系列,AG35,EG91,AG519M,EC21 MINI PCLE,EG95,M35-R,EG21-G MINI PCIE,SC60,SG865W,RG500Q-GT,SC66,RM505Q-AE,EG512R-EA,RG500Q-GL,SA800U,EC20 R2.1 MINI PCIE,AF20,EC25,FG50V,LC26GAB,RG505Q-AE,AF51Y,M26,M25,BC95-B5R,L26-UDR,AF50T,EG25-G,EG065K,BC95-GF,SG560D,BG95XA-GL,M35,SC668C,M36,BC95-GU,EC20 R2.1 MINI PCLE,EC21,RG500Q-EA,AH20C,LC29HDA,FC80A,FC20,FC21,LC76GAB,BC25-GU,EM121R-GL,EC200D-CN MINI PCIE-C,LG69TAB,FC908A,LG69TAA,L76K,LC79DD,M56-R,EC800E-CN,EC200A MINI PCIE,LG69TAJ,LG69TAI,LG69TAD,M56,LC29HEA,AG52XR,EC200N-CN MINI PCLE-C,L89 R2.0,RM520N-GL,RM500U-CN,RG500Q-CN,RG500L-EU,M72-D,M08-R,BG77XA-GL系列,LG69TAP,EP06,EG25-G MINI PCLE,EC700U,EC600E-CN,LG69TAM,EC21 MINI PCIE,LG69TAS,EC200A MINI PCLE,LC26G,EC200A,AG35-CEN,EG21-G MINI PCLE,EM160R-GL,EG060V,RG500Q-EU,RM500Q-AE,EM120K-GL,BG77,EG060K

选型指南 - QUECTEL - V7.1 - 2022/7/25 PDF 中文下载

【IC】移远通信推出车规级5G R16模组AG59x系列，CPU算力高达20K DMIPS，赋能车载5G全场景新体验

1月5日，全球领先的物联网与车联网解决方案供应商移远通信宣布，正式推出符合3GPP Release 16标准的车规级5G NR模组AG59x系列。相较于移远第一代5G车载模组，AG59x在5G传输速率、低时延、高可靠性、C-V2X PC5直连通信能力、位置定位服务、高算力以及安全性等方面皆有较大提升与完善，使其成为支持下一代智能网联汽车应用的理想解决方案。

产品发布时间 : 2024-11-14