Arm正式在刚刚举办的Arm Create开发者大会上海站推出了Arm AI Portal,为开发者与智能体提供了一个统一入口。这一发布标志着Arm加速其平台在人工智能应用层面的生态构建。
Arm AI Portal的核心功能在于连接超过2,200万开发者及其智能体至Arm计算平台上的优化AI软件,覆盖云、边缘和物理AI三大领域。通过该Portal,开发者可以采用预优化模型来加速开发进程,或者导入并优化自有模型,以实现在Arm平台上达到最佳性能表现。
在功能细节上,Arm AI Portal支持查找面向特定任务的预优化模型,并且会提供详细的性能与准确率数据对比,这些对比指标包括延迟、内存占用和模型规模。此外,Arm AI Portal后续还将提供相关工具,允许开发者导入包含专有模型的自有模型,并在Arm平台上进行深入的性能分析与优化。
在首批可用的预优化模型方面,Arm AI Portal展示了阿里巴巴通义千问、Google Gemma以及Ultralytics YOLO等模型。这些模型支持的运行环境(runtimes)涵盖ExecuTorch、LiteRT和ONNX-RT。
从技术实现的角度看,Arm AI Portal适配开发者与智能体的现有开发环境。经Arm优化的模型可以通过Hugging Face获取,而Portal相关的资源则可通过模型上下文协议(MCP)供编程智能体访问,这体现了其生态的互联性。
在实际应用层面的展示也印证了该平台的优化能力。例如,搭载Q8_0 talker与code predictor组合方案的Qwen3-TTS,在vivo X300上通过第二代Arm可伸缩矩阵扩展(SME2)的加速,实现了超过4倍的速度提升。另一个案例是Ultralytics YOLO26,它在vivo X300上依托SME2技术,单线程FP16相较于FP32实现了超40%的性能提升;同时,在树莓派5平台,Ultralytics YOLO26利用NEON技术采用FP16与INT8混合量化方案,相比FP32同样实现了超40%的性能提升。
这些实际案例展示了Arm AI Portal覆盖云AI、边缘AI和物理AI领域的广度。例如,以第二代移动终端计算子系统(Arm CSS for Mobile 2)为例,其模型可借助SME2和集成神经加速器的GPU实现加速,并可通过AI Portal获得支持。
从背景分析来看,此次推出旨在解决AI应用开发中模型适配、性能调优复杂的问题。通过提供一个统一的入口,Arm致力于降低开发者将AI模型部署到异构计算平台上的门槛,确保无论是在云端还是在终端侧运行的模型都能得到最优化的支持。
综上所述,Arm AI Portal的推出,标志着Arm正构建一个从模型发现、性能优化到实际落地的全生命周期工具链。开发者可以利用该Portal快速定位适配目标场景的优化模型,从而加速AI应用在基于Arm架构设备上的落地进程。
信息来源
本文基于上述公开资料整理,未使用来源页面的图片、视频或嵌入媒体。