完整正文查看文章目录
宇立达新闻在线
FULL ARTICLE

完整正文和相关阅读同页呈现。

PART A

标题、摘要与发布时间

PART B

完整正文与延伸文章

宇立达新闻在线 · 资料整理

Arm在开发者大会上发布AI Portal,构建云边端统一的AI模型优化与开发入口

Arm正式在Arm Create开发者大会上海站推出了Arm AI Portal,为开发者和智能体提供了一个统一的入口。该Portal旨在连接超过2,200万开发者至Arm计算平台上的AI软件,支持查找预优化模型、导入自有模型进行性能分析与优化,覆盖云、边缘及物理AI场景。

宇立达新闻在线 · 资料整理

Arm正式在刚刚举办的Arm Create开发者大会上海站推出了Arm AI Portal,为开发者与智能体提供了一个统一入口。这一发布标志着Arm加速其平台在人工智能应用层面的生态构建。

Arm AI Portal的核心功能在于连接超过2,200万开发者及其智能体至Arm计算平台上的优化AI软件,覆盖云、边缘和物理AI三大领域。通过该Portal,开发者可以采用预优化模型来加速开发进程,或者导入并优化自有模型,以实现在Arm平台上达到最佳性能表现。

在功能细节上,Arm AI Portal支持查找面向特定任务的预优化模型,并且会提供详细的性能与准确率数据对比,这些对比指标包括延迟、内存占用和模型规模。此外,Arm AI Portal后续还将提供相关工具,允许开发者导入包含专有模型的自有模型,并在Arm平台上进行深入的性能分析与优化。

在首批可用的预优化模型方面,Arm AI Portal展示了阿里巴巴通义千问、Google Gemma以及Ultralytics YOLO等模型。这些模型支持的运行环境(runtimes)涵盖ExecuTorch、LiteRT和ONNX-RT。

从技术实现的角度看,Arm AI Portal适配开发者与智能体的现有开发环境。经Arm优化的模型可以通过Hugging Face获取,而Portal相关的资源则可通过模型上下文协议(MCP)供编程智能体访问,这体现了其生态的互联性。

在实际应用层面的展示也印证了该平台的优化能力。例如,搭载Q8_0 talker与code predictor组合方案的Qwen3-TTS,在vivo X300上通过第二代Arm可伸缩矩阵扩展(SME2)的加速,实现了超过4倍的速度提升。另一个案例是Ultralytics YOLO26,它在vivo X300上依托SME2技术,单线程FP16相较于FP32实现了超40%的性能提升;同时,在树莓派5平台,Ultralytics YOLO26利用NEON技术采用FP16与INT8混合量化方案,相比FP32同样实现了超40%的性能提升。

这些实际案例展示了Arm AI Portal覆盖云AI、边缘AI和物理AI领域的广度。例如,以第二代移动终端计算子系统(Arm CSS for Mobile 2)为例,其模型可借助SME2和集成神经加速器的GPU实现加速,并可通过AI Portal获得支持。

从背景分析来看,此次推出旨在解决AI应用开发中模型适配、性能调优复杂的问题。通过提供一个统一的入口,Arm致力于降低开发者将AI模型部署到异构计算平台上的门槛,确保无论是在云端还是在终端侧运行的模型都能得到最优化的支持。

综上所述,Arm AI Portal的推出,标志着Arm正构建一个从模型发现、性能优化到实际落地的全生命周期工具链。开发者可以利用该Portal快速定位适配目标场景的优化模型,从而加速AI应用在基于Arm架构设备上的落地进程。

信息来源

本文基于上述公开资料整理,未使用来源页面的图片、视频或嵌入媒体。