人工智能(AI)浪潮席卷全球,成为推动产业革新的核心动力。Arm架构以其广泛的应用和强大的计算能力,正以前所未有的速度影响各行各业。作为计算领域的主流架构,Arm不仅为各类应用市场提供全面的服务,还与合作伙伴共同打造了稳固的软硬件生态圈。这一平台,以其高效、易接入的特性,不断激励开发者投身于AI创新的大潮中。在计算复杂性不断提升的今天,Arm的能效比和性能优势显得尤为关键,完美契合企业对AI时代需求的追求。
软件创新,Arm的差异化战略
硬件的强大性能需要软件的协同发展,才能充分发挥AI的潜能。Arm构建的软件平台,是全球最通用、最重要的软件平台之一。在开发计算平台的同时,Arm也大力投入软件开发,我们的工程师团队致力于确保合作伙伴的产品从部署伊始就能创造价值。目前,我们的技术已覆盖软件栈的各个层面,从底层固件到操作系统,再到游戏引擎、开源社区和独立软件供应商(ISV),在Arm平台上都能实现“即插即用”。
在基础设施领域,Arm构建了成熟、完善的云软件生态系统。随着超大规模云服务提供商对软件生态的重视,基于Arm架构的计算平台已成为一种高效、经济的解决方案。云原生开发者正越来越多地选择Arm Neoverse平台构建和运行应用,以提升性能、效率和可持续性,同时降低成本。所有主要云服务提供商均提供基于Neoverse的云实例,让客户在Arm平台上实现更高的性能和成本效益。
Arm不仅支持云工作负载,还积极与汽车行业合作。软件成为汽车差异化的关键,Arm平台在云和车载环境中无处不在。基于Arm架构的云技术已成为汽车开发的重要部分,Arm平台助力合作伙伴在云端构建和测试汽车软件组件。为了确保汽车软件的可移植性,Arm牵头成立了SOAFEE(面向嵌入式边缘的可扩展开放架构),为汽车和云计算社区构建了一个协作平台,推动软件定义汽车(SDV)时代的发展。
在移动平台领域,终端用户对极致的移动体验追求不断提高,Arm持续引领移动端图形渲染技术的发展。Arm Immortalis GPU带来的先进技术与卓越性能,让开发者轻松利用。今年,Arm推出了Arm Kleidi,一组与推理引擎集成的开源软件内核,包括面向AI工作负载的KleidiAI和面向计算机视觉应用的KleidiCV。Arm Kleidi的推出再次巩固了Arm在端侧AI计算平台领域的领先地位,使开发者无需额外学习,就能在广泛硬件上获得出色的AI性能。
AI创新,Arm的使命与挑战
AI作为当前最大的工作负载,如何高效、简单地运行于Arm计算平台之上,是Arm关注的焦点。主要挑战在于如何处理从云端到边缘侧扩展AI推理的复杂性,以促进AI创新。AI企业在用户获取阶段,快速发展和新功能比成本更重要。但随着市场稳定,AI推理将扩展至边缘侧,降低云端成本。Arm KleidiAI确保开发者获得AI开发所需的性能、工具和软件库,打造卓越的AI体验。
Arm通过将KleidiAI集成到主流AI框架中,如Google和Meta的推理引擎,显著提升了生成式AI工作负载的性能。例如,与参考CPU实现方案相比,Meta Llama 3和微软Phi-3大语言模型(LLM)的首次词元响应时间提升了近三倍。Unity Sentis集成KleidAI后,成功启用了int4量化功能,将Phi-2 LLM的模型内存占用率降低了约73%。在国内,Arm与腾讯合作,将KleidiAI集成到腾讯混元大模型中,加速端侧AI推理。Arm将持续推出更多软件库、计算内核和引擎集成,构建AI的未来。
Arm,软件运行的基石
Arm的持续软件投入,正建立起全球最大的AI开发者社区。Arm不仅提供了广泛的通用计算平台,还通过IP、开源软件和工具以及广泛的行业领先生态系统,让全球千万开发者都能使用Arm计算平台作为AI创新的基础。基于Arm平台的AI将无处不在,实现Arm的愿景。
关键字:Arm