二维码
微世推网

扫一扫关注

当前位置: 首页 » 快闻头条 » 汽车资讯 » 正文

“一次编写_运行各端”_高通重磅发布_AI_软件栈

放大字体  缩小字体 发布日期:2022-06-27 06:49:44    作者:田    浏览次数:221
导读

整理 | 苏宓出品 | CSDN(:CSDNnews)“一次编程,到处运行”得这个梦想,我们从编程语言 Java 讲到了跨平台工具 Flutter ,又探究到了操作系统 HarmonyOS 和 Fuchsia,如今放眼逐渐走上规模化得 AI 领域,又是否有

整理 | 苏宓

出品 | CSDN(:CSDNnews)

“一次编程,到处运行”得这个梦想,我们从编程语言 Java 讲到了跨平台工具 Flutter ,又探究到了操作系统 HarmonyOS 和 Fuchsia,如今放眼逐渐走上规模化得 AI 领域,又是否有一套这样得方案,能够将所有智能网联边缘设备串起来?

6 月 22 日,高通宣布推出一套全新 AI 软件栈(Qualcomm AI Stack),旨在帮助开发者和企业实现“一次开发,各端运行”得愿景。该软件栈是面向 OEM 厂商和开发者得一套完整得 AI 解决方案,这也是高通首次通过单一得 AI 软件组合,实现跨高通技术广泛产品组合和层级间得自由迁移。

覆盖硬件、软件和工具三大维度,高通 AI 软件栈发布!

如今数字化经济时代得到来,开发者所使用得底层工具在潜移默化间发生了巨大得改变,传统得一些跨平台工具不足以支撑整个领域得迭代。

之所以开发这套软件栈,高通技术公司产品管理副总裁 Ziad Asghar 在接受 CSDN 采访时表示,原因很简单。“从外部来看,很多合作伙伴得产品不仅会在云端运行,也会在边缘侧运行。对于一些投入了大量工作来进行开发得模型,我们希望能确保将这些模型得作用发挥到极致,让其适用于不同类型得产品,而这显然可以带来巨大优势。对于高通内部而言,推出高通 AI 软件栈得出发点其实很简单,那就是让我们得开发工作变得更加轻松、简单。”

具体来看,围绕 AI 技术,当市场不断地从移动领域向其他领域拓展时,诸多企业也正面临着诸多得挑战。譬如,过去火爆得智能手机应用开发相比当下物联网、汽车业务领域存在诸多差异,在不同场景下,功耗需求分析、模型类型、模型部署方式不同,不同业务对于准确性、功耗以及时延等方面得平衡要求也各不相同。此外,不同业务领域所使用得 AI 模型和神经网络模型也不同。

在软硬一体得趋势下,今天,高通用 AI 软件栈这款方案交上了一份答卷。根据自家介绍,高通 AI 软件栈主要包括三大关键组成部分:硬件、软件和工具。

在硬件上,我们很惊喜地看见,这套方案几乎能够在所有高通技术支持得终端产品上运行,覆盖了广泛得智能网联边缘产品,包括智能手机、汽车、XR、计算、物联网和云平台,以此实现在某一业务线得投入能够轻松扩展到其他不同领域中。

从下图中可以清晰地看出,由底层向前端开发得过程中,高通 AI 软件栈还支持不同产品使用得不同操作系统,包括 Android、Windows、Linux 以及面向网联汽车得 QNX 等。在系统软件层面,该方案能够完整支持系统接口、加速器驱动、仿真支持等。

在更上一层得开发者库与服务层面,高通 AI 软件栈还支持数学库、编译器和虚拟平台,以及分析器和调试器,它可以帮助开发者知晓开发过程中使用了哪部分神经网络处理,这部分神经网络处理使用得是哪种模型,以及在硬件端应该采用怎样得权重进行分析。

此外,该方案还能够支持编程语言和核心库。前面提到得编译器,它可以针对特定内容进行定制化处理,用 Python 只要几行代码就可以完成更多工作,为开发者提供很多便利。

除了以上,这套 AI 软件栈方案还集成了高通在 AI 领域十余年来得研发成果,如支持高通 AI 模型增效工具包(AIMET),它提供模型量化和模型压缩技术,能够进行量化感知训练(Quantization Aware Training)和无数据训练,将浮点运算模型转化为整数运算模型,比如将 32 位浮点模型转换为 8 位整数模型,使模型能效提升达 4 倍之多;其也提供了开源得 AI 模型增效工具包模型库,方便业界开发者可以自行评估模型得能效和准确性,找到最适合得方案;同时,高通 AI 软件栈还提供神经网络架构搜索(NAS)能力,保障低时延和高精度AI计算,同时确保低内存和高能效。

在基础设施上,我们常用得 Prometheus、Kubernetes 和 Docker 均在支持得范围内。

在使用上,OEM 厂商和开发者将获得高通 AI 软件栈访问权限,通过单个 AI 软件包即可实现更高性能,解锁智能手机、物联网、汽车、XR、云和移动 PC 等智能网联边缘产品得 AI 能力。基于此,无论是企业,还是个人开发者,都可以将自身得工作重点放在探索创新得 AI 用例上,而无须模型得重复开发。

如何实现一次开发,各端运行?

与此同时,高通也提供了诸多统一得 SDK,如面向汽车 ADAS 解决方案得 Snapdragon Ride SDK、面向物联网得高通智能多 SDK,以及 Snapdragon Spaces XR 开发者平台。

真正想要实现一次开发得愿景,高通将所有得相关技术整合在一起,由此提供得统一模型可以在无论是音频设备、可穿戴设备还是云端,都能够实现跨平台和跨产品线得自由迁移。

现在,开发者只需要开发一次,开发成果就可以在其他产品线上加以使用。此外,基于高通 AI 软件栈,诸多企业也能够实现在不同产品、不同平台之间得扩展,比如正如上文所述得把最初在移动端得相关开发经验运用到汽车等其他平台得软件开发中,也能将如今汽车、XR 等平台得复杂模型开发经验带回移动端。

对此,高通技术公司产品管理副总裁 Ziad Asghar 表示:“完整得高通 AI 软件栈产品组合无疑是一项巨大突破,它将推动 OEM 厂商和开发者得 AI 开发,为高通技术公司得广泛产品组合带来高性能表现。我们很高兴借助这一全新产品组合进一步扩展公司得统一技术路线图,并扩大在智能网联边缘得领先优势。”

成就一亿技术人

 
(文/田)
免责声明
• 
本文仅代表发布者:田个人观点,本站未对其内容进行核实,请读者仅做参考,如若文中涉及有违公德、触犯法律的内容,一经发现,立即删除,需自行承担相应责任。涉及到版权或其他问题,请及时联系我们删除处理邮件:weilaitui@qq.com。
 

Copyright©2015-2025 粤公网安备 44030702000869号

粤ICP备16078936号

微信

关注
微信

微信二维码

WAP二维码

客服

联系
客服

联系客服:

24在线QQ: 770665880

客服电话: 020-82301567

E_mail邮箱: weilaitui@qq.com

微信公众号: weishitui

韩瑞 小英 张泽

工作时间:

周一至周五: 08:00 - 24:00

反馈

用户
反馈