高通AI Hub面向搭载骁龙平台的PC扩展终端侧AI应用支持

1.png

要点:

  • 高通AI Hub扩展支持骁龙X系列平台,赋能开发者轻松利用行业一流的CPU和面向笔记本电脑的全球最快NPU,为下一代Windows PC打造快速响应的高能效终端侧生成式AI应用。

  • 利用高通AI Hub,开发者目前不仅可以使用持续增长的预优化AI模型库,还可以优化自己的模型增加灵活性和定制化,加快开发周期。

2024521日,圣迭戈——Microsoft Build 2024开发者大会期间,高通技术公司宣布扩展高通®AI Hub以支持骁龙®X系列平台,助力开发者缩短产品上市时间,让下一代Windows PC可以发挥终端侧生成式AI的诸多优势。此外,开发者现在可以将自主AI模型引入高通AI Hub并进行无缝优化,直接在终端上运行。能够在终端侧运行AI模型具有显著优势,包括出色的响应能力、增强的隐私性和可靠性,以及为用户带来更加个性化的体验。

高通技术公司高级副总裁兼技术规划和边缘解决方案业务总经理马德嘉表示:“通过在高通AI Hub中支持骁龙X系列平台,我们正在为开发者提供面向下一代Windows PC创建AI创新应用的灵活性和强大功能。我们致力于为开发者提供释放终端侧生成式AI全部潜能所需的工具和资源。”

高通AI Hub拥有超过100个预优化AI模型的持续增长模型库,是赋能出色终端侧AI性能的开发者资源、工具和服务门户。这些模型也在Hugging FaceGitHub上提供。此外,高通AI Hub现支持开发者“引入自主模型”(BYOM),能够专门针对骁龙和高通平台上传、优化和编译模型,包括支持PyTorchTensorFlowONNX等所有关键框架。开发者利用几行代码,即可在五分钟内在云托管终端上轻松测试并验证模型。通过简化模型优化和验证流程,开发者可以节省宝贵的时间和精力,缩短开发和部署周期,促进产品加快更新迭代。

2.png

宏碁、华硕、戴尔、惠普、联想、微软Surface和三星等全球领先PC OEM厂商计划推出搭载骁龙X Elite/X Plus计算平台的PC,让开发者可以利用高通AI Hub为这些新一代设备带来卓越体验。

骁龙X系列平台支持广泛的AI开发工具。得益于与ONNX RuntimeHugging Face Optimum的深度集成以及对Llama.cpp的支持,目前开发者可在骁龙X系列平台上运行数千个模型,构建丰富的AI赋能的Windows应用。开发者还可通过DeepLearning.AI和高通技术公司合作提供的在线课程,了解终端侧AI以及如何将其部署在应用上。欲获取最新动态,请订阅高通月度开发者简讯

关于高通公司

高通公司坚持不懈地创新,让智能计算无处不在,助力全球解决一系列最重大的挑战。我们经验证的解决方案推动主要行业转型,骁龙®品牌平台赋能非凡消费者体验。依托公司近40年为行业制定标准和打造划时代突破性技术的领导力,我们提供领先的边缘AI、高性能低功耗计算和无与伦比的连接。我们携手生态系统合作伙伴赋能下一代数字化转型,丰富人们的生活、改善企业业务并推动社会进步。在高通,我们致力于推动人类进步。

高通公司包括技术许可业务(QTL)和我们绝大部分的专利组合。高通技术公司(QTI)是高通公司的全资子公司,与其子公司一起运营我们所有的工程、研发活动以及所有产品和服务业务,其中包括半导体业务QCT。骁龙和高通品牌产品是高通技术公司和/或其子公司的产品。高通专利技术由高通公司许可。

最新文章