OPPO自研推理引擎ShaderNN加入LF AI&Data基金会

近日,OPPO 宣布向 LF AI&Data 基金会无偿捐赠一项 AI 项目——ShaderNN,它是业界首个支持 OpenGL 和 Vulkan 全图形栈的高效轻量推理引擎, 面向移动端图形、图像、游戏实时 AI 应用。

目前,越来越多的深度学习推理任务从云端转移到移动端,移动平台上的深度学习推理场景需要解决硬件平台、驱动、编译优化、模型压缩、算子算法优化和部署等诸多问题,现有的推理平台与第三方库和硬件平台又通常存在驱动适配、模型验证、数据交互等问题,导致对应的优化部署和维护升级过程繁琐。同时,移动平台对图形图像类应用的实时性和功耗要求越来越高。

ShaderNN 应运而生, ShaderNN 专注于通过 GPU 着色器进行推理加速,它基于原生 OpenGL ES 和 Vulkan 构建,可以轻松与图形渲染管线深度集成,最大限度地利用计算资源,适用于渲染、图像/视频和游戏 AI 实时应用,它具有通用性、高性能、可移植性、可扩展性,其推理时间及平均功耗比同行业推理引擎在典型场景有显著优势。

ShaderNN 加入 LF AI&Data 基金会沙箱项目后,通过在基金会内部的合作,可以为开发者带来更快捷的开发体验,让手机用户获得更流畅、更沉浸真实的体验。

未来,OPPO 将继续与全球开源社区建立更深入的合作,通过前沿技术的可持续发展与不断落地,造福更多消费者。


最新文章