12月23日 -- 燧原科技继前日发布首款人工智能推理产品 “云燧®i10”,宣布携手浪潮,共同推出基于云燧i10的浪潮边缘计算服务器“NE5260M5”。标志燧原科技业务向AI边缘推理的拓展。该服务器可根据客户需求支持2-4张云燧i10,为边缘AI推理应用如自动驾驶、智慧交通、ETC识别、精密仪器预测性维护、AI工业质检等场景提供强大算力支持。
搭载云燧i10的浪潮边缘计算服务器NE5260M5
云燧i10是一款面向云端数据中心的高性能推理卡,单槽位标准卡,支持PCIe 4.0,FP32算力达到17.6TFLOPS,BF16/FP16算力70.4TFLOPS。云燧i10实现多用户支持,最大可支持4个设备实例,具备计算与存储资源的独享性,多用户间安全隔离;单颗芯片上可同时部署不同的业务与负载,实现多任务并行,有效提高利用率;支持KVM、Xen等系统虚拟化平台。
云燧i10
云燧i10
浪潮边缘计算服务器NE5260M5高度2U,深度只有430毫米,可部署在通信机房或直接悬挂在墙壁上。尽管该服务器体积小巧,但NE5260M5支持多种异构加速卡,并且各个模块具有良好的散热效果,能够很好适应边缘恶劣的高温湿环境。基于高度适配的软硬件组合,浪潮NE5260M5可搭载2-4张云燧i10,最多可提供高达每秒70万亿次的单精度算力和280万亿次的半精度算力,高精度主流推理模型的性能实现了业界领先,为边缘环境提供更加灵活的加速选择。
- 在计算机视觉领域中,可实时高速图像视觉处理,广泛应用于工厂AI质检、场景识别、智能交通等应用,在图像识别场景中,基于ImageNet图像数据集,超过75.9%准确率,推断性能超过3000FPS,在业界公认的基准测试模型ResNet-50上,性能是一般产品的1.7倍。在视频增强场景中,可实时进行视频分辨率增强,服务器处理性能可达240FPS,性能达到业界一般产品的2倍。
- 在自然语言处理领域中,可应用于文本分类、舆情监管、智能客服等场景,在业界公认的测试模型Bert-Base上,同时兼顾性能和精度,在FP32高精度下性能是业界一般产品的1.5倍。
- 在电商、短视频推荐场景中,可实现精准、高效、实时的目标内容投放,在业界流行的主流推荐模型xDeepFM上,性能是业界一般产品的2倍,因为采用FP32高精度的推理,推荐内容更准确。
燧原科技创始人兼COO张亚林表示:“日益丰富的边缘AI推理应用,要求在边缘实现低延迟、高吞吐量的人工智能,诸如基于不同地点之间连续的数据流实现实时感知、理解和执行。搭载了云燧i10的浪潮边缘计算服务器NE5260M5,可以为企业客户提供强大的边缘计算能力,以处理来自客户和设施交互中产生的海量原始数据,从而快速制定人工智能决策以驱动业务的更好发展。”
浪潮边缘计算事业部总经理孙波表示:“AI和5G的拉动下,AI不断向边缘场景渗透。浪潮作为全球领先的计算力提供商,目前已面向工业互联网、智能网联汽车、城市治理、工业互联网、产业+AI等七大边缘计算场景打造丰富的边缘计算产品形态及方案,基于云燧i10的浪潮边缘NE5260M5,将进一步推动AI向边缘场景的产业化落地,驱动各行业的数字化、智慧化转型。”
关于燧原科技
燧原科技专注人工智能领域云端算力平台,致力为人工智能产业发展提供普惠的基础设施解决方案,提供自主知识产权的高算力、高能效比、可编程的通用人工智能训练和推理产品。其创新性架构、互联方案和分布式计算及编程平台,可广泛应用于云数据中心、超算中心、互联网、金融及政务等多个人工智能场景。现已在云数据中心落地商用。
燧原科技携手业内国际标准组织,秉承开源开放的宗旨,与产业伙伴一起促进人工智能产业发展。
关于浪潮
浪潮是全球领先的服务器提供商,业务覆盖了110多个国家和地区。在中国,浪潮AI服务器市场份额超过50%,并积极布局边缘,拥有丰富的边缘AI服务器产品,正在和AI领域客户紧密合作帮助其在语音、语义、图像、视频、搜索等各方面取得数量级的AI应用性能提升。