百度飞桨Paddle Lite 与海云捷迅基于Intel FPGA的自研开发套件完成适配

日期:2021-04-01

在技术革新的浪潮下,人工智能在产业升级、改善人类生活等方面发挥着越来越重要的作用。从科研、金融、零售到工业、农业等越来越多的行业与业务场景,无不渗透了人工智能的威力。此外,为人工智能深度学习定制的硬件近年来也有井喷之势。

AI人工智能产业又一重磅合作,百度飞桨(PaddlePaddle)深度学习平台的高性能轻量化推理引擎Paddle Lite与海云捷迅自研的基于英特尔® FPGA开发套件正式完成兼容性适配。实现人工智能算法的快速部署,加速AI科技的普及与进步,使AI行业赋能更多应用场景。

FPGA具有灵活高效、可重复编程特性,可实现定制性能、定制功耗、高吞吐量和低延迟的特性,因此在人工智能领域的应用越来越广泛。随着数据洪流时代的到来,算法不断演进和迭代,软硬件的结合可以更好的充分释放数据的巨大潜能。

重庆海云捷迅科技有限公司基于英特尔® FPGA,包含英特尔® Stratix®系列、英特尔®Arria®系列、英特尔®Cyclone®系列的开发套件,在百度飞桨的轻量化推理引擎Paddle Lite上充分兼容,高效稳定运行。此次海云捷迅与百度的合作,旨在助推FPGA应用生态,让AI赋能更多应用场景,加速AI应用落地。

认证

百度飞桨与海云捷迅兼容性认证书

 

关于飞桨

飞桨(PaddlePaddle)以百度多年的深度学习技术研究和业务应用为基础,是中国首个自主研发、功能完备、 开源开放的产业级深度学习平台,集深度学习核心训练和推理框架、基础模型库、端到端开发套件和丰富的工具组件于一体,包含完整的开发、训练、推理的端到端深度学习AI模型开发工具链。其中,Paddle Lite是一个可以在边缘端、移动端等场景下用于AI模型部署的高性能轻量化推理引擎。典型应用场景包括:智能闸机、智能家居、自动驾驶、机器人、智能抠图、AR/VR手机应用等。与重庆海云捷迅探索的边缘应用的方向不谋而合。

飞桨

关于海云捷迅

重庆海云捷迅科技有限公司(简称:AWCloud海云捷迅)以FPGA与人工智能技术为核心,致力于研究智能硬件高效使用,提供多种智慧场景解决方案,助力智慧城市及相关智能行业升级改造,推动中国FPGA及人工智能生态建设发展。AWCloud海云捷迅目前已取得数十项软件著作权,并已申请实用新型专利和发明专利。重庆海云捷迅不仅自主研发了FPGA开发板、人工智能边缘实验平台、育智芯|英特尔人工智能实验室解决方案,及农业智联网实训场景等产品,还以技术革新为发展基石,不断提高自身综合实力。重庆海云捷迅不但具备FPGA项目开发能力、FPGA+AI实验室相关软硬件产品研和交付能力,还能够提供FPGA工程师培训和FPGA云平台建设和运营等服务。

海云捷迅致力于推动中国FPGA及人工智能生态建设发展,已与上百所国内顶尖高校开展高层面、多维度的合作。通过与众高校开展各类合作,不断助力高校FPGA和人工智能相关专业的课程体系及人才培养支撑平台建设,加速技术应用落地及FPGA产业发展。

awcloud

Intel FPGA SoC芯片简介

  • Intel Cyclone V SoC芯片含有丰富DSP硬核资源
  • ALM:Adaptive Logic Modules 自适应逻辑块,可以自动综合为DSP软核资源
  • ARM CortexTM-A9
  • 丰富的片上存储

1

2

 

软件架构

PaddleLite支持ARM和FPGA的混合调度,ARM通过FPGA驱动实现和FPGA的通信和数据同步。

3

 

FPGA逻辑架构

  • 控制状态机:实现FPGA逻辑侧与ARM侧通信
  • 可扩展卷积核:实现卷积与DW卷积操作
  • 片上存储:通过策略设计,实现数据与权重重用

4

海云捷迅与百度飞桨的合作成果

 

  • Intel FPGA的ARM侧部署Paddle Lite框架,结合海云自研的ARM侧的用户程序与驱动、FPGA 逻辑侧的算子,用户基于FPGA可以使用Paddle Lite框架对人工智能算法实现快速部署。
  • 相对于传统在FPGA上的部署人工智能算法,基于结合Paddle-Lite的Intel FPGA具有部署快,用户可以不关注底层硬件的特点。
  • 相对于在GPU、CPU上部署人工智能算法,基于结合Paddle-Lite的Intel FPGA具有低功耗、低延迟的特点,第一代发布版本的性能是FPGA内嵌硬核ARM的两倍。

5

这只是海云捷迅与百度飞桨合作的第一步,接下来,海云捷迅与Paddle Lite将持续更新后续优化版本,持续性能优化,持续兼容其他最新Intel芯片,Agilex系列。在未来,双方还将在RISC-V兼容Paddle框架上展开合作。随着双方生态的逐渐扩大,软硬件充分结合的生态势必将发挥更大的效能,助力人工智能行业多场景落地。

 

百度将持续加大布局AI技术及生态圈,海云捷迅深耕FPGA和人工智能技术,双方携手合作,能更好的促进高校人才培养,加速FPGA和人工智能生态圈的建设。

如在使用过程中有问题,可加入飞桨官方推理部署群进行交流:959308808。

如果您想详细了解更多飞桨的相关内容,请参阅以下文档。

·飞桨官网地址·

https://www.paddlepaddle.org.cn/

·Paddle Lite项目地址·

GitHub: https://github.com/PaddlePaddle/Paddle-Lite

Gitee: https://gitee.com/paddlepaddle/paddle-lite

 

飞桨(PaddlePaddle)以百度多年的深度学习技术研究和业务应用为基础,是中国首个开源开放、技术领先、功能完备的产业级深度学习平台,包括飞桨开源平台和飞桨企业版。飞桨开源平台包含核心框架、基础模型库、端到端开发套件与工具组件,持续开源核心能力,为产业、学术、科研创新提供基础底座。飞桨企业版基于飞桨开源平台,针对企业级需求增强了相应特性,包含零门槛AI开发平台EasyDL和全功能AI开发平台BML。EasyDL主要面向中小企业,提供零门槛、预置丰富网络和模型、便捷高效的开发平台;BML是为大型企业提供的功能全面、可灵活定制和被深度集成的开发平台。

内容来源:飞桨PaddlePaddle

最新信息