资讯专栏INFORMATION COLUMN

国内首款FPGA云服务器诞生

liaosilzu2007 / 2828人阅读

摘要:月日,腾讯云宣布,推出国内首款高性能异构计算基础设施云服务器,以云服务方式将大型公司才能长期支付使用的推广到更多企业。此举让腾讯云成为国内在云端开放计算服务的云服务商。

1月20日,腾讯云宣布,推出国内首款高性能异构计算基础设施——FPGA云服务器,以云服务方式将大型公司才能长期支付使用的FPGA推广到更多企业。

腾讯云官网现已开放FPGA使用申请

通过FPGA云服务器,企业可以进行FPGA硬件编程,可将性能提升至通用CPU服务器的30倍以上,而只需支付相当于通用CPU约40%的费用。此举让腾讯云成为国内在云端开放FPGA计算服务的云服务商。

    

与已经深入人心的高性能计算的代表GPU相比,FPGA具有硬件可编程、低功耗、低延时的特性,代表了高性能计算的未来发展趋势。企业可以在火热的深度学习领域,将FPGA用于深度学习的检测阶段,与主要用于训练阶段的GPU互为补充。不仅如此,FPGA还可应用于金融分析、图像视频处理、基因组学等需要高性能计算的领域,是这类对效率要求高的行业应用的较佳选择。 

例如金融行业实时处理交易数据,使用通用CPU处理延时大、成本高,而使用FPGA可以很好的解决上述问题,FPGA在搜索领域也因为低延时被互联网搜索公司深度应用。FPGA之所以比CPU甚至GPU能效高,本质上是无指令、无需共享内存的体系结构带来的福利。

腾讯云副总裁王慧星认为,FPGA从底层开始变革人工智能的设计逻辑,加速企业业务在云端的处理能力,推动全行业在人工智能领域的创新步伐。他进一步指出,FPGA已经在QQ、微信等腾讯海量业务中长期使用,具备深厚的技术积累和复杂的场景实践,希望这项的技术开放大大降低企业的使用门槛,让大中小型企业都搭上人工智能这班列车。  

 

FPGA的应用场景:深度学习、图片处理等领域优势明显

FPGA诞生至今已有30余年,此前主要应用于大型互联网和科技公司,腾讯等互联网大型企业均在数据中心批量部署了FPGA,为自身的深度学习等应用提供硬件加速平台。

与传统的计算架构相比,FPGA能够更好地支撑深度学习等大规模并行计算需求。通过与通用CPU横向测试对比表明,FPGA在深度学习、图片压缩和分类检测等应用场景中,在成本、性能上具有明显优势。

FPGA在腾讯的深度学习领域被广泛应用,深度学习在图片分类识别、语音识别、个性化内容推荐算法等领域广泛应用。其中,微信、QQ为了增强社交通讯等业务的违规图片检测的处理能力,降低图片检测成本,通过FPGA对深度学习模型的CNN算法进行加速后,FPGA处理性能是通用CPU的4倍,单位成本是通用CPU的1/3。 

FPGA在图片处理的优势也很明显,用户每天通过微信和QQ等社交平台上传了海量的图片,如果采用WEBP图片压缩格式替代标准的JPEG格式,图片大小可减少三分之一,同时给用户带来更好的图片下载体验。而通过FPGA对大小为853x640的图片转码进行加速测试得出,FPGA的处理延时比通用CPU降低20倍,处理性能是通用CPU的6倍,而FPGA单位成本仅为通用CPU的1/3。 

另一项测试表明,FPGA在DNN计算加速上有较明显的优势。国内外的搜索引擎公司普遍使用DNN算法用于广告搜索,腾讯使用FPGA对DNN计算进行加速测试得出,在使用50%的FPGA资源的情况下,将4000个样本的DNN计算时延减小为1.2毫秒,吞吐率达到6000集合/s(4000个样本为1个集合),不仅达到了系统对低延时的要求,而且极大地提高系统的吞吐能力:处理延时降低100倍,处理吞吐率提高5倍,而成本是通用CPU服务器的1/5。

FPGA的部署革命:从数月到数分钟 

过去,中小企业部署FPGA面临诸多问题:FPGA硬件成本高、灵活性差、一次性采购投入大,需要高昂的费用和巨大精力进行FPGA的定制和采购,并需配备相应的硬件工程师和软件工程师。

同时企业接下来还会面临FPGA芯片更新换代带来的资源闲置流转问题。虽然FPGA知识产权(FPGA IP,FPGA Intellectual Property)提供了业务所需的硬件加速功能,但研发周期长,研发投入和风险高,令诸多企业望而却步。

腾讯云带来的革命性进展是:将FPGA部署时间从数月缩短到数分钟,企业可按需付费使用FPGA,极大降低FPGA的使用成本,实现高性能FPGA硬件加速处理。同时腾讯云率先在国内提供第三方FPGA知识产权市场,通过腾讯云服务市场,FPGA开发者和使用者可以更高效地交易。

长期以来,FPGA行业内的提供者和使用者一直缺乏交易平台和信用保证,导致交易环节冗长,很难达成交易。腾讯云服务市场搭建一个简单可靠的FPGA知识产权交易市场。对于FPGA使用者而言,可以在腾讯云服务市场购买已开发并验证好的FPGA知识产权功能,可节约长达数月的FPGA研发周期,同时采用按需使用的付费模式,能较大化地节省硬件投入成本。

而FPGA开发者可以通过使用腾讯云FPGA的开发框架,显著提升研发效率,更专注于核心功能开发,将图像处理功能、深度学习功能等已有的成熟FPGA知识产权通过简单封装适配,集成并投放到腾讯云服务市场,开放给FPGA使用者使用,分摊FPGA知识产权的研发成本。

王慧星认为,对于云计算行业而言,在云端提供FPGA是云计算IaaS层面革命性的推进,从底层开始加速云计算在各个场景中的应用,云计算将从纯粹的资源服务迈向人工智能云服务时代。

产品优势

应用场景

深度学习模型

腾讯云 FPGA 实例尤其适用于对时间和效率要求比较高的高性能计算 (HPC) 应用程序。

随着移动互联网的发展,基于用户社交平台,用户正在创造庞大的图片集合且增长速度很快。为了增强图片分类检测的处理能力,降低图片检测成本,我们使用 FPGA 云服务器对深度学习模型中 CNN 算法的 Alexnet 模型进行加速计算。

实验表明,采用 Alexnet 模型对图像进行分类检测对比测试,在性能上,FPGA 云服务器处理性能是 CPU 云服务器的5倍。

实时图像压缩

常用的图片格式有 JPEG 格式、WEBP 格式等, WEBP 图片格式比 JPEG 图片格式存储空间小 30% 。为节省存储空间,降低传输流量,提升用户的图片下载体验,通常采用 WEBP 格式进行存储及传输分发。但 WEBP 压缩计算复杂度是 JPEG 压缩的10倍以上,采用 CPU 进行 WEBP 转码成本很高。为了增强图片转码能力,可使用 FPGA 云服务器进行加速,且不会影响视图片质量。F1 实例是满足这些应用程序要求的理想解决方案。

对JPEG 格式图片转成 WEBP 格式图片进行测试对比,测试图片大小为 853x640,FPGA 云服务器处理延时相比 CPU 服务器降低20倍,FPGA 云服务器处理性能是 CPU 服务器的6倍。

欢迎加入本站公开兴趣群

软件开发技术群

兴趣范围包括:Java,C/C++,Python,PHP,Ruby,shell等各种语言开发经验交流,各种框架使用,外包项目机会,学习、培训、跳槽等交流

QQ群:26931708

Hadoop源代码研究群

兴趣范围包括:Hadoop源代码解读,改进,优化,分布式系统场景定制,与Hadoop有关的各种开源项目,总之就是玩转Hadoop

QQ群:288410967 

文章版权归作者所有,未经允许请勿转载,若此文章存在违规行为,您可以联系管理员删除。

转载请注明本文地址:https://www.ucloud.cn/yun/4207.html

相关文章

  • 腾讯FPGAIP市场服务 助力FPGA服务落地

    摘要:年月,腾讯云推出国内首款高性能异构计算基础设施,并致力于整个云服务生态圈的建设。基于此,腾讯云在市场上带来了一系列创新举措。图市场提供行业解决方案腾讯云云服务市场已在基因图片视频教育等行业和场景中落地。FPGA云服务,作为云计算产品中一种新型的行业解决方案,具有性能优越、开发便捷、计费灵活等红利,加之其具有低延迟,高吞吐等能力,在基因、人工智能、金融等计算密集型领域得到广泛使用。2017年1...

    defcon 评论0 收藏0
  • 百度发布自主研发国内首款端全功能AI芯片“昆仑”

    摘要:在年百度开发者大会上,百度董事长兼首席执行官李彦宏发布了由百度自主研发的国内首款全功能芯片昆仑。百度自主研发的高端芯片,将去满足全世界开发者的各种需求。在2018年百度AI开发者大会上,百度董事长兼首席执行官李彦宏发布了由百度自主研发的国内首款全功能AI芯片昆仑。李彦宏介绍称,昆仑是中国在大规模AI运算实践中催生出的芯片,基于百度8年的CPU、GPU和FPGA的AI加速器的研发,20多次迭代...

    xiaodao 评论0 收藏0
  • 【技术系列】浅谈GPU虚拟化技术(第一章)

    摘要:年第一个产品与群雄逐鹿在发布了的产品,则标志着虚拟化的成熟并逐渐开启了异构计算虚拟化的快速发展历程。而其中的便是基于的分片虚拟化方案。图形渲染虚拟化高性价比只此一款。各种新兴行业也开始应用虚拟化技术。 摘要: GPU深度好文系列,阿里云技术专家分享 第一章 GPU虚拟化发展史 GPU的虚拟化发展历程事实上与公有云市场和云计算应用场景的普及息息相关。如果在10年前谈起云计算,大部分人的...

    XFLY 评论0 收藏0
  • 【技术系列】浅谈GPU虚拟化技术(第一章)

    摘要:年第一个产品与群雄逐鹿在发布了的产品,则标志着虚拟化的成熟并逐渐开启了异构计算虚拟化的快速发展历程。而其中的便是基于的分片虚拟化方案。图形渲染虚拟化高性价比只此一款。各种新兴行业也开始应用虚拟化技术。 摘要: GPU深度好文系列,阿里云技术专家分享 第一章 GPU虚拟化发展史 GPU的虚拟化发展历程事实上与公有云市场和云计算应用场景的普及息息相关。如果在10年前谈起云计算,大部分人的...

    n7then 评论0 收藏0
  • 【历史上的今天】9 月 8 日:阿里开放平台计划;英特尔发布首款双核酷睿处理器;我国研制全数字高清晰

    摘要:资料来源维基百科年月日淘宝网发布开放平台淘园计划年月日,淘宝网发布淘园计划,推出淘宝大战略。年月日,英特尔在京隆重举 整理 | 王启隆 透过「历史上的今天」,...

    魏宪会 评论0 收藏0

发表评论

0条评论

liaosilzu2007

|高级讲师

TA的文章

阅读更多
最新活动
阅读需要支付1元查看
<