资讯专栏INFORMATION COLUMN

GPU服务器如何选型?

3119555200 / 77人阅读

摘要:选择服务器时首先要考虑业务需求来选择适合的型号。接着需要考虑配套软件和服务的价值。

a

说到GPU,我相信大部分朋友都会认为这就是一个游戏工具。其实并不是这样,目前不少公司已经认识到GPU大规模并行计算带来的优势,开始用强大的多GPU服务器进行各种方向的研究,而这些研究除了能给公司带来巨大收益外,其研究成果也开始应用在我们的日常生活中。选择GPU服务器时首先要考虑业务需求来选择适合的GPU型号。只有当GPU型号选定后,我们再考虑用什么样GPU的服务器。那么,如何选择一个合适的服务器呢。

首先我们在边缘服务器租用上需要考虑量来选择,如T4或者P4等相应的服务器,同时也要考虑服务器的使用场景,比如火车站卡口、机场卡口或者公安卡口等;在中心端做Inference时可能需要V100的服务器,需要考虑吞吐量以及使用场景、数量等。

然后考虑的是客户本身使用人群和IT运维能力,对于BAT这类大公司来说,他们自己的运营能力比较强,这时会选择通用的PCI-e服务器;而对于一些IT运维能力不那么强的客户,他们更关注数字以及数据标注等,我们称这类人为数据科学家,选择GPU服务器的标准也会有所不同。

接着需要考虑配套软件和服务的价值。

最后再考虑整体GPU集群系统的成熟程度以及工程效率,比如像DGX这种GPU一体化的超级计算机,它有非常成熟的从底端的操作系统驱动Docker到其他部分都是固定且优化过的,这时效率就比较高

文章版权归作者所有,未经允许请勿转载,若此文章存在违规行为,您可以联系管理员删除。

转载请注明本文地址:https://www.ucloud.cn/yun/127434.html

相关文章

  • GPU务器如何选型

    ...认识到GPU大规模并行计算带来的优势,开始用强大的多GPU务器进行各种方向的研究,而这些研究除了能给公司带来巨大收益外,其研究成果也开始应用在我们的日常生活中。选择GPU务器时首先要考虑业务需求来选择适合的GPU...

    3119555200 评论0 收藏0
  • 滴滴机器学习平台架构演进

    ...都属于计算密集型应用,一般都会使用单价较昂贵的 GPU 务器。但随着业务的开展,各算法团队仅针对各自的问题做规划,导致了一种小作坊式的生产局面。 作坊式生产方式在早期有其积极的一面,能够保证创新的灵活性,但...

    entner 评论0 收藏0
  • 为什么选择租用UCloud金翼物理机?UCloud金翼物理机优势、标准型及定制型介绍

    ...协议期限仅支持24个月、36个月、48个月;租用48个月后,务器产权归用户所有。立即咨询UCloud金翼物理机标准型UCloud金翼物理机标准型机型包括数据中心全功能机型、大数据&存储优化机型、AI训练机型(V100 Nvlink & PCIE 8)和AI...

    Tecode 评论0 收藏0
  • 视频云王海华:关于移动短视频技术选型的那些事

    ...频真正能够帮助业务发展是每个产品都应该考虑的问题。如何让自己的应用能够快速拥有短视频的能力,让短视频在你的应用里能够拥有更好的用户体验呢?今天我们从完整的技术链路上来梳理一下搭建一个完整的短视频的服务...

    mzlogin 评论0 收藏0
  • 视频云王海华:关于移动短视频技术选型的那些事

    ...频真正能够帮助业务发展是每个产品都应该考虑的问题。如何让自己的应用能够快速拥有短视频的能力,让短视频在你的应用里能够拥有更好的用户体验呢?今天我们从完整的技术链路上来梳理一下搭建一个完整的短视频的服务...

    番茄西红柿 评论0 收藏0

发表评论

0条评论

最新活动
阅读需要支付1元查看
<