「华为云」推理加速型Pi2

概述

Pi2型弹性云服务器采用专为AI推理打造的NVIDIA Tesla T4 GPU,能够提供超强的实时推理能力。Pi2型弹性云服务器借助T4的INT8运算器,能够提供最大130TOPS的INT8算力。Pi2也可以支持轻量级训练场景。

Pi2型弹性云服务器功能如下:

支持NVIDIA Tesla T4 GPU卡,单实例最大支持4张T4 GPU卡

提供GPU硬件直通能力

单GPU单精度计算能力最高8.1 TFLOPS

单GPU INT8计算能力最高130 TOPS

单GPU提供16GB GDDR6显存,带宽300GB/s

内置1个NVENC和2个NVDEC

常规支持软件列表

Pi2实例主要用于GPU推理计算场景,例如图片识别、语音识别、自然语言处理等场景。也可以支持轻量级训练场景。

常用的软件支持列表如下:

Tensorflow、Caffe、PyTorch、MXNet等 学习框架。

使用须知

规格为pi2.2xlarge.4、pi2.4xlarge.4、pi2.8xlarge.4的Pi2型云服务器,在按需付费的模式下,关机后基础资源(包括vCPU、内存、镜像)不计费,但系统盘仍会收取容量对应的费用。 如有其他绑定的产品,如云硬盘、弹性公网IP、带宽等,按各自产品的计费方法(“包年/包月”或“按需付费”)进行收费。具体请参见产品价格详情。

注意:

规格为pi2.2xlarge.4、pi2.4xlarge.4、pi2.8xlarge.4的Pi2型云服务器,在按需付费的模式下,关机后会释放资源,下次开机时如果后台资源不足,可能会导致云服务器开机失败。如果您需要长期使用该云服务器,建议保持开机状态或者选择“包年/包月”计费模式。

使用私有镜像创建的Pi2型云服务器,请确认在制作私有镜像时已安装GPU驱动。如果未安装,需在Pi2型云服务器创建完成后进行驱动安装,实现推理加速功能,请参考安装NVIDIA GPU驱动及CUDA工具包。

Pi2型弹性云服务器当前支持如下版本的操作系统:

Windows Server 2016 Standard 64bit

Ubuntu Server 16.04 64bit

CentOS 7.5 64bit

Pi2型弹性云服务器支持规格变更。

Pi2型云服务器,所在物理机发生故障时,云服务器支持自动恢复。


企业会员

免责声明:本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿,凡在本网站出现的信息,均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏,概不负任何法律责任。任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时,应及时向本网站提出书面权利通知或不实情况说明,并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后,将会依法尽快联系相关文章源头核实,沟通删除相关内容或断开相关链接。

Baidu
map