手册下载
H3C CAS云计算管理平台-GPU直通配置指导-5W102-整本手册.pdf (2.64 MB)
H3C CAS 云计算管理平台
GPU直通配置指导
资料版本:5W102-20220816
Copyright © 2022 新华三技术有限公司 版权所有,保留一切权利。
非经本公司书面许可,任何单位和个人不得擅自摘抄、复制本文档内容的部分或全部,并不得以任何形式传播。
除新华三技术有限公司的商标外,本手册中出现的其它公司的商标、产品标识及商品名称,由各自权利人拥有。
本文档中的信息可能变动,恕不另行通知。
6.2 为什么通过HP RGS Receiver连接HP RGS Sender失败?
6.3 为什么Windows XP SP3中运行HP RGS Receiver v7.0时提示出错?
6.4 GPU资源池中如果添加centos 6.5虚拟机然后启动,可能会导致主机重启
本文档介绍H3C CAS GPU直通的配置方法和操作步骤。GPU(Graphical Processing Unit,图形处理单元)是广泛应用于广电行业和艺术设计行业的一种图形硬件加速设备,例如,电视台非编系统、2D/3D制图和动画设计等,都需要利用GPU显卡在图形计算时强大的浮点运算和并行运算能力。GPU直通技术通过VT-d技术,将物理GPU透传给某一个虚拟机,使虚拟机能够完全拥有物理GPU的资源与性能,满足行业用户对应用系统的性能要求。需要注意的是,GPU直通技术并不是GPU软件虚拟化技术,GPU软件虚拟化技术采用图形命令重定向架构,在虚拟机的虚拟GPU驱动中截获图形命令调用,并转发到主机端,在主机端的物理GPU上处理图形命令,主机对多个虚拟机的图形命令管理及渲染处理,最后把渲染好的图像传回给虚拟机,达到一个GPU加速多个虚拟机的目的,实现资源共享。
本文档中的配置均是在实验室环境下进行的配置和验证,配置前服务器和软件的所有参数均采用出厂时的缺省配置。如果您已经对被测试对象进行了配置,为了保证配置效果,请确认现有配置和以下举例中的配置不冲突。
验证H3C CAS GPU直通的逻辑组网拓扑图如下所示。
图3-1 H3C CAS GPU直通配置逻辑组网图
组网需求总结如下:
· 服务器#1上安装型号为Nvidia Tesla M60的GPU显卡,服务器#1上的虚拟机VM#3独享该GPU显卡。
· 虚拟机VM#3上安装Windows 7中文旗舰版操作系统(也可以是Windows 8专业版操作系统),并安装HP RGS Sender v7.0远程图形软件。
· 本地PC机上安装HP RGS Receiver v7.0远程图形软件,作为客户端访问虚拟机VM#3,验证1080p高清视频播放的流畅体验。
配置项 |
说明 |
服务器型号 |
H3C FlexServer R390 |
CPU |
2路8核,Intel Xeon E5-2650 0 @ 2.00GHz |
内存 |
32 GB |
本地磁盘 |
485.91 GB |
网卡 |
4 * Broadcom NetXtreme II BCM5719 Gigabit Ethernet |
GPU显卡 |
1 * Nvidia Tesla M60 |
软件 |
版本 |
H3C CAS |
CAS-E0526(KVM Kernel 4.14.0-generic) |
Windows |
Windows 7中文旗舰版 SP1 64位 |
HP RGS |
RGS-Windows Sender and Receiver v7.0 |
Nvidia Tesla M60显卡驱动 |
412.36-tesla-desktop-win8-win7-64bit-international |
UltraISO |
UltraISO Premium Edition v9.6.0.3000 |
(1) 在服务器#1断电情况下,安装Nvidia Tesla M60 GPU显卡。
(2) 重新启动服务器#1,在BIOS中设置服务器内置显卡为Primary,其它显卡为Secondary。方法是:在服务器启动过程中,按[F9]进入BIOS设置界面,依次选择<Advanced Options>-><Video Options>菜单,按上下箭头键调整显卡主次顺序,完成之后,按回车键保存配置,退出BIOS,重启服务器。
图5-1 在BIOS中设置服务器内置显卡为主显卡设备
(3) 在服务器#1上安装H3C CAS CVK虚拟化内核系统,使用eth0作为管理网口,管理IP地址为192.168.0.32。
(4) 在服务器#2上安装H3C CAS CVM虚拟化管理平台,使用eth0作为管理网口,管理IP地址为192.168.0.202,并把服务器#1作为计算节点添加到管理平台中的集群下。
(5) 启用该服务器的IOMMU功能:主机池—集群—主机—高级设置,将IOMMU配置状态由禁用改为启用,修改完成后重启服务器。
图5-2 设置IOMMU功能
如果仅仅为测试环境,可以只使用一台服务器,同时安装CVK虚拟化内核系统和CVM虚拟化管理平台,如果为生产环境,强烈建议CVK和CVM独立分开部署,使业务与管理分离,避免业务资源与管理资源的临位干扰。
(1) 在服务器#1上创建一个虚拟机,命名为“Win7x64”,安装Windows 7中文旗舰版操作系统。操作系统安装完成之后,打开“设备管理器”,可以看到,虚拟机使用的是H3C CAS CVK模拟的VGA显卡。
请根据业务实际情况分配VM资源,本配置为验证测试环境,给虚拟机分配的vCPU为2核、内存为4GB、磁盘为30GB的Virtio类型磁盘、网卡为Virtio网卡(使用默认的网络策略模板)。
图5-3 H3C CAS CVK为虚拟机分配的标准VGA显卡
(2) 从HP官方网站上注册账号,下载HP RGS软件和60天试用License,当前环境使用的版本 v7.0。下载地址为:http://www.hp.com/go/rgs。
· HP RGS(Remote Graphics Software,远程图形软件)是HP推出的一款旨在解决图形图像远程传输的软件,包括Receiver和Sender两个安装包,分别对应客户端和服务器端。
· Receiver软件包免费,安装在本地PC机上,Sender与HP Z系列图形工作站捆绑销售时免费,安装在其它任何环境,都需要收取License费用。本配置从HP官网下载了60天试用License。
(3) 在Windows 7中文旗舰版虚拟机上安装HP RGS Sender v7.0软件后,重启虚拟机。安装成功之后,在Windows桌面任务栏中可以看到HP RGS Sender处于运行状态,随时准备监听来自HP RGS Receiver的连接。
图5-4 HP RGS Sender安装成功后在任务栏中的状态
HP RGS的License分为2种:Standard License (F9L57AAE)和Floating License (F9L51AAE),分别对应安装界面中的“Install a license file on this system”和“Acquire license from a license server”,HP官网给出的报价分别为199美元和495美元。同时,HP官网提供了60天使用License下载。
(1) 创建GPU资源池。
选择导航树中[云业务/智能资源调度]菜单项,进入智能资源调度业务列表页面。单击<增加智能资源调度业务>按钮,弹出增加智能资源调度对话框。
图5-5 创建GPU资源池-01
(2) 输入业务名称,选择集群,将资源类型设置为GPU后,单击<下一步>按钮。
图5-6 创建GPU资源池-02
设置资源类型时,请注意:若使用GPU直通功能,需要选择“GPU”。
(3) 在资源信息列表中,选择该集群主机上含有的GPU设备后,单击<下一步>按钮。
图5-7 创建GPU资源池-03
(4) 选择使用GPU设备的业务虚拟机和业务虚拟机所使用的业务模板,配置资源是否独占以及使用的资源个数。
图5-8 创建GPU资源池-04
(5) 选择完成后,单击<完成>按钮后完成创建。
图5-9 创建GPU资源池-05
(6) 在智能资源调度列表中,查看刚刚创建的GPU资源池。
图5-10 GPU资源池创建完成-05
(7) 启动GPU资源池中的业务虚拟机。
选择导航树中[云业务/智能资源调度/GPU]菜单项,进入智能资源调度业务列表页面。选择需要启动的虚拟机后,通过鼠标右键选择[启动]菜单项。
图5-11 启动业务虚拟机
(8) 为透传后的GPU显卡安装驱动程序。
登录已启动的虚拟机,在“设备管理器”中看到增加了一个显示适配器,但设备类型显示为“标准VGA图形适配器”,且设备图标上有告警标志,说明没有安装正确的驱动程序。
图5-12 GPU直通后在虚拟机中看到的显卡设备
(9) 将对应的GPU设备驱动拷贝到虚拟机内部,然后在虚拟机上安装NVIDIA Tesla M60 GPU显卡驱动程序,安装完成之后,重新启动虚拟机。
图5-13 为虚拟机安装NVIDIA Tesla M60显卡驱动程序
(1) 在本地PC机上通过HP RGS Receiver v7.0连接虚拟机上的HP RGS Sender v7.0。
¡ 在本地PC机上安装HP RGS Receiver v7.0软件。
¡ 运行HP RGS Receiver v7.0软件,输入虚拟机的IP地址,单击<Connect>按钮。
图5-14 在客户端通过HP RGS Receiver v7.0访问虚拟机
¡ 如果虚拟机没有开启远程连接功能,则RGS Sender要求RGS Receiver输入有效的登录账号和密码。
图5-15 RGS Sender要求RGS Receiver输入有效的登录账号和密码
(2) 因为验证测试环境位于私有局域网,无法连接Internet,因此,RGS禁用了一些高级功能,但这并不影响本配置的验证测试,单击<Continue without activation>按钮继续。
图5-16 没有Internet连接时HP RGS将禁用部分高级功能
(3) 连接成功之后的远程操作系统界面显示如下。
图5-17 HP RGS远程连接成功后的操作系统界面
结论:使用HP RGS默认的65%图像质量,全屏观看本地视频时的流畅度与体验感比RDP明显要好,但还是与本地PC机播放有一定的差距。在实际使用时,建议:
· 虚拟机的屏幕分辨率不要超过1024 * 768;
· 网络流量带宽控制在15Mbit/s以下;
· 视频码率不要超过24帧/秒。
否则,使用HP RGS连接播放本地视频可能出现卡顿的现象。
(1) 在虚拟机上安装暴风影音2011版(Build版本:3.11.4.12)。
(2) 从网络分别下载一个RMVB格式的视频文件和一个FLV格式的视频文件到虚拟机本地磁盘。
(3) 电影《中国合伙人》(FLV格式)文件信息如下表所示。
视频参数 |
值 |
视频文件大小 |
1.88 GB (2,025,177,088 字节) |
分辨率 |
1920 * 800 |
采样率 |
24.00 kHz |
码率 |
2328 Kbps |
帧速率 |
24.000fps |
¡ 使用暴风影音全屏播放(1600 * 900),图像传输质量为默认的65%,播放过程中,部分桥段有轻微的顿挫感。HP RGS显示的带宽与帧速率结果记录如下:
|
值 |
带宽变化范围 |
13.84 Mbit/s ~ 23.44 Mbit/s |
帧速率变化范围 |
20 ~ 27 fps |
¡ 使用暴风影音全屏播放(1024 * 768),图像传输质量为默认的65%,播放过程中,相对比较流畅。HP RGS显示的带宽与帧速率结果记录如下:
|
值 |
带宽变化范围 |
5.53 Mbit/s ~ 11.81 Mbit/s |
帧速率变化范围 |
20 ~ 30 fps |
图5-18 使用HP RGS连接播放FLV格式视频
(4) 电影《幸福终点站》(RMVB格式)文件信息如下表所示。
视频参数 |
值 |
视频文件大小 |
1.51 GB (1,628,918,293 字节) |
分辨率 |
1280 * 720 |
采样率 |
24.00 kHz |
码率 |
1674 Kbps |
帧速率 |
24.000fps |
¡ 使用暴风影音全屏播放(1600 * 900),图像传输质量为默认的65%,播放过程中,部分桥段有轻微的顿挫感。HP RGS显示的带宽与帧速率结果记录如下:
|
值 |
带宽变化范围 |
18.32 Mbit/s ~ 30.74 Mbit/s |
帧速率变化范围 |
15 ~ 21 fps |
¡ 使用暴风影音全屏播放(1024 * 768),图像传输质量为默认的65%,播放过程中,相对比较流畅。HP RGS显示的带宽与帧速率结果记录如下:
|
值 |
带宽变化范围 |
9.36 Mbit/s ~ 22.77 Mbit/s |
帧速率变化范围 |
22 ~ 25 fps |
图5-19 使用HP RGS连接播放RMVB格式视频
成功实现GPU直通之后,在H3C CAS CVM虚拟化平台将无法继续使用VNC访问虚拟机,具体表现为通过VNC访问虚拟机时,虚拟机显示输出一直停顿在启动界面。
图6-1 GPU直通后虚拟机无法通过VNC访问
GPU直通之后,虚拟机显示输出由物理GPU显卡接管并透传,VNC使用的显示输出为标准VGA显卡输出,所以,VNC上无视频输出信号。
(1) 通过HP RGS协议连接虚拟机;
(2) 将物理显示器直接连接服务器的GPU显卡视频输出口。
在本地PC机和远端虚拟机上分别正常安装HP RGS Receiver v7.0和HP RGS Sender v7.0,但是,通过Receiver连接Sender时,出现如下提示信息:
图6-2 通过HP RGS Receiver连接HP RGS Sender失败
提示信息提示“The Receiver resolved the specified hostname or IP address”,表示Receiver和Sender之间的网络是可达的,因此,问题可能是由于服务端的Service没有启动。
在服务端操作系统中,打开“服务”,在服务列表中右键点击“Remote Graphics Sender Service”,选择<启动>命令菜单。
图6-3 手工启动RGS服务
在Windows XP专业版SP3上安装HP RGS Receiver v7.0后,运行时出现如下错误对话框:
图6-4 Windows XP中无法执行HP RGS Receiver程序
HP RGS不支持Windows XP系列操作系统。从HP官方网站可以知道,HP RGS支持的操作系统列表为:
· Windows 7 Professional
· Windows 8 Professional
· RHEL v6.5
· SLED 11 SP3
更换HP RGS Receiver v7.0到HP RGS支持的操作系统上运行。
GPU资源池中添加centos 6.5虚拟机,然后启动该虚拟机,会导致主机重启。
服务器日志:
由于centos 6.5初始化GPU时,因为内部没有简单video driver,初始化GPU失败,导致服务器故障。
Centos 6.5或redhat 6.5虚拟机,如果需要添加服务器的GPU设备,那么虚拟机安装时,要选择如下的安装方式(第二选项):