服务器如何虚拟化_GPU虚拟化

GPU虚拟化通过软件层如NVIDIA GRID或AMD MxGPU，将物理GPU资源划分给多个虚拟机。这需硬件支持与兼容的虚拟化软件实现资源的隔离和分配。

服务器GPU虚拟化是一种在服务器上创建多个虚拟GPU实例，以供不同虚拟机使用的技术。

（图片来源网络，侵删）

服务器GPU虚拟化是现代数据中心和云计算环境中的一个重要技术，它允许系统管理员根据工作负载的需求，动态地分配和管理GPU资源，这种技术的重要性体现在多个方面，包括提高资源利用率、降低运营成本、提高业务连续性和适应不断变化的业务需求等。

在服务器GPU虚拟化领域，NVIDIA提供了一系列的解决方案，这些解决方案涵盖了从数据中夜到云计算环境的各种用例，NVIDIA的vGPU软件包括四个版本，每个版本针对不同的工作负载和用户需求进行了优化，NVIDIA 虚拟计算服务器 (vCS) 版本专门针对基于KVM的基础架构上的虚拟化AI计算工作负载进行了优化，而NVIDIA RTX 虚拟工作站 (vWS) 版本则适用于使用图形应用程序的创意和技术专业人士。

NVIDIA的vGPU软件还提供了用于管理和监控虚拟化环境的工具，以及对GPU加速VM的实时迁移的持续正常运行时间支持，这些工具和功能帮助IT基础设施为未来做好准备，并简化了部署过程，对于基于VMware虚拟化数据中心的企业，NVIDIA AI Enterprise是一款经优化、认证和支持的端到端云原生AI和数据分析软件套件，可在采用VMware vSphere® with Tanzu® 和 VMware Cloud Foundation™ with Tanzu® 解决方案的数据中心上运行。

除了软件之外，硬件技术也是实现服务器GPU虚拟化的关键，Intel提供了Intel VTd硬件辅助技术，该技术支持直接传递（Direct Passthrough）虚拟化策略，允许一台虚拟机拥有对物理GPU的全部访问权限，这种技术提供了与真实机器相近的性能及保真度，但它的缺点是一个物理GPU只能被一台虚拟机使用，这在一定程度上降低了GPU资源的共享性和灵活性。

在考虑服务器GPU虚拟化时，还有几种不同的虚拟化技术可供选择，设备模拟（Device Emulation）通过软件模拟GPU设备，但性能较低，API转发（API Forwarding）通过实现包裹图形API的库来实现虚拟化，但可能会因库和API的不匹配导致虚拟化失败，中介传递（Mediated Passthrough）和直接传递（Direct Passthrough）是两种不同级别的传递技术，前者允许虚拟机只占用GPU上下文的一个子集，而后者则给予一台虚拟机对整个物理GPU的访问权限。

服务器GPU虚拟化是一个复杂但功能强大的技术，它能够有效地管理和分配GPU资源，以满足不同工作负载的需求，通过使用像NVIDIA vGPU这样的软件解决方案，企业可以优化他们的IT基础设施，提高资源利用率，降低成本，并适应不断变化的业务需求，随着技术的不断发展和改进，服务器GPU虚拟化将在未来继续发挥重要作用，帮助企业更好地利用他们宝贵的GPU资源。