利用率
-
阿里云容器服务ACKACK集群实现GPU成本优化-云淘科技
本文介绍ACK实现GPU成本优化的场景描述、解决问题、架构图及操作参考链接。 场景描述 利用阿里云容器服务ACK部署GPU集群之后,出于成本优化的考虑,对于集群中GPU利用率不高的应用, 例如推理的应用,建议利用阿里云cGPU技术将一定数量的应用运行至一块GPU卡上,以提高利用率。对于GPU利用率比较高的应用,不做改动。这样可以实现灵活管理的同时, 降低整体…
本文介绍ACK实现GPU成本优化的场景描述、解决问题、架构图及操作参考链接。 场景描述 利用阿里云容器服务ACK部署GPU集群之后,出于成本优化的考虑,对于集群中GPU利用率不高的应用, 例如推理的应用,建议利用阿里云cGPU技术将一定数量的应用运行至一块GPU卡上,以提高利用率。对于GPU利用率比较高的应用,不做改动。这样可以实现灵活管理的同时, 降低整体…