2024年4月26日
kubernetes安装配置使用vGPU
摘要： 前言 AI 落地时，在某些场景下 AI 模型在训练或者是推理时，其算力要求不需要占用整卡的 GPU，比如只需要0.5卡 GPU 即可满足需求。 在这种情况下，可以使用 GPU 虚拟化技术来解决这个问题，将整卡的 GPU 虚拟化为两个0.5卡的 GPU，这样就可以在一张卡上同时跑两个 AI 训练或者 阅读全文
posted @ 2024-04-26 19:49 牛奔 阅读(26) 评论(0) 推荐(0) 编辑