KubeExplorer

摘要： 上篇我们分析了 hami-scheduler 工作流程，知道了 hami-webhook、hami-scheduler 是怎么配合工作的。 本文为 HAMi 原理分析的第四篇，分析 hami-scheduler 在调度时是如何选择节点的，即：Spread、Binpack 等高级调度策略是怎么实现的。 阅读全文

摘要： 上篇我们分析了 hami-webhook，该 Webhook 将申请了 vGPU 资源的 Pod 的调度器修改为 hami-scheduler，后续使用 hami-scheduler 进行调度。 本文为 HAMi 原理分析的第三篇，分析 hami-scheduler 工作流程。 上篇主要分析了 ha 阅读全文

摘要： 上篇我们分析了 hami-device-plugin-nvidia，知道了 HAMi 的 NVIDIA device plugin 工作原理。 本文为 HAMi 原理分析的第二篇，分析 hami-scheduler 实现原理。 为了实现基于 vGPU 的调度，HAMi 实现了自己的 Schedule 阅读全文

摘要： 本文主要分享如何通过 Scheduler Extender 扩展调度器从而实现自定义调度策略。 1. 为什么需要自定义调度逻辑 什么是所谓的调度? 所谓调度就是指给 Pod 对象的 spec.nodeName 赋值 待调度对象则是所有 spec.nodeName 为空的 Pod 调度过程则是从集群现 阅读全文

摘要： 本文为开源的 vGPU 方案 HAMi 实现原理分析第一篇，主要分析 hami-device-plugin-nvidia 实现原理。 之前在 开源 vGPU 方案：HAMi,实现细粒度 GPU 切分 介绍了 HAMi 是什么，然后在开源 vGPU 方案 HAMi: core&memory 隔离测试 阅读全文

摘要： 本文主要对开源的 vGPU 方案 HAMi 的 GPU Core&Memory 隔离功能进行测试。 省流： HAMi vGPU 方案提供的 Core&Memory 隔离基本符合预期： Core 隔离：Pod 能使用的算力会围绕设定值波动，但是一段时间内平均下来和申请的 gpucores 基本一致 M 阅读全文

摘要： 本文主要分享一个 K8s 1.31 增加的一个新 Feature：ImageVolume。允许直接将 OCI 镜像作为 Volume 进行挂载，加速 artifact 分发。 1.背景 Kubernetes 社区正在积极发展，以更好地支持未来的人工智能 (AI) 和机器学习 (ML) 场景。 为满足 阅读全文

摘要： 本文主要分享一个开源的 GPU 虚拟化方案：HAMi，包括如何安装、配置以及使用。 相比于上一篇分享的 TimeSlicing 方案，HAMi 除了 GPU 共享之外还可以实现 GPU core、memory 得限制，保证共享同一 GPU 的各个 Pod 都能拿到足够的资源。 1.为什么需要 GPU 阅读全文

摘要： 本文主要分享 GPU 共享方案，包括如何安装、配置以及使用，最后通过分析源码了 TImeSlicing 的具体实现。通过配置 TImeSlicing 可以实现 Pod 共享一块物理 GPU，以提升资源利用率。 1.为什么需要 GPU 共享、切分等方案？ 开始之前我们先思考一个问题，为什么需要 GPU 阅读全文

摘要： 本文主要分享如何使用 LLaMAFactory 实现大模型微调，基于 Qwen1.5-1.8B-Chat 模型进行 LoRA 微调，修改模型自我认知。 本文的一个目的：基于 Qwen1.5-1.8B-Chat 模型进行微调，修改模型自我认证。 修改前对于 Qwen1.5-1.8B-Chat 模型，用 阅读全文