K8s GPU & Device Plugins Star 项目清单整理

原文：raw/k8s-gpu-device-plugins-stars-list.md · 来源：googs1025 的 K8s GPU & Device Plugins Stars list · 抓取日期：2026-06-04 · 仓库数：36

一句话定位

这个 Star list 聚焦 kubernetes 异构设备资源层：从最传统的 device plugin、GPU Operator、container toolkit、DCGM/NVML 监控，到 vGPU / GPU sharing、Dynamic Resource Allocation、CDI、fake GPU 测试环境，再延伸到 CUDA 学习、TensorRT、KV cache 虚拟化这类 GPU workload 能力。

分层地图

┌──────────────────────────────────────────────────────────────────────────────┐
│ AI / CUDA workload layer                                                     │
│ TensorRT · LeetCUDA · CUDA_Freshman · kvcached · MUSA adapters               │
└───────────────────────────────┬──────────────────────────────────────────────┘
                                │
┌───────────────────────────────▼──────────────────────────────────────────────┐
│ Runtime / container integration                                              │
│ NVIDIA container toolkit · CDI · NVML bindings · operator libs               │
└───────────────────────────────┬──────────────────────────────────────────────┘
                                │
┌───────────────────────────────▼──────────────────────────────────────────────┐
│ Kubernetes device exposure                                                   │
│ NVIDIA k8s-device-plugin · Intel device plugins · host device plugin         │
│ GPU Feature Discovery · GPU Operator · AIStore on K8s                        │
└───────────────────────────────┬──────────────────────────────────────────────┘
                                │
┌───────────────────────────────▼──────────────────────────────────────────────┐
│ Sharing / virtualization / DRA                                               │
│ HAMi · vgpu-scheduler · gpushare · Volcano vGPU · NVIDIA DRA · CPU/CNI DRA   │
└───────────────────────────────┬──────────────────────────────────────────────┘
                                │
┌───────────────────────────────▼──────────────────────────────────────────────┐
│ Observability / diagnostics / test doubles                                   │
│ DCGM exporter · gpu-monitoring-tools · GPUd · fake-gpu · fake-gpu-operator   │
└──────────────────────────────────────────────────────────────────────────────┘

观察

• Kubernetes GPU 资源层已经从 “device plugin 把卡暴露出来” 扩展成完整栈：driver/runtime/operator、feature discovery、metrics、diagnostics、admission、scheduler、sharing 和 DRA 都是独立问题。
• vGPU/GPU sharing 仍有多条历史路线并存：gpushare、TKE gpu-manager、4paradigm vgpu-scheduler、HAMi、Volcano vGPU；其中 HAMi 是当前更值得深挖的社区化代表。
• DRA 是下一代设备资源抽象的主线：NVIDIA GPU DRA、CPU DRA、CNI DRA、DRA example driver 说明 Kubernetes 正在把“设备分配”从 device plugin 扩展成更声明式、更可组合的资源 API。
• GPU 可观测不只是 metrics：DCGM exporter/NVML 是数据源，GPUd/fake-gpu/fake-gpu-operator/knavigator 面向诊断、测试和调度系统开发。
• llm-inference 把 GPU 资源层进一步复杂化：kvcached 把 KV cache 也推向可虚拟化资源，和 GPU sharing、kv-cache-offload、DRA 之间有明显交叉。

优先深挖候选