llm-d / Kubernetes SIGs 候选项目地图

这页把 llm-d 组织和 kubernetes-sigs 组织里值得继续加入 wiki 的项目，按工程维度拆成候选清单。它不是 star 排行榜，而是服务于当前知识库的补全路线：哪些项目能帮助理解 llm-inference、model-serving-operator、kubernetes-dra、inference-routing、cloud-native-security 和 Kubernetes 控制器生态。

本次核验基于 GitHub API 当前公开仓库元数据（2026-06-13）。当前已收录的同域项目包括 llm-d、llm-d-batch-gateway、llm-d-benchmark、llm-d-workload-variant-autoscaler、llm-d-inference-sim、gateway-api、gateway-api-inference-extension、agent-sandbox、dra-driver-nvidia-gpu。

总体优先级

P0: 直接补当前 AI Infra / LLM serving / K8s control plane 选型缺口
P1: 强相关，但更偏评测、诊断、迁移、配套或特定场景
P2: 后续补充，先进入 backlog，不急于做完整源码架构页

llm-d 组织候选

llm-d 的知识结构缺口

当前 wiki 已经覆盖 llm-d 总入口、Router/EPP、KV cache 和 P0 四类外围能力：

• Batch inference：llm-d-batch-gateway 让在线 serving 与离线 batch workload 可以共享下游 router/model server，但 SLO、队列、存储和计费边界不同。
• Performance evaluation：llm-d-benchmark / llm-d-prism / llm-d-inference-sim 可以把“架构上可行”推进到“如何测、如何复现、如何调参”。
• Autoscaling/resource economics：llm-d-workload-variant-autoscaler 可连接 Kueue、Karpenter、GPU 资源层。
• P/D deployment diagnostics：llm-d-pd-utils 把 GPU topology、RDMA、NCCL、NIXL 等实际部署问题显性化。

Kubernetes SIGs 候选：按工程维度

网络

存储 / Secret / 数据面挂载

调度 / 资源 / 队列

可观测 / 性能 / 诊断

计算 / Runtime / 节点

API / Operator / 控制器开发

AI Infra / Agent 交叉

推荐实施顺序

第一批：直接补 AI Infra 选型缺口

1. llm-d-batch-gateway（已完成）
2. llm-d-benchmark（已完成）
3. llm-d-workload-variant-autoscaler（已完成）
4. llm-d-inference-sim（已完成）
5. kueue（已完成）
6. karpenter（已完成）
7. metrics-server（已完成）
8. prometheus-adapter（已完成）
9. inference-perf（已完成）
10. lws（已完成）
11. jobset（已完成）

这批可以让 llm-inference-serving-project-map 从“引擎/serving stack”扩展到 batch、benchmark、queueing、autoscaling、distributed workload API。

第二批：补 Kubernetes 控制器和平台工程底座

1. controller-runtime（已完成）
2. kubebuilder（已完成）
3. controller-tools（已完成）
4. cluster-api（已完成）
5. kind（已完成）
6. cri-tools（已完成）
7. external-dns（已完成）
8. secrets-store-csi-driver（已完成）
9. scheduler-plugins（已完成）
10. node-feature-discovery（已完成）

这批可以让 k8s-core-controller-map 从学习路径升级成更完整的平台工程架构图。

第三批：按专项补齐

• 网络专项：ingress2gateway、apiserver-network-proxy、kube-agentic-networking 已完成；aws-load-balancer-controller 按用户要求排除；dranet 留作 P2。
• 存储专项：nfs-subdir-external-provisioner、sig-storage-local-static-provisioner、sig-storage-lib-external-provisioner 已完成；aws-ebs-csi-driver、aws-efs-csi-driver 按用户要求排除。
• 安全专项：security-profiles-operator、secrets-store-csi-driver、kube-agentic-networking 已完成。
• 工具/测试专项：kustomize、kwok、kube-scheduler-simulator、headlamp、kro、mcp-lifecycle-operator 已完成；krew、e2e-framework、kubetest2 留作 P2。

和现有页面的关系

• 更新 llm-inference-serving-project-map：加入 batch gateway、benchmark、simulator、autoscaler、Kueue/Karpenter/LWS/JobSet 这条 serving control plane 扩展线。
• 更新 k8s-core-controller-map：从 controller-runtime/kubebuilder 学习路径，扩展成网络、存储、调度、可观测、计算、API/operator 的维度地图。
• 更新 k8s-gpu-device-stack：把 node-feature-discovery、Kueue、Karpenter、JobSet、LWS 放入 GPU/AI workload 的调度前置层。
• 更新 cloud-native-security：把 secrets-store-csi-driver、security-profiles-operator、kube-agentic-networking 作为 runtime/credential/network policy 三条线。
• 更新 model-serving-operator：把 llm-d 外围组件与 K8s SIG 的 queueing/autoscaling/distributed workload API 连起来。