MarkTechPost· Michal Sutter·· 2 天前AI 评分73
Buoyant 发布开源推理控制面 Kinference，支持 Kubernetes 与 vLLM
Buoyant Releases Kinference: An Open Source Inference Control Plane for Kubernetes and vLLM
AI 导读
Buoyant 发布开源项目 Kinference，为 Kubernetes 与 vLLM 提供策略驱动的推理控制面，当前版本为 v0.1.0-alpha.7，采用 Rust 编写并以 Apache 2.0 许可发布。
来源：MarkTechPost · marktechpost.com