跳转至

KAOS (K8s Agent Orchestration System)

概述

KAOS 是一个开源、Kubernetes 原生的框架，用于在规模化场景下部署与编排分布式多智能体 AI 系统——工具访问、多智能体协同与 LLM 集成均通过 Kubernetes 自定义资源管理。它针对的痛点是：把多智能体/多工具/多模型系统从寥寥几个智能体扩展到数百乃至数千个服务。

命名说明：KAOS 是一个独立社区项目（GitHub 上的 axsaucedo/kaos），与 Google 的 Kubernetes SIG Apps 子项目"Agent Sandbox"无关——尽管两者都处理 Kubernetes 原生的智能体执行，也都曾被非正式地用相近的"智能体编排"措辞提及。后者参见 Kubernetes Agent Sandbox。

核心概念 / 架构

KAOS 把职责拆分到三个平面：

  • 控制平面（Go）：一个 KAOS Operator，运行三个控制器——Agent Controller、MCPServer Controller 与 ModelAPI Controller，分别协调对应的 Kubernetes CRD
  • 数据平面（Python）：运行智能体运行时的 Agent Pod、用于工具集成的 MCP Server Pod，以及用于 LLM 访问（经 Ollama/LiteLLM）的 ModelAPI Pod
  • UI（TypeScript/React）：用于监控智能体、测试对话、调试记忆与工具调用的可视化仪表盘

智能体由 PAIS（围绕 Pydantic AI 的企业级服务封装）驱动，它在原生 Pydantic AI 智能体之上增加了兼容 OpenAI 的 HTTP API（/v1/chat/completions）、分布式记忆、多智能体委派、Agent2Agent（A2A）发现、健康探针与 OpenTelemetry 埋点。

核心特性

  • 以 Kubernetes 资源表达的智能体图（agentic graph）
  • MCP 工具集成
  • 支持自动委派的层级式多智能体系统
  • 每个智能体提供兼容 OpenAI 的聊天补全端点
  • 用于管理与调试的 CLI 与可视化仪表盘

适用场景（优势）

  • 需要在 Kubernetes 上把分布式多智能体系统扩展到数百/数千个服务的团队
  • 希望每个智能体都提供兼容 OpenAI 的 API 接口，以便与既有客户端工具无缝对接的场景
  • 希望获得企业级服务封装、又不想从零自建的 Pydantic AI 用户

现状

  • Apache 2.0 许可
  • 约 259 GitHub Star、17 Fork、21 个发布版本（截至 2026 年年中最新为 v0.4.7）、约 1,180 次提交——由独立维护者（axsaucedo）积极开发

参见

参考资料