Skip to main content

K3s上で動くAIエージェントは、いま何をしているか分からない。OpenTelemetryで非決定論的な実行をトレースする設計

1. なぜ「動いているログ」だけでは足りないのか

section01

AIエージェント の可観測性という言葉を、まだ「監視ツールを1つ足すだけ」だと思っていないだろうか。K3sクラスタ上でMCPサーバーやAIエージェントを本番投入したチームが最初にぶつかるのは、「動いているのは分かるが、何を考えてそのツールを呼んだのかが分からない」という壁だ。

通常のマイクロサービスなら、リクエストは決まった順序でサービスAからサービスBへ流れる。障害が起きた箇所は、既存のAPMツールで機械的に特定できる。ところがAIエージェントは違う。LLMがそのつど文脈を判断し、どのツールを・どの順序で・何回呼ぶかを動的に決める。これは「非決定論的な実行」と呼ばれ、事前にフローチャートを描いて監視ポイントを決めておくことができない。

構造化ログを増やしても、「ツールが呼ばれた」という事実は分かっても「なぜそのツールが選ばれたのか」という推論の連鎖までは追えない。この隙間を埋めるために標準化が進んでいるのが、OpenTelemetryのGenAI(生成AI)関連の規約群だ。K3sベースの基盤であれば、監視の土台自体はすでに標準搭載されていることも多く、あとはトレースの層をどう足すかという設計の問題になる(Kuboの場合はPrometheus + Grafanaが最初から組み込まれている)。

2. OpenTelemetry GenAIセマンティック規約とは何か

section02

OpenTelemetry公式ブログによれば、AIエージェントの急速な普及に伴い、フレームワーク間の相互運用性を確保するための統一的なテレメトリ形式が不可欠だとされている。ベンダーごとに独自のログ形式を使っていては、エージェント基盤を乗り換えるたびに監視の仕組みを作り直すことになるからだ。

規約の標準化は2段階で進行している。エージェントの応用層はすでに最終化され、Googleが公開したAIエージェントに関する提言をベースにしている。一方でCrewAI・AutoGen・LangGraphといった主要フレームワークに対応する共通規約は、現在も策定中の段階だ。OpenTelemetryのGenAIセマンティック規約ドキュメントでは、エージェント用のスパン、LLMプロバイダー別の規約、イベント・例外・メトリクスの定義、そしてMCPのようなツール呼び出しの記述方法までが体系化されつつある。

重要なのは、テレメトリが単なる障害検知の手段ではなく、エージェントの応答品質を継続的に改善するフィードバックループとして設計されている点だ。「動いているか」だけでなく「どう考えて動いたか」を記録すること自体が、AIエージェント運用の一部になりつつある。

3. MCPサーバーのツール呼び出しをトレースする

section03

MCP(Model Context Protocol)の公式ドキュメントは、AIアプリケーションと外部システムを繋ぐ標準規格をUSB-Cポートに例えている。MCPホスト・MCPクライアント・MCPサーバーという3つの構成要素があり、AIエージェントはこの標準化されたインターフェースを通じてデータベースや外部APIといったツールを呼び出す。

ところがMCPサーバー自体には観測性が組み込まれていない。SigNoz のMCP可観測性に関する解説は、これを「ブラックボックス」問題として整理している。外部APIの遅延がエージェント全体の応答速度を悪化させても、ツール呼び出しが無効なデータを返す「サイレント障害」が起きても、分散環境のどのコンポーネントで問題が発生したかを追跡できない、という指摘だ。

この課題への現実的な解決策が、W3C Trace Context仕様に基づくコンテキスト伝搬だ。traceparentヘッダーでトレースIDと親スパンIDを固定長フォーマットで伝え、tracestateヘッダーでベンダー固有の情報をチェーン状に追記していく。これにより、MCPホストからクライアント、サーバー、その先の外部APIまで、1本のトレースとして繋げて記録できる。

K3s上に実装する場合は、OTel Collectorをサイドカーではなくクラスタ全体のDaemonSetとして配置し、MCPサーバーの各Podからトレースを収集するパターンが扱いやすい。KuboのようなHelmチャート・GitOpsに対応したK3sベースの基盤なら、既存のデプロイフローにOTel CollectorをHelmリリースとして追加するだけで、運用フローを崩さずに導入できる。

4. トレースとK8sメトリクスを繋げる

section04

トレースだけを見ていても「LLMの応答が遅い」原因が、推論そのものの遅さなのか、Pod側のリソース逼迫なのかは切り分けられない。ここでKubernetesの標準的なリソースメトリクスパイプラインが役に立つ。Kubernetes公式ドキュメントが示す通り、cAdvisorがコンテナのCPU・メモリ使用量を収集し、kubeletを経由してmetrics-serverが集約、Metrics API経由でkubectl top podsのようなコマンドから確認できる。

このPodメトリクスと、OTelで収集したエージェント実行トレースを同じ時間軸で突き合わせれば、「LLM呼び出しの直前にPodのメモリ使用量が急増していた」といった相関が見えてくる。実際にCNCFが公開した事例では、A2Aプロトコルで伝播されるtrace_idを軸に、各エージェントの構造化ログとPrometheusのメトリクス、ネットワークフローの可視化ツールを統合し、ある自動判断の推論チェーン全体をおよそ15分で洗い出せたと報告されている。

メトリクス収集の基盤にはPrometheusのようなプルモデルの時系列データベースが使われることが多い。PromQLで多次元のラベル付きデータを柔軟に集計できるため、トレースIDをラベルとして埋め込んでおけば、特定のエージェント実行に紐づくメトリクスだけを抽出することもできる。Kubo CloudはPrometheus + Grafanaを標準搭載しているため、この相関分析の土台をゼロから構築する必要がない。Captain.AIのようにMCP/Skillsを前提としたオープンアーキテクチャのAIエージェント基盤であれば、こうしたトレースとメトリクスの相関設計もそのまま活かせる。

5. まとめ

AIエージェントやMCPサーバーの本番運用は、「サービスが起動しているか」を確認する段階から、「エージェントが何を考えてどう動いたか」を可視化する段階へと移りつつある。OpenTelemetryのGenAIセマンティック規約はまだ発展途上だが、W3C Trace Contextによるコンテキスト伝搬と、Kubernetesの標準的なメトリクスパイプラインを組み合わせるだけでも、多くの「ブラックボックス」問題は解消できる。

K3sベースの基盤にAIエージェントを載せていくなら、可観測性の設計は後回しにできない前提条件になる。標準監視スタックとOTelトレースの組み合わせから相談したい場合は、Kuboのお問い合わせから気軽に聞いてみてほしい。

Related articles

← Back to all posts