最初の呼び出しがいちばん遅い
カタログ全体のコールドスタート平均は 31.6 ミリ秒。記録した最悪値は 14,586 ミリ秒です。MCP サーバーが眠っていれば、エージェントは待たされます。
私たちは毎ラウンド二つを測ります。温まったサーバーの応答時間と、いちばん最初の呼び出しが余分に払う代償です。この二つの数字の差こそ、サーバーレスの姿が現れる場所です。
数字
モダン平均レイテンシ 770.2 ms
コールドスタート平均 31.6 ms
コールドスタート最悪 14,586 ms平均は快適です。裾は違います。初回に十五秒近い追加の待ちは、多くのエージェント基盤が答えの到着前に諦めるのに十分な長さです。
なぜ起きるのか
多くの MCP サーバーはゼロまで縮む関数として配置されています。個人プロジェクトなら妥当な既定値で、遊んでいる間は費用がかかりません。しかしエージェントは辛抱強く再試行しません。一度呼び、タイムアウトまで待ち、その沈黙を壊れたツールとみなします。
運用しているなら
- 自分の基盤がゼロまで縮むかを把握する。既定でそうなるものが多い。
- 自動化された何かが依存しているなら、インスタンスを一つ温めておく。
- ループの十回目ではなく、放置後の最初の呼び出しを測る。