mcpmetricsmcpmetrics
← 所有文章
·3 分钟阅读

第一次调用最慢

整个目录的平均冷启动代价是 31.6 毫秒,我们记录到的最差一次是 14,586 毫秒。你的 MCP 服务器若在睡觉,你的智能体就得等。

每一轮我们测两件事:热服务器的响应时间,以及第一次调用额外付出的代价。这两个数字之间的差距,正是无服务器托管现形的地方。

数字

平均现代延迟       770.2 毫秒
平均冷启动额外      31.6 毫秒
最差冷启动额外   14,586 毫秒

平均值很舒服,尾部不是。首次调用多等将近十五秒,足以让多数智能体框架在答案到达之前就放弃。

为什么会这样

许多 MCP 服务器以缩容到零的函数方式部署。对个人项目来说这是合理的默认值——闲置时不花钱。但智能体不会耐心重试。它发一次调用,等到超时,然后把沉默当成坏掉的工具。

如果你在托管一台

  • 弄清你的平台是否会缩容到零——很多平台默认如此。
  • 如果有自动化流程依赖这台服务器,保持一个实例常热。
  • 测量闲置之后的第一次调用,而不是循环里的第十次。
查看任意服务器的延迟
#延迟#性能#mcp

更多文章

第一次调用最慢 | mcpmetrics