첫 번째 호출이 가장 느리다

우리는 매 라운드마다 두 가지를 측정합니다. 데워진 서버의 응답 시간, 그리고 맨 처음 호출이 추가로 치르는 비용입니다. 이 두 숫자의 간격이 바로 서버리스 호스팅이 드러나는 지점입니다.

숫자

모던 평균 지연        770.2 ms
콜드 스타트 평균        31.6 ms
콜드 스타트 최악    14,586 ms

평균은 편안합니다. 꼬리는 그렇지 않습니다. 첫 호출에서 십오 초에 가까운 추가 대기는 대부분의 에이전트 프레임워크가 답이 도착하기 전에 포기하기에 충분한 길이입니다.

왜 일어나는가

많은 MCP 서버가 0까지 축소되는 함수로 배포됩니다. 사이드 프로젝트라면 합리적인 기본값입니다. 유휴 상태에서는 돈이 들지 않으니까요. 하지만 에이전트는 참을성 있게 재시도하지 않습니다. 한 번 호출하고, 타임아웃까지 기다리고, 그 침묵을 고장 난 도구로 취급합니다.

직접 운영한다면

• 자신의 플랫폼이 0까지 축소되는지 파악하세요. 많은 곳이 기본값으로 그렇게 합니다.
• 자동화된 무언가가 서버에 의존한다면 인스턴스 하나를 데워 두세요.
• 루프의 열 번째가 아니라, 쉬고 난 뒤의 첫 호출을 측정하세요.