mcpmetricsmcpmetrics
← Tüm yazılar
·3 dk okuma

İlk çağrı, yavaş olan çağrıdır

Katalog genelinde ortalama soğuk başlama cezası 31,6 ms. Kaydettiğimiz en kötüsü 14.586 ms. Sunucun uyuyorsa ajanın bekler.

Her turda iki şeyi ölçüyoruz: ısınmış bir sunucunun cevap süresi, ve ilk çağrının buna eklediği fazladan süre. Bu iki sayının arası, sunucusuz barındırmanın kendini gösterdiği yer.

Sayılar

ortalama modern gecikme     770,2 ms
ortalama soğuk başlama       31,6 ms
en kötü soğuk başlama    14.586 ms

Ortalama rahat. Kuyruk değil. İlk çağrıda on beş saniyeye yaklaşan fazladan bekleme, çoğu ajan çerçevesinin cevap gelmeden pes etmesine yetiyor.

Neden oluyor

Pek çok MCP sunucusu sıfıra inen fonksiyon olarak dağıtılıyor. Yan proje için makul bir varsayılan — boştayken para ödemiyorsun. Ama ajan sabırla yeniden denemez. Tek çağrı gönderir, zaman aşımını bekler ve sessizliği bozuk araç sayar.

Sunucu işletiyorsan

  • Platformunun sıfıra inip inmediğini bil — çoğu varsayılan olarak iner.
  • Otomatik bir şey bu sunucuya bağımlıysa bir örneği sıcak tut.
  • Döngüdeki onuncu çağrıyı değil, boşta kaldıktan sonraki ilk çağrıyı ölç.
Herhangi bir sunucunun gecikmesine bak
#gecikme#başarım#mcp

Diğer yazılar

İlk çağrı, yavaş olan çağrıdır | mcpmetrics