Le premier appel est le plus lent
La pénalité moyenne de démarrage à froid est de 31,6 ms. La pire que nous ayons relevée atteint 14 586 ms. Si votre serveur MCP dort, votre agent attend.
À chaque tour nous mesurons deux choses : le temps de réponse d’un serveur chaud, et le surcoût du tout premier appel. L’écart entre ces deux nombres, c’est là que l’hébergement serverless se voit.
Les chiffres
latence moderne moyenne 770,2 ms
démarrage à froid moyen 31,6 ms
pire démarrage à froid 14 586 msLa moyenne est confortable. La queue ne l’est pas. Près de quinze secondes d’attente supplémentaire au premier appel suffisent à faire abandonner la plupart des frameworks d’agents avant l’arrivée de la réponse.
Pourquoi cela arrive
Beaucoup de serveurs MCP sont déployés comme des fonctions qui descendent à zéro. C’est un choix raisonnable pour un projet personnel : rien à payer quand c’est inactif. Mais un agent ne réessaie pas patiemment. Il envoie un appel, attend son délai d’expiration et considère le silence comme un outil cassé.
Si vous en hébergez un
- Sachez si votre plateforme descend à zéro : beaucoup le font par défaut.
- Gardez une instance chaude si quelque chose d’automatisé dépend du serveur.
- Mesurez le premier appel après une période d’inactivité, pas le dixième d’une boucle.