mcpmetricsmcpmetrics
← सभी लेख
·3 मिनट पढ़ें

पहली कॉल ही धीमी होती है

पूरे कैटलॉग में औसत कोल्ड स्टार्ट जुर्माना 31.6 ms है। सबसे ख़राब जो हमने दर्ज किया वह 14,586 ms था। अगर आपका MCP सर्वर सोता है, तो आपका एजेंट इंतज़ार करता है।

हर राउंड में हम दो चीज़ें मापते हैं: गर्म सर्वर जवाब देने में कितना समय लेता है, और सबसे पहली कॉल कितना अतिरिक्त ख़र्च कराती है। इन दो संख्याओं का फ़ासला वही जगह है जहाँ सर्वरलेस होस्टिंग दिखाई देती है।

संख्याएँ

औसत मॉडर्न लेटेंसी      770.2 ms
औसत कोल्ड स्टार्ट        31.6 ms
सबसे ख़राब कोल्ड स्टार्ट  14,586 ms

औसत आरामदेह है। पूँछ नहीं। पहली कॉल पर लगभग पंद्रह सेकंड का अतिरिक्त इंतज़ार इतना लंबा है कि ज़्यादातर एजेंट फ़्रेमवर्क जवाब आने से पहले ही हार मान लेते हैं।

ऐसा क्यों होता है

बहुत से MCP सर्वर शून्य तक सिकुड़ने वाले फ़ंक्शन के रूप में तैनात होते हैं। साइड प्रोजेक्ट के लिए यह समझदार डिफ़ॉल्ट है — निष्क्रिय रहने पर पैसा नहीं लगता। पर एजेंट धैर्य से दोबारा कोशिश नहीं करता। वह एक कॉल भेजता है, टाइमआउट तक रुकता है, और ख़ामोशी को टूटा हुआ टूल मान लेता है।

अगर आप एक होस्ट करते हैं

  • पता करें कि आपका प्लेटफ़ॉर्म शून्य तक सिकुड़ता है या नहीं — कई डिफ़ॉल्ट रूप से ऐसा करते हैं।
  • अगर कोई स्वचालित चीज़ सर्वर पर निर्भर है तो एक इंस्टेंस गर्म रखें।
  • निष्क्रियता के बाद की पहली कॉल मापें, लूप की दसवीं नहीं।
किसी भी सर्वर की लेटेंसी देखें
#लेटेंसी#प्रदर्शन#mcp

और लेख

पहली कॉल ही धीमी होती है | mcpmetrics