LLM API Tester
इस ब्राउज़र से सीधे कॉल मॉडल, चैट पूर्णताएं और प्रतिक्रिया एपीआई। कुंजियाँ, संकेत और प्रतिक्रियाएँ ComUtil से होकर नहीं गुजरती हैं।
समापन बिंदु प्रोफ़ाइल
संबंध
समापन बिंदु पथ और कस्टम हेडर
कस्टम हेडर
अनुरोध
संदेशों
अतिरिक्त बॉडी JSON
प्रदाता-विशिष्ट फ़ील्ड जोड़ें. प्रबंधित प्रपत्र फ़ील्ड को ओवरराइड नहीं किया जा सकता.
पूर्वावलोकन का अनुरोध करें
{}
प्रतिक्रिया निरीक्षक
लक्ष्य प्रदाता सीधे अनुरोध प्राप्त करता है। इस मूल पर ब्राउज़र एक्सटेंशन और स्क्रिप्ट अभी भी लोकलस्टोरेज पढ़ सकते हैं।
कस्टम और लोकलहोस्ट एंडपॉइंट को इस पृष्ठ की उत्पत्ति, प्राधिकरण और सामग्री-प्रकार हेडर और विकल्प अनुरोधों की अनुमति देनी चाहिए।
असमर्थित प्रतिक्रिया अनुरोधों को वैसे ही रिपोर्ट किया जाता है और चैट समापन के माध्यम से कभी भी पुनः प्रयास नहीं किया जाता है।
LLM API टेस्टर मॉडल एंडपॉइंट पर असली अनुरोध भेजता है और जो लौटा उसे ठीक वैसा ही दिखाता है: HTTP स्टेटस, स्ट्रीम होकर आते टोकन, कच्चा इवेंट लॉग, और प्रोवाइडर द्वारा बताए गए उपयोग के आँकड़े। यह ब्राउज़र में चलता है, इसलिए अनुरोध आपकी मशीन से सीधे आपके कॉन्फ़िगर किए एंडपॉइंट तक जाता है, बीच में ऐसे किसी सर्वर से नहीं गुज़रता जिसे आपकी कुंजी रखनी पड़े।
बेस URL, मॉडल और क्रेडेंशियल के साथ एक प्रोफ़ाइल सहेजें, फिर Chat Completions या Responses मोड में अनुरोध भेजें। ब्राउज़र सीधे एंडपॉइंट को कॉल करता है, सर्वर-सेंट इवेंट आते ही दिखाता है, और पहले टोकन तक का समय तथा कुल समय दोनों मापता है। प्रोफ़ाइल और कुंजियाँ इसी ब्राउज़र के लोकल स्टोरेज में रहती हैं, और बनने वाला curl कमांड API कुंजी तथा कस्टम हेडर के मानों को प्लेसहोल्डर से बदल देता है, इसलिए उसे टिकट में चिपकाना सुरक्षित है।
- कोड में जोड़ने से पहले जाँचना कि नई API कुंजी, बेस URL या गेटवे रूट जवाब देता है
- मॉडलों या प्रोवाइडरों के बीच पहले टोकन तक का समय और टोकन प्रति सेकंड की तुलना
- जाँचना कि मॉडल के आगे लगा प्रॉक्सी सचमुच स्ट्रीम कर रहा है या पूरा उत्तर बफ़र करके भेज रहा है
- अपने क्लाइंट द्वारा भेजे जाने वाले ठीक उन्हीं हेडर के साथ 4xx प्रतिक्रिया दोहराना
- साथी को ऐसा curl कमांड देना जो अनुरोध दोहराए पर संवेदनशील मान छिपाए
- एंडपॉइंट द्वारा लौटाया गया HTTP स्टेटस और रिस्पॉन्स हेडर
- पहले टोकन तक का समय, कुल समय और टोकन प्रति सेकंड
- प्रोवाइडर द्वारा बताए गए उपयोग के आँकड़े
- सिर्फ़ जुड़ा हुआ उत्तर नहीं, बल्कि स्ट्रीम किया गया कच्चा इवेंट लॉग
- ऐसा curl कमांड जिसमें API कुंजी और कस्टम हेडर के मान छिपे हों
https://api.openai.com/v1 + gpt-4o-mini
200 OK, पहला टोकन 480 ms में, 62 टोकन प्रति सेकंड
X-Private-Test: HEADER-SECRET
अनुरोध के साथ भेजा गया, curl आउटपुट में छिपाया गया
stream: true
कच्चा लॉग हर डेल्टा इवेंट को आते ही दिखाता है
क्या मेरी API कुंजी ComUtil सर्वर तक पहुँचती है?
नहीं। अनुरोध आपके ब्राउज़र से सीधे आपके कॉन्फ़िगर किए एंडपॉइंट पर जाता है, और कुंजी इसी ब्राउज़र के लोकल स्टोरेज में रहती है। साइट डेटा साफ़ करने पर वह हट जाती है।
यह किन API के साथ काम करता है?
कोई भी OpenAI-संगत एंडपॉइंट जो Chat Completions या Responses देता है, जिसमें स्वयं होस्ट किए गेटवे और प्रॉक्सी भी शामिल हैं, बशर्ते अनुरोध और उत्तर का ढाँचा वही रहे।
कुंजी सही होने पर भी अनुरोध नेटवर्क त्रुटि के साथ क्यों विफल होता है?
ब्राउज़र से भेजे अनुरोध के लिए प्रोवाइडर को क्रॉस-ओरिजिन कॉल की अनुमति देनी होती है। यदि एंडपॉइंट CORS हेडर नहीं भेजता, तो आपका कोड उत्तर देखे उससे पहले ही ब्राउज़र उसे रोक देता है। मॉडल के आगे CORS हेडर लौटाने वाला गेटवे लगाएँ, या वही curl कमांड टर्मिनल से चलाएँ।
क्या दिख रही स्ट्रीमिंग असली स्ट्रीमिंग है?
हाँ। सर्वर-सेंट इवेंट आते ही दिखाए जाते हैं और कच्चा लॉग हर इवेंट रखता है, इसलिए आप असली स्ट्रीमिंग और सिर्फ़ क्रमिक दिखने वाले बफ़र किए उत्तर में अंतर कर सकते हैं।
असफल अनुरोध को सुरक्षित रूप से कैसे साझा करें?
बनाया गया curl कमांड कॉपी करें। API कुंजी और कस्टम हेडर के मान प्लेसहोल्डर से बदल जाते हैं, इसलिए कमांड अनुरोध का ढाँचा दिखाता है पर क्रेडेंशियल लीक नहीं करता।