पूर्व-परिभाषित और कस्टम मॉडल

EKB न केवल आपके लिए नवीनतम और सबसे लोकप्रिय मॉडल लाता है, हम आपको हमारी "Bring Your Own Keys" (BYOK) सुविधा के साथ अपने कस्टम मॉडल से कनेक्ट करने में सक्षम बनाते हैं। यह आपको कस्टम Agents बनाने और यह परीक्षण करने की क्षमता देता है कि वे कैसे प्रतिक्रिया देते हैं या आपके द्वारा दिए गए कार्य पूरे करते हैं ताकि आप अपने उपयोग के मामले के लिए सबसे अच्छे परिणाम देने वाले LLM का उपयोग कर सकें। इस लेख में आप उपलब्ध विभिन्न LLMs और अपने कस्टम LLM को अपने Agents से कैसे कनेक्ट करें, इसके बारे में जानेंगे।

आपके agents दो प्रकार के मॉडल का उपयोग कर सकते हैं:

पूर्व-परिभाषित मॉडल

सभी उपयोगकर्ताओं के लिए उपलब्ध पूर्व-कॉन्फ़िगर मॉडल — API key की आवश्यकता नहीं।

कस्टम मॉडल (BYOK)

पूर्ण लागत नियंत्रण और लचीलेपन के लिए अपनी API keys के साथ कॉन्फ़िगर किए गए मॉडल।

पूर्व-परिभाषित मॉडल

पूर्व-परिभाषित मॉडल डिफ़ॉल्ट रूप से उपलब्ध हैं और API key कॉन्फ़िगरेशन की आवश्यकता नहीं है। ये मॉडल EKB द्वारा प्रबंधित हैं और उपयोग के लिए तैयार हैं।

EKB OpenAI, Anthropic, Google AI, और अन्य प्रमुख AI प्रदाताओं से विभिन्न मॉडल तक पहुँच प्रदान करता है। उपलब्ध मॉडल की पूरी सूची आपके agent को कॉन्फ़िगर करते समय मॉडल चयनक में प्रदर्शित होती है।

प्रदाता द्वारा उपलब्ध मॉडल

आपके agent को कॉन्फ़िगर करते समय मॉडल चयनक ड्रॉपडाउन में सभी उपलब्ध मॉडल दिखाई देते हैं। मॉडल प्रदाता द्वारा व्यवस्थित होते हैं और उनकी लागत, क्षमताएँ और उपलब्धता स्थिति दिखाते हैं।

मॉडल	प्रदाता	संस्करण	Credits / 1M Input	Credits / 1M Output	Deprecation
Haiku 4.5	Anthropic	`claude-haiku-4-5-20251001`	1,000	5,000	15 अक्टूबर 2026 से पहले नहीं
Sonnet 4.5	Anthropic	`claude-sonnet-4-5-20250929`	3,000	15,000	29 सितंबर 2026 से पहले नहीं
Sonnet 4.6	Anthropic	`claude-sonnet-4-6`	3,000	15,000	17 फरवरी 2027 से पहले नहीं
DeepSeek Chat	DeepSeek	`deepseek-chat`	140	280	24 जुलाई 2026
Gemini 2.5 Flash	Google AI	`gemini-2.5-flash`	300	2,500	16 अक्टूबर 2026 से पहले नहीं
Gemini 3.1 Flash-Lite	Google AI	`gemini-3.1-flash-lite`	250	1,500	N/A
Gemini 3.5 Flash	Google AI	`gemini-3.5-flash`	1,500	9,000	N/A
Llama 4 Scout	Groq	`meta-llama/llama-4-scout-17b-16e-instruct`	80	300	N/A
GPT 4o	OpenAI	`gpt-4o`	5,000	15,000	N/A
GPT 4o Mini	OpenAI	`gpt-4o-mini`	150	600	N/A
GPT 4.1	OpenAI	`gpt-4.1-2025-04-14`	2,000	8,000	N/A
GPT 4.1 Mini	OpenAI	`gpt-4.1-mini-2025-04-14`	400	1,600	N/A
GPT 4.1 Nano	OpenAI	`gpt-4.1-nano-2025-04-14`	100	400	N/A
GPT 5	OpenAI	`gpt-5`	1,250	10,000	N/A
GPT 5 Mini	OpenAI	`gpt-5-mini`	250	2,000	N/A
GPT 5 Nano	OpenAI	`gpt-5-nano`	50	400	N/A
GPT 5.1	OpenAI	`gpt-5.1`	1,000	1,000	N/A
GPT 5.2	OpenAI	`gpt-5.2`	2,000	15,000	N/A
GPT 5.4	OpenAI	`gpt-5.4-2026-03-05`	2,500	15,000	N/A
GPT 5.4 Mini	OpenAI	`gpt-5.4-mini-2026-03-17`	750	4,500	N/A
GPT 5.4 Nano	OpenAI	`gpt-5.4-nano-2026-03-17`	200	1,250	N/A
GPT 5.5	OpenAI	`gpt-5.5`	5,000	30,000	N/A
o3 Mini	OpenAI	`o3-mini`	1,100	4,400	N/A

मॉडल चयन

Agents पर नेविगेट करें
साइडबार में Agents पर जाएँ।
एक agent खोलें
एक नया agent बनाएँ या मौजूदा को चुनें।
General टैब पर जाएँ
Agent कॉन्फ़िगरेशन में General टैब खोलें।
एक मॉडल चुनें
Agent के नाम के बगल में Model ड्रॉपडाउन चयनक ढूँढें और ड्रॉपडाउन से एक पूर्व-परिभाषित मॉडल चुनें।

मॉडल जानकारी

प्रत्येक पूर्व-परिभाषित मॉडल दिखाता है:

फ़ील्ड	विवरण
मॉडल नाम	प्रदर्शन नाम (जैसे, "GPT 4o")
प्रदाता	API प्रदाता (OpenAI, Anthropic, Google AI, DeepSeek, Groq)
लागत	प्रति 1M input और output tokens credits
Deprecation	अनुमानित सेवानिवृत्ति या deprecation तिथि

कस्टम मॉडल (BYOK)

Bring Your Own Key (BYOK) आपको अपनी API keys का उपयोग करके कस्टम मॉडल कॉन्फ़िगर करने की अनुमति देता है। यह आपको प्रदान करता है:

लागत नियंत्रण

अपनी API keys और बिलिंग का उपयोग करें।

मॉडल लचीलापन

पूर्व-परिभाषित सूची में उपलब्ध नहीं मॉडल तक पहुँचें।

कस्टम Endpoints

निजी या कस्टम मॉडल endpoints से कनेक्ट करें।

प्रदाता विकल्प

कोई भी संगत API प्रदाता उपयोग करें।

समर्थित प्रदाता

OpenAI

मानक OpenAI API मॉडल, Azure OpenAI endpoints और कस्टम OpenAI-संगत endpoints का समर्थन करता है।

फ़ील्ड	मान
API Key	आपकी OpenAI API key
API URL	`https://api.openai.com/v1` (डिफ़ॉल्ट)
मॉडल नाम	जैसे, `gpt-4`, `gpt-3.5-turbo`

Anthropic

Anthropic API और कस्टम Anthropic-संगत endpoints के माध्यम से Claude मॉडल का समर्थन करता है।

फ़ील्ड	मान
API Key	आपकी Anthropic API key
API URL	`https://api.anthropic.com` (डिफ़ॉल्ट)
मॉडल नाम	जैसे, `claude-sonnet-4-6`

Google AI

Google AI API और कस्टम Google AI endpoints के माध्यम से Gemini मॉडल का समर्थन करता है।

फ़ील्ड	मान
API Key	आपकी Google AI API key
API URL	`https://generativelanguage.googleapis.com/` (डिफ़ॉल्ट)
मॉडल नाम	जैसे, `gemini-2.5-flash`

OpenRouter

विभिन्न मॉडलों के लिए एकीकृत API के माध्यम से कई मॉडल प्रदाताओं तक पहुँच प्रदान करता है।

फ़ील्ड	मान
API Key	आपकी OpenRouter API key
API URL	OpenRouter endpoint
मॉडल नाम	OpenRouter पर उपलब्ध कोई भी मॉडल

AWS Bedrock

Amazon Bedrock मॉडल और विभिन्न आधारभूत मॉडल का समर्थन करता है।

फ़ील्ड	मान
AWS Credentials	अलग से कॉन्फ़िगर
API URL	Bedrock endpoint
मॉडल नाम	Bedrock मॉडल identifier

कस्टम Endpoints

निजी deployments और self-hosted मॉडल सहित किसी भी OpenAI-संगत API endpoint का समर्थन करता है।

फ़ील्ड	मान
API Key	आपकी कस्टम API key (यदि आवश्यक)
API URL	आपका कस्टम endpoint URL
मॉडल नाम	आपका मॉडल identifier

कस्टम मॉडल जोड़ना

Agents पर नेविगेट करें
साइडबार में Agents पर जाएँ।
एक agent खोलें
संपादित करने के लिए एक नया agent बनाएँ या मौजूदा को चुनें।
Settings टैब पर जाएँ
Agent कॉन्फ़िगरेशन में Settings टैब खोलें।
कस्टम मॉडल खोलें
Custom Models अनुभाग तक स्क्रॉल करें और +Add Model पर क्लिक करें।

मॉडल विवरण भरें

मॉडल कॉन्फ़िगरेशन मॉडल खुलेगा। निम्नलिखित दर्ज करें:

फ़ील्ड	विवरण
मॉडल नाम	API द्वारा मान्यता प्राप्त सटीक मॉडल नाम (जैसे, `gpt-4`, `claude-sonnet-4-6`)
मॉडल प्रदाता	ड्रॉपडाउन से प्रदाता चुनें (OpenAI, Anthropic, Azure, Google AI, OpenRouter, AWS Bedrock, Custom, आदि)
API Key	चयनित प्रदाता के लिए आपकी API key। सुरक्षित रूप से संग्रहीत।
API URL	API endpoint URL
Timeout	API अनुरोधों के लिए timeout। डिफ़ॉल्ट 300s है। लंबे-चलने वाले तर्क मॉडल के लिए बढ़ाएँ।
अधिकतम Input Tokens	अधिकतम input tokens। डिफ़ॉल्ट 3000 है।
अधिकतम Response Tokens	अधिकतम response tokens। डिफ़ॉल्ट 1000 है।

मॉडल बनाएँ
Create पर क्लिक करें। EKB API कनेक्शन और मॉडल कॉन्फ़िगरेशन सत्यापित करेगा। सफल होने पर, मॉडल सहेजा जाएगा और आपके agents में उपयोग के लिए उपलब्ध होगा।

कस्टम मॉडल का उपयोग करना

कस्टम मॉडल चुनना

General टैब खोलें
Agent संपादक में, General टैब पर जाएँ और Model अनुभाग ढूँढें।
अपना कस्टम मॉडल चुनें
ड्रॉपडाउन पूर्व-परिभाषित और कस्टम दोनों मॉडल दिखाता है। कस्टम मॉडल चिह्नित या अलग अनुभाग में दिखाए जाते हैं। अपना कस्टम मॉडल चुनें।

नोट

कस्टम मॉडल प्रोजेक्ट-विशिष्ट हैं। वे प्रोजेक्ट में सभी agents के लिए उपलब्ध हैं, और प्रत्येक प्रोजेक्ट के पास अपना कस्टम मॉडल सेट हो सकता है।

कस्टम मॉडल प्रबंधित करना

कस्टम मॉडल देखना

Agents → Edit Agent → General टैब पर जाएँ।
AI Models अनुभाग में Custom टैब पर क्लिक करें।
अपने सभी कस्टम मॉडल देखें।

कस्टम मॉडल संपादित करना

Custom models सूची में मॉडल ढूँढें।
Edit आइकन (तीन बिंदु मेनू) पर क्लिक करें।
कॉन्फ़िगरेशन सेटिंग्स संशोधित करें।
अपडेट करने के लिए Save पर क्लिक करें।

warning

API key संपादित करने से मौजूदा key बदल जाएगी। सहेजने से पहले सुनिश्चित करें कि आपके पास सही key है।

कस्टम मॉडल हटाना

Custom models सूची में मॉडल ढूँढें।
Delete आइकन (तीन बिंदु मेनू) पर क्लिक करें।
हटाने की पुष्टि करें।
मॉडल आपके प्रोजेक्ट से हटा दिया जाता है।

warning

कस्टम मॉडल हटाने से उस मॉडल का उपयोग करने वाले सभी agents प्रभावित होंगे। उन agents को पहले अपडेट करना सुनिश्चित करें।

मॉडल कॉन्फ़िगरेशन उदाहरण

{
  "model_name": "My GPT-4",
  "version": "gpt-4",
  "api_provider": "openai",
  "api_type": "openai",
  "api_key": "sk-...",
  "api_url": "https://api.openai.com/v1",
  "max_input_tokens": 60000,
  "max_response_tokens": 4096
}

{
  "model_name": "Azure GPT-4",
  "version": "gpt-4",
  "api_provider": "openai",
  "api_type": "azure",
  "api_key": "your-azure-key",
  "api_url": "https://your-resource.openai.azure.com",
  "api_version": "2024-12-01-preview",
  "max_input_tokens": 60000,
  "max_response_tokens": 4096
}

{
  "model_name": "Company Claude",
  "version": "claude-sonnet-4-6",
  "api_provider": "anthropic",
  "api_type": "anthropic",
  "api_key": "sk-ant-...",
  "api_url": "https://api.anthropic.com",
  "max_input_tokens": 60000,
  "max_response_tokens": 4000
}

{
  "model_name": "Private Model",
  "version": "custom-model-v1",
  "api_provider": "custom",
  "api_type": "custom",
  "api_key": "your-custom-key",
  "api_url": "https://your-custom-endpoint.com/v1",
  "max_input_tokens": 100000,
  "max_response_tokens": 8000,
  "auth_header_template": "{\"Authorization\": \"Bearer <API_KEY>\"}"
}

सर्वोत्तम प्रथाएँ

API Key सुरक्षा

कभी Keys साझा न करें - API keys गोपनीय रखें
Environment Variables का उपयोग करें - विकास के लिए सुरक्षित स्टोरेज का उपयोग करें
नियमित रूप से Keys बदलें - समय-समय पर keys अपडेट करें
उपयोग की निगरानी करें - समस्याओं का पता लगाने के लिए API उपयोग ट्रैक करें

मॉडल चयन

उपयोग के मामले से मेल खाएँ - अपने कार्य के लिए उपयुक्त मॉडल चुनें
लागत पर विचार करें - प्रदर्शन और लागत के बीच संतुलन बनाएँ
प्रदर्शन परीक्षण करें - अपनी आवश्यकताओं के लिए मॉडल गुणवत्ता का मूल्यांकन करें
सीमाओं की निगरानी करें - Token सीमाओं और quotas की जाँच करें

कॉन्फ़िगरेशन

सटीक मॉडल नाम - सटीक मॉडल identifiers का उपयोग करें
सही URLs - API endpoint URLs सत्यापित करें
उपयुक्त सीमाएँ - यथार्थवादी token सीमाएँ सेट करें
कनेक्शन परीक्षण करें - मॉडल कनेक्टिविटी सत्यापित करें

लागत प्रबंधन

उपयोग ट्रैक करें - API उपयोग और लागत की निगरानी करें
बजट सेट करें - उपलब्ध होने पर खर्च सीमाएँ कॉन्फ़िगर करें
Tokens अनुकूलित करें - उपयुक्त token सीमाओं का उपयोग करें
नियमित रूप से समीक्षा करें - आवधिक रूप से मॉडल उपयोग का ऑडिट करें

समस्या निवारण

मॉडल उपलब्ध नहीं — कस्टम मॉडल ड्रॉपडाउन में दिखाई नहीं देता

संभावित कारण:

मॉडल सही ढंग से सहेजा नहीं गया
API key अमान्य
मॉडल कॉन्फ़िगरेशन त्रुटि

समाधान:

सत्यापित करें कि मॉडल सफलतापूर्वक सहेजा गया
जाँचें कि API key सही है
मॉडल कॉन्फ़िगरेशन की समीक्षा करें
पेज रीफ़्रेश करें

API Key त्रुटियाँ — अमान्य API key या प्रमाणीकरण त्रुटियाँ

संभावित कारण:

गलत API key
समाप्त API key
गलत API प्रदाता चयनित
key के पास आवश्यक अनुमतियाँ नहीं

समाधान:

API key सत्यापित करें
जाँचें कि key समाप्त नहीं हुई
सही प्रदाता चयनित सत्यापित करें
सुनिश्चित करें कि key के पास आवश्यक अनुमतियाँ हैं

कनेक्शन विफलताएँ — मॉडल endpoint से कनेक्ट नहीं हो सकता

संभावित कारण:

गलत API URL
नेटवर्क कनेक्टिविटी समस्याएँ
endpoint पहुँचने योग्य नहीं
फ़ायरवॉल ब्लॉकिंग

समाधान:

API URL सत्यापित करें
नेटवर्क कनेक्टिविटी जाँचें
सुनिश्चित करें कि endpoint पहुँचने योग्य है
फ़ायरवॉल नियमों की समीक्षा करें

Token सीमा त्रुटियाँ — Token सीमा पार

संभावित कारण:

इनपुट बहुत लंबा
response सीमा बहुत अधिक
मॉडल सीमाएँ पार

समाधान:

इनपुट लंबाई कम करें
अधिकतम response tokens कम करें
मॉडल की वास्तविक सीमाएँ जाँचें
बड़े इनपुट विभाजित करें

मॉडल संगतता

warning

Knowledge Base v2 का उपयोग करते समय, केवल OpenAI (openai, azure) और Anthropic मॉडल समर्थित हैं। अन्य प्रदाता Knowledge Base v2 के साथ संगत नहीं हैं।

विभिन्न मॉडल विभिन्न सुविधाओं का समर्थन करते हैं:

सुविधा	समर्थित मॉडल
Streaming	अधिकांश मॉडल
Function Calling	OpenAI और Anthropic मॉडल
Vision	GPT-4o, Claude 4 Sonnet, Gemini 2.5 Flash
Long Context	Claude Sonnet 4.6, GPT 4.1

API Key प्रबंधन

API Keys प्राप्त करना

OpenAI

OpenAI Platform पर जाएँ।
API Keys पर नेविगेट करें।
एक नई secret key बनाएँ।
Key कॉपी करें (sk- से शुरू)।

Anthropic

Anthropic Console पर जाएँ।
API Keys पर नेविगेट करें।
एक नई key बनाएँ।
Key कॉपी करें (sk-ant- से शुरू)।

Google AI

Google AI Studio पर जाएँ।
एक नई API key बनाएँ।
Key कॉपी करें।

OpenRouter

OpenRouter पर जाएँ।
Keys पर नेविगेट करें।
एक नई key बनाएँ।
Key कॉपी करें।

Key सुरक्षा

सुरक्षित रूप से संग्रहित करें - Keys डेटाबेस में एन्क्रिप्ट की जाती हैं
साझा न करें - API keys कभी साझा न करें
नियमित रूप से बदलें - समय-समय पर keys अपडेट करें
उपयोग की निगरानी करें - अनधिकृत उपयोग की जाँच करें

लागत विचार

पूर्व-परिभाषित मॉडल

EKB द्वारा प्रबंधित लागत
आपकी EKB सदस्यता के माध्यम से बिल
Credits-आधारित मूल्य निर्धारण
पारदर्शी मूल्य निर्धारण मॉडल

कस्टम मॉडल (BYOK)

आप सीधे प्रदाता को भुगतान करते हैं
कोई अतिरिक्त EKB शुल्क नहीं
लागत पर पूर्ण नियंत्रण
प्रदाता से प्रत्यक्ष बिलिंग

लागत अनुकूलन सुझाव:

सही मॉडल चुनें - अपने कार्य के लिए उपयुक्त मॉडल का उपयोग करें।
Prompts अनुकूलित करें - जहाँ संभव हो token उपयोग कम करें।
सीमाएँ सेट करें - उपयुक्त रूप से अधिकतम tokens कॉन्फ़िगर करें।
उपयोग की निगरानी करें - नियमित रूप से API उपयोग ट्रैक करें।

पूर्व-परिभाषित मॉडल​

प्रदाता द्वारा उपलब्ध मॉडल​

मॉडल चयन​

मॉडल जानकारी​

कस्टम मॉडल (BYOK)​

समर्थित प्रदाता​

कस्टम मॉडल जोड़ना​

कस्टम मॉडल का उपयोग करना​

कस्टम मॉडल चुनना​

कस्टम मॉडल प्रबंधित करना​

मॉडल कॉन्फ़िगरेशन उदाहरण​

सर्वोत्तम प्रथाएँ​

समस्या निवारण​

मॉडल संगतता​

API Key प्रबंधन​

API Keys प्राप्त करना​

Key सुरक्षा​

लागत विचार​

पूर्व-परिभाषित मॉडल

प्रदाता द्वारा उपलब्ध मॉडल

मॉडल चयन

मॉडल जानकारी

कस्टम मॉडल (BYOK)

समर्थित प्रदाता

कस्टम मॉडल जोड़ना

कस्टम मॉडल का उपयोग करना

कस्टम मॉडल चुनना

कस्टम मॉडल प्रबंधित करना

मॉडल कॉन्फ़िगरेशन उदाहरण

सर्वोत्तम प्रथाएँ

समस्या निवारण

मॉडल संगतता

API Key प्रबंधन

API Keys प्राप्त करना

Key सुरक्षा

लागत विचार