deployment प्रकार चुनें
deployment से एक model आपके project के लिए उपलब्ध होता है। Foundry में कई deployment प्रकार हैं, और वे इस बात में अलग हैं कि आपका डेटा कहाँ संसाधित होता है, आप भुगतान कैसे करते हैं, और आपको कितना throughput मिलता है।
| deployment प्रकार | डेटा कहाँ संसाधित होता है | भुगतान कैसे होता है | किसके लिए सबसे अच्छा |
|---|---|---|---|
| Global Standard | कोई भी Azure region | हर token का भुगतान | ज़्यादातर projects और प्रयोग, सबसे ज़्यादा डिफ़ॉल्ट quota के साथ |
| Global Provisioned | कोई भी Azure region | आरक्षित क्षमता (PTUs) | लगातार, बड़े पैमाने का traffic जिसमें स्थिर latency चाहिए |
| Standard | एक Azure geography के भीतर | हर token का भुगतान | ऐसा डेटा जो एक ही geography में रहना चाहिए |
| Data Zone Standard | एक data zone के भीतर, जैसे US या EU | हर token का भुगतान | ऐसा डेटा जो एक ही zone में रहना चाहिए |
| Global Batch | कोई भी Azure region | हर token का भुगतान, 50% छूट और 24 घंटे तक का समय | बड़े काम जो इंतज़ार कर सकते हैं |
प्रयोग के लिए Global Standard से शुरू करें। provisioned प्रकार तभी चुनें जब आपका traffic स्थिर और अनुमानित हो।
Quota और token सीमाएँ
Quota बताता है कि आपके subscription में कोई model प्रति मिनट कितने tokens इस्तेमाल कर सकता है। मई 2026 से Foundry हर subscription के लिए quota ट्रैक करता है। एक ही model और version की deployments सभी regions में एक quota pool साझा करती हैं, इसलिए एक टीम की deployment वह quota इस्तेमाल कर सकती है जिसकी दूसरी टीम को ज़रूरत है।
- Tokens per minute (TPM) बताता है कि एक deployment हर मिनट कितने tokens प्रोसेस कर सकती है। इससे ज़्यादा होने पर 429 Too Many Requests त्रुटि आती है।
- कुल token quota किसी अवधि, जैसे एक दिन या एक महीने, में उपयोग को सीमित करता है। इससे ज़्यादा होने पर 403 Forbidden त्रुटि आती है।
- administrator AI Gateway में हर project के लिए दोनों सीमाएँ सेट कर सकता है: Manage, फिर AI Gateway, फिर Token management। पहले AI Gateway सेट अप होना ज़रूरी है।
इन सीमाओं से एक project साझा बजट का अपने हिस्से से ज़्यादा इस्तेमाल करने से रुकता है।
API keys या Microsoft Entra ID
Foundry में यह साबित करने के दो तरीके हैं कि कॉल कौन कर रहा है। API key पूरे resource के लिए एक secret है। Microsoft Entra ID हर user या app को उसकी अपनी पहचान और access token देता है।
- API keys पहले prototype के लिए जल्दी शुरू होती हैं, अपनी मशीन पर। वे यह नहीं बता सकतीं कि कौन व्यक्ति कॉल कर रहा है, और उन्हें सीमित करना कठिन है।
- production के लिए Microsoft Entra ID चुनें। आप role के आधार पर पहुँच सीमित कर सकते हैं, और कोई app managed identity इस्तेमाल कर सकता है, जिसके कोड में कोई secret नहीं होता।
keyless कॉल के लिए, user या app को Foundry resource पर Cognitive Services User role दें, फिर Foundry के लिए Microsoft Entra token माँगें। कभी भी key को किसी साझा फ़ाइल या code repository में न डालें। Foundry project के काम के लिए Foundry User role इस्तेमाल करें। Azure AI Developer role Foundry project के काम के लिए नहीं है।
खर्च पर नियंत्रण रखें
- Pay-per-token deployments आपके भेजे और मिले हर token का बिल बनाते हैं, इसलिए पहले छोटे prompts से टेस्ट करें।
- Provisioned deployments आरक्षित क्षमता का बिल बनाते हैं, चाहे आप उसका इस्तेमाल करें या नहीं।
- Instant access से आप बिना deployment बनाए कुछ models आज़मा सकते हैं। preview के दौरान यह सिर्फ West US 3 में Foundry projects में काम करता है।
Azure Cost Management में एक budget सेट करें। budget सिर्फ alerts भेजता है, खर्च रोकता नहीं। लागत का डेटा दिखने में 8 से 24 घंटे लग सकते हैं, इसलिए पहला alert कम सीमा पर रखें।
टेस्ट खत्म होने पर वे resources हटाएँ जिनकी अब ज़रूरत नहीं। resource हटाने से उसका उपयोग शुल्क रुक जाता है, लेकिन storage, networking, आरक्षित क्षमता और support plans का बिल चलता रह सकता है। सफ़ाई के बाद cost view जाँचें।