Microsoft Foundry की सुविधाएँ

Microsoft Foundry सिर्फ़ model को संदेश भेजने की जगह नहीं है। यह Foundry का managed platform (पूरा मंच जो चलाना Foundry संभालता है) है जहाँ आप agent बनाते, चलाते, गुणवत्ता जाँचते और टीम के साथ साझा करते हैं। अवधारणा 2 में आपने देखा कि काम कहाँ होता है—Microsoft Foundry portal, Foundry project, और किसे क्या अनुमति है। यहाँ आप production तक लगने वाले मुख्य हिस्से जानेंगे: agent के प्रकार, model और deployment, tool और toolbox, tracing, evaluation, guardrail, और publishing।

एक छोटी ऑनलाइन दुकान के सहायक की कल्पना करें। ग्राहक पूछता है कि order 8842 आज भेजा जा सकता है या नहीं। Foundry में वह संदेश prompt agent शुरू कर सकता है—निर्देश पढ़ना, model से जवाब, और ज़रूरत हो तो order ढूँढने वाला tool। Tracing (चरण-दर-चरण रिकॉर्ड) पूरे run को सहेजती है। Evaluation (गुणवत्ता की जाँच) publish से पहले test orders पर score दे सकती है। Publishing स्थिर endpoint देता है जिसे Microsoft Teams या Microsoft Copilot में साझा किया जा सकता है। नीचे के भाग इसी रास्ते को विस्तार से लेते हैं।

Foundry Agent Service तीन प्रकार के agent देता है। आपका चुनाव तय करता है कि आप कितना code लिखेंगे और Foundry कितना चलाएगा। तीनों Foundry model catalog और platform के tool इस्तेमाल कर सकते हैं, लेकिन सेटअप और चलाने की ज़िम्मेदारी अलग है।

• Prompt agent: आप सेटिंग्स में निर्देश, model और tool तय करते हैं। Foundry agent चलाता है—आपको application code या container संभालने की ज़रूरत नहीं। Microsoft Foundry portal के Agents playground से बदलाव, version, परीक्षण, evaluation, निगरानी और publish करें, या SDK/REST से वही agent बनाएँ।
• Voice-based prompt agent (preview): तुरंत बोली हुई बातचीत के लिए prompt agent। model, निर्देश, audio सेटिंग्स, वैकल्पिक greeting और tool सेट करें, फिर Voice Live के साथ WebSocket पर जुड़ें; runtime और tool कॉल Foundry संभालता है।
• Hosted agent: अपना code या framework (जैसे Agent Framework या LangGraph) container image या .zip के रूप में लाएँ—Foundry image बना सकता है। Foundry managed endpoint, automatic scaling, अलग Microsoft Entra identity और observability के साथ deploy करता है। Hosted agent agent-building UI में नहीं बदलते, लेकिन चलाए, evaluate, monitor और publish किए जा सकते हैं।

Foundry Models catalog में model तब तक app के काम नहीं आता जब तक deploy न करें या जहाँ supported हो instant access model इस्तेमाल न करें। Model deployment (model को चालू करने की सुविधा) portal या code से endpoint बनाता और संभालता है। Deployment types में standard, global, data zone, provisioned throughput (PTU), batch और priority processing शामिल हैं—गति, मात्रा और data कहाँ process होगा, इसके बीच संतुलन।

Agent Service catalog के कई model के साथ काम करता है, जैसे GPT-4o, Llama और DeepSeek। Agent को दूसरे deployment पर इशारा करके अक्सर agent code बदले बिना model बदला जा सकता है। Managed compute (preview) चुने open-source और custom model को आपके Foundry resource की dedicated virtual machine capacity पर चलाता है। Model router (अनुरोध भेजने वाला) चालू हो तो लागत और गुणवत्ता के हिसाब से अनुरोध भेज सकता है।

• Foundry Models catalog: Microsoft, OpenAI, Anthropic, Meta, partners और community के model ढूँढें और तुलना करें।
• Fine-tuning और model lifecycle: अपने data पर model बदलने पर version, update और retirement की तारीखें देखें।
• Quota और region: क्षमता की सीमा model और region पर निर्भर; production traffic से पहले deployment की योजना बनाएँ।
• Keys, billing और deployment की detail अवधारणा 4 में Foundry resource और project पर क्या सेट करना है, वह बताती है।

Model text बनाता है। Tool agent को काम करने देता है—web खोज, file पढ़ना, code चलाना, आपके API कॉल करना या company data तक पहुँच। Foundry में tool agent से जुड़ते हैं ताकि model सही समय पर structured input के साथ tool कॉल कर सके।

• पहले से मौजूद tool में web search, file search, code interpreter और memory (preview) शामिल हैं। Tool catalog बताता है हर tool को जोड़ने से पहले क्या चाहिए।
• अपने tool में function calling, REST API बताने वाले OpenAPI tool, Azure Functions और Model Context Protocol (MCP) server—Foundry द्वारा संभाले और आपके अपने—शामिल हैं।
• Tool connection में key, Microsoft Entra identity, user की ओर से sign-in (On-Behalf-Of), या जहाँ ठीक हो बिना authentication के विकल्प हो सकते हैं।

Toolbox (tool का एक पैक) कई tool को एक बार सेट करके दोबारा इस्तेमाल योग्य बनाता है। Foundry उन्हें एक managed MCP-compatible endpoint के पीछे दिखाता है जिसे कोई भी agent इस्तेमाल कर सकता है। Authentication, governance और versioning एक जगह रहते हैं—हर agent हाथ से बदलने की बजाय नया toolbox version default बनाएँ। Prompt agent में tool जोड़कर save करने के लिए tool पहले पूरी तरह सेट होना चाहिए; सेट tool दूसरे agent में दोबारा इस्तेमाल करें।

Trace (एक run की पूरी कहानी) agent के एक चलाने का पूरा रिकॉर्ड है। Span (एक कदम) trace के अंदर के कदम हैं: हर span में शुरू और खत्म का समय और विवरण होता है। अक्सर दिखने वाले नाम invoke_agent (पूरा run), chat (model का काम) और execute_tool (tool कॉल) हैं। Prompt और hosted agent के लिए tracing सामान्य रूप से उपलब्ध है; workflow और external agent preview में हैं।

• Server-side tracing चालू करने के लिए Azure Monitor Application Insights resource को Foundry project से जोड़ें। Foundry trace Application Insights में लिखता है; server-side tracing के लिए agent code बदलने की ज़रूरत नहीं।
• Portal में Agents खोलें, ऊपर Traces चुनें, Connect से Application Insights बनाएँ या जोड़ें। Trace देखने से पहले जुड़े Application Insights में log पढ़ने की अनुमति चाहिए।
• Agent चलने के बाद Traces view में trace खोजें या filter करें, किसी trace पर क्लिक करके हर span देखें। Traces page पर Conversation results भी मिलते हैं—एक बातचीत का इतिहास, token और tool कॉल।
• Trace कितने दिन रहेंगे और लागत Application Insights और Log Analytics सेटिंग्स पर निर्भर। Portal हाल के trace debugging के लिए दिखाता है; लंबे समय का storage Application Insights की सेटिंग से तय होता है।

Tracing में prompt, tool का input और output सहेज सकती है। Log में जाने से पहले गुप्त जानकारी और personal data हटाएँ, trace को production log की तरह संभालें। अवधारणा 13 span विवरण, framework सेटअप और Agent Monitoring Dashboard पर और बताती है।

Evaluation model और agent को test data या सहेजे गए traffic पर score देती है ताकि version की तुलना हो और users से पहले गुणवत्ता गिरावट पकड़ में आए। Evaluation एक या ज़्यादा evaluator चलाती है और score (कभी-कभी छोटी व्याख्या) Microsoft Foundry portal या SDK से मिलती है।

• आम क्रम: target चुनें (agent, model, dataset या traces), scope (एक जवाब या पूरी बातचीत), data source (CSV/JSONL, बनाया data, simulated बातचीत या production traces), evaluator चुनें, फिर Evaluation > Create, agent का Evaluation tab, या playground में Metrics > Run full evaluation से शुरू करें।
• Project पर Foundry User role चाहिए। AI-assisted quality evaluator के लिए deployed GPT model (जैसे gpt-4.1-mini) वाला Azure OpenAI connection भी चाहिए।
• एक-एक जवाब वाली evaluation हर reply पर score देती है (जैसे tool चुनाव और safety)। Full conversations (preview) कई turn वाली chat score करता है। Conversation-level evaluator में Customer Satisfaction और Task Completion; एक turn के लिए Intent Resolution जैसे agent evaluator मिलते हैं।

Publish से पहले evaluation चलाएँ और बड़े बदलाव के बाद फिर चलाएँ; production बातचीत पर बार-बार evaluation से गुणवत्ता के बदलाव पकड़ में आते हैं। agent optimizer (preview) prompt agent और hosted agent को dataset पर आज़माकर बेहतर निर्देश, skills, tool description और model choice सुझाता है। Prompt agent Optimize tab wizard से शुरू होता है; hosted agent को पहले optimization के लिए code तैयार करना पड़ता है। अवधारणा 8 और 14 measurement, Prompt Optimizer और red teaming पर और ले जाती हैं।

• Identity: हर agent की अलग Microsoft Entra identity हो सकती है ताकि shared password के बिना दूसरी service तक पहुँचे। Agent application publish के बाद project identity की अनुमति अपने आप नहीं जाती—published agent identity को सिर्फ़ ज़रूरी access दें।
• Access: Azure अनुमति और Foundry roles (अवधारणा 2) तय करते हैं कि कौन agent और evaluation बना, चला और manage कर सकता है।
• Guardrail: user input, tool call (preview), tool response (preview) और अंतिम output पर hate, sexual content, violence, self-harm जैसे जोखिम की जाँच। Agent guardrail preview में हैं; agent पर लगा guardrail उसके model deployment के guardrail को हटाकर अपना लागू करता है। Blocking level Medium medium- और high-severity content risk के लिए medium और high दोनों रोकता है।
• Network: prompt agent private networking इस्तेमाल कर सकते हैं; hosted agent session अलग रखने के लिए आपके Azure virtual network में चल सकते हैं।
• Policy और platform governance: Azure Policy, customer-managed keys, token limit और लागत के tool capability reference में बड़े पैमाने पर Foundry चलाने के लिए सूचीबद्ध हैं।

Foundry prompt agent के version save करते समय track करता है; save किया version बदला नहीं जाता, इसलिए बदलाव नया version बनाते हैं जिसकी तुलना या rollback हो सकता है। Publishing agent को managed resource और stable endpoint देता है। Published agent Microsoft Copilot, Microsoft Teams और Entra Agent Registry से share हो सकते हैं। Details tab या Publish पर active version Always use latest या किसी खास version पर सेट करें ताकि users वही build पाएँ जिसे आपने परीक्षण किया।

• Tool जोड़ा लेकिन sign-in या connection अधूरा—save से पहले tool पूरा सेट करें।
• सिर्फ playground में आज़माया, version save नहीं—इतिहास, निगरानी या पूरी evaluation नहीं मिलेगी; तुलना चाहिए तो milestone save करें।
• Publish के बाद published agent की identity और tool connection नहीं बदली—publish के बाद access फिर जाँचें।
• Project पर Foundry User या AI से चलने वाले evaluator के judge model deployment के बिना evaluation शुरू की—पहले शर्तें जाँचें।

यहाँ कई सुविधाएँ preview में हैं: voice-based prompt agent, agent optimizer, full-conversation evaluation scope और agent guardrail। Preview supplemental terms के तहत होती हैं, SLA नहीं मिलता, और production के लिए तब तक सिफ़ारिश नहीं जब तक support, security और availability की समीक्षा न कर लें।

अवधारणा 4 keys, लागत और Foundry resource पर model deployment चुनने का व्यावहारिक हिस्सा बताती है—इस नक्शे के नीचे की परत।

• पूरे platform का overview पढ़ने के लिए: What is Microsoft Foundry?
• Agent types, toolbox और बनाने-चलाने के चरणों के लिए: Foundry Agent Service overview
• Portal में evaluation चलाने और evaluator lists के लिए: Run evaluations in Foundry
• Trace और span names समझने के लिए: Agent tracing overview