Agent को आपकी files से knowledge क्यों चाहिए
Concept 5 में prompts और model settings दिखाए गए कि model क्या कहे। Knowledge tools दूसरा सवाल हल करते हैं: तथ्य कहाँ से आए। इनके बिना agent सामान्य training data पर अनुमान लगाता है। इनके साथ वह आपके नियंत्रण वाले दस्तावेज़ों से हिस्से निकाल सकता है और जवाब में उन्हें जोड़ सकता है।
Microsoft Foundry document knowledge के लिए दो मुख्य रास्ते देता है। File search उन files के लिए है जिन्हें आप project के vector store में upload करते हैं। Azure AI Search tool उस सामग्री के लिए है जो पहले से Azure AI Search index में है। दोनों agent को आपके material पर आधारित रखते हैं और citations जोड़ सकते हैं ताकि कोई स्रोत जाँच सके।
File search: upload, index, और tool जोड़ना
File search Foundry agent को आपके दस्तावेज़ों के सुसंगत हिस्से ढूँढने देता है, फिर जवाब बनाते समय उन हिस्सों का इस्तेमाल करता है। Files कहाँ रहती हैं agent setup पर निर्भर है: standard setup uploads को setup के दौरान जुड़े Azure Blob Storage में रखता है और vector stores आपके connected Azure AI Search resource पर बनाता है; basic setup uploads Microsoft-managed storage में रखता है और vector stores के लिए Microsoft-managed search resource इस्तेमाल करता है।
- ऐसी test file बनाएँ या चुनें जिसमें एक तथ्य हो जिसे बाद में जाँच सकें (उदाहरण: छोटा product FAQ)।
- File upload करें और vector store में जोड़ें। SDK helpers upload और poll कर सकते हैं जब तक ingestion पूरा न हो; वरना vector store poll करें जब तक कोई file in_progress state में न रहे।
- Agent पर file search चालू करें—या तो file search tool vector store IDs के साथ लगाएँ, या toolbox में file search जोड़कर वह toolbox agent से जोड़ें।
- ऐसा सवाल पूछें जिसका जवाब सिर्फ आपकी file में हो, और देखें कि जवाब उसी सामग्री को quote या संक्षेप में कहे और search चलने पर file citation दिखे।
Upload से पहले देखें कि आपकी identity के पास project पर Foundry User role और project storage account पर Storage Blob Data Contributor role है। आपको basic या standard agent environment और उसी project में model deployment चाहिए। File search model tokens से अलग bill होता है, इसलिए लागत अनुमान में upload और retrieval को अलग रखें।
File search अंदर क्या करता है
जब आप vector store में file जोड़ते हैं, service दस्तावेज़ parse करती है, chunks में बाँटती है, embeddings बनाती है, और परिणाम ऐसे database में रखती है जहाँ keyword और semantic दोनों search चल सकें। User सवाल पूछे तो file search query को search के लिए बदलता है, मुश्किल सवालों को parallel searches में तोड़ सकता है, vector store पर hybrid search चलाता है, hits rerank करता है, और सबसे अच्छे chunks model को देता है।
| Setting | Default value |
|---|---|
| Chunk size | 800 tokens |
| Chunk overlap | 400 tokens |
| Embedding model | text-embedding-3-large (256 dimensions) |
| Max chunks passed to the model | 20 |
- हर vector store में 10,000 files तक हो सकती हैं। Agent पर अधिकतम एक vector store और conversation पर अधिकतम एक vector store जोड़ सकते हैं।
- अधिकतम file size 512 MB है। हर file में 5,000,000 tokens से ज़्यादा नहीं होने चाहिए (attach करते समय गिना जाता है)।
- Conversation helpers से बने vector stores आखिरी बार active होने के सात दिन बाद expire हो जाते हैं; expire होने पर उस conversation की runs तब तक fail होती हैं जब तक store दोबारा न बनाएँ और वही files फिर जोड़ें।
- Search पर भरोसा करने से पहले vector store status completed हो—conversation upload अभी process हो रहे हों तो run 60 सेकंड तक wait कर सकता है, लेकिन यह fallback agent के vector store पर लागू नहीं होता।
Basic vs Standard setup, और file search कब ठीक है
File search का code path basic और standard दोनों setup में एक जैसा है। फर्क यह है कि files और vector stores कहाँ रहते हैं। Basic setup Microsoft-managed storage और vector stores के लिए Microsoft-managed search resource इस्तेमाल करता है। Standard setup उस Azure Blob Storage और Azure AI Search resource का इस्तेमाल करता है जो agent environment configure करते समय जोड़ते हैं।
| Agent setup | File storage | Vector store backing |
|---|---|---|
| Basic agent setup | Microsoft-managed storage | Microsoft-managed search resource (Azure OpenAI Responses API file search tool जैसा व्यवहार) |
| Standard agent setup | Your connected Azure Blob Storage account | Your connected Azure AI Search resource |
- File search तब चुनें जब PDF, Word, code या markdown सीधे upload करें और parsing व indexing service पर छोड़ना हो।
- Azure AI Search tool तब चुनें जब collection बड़ा हो, पहले से indexed हो, या existing index पर query types और filters चाहिए हों।
- Web search tool तब चुनें जब public web की ताज़ा जानकारी चाहिए; एक query में एक से ज़्यादा source चाहिए तो कई tools साथ इस्तेमाल करें।
Azure AI Search tool: connection, index shape, query types
Azure AI Search tool उस index से documents निकालता है जो आप पहले से चलाते हैं। Model फिर inline citations के साथ जवाब देता है, अक्सर URL के साथ जब index में URL field हो। Tool की configuration में एक समय पर सिर्फ एक index हो सकता है। Foundry project और search service एक ही tenant में होने चाहिए।
| Parameter | Required? | What it does |
|---|---|---|
| project_connection_id | Yes | आपके search service के project connection की ओर इशारा करता है |
| index_name | Yes | Query करने वाले index का नाम (case-sensitive) |
| query_type | No (default vector_semantic_hybrid) | Keyword, vector और semantic ranking कैसे मिलें |
| top_k | No (default 5) | कितने search hits लौटाएँ |
| filter | No | OData filter जो agent की हर query पर लगता है |
- Index vector search के लिए सेट करें: कम से कम एक searchable, retrievable Edm.String field; कम से कम एक searchable Collection(Edm.Single) vector field; cite करने वाला retrievable text field; source URL (और वैकल्पिक title) वाला retrievable field link citations के लिए।
- Default के अलावा query_type values हैं simple, vector, semantic, और vector_simple_hybrid।
- Keyless access के लिए Foundry account (जिसमें project है) की system-assigned managed identity पर search service में Search Index Data Contributor और Search Service Contributor roles दें।
- Private virtual network पर Azure AI Search connection में Microsoft Entra project managed identity इस्तेमाल करें। वहाँ key-based authentication समर्थित नहीं है।
Connection अभी न हो तो Microsoft Foundry portal खोलें, Foundry project चुनें, Manage फिर Project details चुनें। Connected resources tab खोलें, Add connection चुनें, Azure AI Search चुनें, search service browse करें, authentication type चुनें, Add connection दबाएँ। SDK samples connection name से connection ID निकालते हैं जब agent बनाते हैं।
उदाहरण: online shop के लिए support assistant
एक छोटी shop kitchen सामान बेचती है। Support को returns और shipping के एक जैसे सवाल हर हफ्ते मिलते हैं। Team चाहती है कि prompt agent official policy text से जवाब दे, याद से नहीं।
- File-search रास्ता: returns_policy.pdf और shipping_faq.md export करें, ShopPolicies नाम के vector store में upload करें, उस store ID के साथ file search लगाएँ, और agent को निर्देश दें कि policy सवालों से पहले files search करे।
- Azure AI Search रास्ता: अगर policies corporate index में title और url fields के साथ हैं, तो search service पर project connection बनाएँ, Azure AI Search tool को shop-policies index पर vector_semantic_hybrid query_type के साथ point करें, और agent को हमेशा sources cite करने को कहें।
- ज्ञात सवालों से परीक्षण करें: “ब्लेंडर return करने के कितने दिन हैं?” और “क्या PO box पर ship करते हैं?” Citations सही document या URL दिखाएँ।
- अगर जवाब files ignore करें, तो देखें file_search agent पर है, vector_store_ids में आपका store है, indexing पूरी हुई; index वाले जवाबों के लिए tests में tool_choice required रखें ताकि agent search tool ज़रूर चलाए।
Grounding काम करने के बाद instructions कसें (tone, कब human को escalate करें) Concept 5 की तरह, फिर Concept 7 में और tools जोड़ें। Knowledge tools तथ्य देते हैं; वे यह नहीं बताते कि उन्हें कब इस्तेमाल करना है—साफ instructions वह करते हैं।
सीमाएँ, अतिरिक्त लागत, और आम गलतियाँ
- File search खास file formats और UTF-8, UTF-16 या ASCII text encoding support करता है; unsupported types upload या indexing पर fail हो सकते हैं।
- Basic agent deployments वाला basic Foundry resource private Azure AI Search resources या public access बंद और private endpoint वाली search service use नहीं कर सकता; उस pattern के लिए virtual network injection के साथ standard agent setup चाहिए।
- Agent virtual network injection के बिना चले तो Azure AI Search tool private endpoint वाली search service तक पहुँच fail कर सकता है, भले public network access चालू हो।
- File search की features और availability region के हिसाब से बदलती हैं; production से पहले Microsoft Foundry region support देखें।
- Hosted agent पर toolbox से file search चलाने पर user isolation support नहीं—project के सभी users tool में या runtime पर दिए vector stores तक पहुँच साझा करते हैं।
Model token usage के ऊपर file search charges के लिए budget रखें। Policies बदलने पर vector store size और reindexing पर नज़र रखें, और experiments खत्म होने पर test files और stores हटाएँ ताकि storage और search fees न बढ़ें।
- 401 या 403 आमतौर पर missing या expired token, या missing Foundry User / storage roles का संकेत हैं—credentials refresh करें और role assignment propagate होने का इंतज़ार करें।
- खाली या irrelevant search results अक्सर incomplete indexing या बहुत broad query से होते हैं—vector store completed होने तक poll करें और संकीर्ण सवाल पूछें।
- Missing citations का मतलब model ने tool skip किया या index में url/title fields नहीं हैं—instructions में citations ज़रूरी लिखें और index schema में retrievable URL metadata रखें।
- Private networking और API keys के साथ DNS या “cannot connect to host” errors का मतलब connection को key-based authentication की जगह Microsoft Entra project managed identity पर switch करना होगा।
आगे क्या करें
अब आप uploaded files या existing Azure AI Search index में answers ground कर सकते हैं। Concept 7 और agent tools जोड़ता है—function calling, code interpreter, और patterns कि कौन सा tool कब चले—ताकि shop assistant policy देखे और एक flow में order API भी call कर सके।
Go deeper
- Files upload, vector stores, chunk defaults, troubleshooting: File search tool for agents
- Index requirements, connections, query types, private networking: Connect an Azure AI Search index to Foundry agents
- हर request पर vector store चुनें, नए agent versions के बिना: Customize agent behavior at runtime with structured inputs
- कौन सा tool कब call करें और usage कैसे validate करें: Tool best practices for Microsoft Foundry Agent Service