Chapter 28
शुरुआती लोगों के लिए EdgeAI
शुरुआती लोगों के लिए EdgeAI
इन संसाधनों का उपयोग शुरू करने के लिए ये चरण फ़ॉलो करें:
- रिपोजिटरी को फोर्क करें: क्लिक करें
- रिपोजिटरी को क्लोन करें:
git clone https://github.com/microsoft/edgeai-for-beginners.git - Azure AI Foundry Discord में शामिल हों और विशेषज्ञों व अन्य डेवलपर्स से मिलें
🌐 बहुभाषी समर्थन
GitHub Action के माध्यम से समर्थित (स्वचालित और हमेशा अपडेटेड)
Arabic | Bengali | Bulgarian | Burmese (Myanmar) | Chinese (Simplified) | Chinese (Traditional, Hong Kong) | Chinese (Traditional, Macau) | Chinese (Traditional, Taiwan) | Croatian | Czech | Danish | Dutch | Estonian | Finnish | French | German | Greek | Hebrew | Hindi | Hungarian | Indonesian | Italian | Japanese | Kannada | Khmer | Korean | Lithuanian | Malay | Malayalam | Marathi | Nepali | Nigerian Pidgin | Norwegian | Persian (Farsi) | Polish | Portuguese (Brazil) | Portuguese (Portugal) | Punjabi (Gurmukhi) | Romanian | Russian | Serbian (Cyrillic) | Slovak | Slovenian | Spanish | Swahili | Swedish | Tagalog (Filipino) | Tamil | Telugu | Thai | Turkish | Ukrainian | Urdu | Vietnamese
स्थानीय रूप से क्लोन करना पसंद करते हैं?
इस रिपोजिटरी में 50+ भाषा अनुवाद शामिल हैं जो डाउनलोड आकार को काफी बढ़ाते हैं। अनुवाद के बिना क्लोन करने के लिए, sparse checkout का उपयोग करें:
Bash / macOS / Linux:
bashgit clone --filter=blob:none --sparse https://github.com/microsoft/edgeai-for-beginners.git cd edgeai-for-beginners git sparse-checkout set --no-cone '/*' '!translations' '!translated_images'CMD (Windows):
cmdgit clone --filter=blob:none --sparse https://github.com/microsoft/edgeai-for-beginners.git cd edgeai-for-beginners git sparse-checkout set --no-cone "/*" "!translations" "!translated_images"इससे आपको तेज़ डाउनलोड के साथ पूरा कोर्स पूरा करने के लिए सब कुछ मिलेगा।
यदि आप अतिरिक्त अनुवाद भाषाओं को समर्थित करवाना चाहते हैं, तो वो यहाँ सूचीबद्ध हैं।
परिचय
EdgeAI for Beginners में आपका स्वागत है – Edge आर्टिफिशियल इंटेलिजेंस की परिवर्तनकारी दुनिया की आपकी व्यापक यात्रा। यह कोर्स शक्तिशाली AI क्षमताओं और एज डिवाइसेस पर व्यावहारिक, वास्तविक दुनिया की तैनाती के बीच की खाई को पाटता है, जिससे आप सीधे उन स्थानों पर AI की शक्ति का उपयोग कर सकते हैं जहाँ डेटा उत्पन्न होता है और निर्णय लेने की आवश्यकता होती है।
आप जो सीखेंगे
यह कोर्स आपको बुनियादी अवधारणाओं से लेकर उत्पादन-योग्य कार्यान्वयन तक ले जाता है, जिनमें शामिल है:
- एज तैनाती के लिए अनुकूलित छोटे भाषा मॉडल (SLMs)
- विविध प्लेटफार्मों पर हार्डवेयर-जानकारी वाले अनुकूलन
- गोपनीयता-संरक्षित वास्तविक समय पूर्वानुमान
- उद्यम अनुप्रयोगों के लिए प्रोडक्शन तैनाती रणनीतियाँ
EdgeAI क्यों महत्वपूर्ण है
Edge AI एक ऐसा दृष्टिकोण है जो आधुनिक चुनौतियों को संबोधित करता है:
- गोपनीयता और सुरक्षा: संवेदनशील डेटा को क्लाउड एक्सपोज़र के बिना स्थानीय रूप से संसाधित करें
- रियल-टाइम प्रदर्शन: समय-संवेदनशील अनुप्रयोगों के लिए नेटवर्क विलंबता समाप्त करें
- लागत दक्षता: बैंडविड्थ और क्लाउड कंप्यूटिंग खर्च कम करें
- लचीला संचालन: नेटवर्क आउटेज के दौरान कार्यक्षमता बनाए रखें
- नियामक अनुपालन: डेटा संप्रभुता आवश्यकताओं को पूरा करें
Edge AI
Edge AI का मतलब है AI एल्गोरिदम और भाषा मॉडल को हार्डवेयर पर स्थानीय रूप से चलाना, जहाँ डेटा उत्पन्न होता है, बिना क्लाउड संसाधनों पर निर्भर रहकर पूर्वानुमान के लिए। यह विलंबता कम करता है, गोपनीयता बढ़ाता है, और वास्तविक समय निर्णय लेने को सक्षम बनाता है।
मुख्य सिद्धांत:
- डिवाइस पर पूर्वानुमान: AI मॉडल एज डिवाइसेस (फोन, रूटर, माइक्रोकंट्रोलर, औद्योगिक पीसी) पर चलते हैं
- ऑफ़लाइन क्षमता: लगातार इंटरनेट कनेक्टिविटी के बिना कार्य करता है
- कम विलंबता: रियल-टाइम सिस्टम के लिए तुरंत प्रतिक्रियाएँ
- डेटा संप्रभुता: संवेदनशील डेटा को स्थानीय रखें, सुरक्षा और अनुपालन में सुधार करें
छोटे भाषा मॉडल (SLMs)
Phi-4, Mistral-7B, और Gemma जैसे SLM बड़े LLMs के अनुकूलित संस्करण हैं — प्रशिक्षित या संक्षिप्त किए गए:
- कम मेमोरी खपत: सीमित एज डिवाइस मेमोरी का कुशल उपयोग
- कम कंप्यूटिंग आवश्यकताएं: CPU और एज GPU प्रदर्शन के लिए अनुकूलित
- तेज़ स्टार्टअप समय: प्रतिक्रियाशील अनुप्रयोगों के लिए शीघ्र प्रारंभ
वे शक्तिशाली NLP क्षमताओं को अनलॉक करते हैं जबकि निम्नलिखित प्रतिबंधों को पूरा करते हैं:
- एम्बेडेड सिस्टम: IoT उपकरण और औद्योगिक नियंत्रक
- मोबाइल डिवाइसेस: ऑफलाइन क्षमताओं वाले स्मार्टफोन और टैबलेट
- IoT डिवाइसेस: सीमित संसाधनों वाले सेंसर और स्मार्ट उपकरण
- एज सर्वर: सीमित GPU संसाधनों वाले स्थानीय प्रसंस्करण इकाइयां
- पर्सनल कंप्यूटर: डेस्कटॉप और लैपटॉप तैनाती परिदृश्य
कोर्स मॉड्यूल और नेविगेशन
| मॉड्यूल | विषय | फोकस क्षेत्र | मुख्य सामग्री | स्तर | अवधि |
|---|---|---|---|---|---|
| 📖 00 | EdgeAI का परिचय | बुनियाद और संदर्भ | EdgeAI अवलोकन • उद्योग अनुप्रयोग • SLM परिचय • शिक्षण उद्देश्यों | शुरुआती | 1-2 घंटे |
| 📚 01 | EdgeAI मूल बातें | क्लाउड बनाम एज AI तुलना | EdgeAI मूल बातें • वास्तविक विश्व केस स्टडीज • कार्यान्वयन गाइड • एज तैनाती | शुरुआती | 3-4 घंटे |
| 🧠 02 | SLM मॉडल आधार | मॉडल परिवार और वास्तुकला | Phi परिवार • Qwen परिवार • Gemma परिवार • BitNET • μमॉडल • Phi-Silica | शुरुआती | 4-5 घंटे |
| 🚀 03 | SLM तैनाती प्रैक्टिस | स्थानीय और क्लाउड तैनाती | उन्नत सीखने • स्थानीय पर्यावरण • क्लाउड तैनाती | मध्यवर्ती | 4-5 घंटे |
| ⚙️ 04 | मॉडल अनुकूलन टूलकिट | क्रॉस-प्लेटफ़ॉर्म अनुकूलन | परिचय • Llama.cpp • Microsoft Olive • OpenVINO • Apple MLX • वर्कफ़्लो संश्लेषण | मध्यवर्ती | 5-6 घंटे |
| 🔧 05 | SLMOps उत्पादन | प्रोडक्शन संचालन | SLMOps परिचय • मॉडल डिस्टिलेशन • फाइन-ट्यूनिंग • प्रोडक्शन तैनाती | उन्नत | 5-6 घंटे |
| 🤖 06 | AI एजेंट और फंक्शन कॉलिंग | एजेंट फ्रेमवर्क और MCP | एजेंट परिचय • फंक्शन कॉलिंग • मॉडल कॉन्टेक्स्ट प्रोटोकॉल | उन्नत | 4-5 घंटे |
| 💻 07 | प्लेटफ़ॉर्म कार्यान्वयन | क्रॉस-प्लेटफ़ॉर्म नमूने | AI टूलकिट • Foundry Local • विंडोज डेवलपमेंट | उन्नत | 3-4 घंटे |
| 🏭 08 | Foundry Local टूलकिट | प्रोडक्शन-तैयार नमूने | नमूना अनुप्रयोग (नीचे विवरण देखें) | विशेषज्ञ | 8-10 घंटे |
🏭 मॉड्यूल 08: नमूना अनुप्रयोग
- 01: REST चैट क्विकस्टार्ट
- 02: OpenAI SDK इंटीग्रेशन
- 03: मॉडल डिस्कवरी और बेंचमार्किंग
- 04: Chainlit RAG एप्लिकेशन
- 05: मल्टी-एजेंट ऑर्केस्ट्रेशन
- 06: मॉडल-एज-टूल्स राउटर
- 07: डायरेक्ट API क्लाइंट
- 08: विंडोज 11 चैट ऐप
- 09: उन्नत मल्टी-एजेंट सिस्टम
- 10: Foundry टूल्स फ्रेमवर्क
🎓 वर्कशॉप: हैंड्स-ऑन सीखने का रास्ता
पूरक हैंड्स-ऑन कार्यशाला सामग्री प्रोडक्शन-तैयार कार्यान्वयन के साथ:
- वर्कशॉप गाइड - पूर्ण सीखने के उद्देश्य, परिणाम, और संसाधन नेविगेशन
- Python नमूने (6 सत्र) - बेहतरीन प्रथाओं, त्रुटि हैंडलिंग, और व्यापक दस्तावेज़ों के साथ अपडेटेड
- Jupyter नोटबुक्स (8 इंटरैक्टिव) - चरण-दर-चरण ट्यूटोरियल्स के साथ बेंचमार्क और प्रदर्शन निगरानी
- सत्र गाइड - प्रत्येक कार्यशाला सत्र के लिए विस्तृत मार्कडाउन गाइड
- मान्यता उपकरण - कोड गुणवत्ता जांचने और स्मोक टेस्ट चलाने के लिए स्क्रिप्ट
आप क्या बनाएंगे:
- स्थानीय AI चैट एप्लिकेशन with स्ट्रीमिंग समर्थन
- गुणवत्ता मूल्यांकन (RAGAS) के साथ RAG पाइपलाइन्स
- मल्टी-मॉडल बेंचमार्किंग और तुलना उपकरण
- मल्टी-एजेंट ऑर्केस्ट्रेशन सिस्टम
- कार्य-आधारित चयन के साथ बुद्धिमान मॉडल राउटिंग
🎙️ एजेंटिक के लिए वर्कशॉप: हैंड्स-ऑन – द AI पॉडकास्ट स्टूडियो
शुरुआत से एक AI-पावर्ड पॉडकास्ट प्रोडक्शन पाइपलाइन बनाएं! यह इमर्सिव वर्कशॉप आपको एक पूर्ण मल्टी-एजेंट सिस्टम बनाने सिखाती है जो विचारों को पेशेवर पॉडकास्ट एपिसोड में बदलता है।
🎬 AI पॉडकास्ट स्टूडियो वर्कशॉप शुरू करें
आपका मिशन: "Future Bytes" लॉन्च करें — एक टेक पॉडकास्ट जो पूरी तरह से आपके द्वारा बनाए गए AI एजेंट्स द्वारा संचालित होगा। कोई क्लाउड निर्भरता नहीं, कोई API लागत नहीं — सब कुछ आपके मशीन पर स्थानीय रूप से चलता है।
इसको खास क्या बनाता है:
- 🤖 वास्तविक मल्टी-एजेंट ऑर्केस्ट्रेशन - विशेषज्ञ AI एजेंट बनाएं जो शोध करें, लिखें, और ऑडियो बनाएं
- 🎯 पूर्ण प्रोडक्शन पाइपलाइन - विषय चयन से लेकर अंतिम पॉडकास्ट ऑडियो आउटपुट तक
- 💻 100% स्थानीय तैनाती - पूरे गोपनीयता और नियंत्रण के लिए Ollama और स्थानीय मॉडल (Qwen-3-8B) का उपयोग
- 🎤 टेक्स्ट-टू-स्पीच इंटीग्रेशन - स्क्रिप्ट्स को प्राकृतिक सुनाई देने वाली मल्टी-स्पीकर बातचीत में बदलना
- ✋ मानव-इन-द-लूप वर्कफ्लोज़ - स्वीकृति गेट गुणवत्ता सुनिश्चित करते हैं जबकि स्वचालन जारी रहता है
तीन-अधिनायक सीखने की यात्रा:
| अधिनायक | फोकस | प्रमुख कौशल | अवधि |
|---|---|---|---|
| अधिनायक 1: अपने AI सहायक से मिलें | अपना पहला AI एजेंट बनाएं | टूल इंटीग्रेशन • वेब सर्च • समस्या समाधान • एजेंटिक तर्क | 2-3 घंटे |
| अधिनायक 2: अपनी प्रोडक्शन टीम बनाएं | कई एजेंट्स का समन्वय करें | टीम समन्वय • स्वीकृति वर्कफ्लोज़ • DevUI इंटरफ़ेस • मानवीय निरीक्षण | 3-4 घंटे |
| अधिनायक 3: अपने पॉडकास्ट को जीवन दें | पॉडकास्ट ऑडियो जेनरेट करें | टेक्स्ट-टू-स्पीच • मल्टी-स्पीकर सिंथेसिस • लॉन्ग-फॉर्म ऑडियो • पूर्ण स्वचालन | 2-3 घंटे |
प्रयुक्त प्रौद्योगिकियाँ:
- Microsoft Agent Framework - मल्टी-एजेंट ऑर्केस्ट्रेशन और समन्वय
- Ollama - स्थानीय AI मॉडल रनटाइम (कोई क्लाउड आवश्यक नहीं)
- Qwen-3-8B - एजेंटिक कार्यों के लिए अनुकूलित ओपन-सोर्स भाषा मॉडल
- 텍्स्ट-टू-स्पीच एपीआई - पॉडकास्ट उत्पादन के लिए प्राकृतिक आवाज सिंथेसिस
हार्डवेयर समर्थन:
- ✅ CPU मोड - किसी भी आधुनिक कंप्यूटर पर काम करता है (8GB+ RAM की सिफारिश)
- 🚀 GPU एक्सेलेरेशन - NVIDIA/AMD GPUs के साथ काफी तेज़ पूर्वानुमान
- ⚡ NPU समर्थन - अगली पीढ़ी के न्यूरल प्रोसेसिंग यूनिट एक्सेलेरेशन
सभी के लिए उपयुक्त:
- मल्टी-एजेंट AI सिस्टम सीखने वाले डेवलपर्स
- AI स्वचालन और वर्कफ्लोज़ में रुचि रखने वाले
- AI-सहायता प्राप्त उत्पादन खोजने वाले कंटेंट क्रिएटर्स
- व्यावहारिक AI ऑर्केस्ट्रेशन पैटर्न पढ़ने वाले छात्र
शुरू करें: 🎙️ AI पॉडकास्ट स्टूडियो वर्कशॉप →
📊 सीखने का पथ सारांश
- कुल अवधि: 36-45 घंटे
- शुरुआती पथ: मॉड्यूल 01-02 (7-9 घंटे)
- मध्यम पथ: मॉड्यूल 03-04 (9-11 घंटे)
- उन्नत पथ: मॉड्यूल 05-07 (12-15 घंटे)
- विशेषज्ञ पथ: मॉड्यूल 08 (8-10 घंटे)
आप क्या बनाएंगे
🎯 मुख्य कौशल
- एज AI आर्किटेक्चर: क्लाउड इंटीग्रेशन के साथ स्थानीय-प्रथम AI सिस्टम डिज़ाइन करें
- मॉडल ऑप्टिमाइज़ेशन: एज डिप्लॉयमेंट के लिए मॉडल को क्वांटाइज़ और कंप्रेस करें (85% गति वृद्धि, 75% आकार कमी)
- मल्टी-प्लेटफ़ॉर्म डिप्लॉयमेंट: विंडोज़, मोबाइल, एम्बेडेड, और क्लाउड-एज हाइब्रिड सिस्टम
- प्रोडक्शन संचालन: एज AI की निगरानी, स्केलिंग, और रखरखाव
🏗️ व्यावहारिक प्रोजेक्ट्स
- Foundry Local चैट ऐप्स: मॉडल स्विचिंग के साथ विंडोज़ 11 नेटिव ऐप्लिकेशन
- मल्टी-एजेंट सिस्टम्स: जटिल वर्कफ्लोज़ के लिए समन्वयक के साथ विशेषज्ञ एजेंट
- RAG ऐप्लिकेशन: वektor खोज के साथ स्थानीय दस्तावेज़ प्रसंस्करण
- मॉडल राउटर्स: कार्य विश्लेषण पर आधारित मॉडल के बीच बुद्धिमान चयन
- एपीआई फ्रेमवर्क: स्ट्रीमिंग और स्वास्थ्य निगरानी के साथ प्रोडक्शन-तैयार क्लाइंट
- क्रॉस-प्लेटफ़ॉर्म टूल्स: LangChain/Semantic Kernel इंटीग्रेशन पैटर्न
🏢 औद्योगिक अनुप्रयोग
मैन्युफैक्चरिंग • हेल्थकेयर • स्वायत्त वाहन • स्मार्ट सिटीज़ • मोबाइल ऐप्स
क्विक स्टार्ट
अनुशंसित सीखने का पथ (कुल 20-30 घंटे):
- 📖 परिचय (Introduction.md): EdgeAI आधार + उद्योग संदर्भ + सीखने का फ्रेमवर्क
- 📚 आधार (मॉड्यूल 01-02): EdgeAI अवधारणाएं + SLM मॉडल फैमिलीज़
- ⚙️ ऑप्टिमाइज़ेशन (मॉड्यूल 03-04): डिप्लॉयमेंट + क्वांटाइज़ेशन फ्रेमवर्क
- 🚀 प्रोडक्शन (मॉड्यूल 05-06): SLMOps + AI एजेंट्स + फंक्शन कॉलिंग
- 💻 कार्यान्वयन (मॉड्यूल 07-08): प्लेटफॉर्म नमूने + Foundry Local टूलकिट
हर मॉड्यूल में थ्योरी, प्रायोगिक अभ्यास, और प्रोडक्शन-तैयार कोड उदाहरण शामिल हैं।
कैरियर प्रभाव
तकनीकी भूमिकाएं: EdgeAI सॉल्यूशंस आर्किटेक्ट • ML इंजीनियर (एज) • IoT AI डेवलपर • मोबाइल AI डेवलपर
औद्योगिक क्षेत्र: मैन्युफैक्चरिंग 4.0 • हेल्थकेयर टेक • स्वायत्त सिस्टम्स • फिनटेक • कंज्यूमर इलेक्ट्रॉनिक्स
पोर्टफोलियो प्रोजेक्ट्स: मल्टी-एजेंट सिस्टम्स • प्रोडक्शन RAG ऐप्स • क्रॉस-प्लेटफ़ॉर्म डिप्लॉयमेंट • प्रदर्शन अनुकूलन
रिपॉजिटरी संरचना
edgeai-for-beginners/
├── 📖 introduction.md # Foundation: EdgeAI Overview & Learning Framework
├── 📚 Module01-04/ # Fundamentals → SLMs → Deployment → Optimization
├── 🔧 Module05-06/ # SLMOps → AI Agents → Function Calling
├── 💻 Module07/ # Platform Samples (VS Code, Windows, Jetson, Mobile)
├── 🏭 Module08/ # Foundry Local Toolkit + 10 Comprehensive Samples
│ ├── samples/01-06/ # Foundation: REST, SDK, RAG, Agents, Routing
│ └── samples/07-10/ # Advanced: API Client, Windows App, Enterprise Agents, Tools
├── 🌐 translations/ # Multi-language support (8+ languages)
└── 📋 STUDY_GUIDE.md # Structured learning paths & time allocationकोर्स हाइलाइट्स
✅ प्रगतिशील सीखना: सिद्धांत → अभ्यास → प्रोडक्शन डिप्लॉयमेंट
✅ वास्तविक केस स्टडीज़: माइक्रोसॉफ्ट, जापान एयरलाइंस, उद्यम कार्यान्वयन
✅ हैंड्स-ऑन सैंपल्स: 50+ उदाहरण, 10 व्यापक Foundry Local डेमो
✅ प्रदर्शन फोकस: 85% गति सुधार, 75% आकार कमी
✅ मल्टी-प्लेटफ़ॉर्म: विंडोज़, मोबाइल, एम्बेडेड, क्लाउड-एज हाइब्रिड
✅ प्रोडक्शन रेडी: मॉनिटरिंग, स्केलिंग, सुरक्षा, अनुपालन फ्रेमवर्क
📖 अध्ययन मार्गदर्शिका उपलब्ध: 20 घंटे के संरचित सीखने का पथ जिसमें समय आवंटन मार्गदर्शन और आत्म-मूल्यांकन उपकरण शामिल हैं।
EdgeAI AI डिप्लॉयमेंट का भविष्य है: स्थानीय-प्रथम, गोपनीयता-संरक्षित, और प्रभावी। इन कौशलों में महारत हासिल करें और बुद्धिमान अनुप्रयोगों की अगली पीढ़ी बनाएं।
अन्य कोर्स
हमारी टीम अन्य कोर्स भी बनाती है! देखें:
LangChain
Azure / Edge / MCP / Agents
जनरेटिव AI सीरीज
-9333EA?style=for-the-badge&labelColor=E5E7EB&color=9333EA){kind=icon}
-C084FC?style=for-the-badge&labelColor=E5E7EB&color=C084FC){kind=icon}
-E879F9?style=for-the-badge&labelColor=E5E7EB&color=E879F9){kind=icon}
मुख्य सीखना
कोपाइलट सीरीज
सहायता प्राप्त करना
यदि आप अटके हुए हैं या AI ऐप्स बनाने के बारे में कोई प्रश्न हैं, तो जुड़ें:
यदि आपके पास उत्पाद प्रतिक्रिया या निर्माण के दौरान त्रुटियाँ हैं, तो जाएं:
अस्वीकरण:
यह दस्तावेज़ AI अनुवाद सेवा Co-op Translator का उपयोग करके अनूदित किया गया है। जबकि हम सटीकता के लिए प्रयासरत हैं, कृपया ध्यान दें कि स्वचालित अनुवाद में त्रुटियाँ या अशुद्धियाँ हो सकती हैं। मूल भाषा में मूल दस्तावेज़ को अधिकारिक स्रोत माना जाना चाहिए। महत्वपूर्ण जानकारी के लिए पेशेवर मानव अनुवाद की सिफारिश की जाती है। इस अनुवाद के उपयोग से उत्पन्न किसी भी गलतफहमी या गलत व्याख्या के लिए हम जिम्मेदार नहीं हैं।