Chapter 55
EdgeAI för nybörjare
EdgeAI för nybörjare

Följ dessa steg för att komma igång med att använda dessa resurser:
- Fork:a arkivet: Klicka
- Klona arkivet:
git clone https://github.com/microsoft/edgeai-for-beginners.git - Gå med i Azure AI Foundry Discord för att träffa experter och andra utvecklare
🌐 Fler-språkigt stöd
Stöds via GitHub Action (Automatiserat & Alltid Uppdaterat)
Arabiska | Bengali | Bulgarska | Burmese (Myanmar) | Kinesiska (Förenklad) | Kinesiska (Traditionell, Hong Kong) | Kinesiska (Traditionell, Macau) | Kinesiska (Traditionell, Taiwan) | Kroatiska | Tjeckiska | Danska | Holländska | Estniska | Finska | Franska | Tyska | Grekiska | Hebreiska | Hindi | Ungerska | Indonesiska | Italienska | Japanska | Kannada | Khmer | Koreanska | Litauiska | Malajiska | Malayalam | Marathi | Nepali | Nigeriansk Pidgin | Norska | Persiska (Farsi) | Polska | Portugisiska (Brasilien) | Portugisiska (Portugal) | Punjabi (Gurmukhi) | Rumänska | Ryska | Serbiska (Kyrilliska) | Slovakiska | Slovenska | Spanska | Swahili | Svenska | Tagalog (Filippinska) | Tamil | Telugu | Thailändska | Turkiska | Ukrainska | Urdu | Vietnamesiska
Föredrar du att klona lokalt?
Detta arkiv innehåller över 50 språköversättningar som avsevärt ökar nedladdningsstorleken. För att klona utan översättningar, använd sparsam utcheckning:
Bash / macOS / Linux:
bashgit clone --filter=blob:none --sparse https://github.com/microsoft/edgeai-for-beginners.git cd edgeai-for-beginners git sparse-checkout set --no-cone '/*' '!translations' '!translated_images'CMD (Windows):
cmdgit clone --filter=blob:none --sparse https://github.com/microsoft/edgeai-for-beginners.git cd edgeai-for-beginners git sparse-checkout set --no-cone "/*" "!translations" "!translated_images"Detta ger dig allt du behöver för att slutföra kursen med en mycket snabbare nedladdning.
Om du vill ha ytterligare översättningsspråk stöds de listade här
Introduktion
Välkommen till EdgeAI för nybörjare – din omfattande resa in i den transformerande världen av Edge Artificiell Intelligens. Den här kursen överbryggar klyftan mellan kraftfulla AI-möjligheter och praktisk, verklig användning på edge-enheter, och ger dig möjlighet att utnyttja AI:s potential direkt där data genereras och beslut måste fattas.
Vad Du Kommer Behärska
Denna kurs tar dig från grundläggande koncept till produktionsklara implementationer, och täcker:
- Små språkmodeller (SLMs) optimerade för edge-distribution
- Hårdvaru-medveten optimering över olika plattformar
- Real-tidsinferens med integritetsbevarande kapacitet
- Strategier för produktionsdistribution för företagsanvändningar
Varför EdgeAI är Viktigt
Edge AI representerar ett paradigmskifte som hanterar viktiga moderna utmaningar:
- Integritet & Säkerhet: Bearbeta känslig data lokalt utan molnexponering
- Prestanda i realtid: Eliminera nätverkslatens för tidkritiska applikationer
- Kostnadseffektivitet: Minska bandbredd och molndatakostnader
- Robust drift: Upprätthåll funktionalitet vid nätverksavbrott
- Reglerings efterlevnad: Uppfyll krav på datasuveränitet
Edge AI
Edge AI avser att köra AI-algoritmer och språkmodeller lokalt på hårdvara, nära där data genereras utan att förlita sig på molnresurser för inferens. Det minskar latens, förbättrar integriteten och möjliggör beslut i realtid.
Kärnprinciper:
- Inferens på enheten: AI-modeller körs på edge-enheter (telefoner, routrar, mikrokontroller, industri-PC:er)
- Offline-förmåga: Fungerar utan stadig internetuppkoppling
- Låg latens: Omedelbara svar anpassade för realtidssystem
- Datasuveränitet: Håller känslig data lokal, vilket förbättrar säkerhet och efterlevnad
Små Språkmodeller (SLMs)
SLMs som Phi-4, Mistral-7B och Gemma är optimerade versioner av större LLMs – tränade eller destillerade för:
- Minskat minnesavtryck: Effektiv användning av begränsat minne på edge-enheter
- Lägre beräkningsbehov: Optimerade för CPU- och edge GPU-prestanda
- Snabbare uppstartstider: Snabb initialisering för responsiva applikationer
De öppnar kraftfulla NLP-funktioner samtidigt som de möter begränsningarna för:
- Inbyggda system: IoT-enheter och industriella styrsystem
- Mobila enheter: Smartphones och surfplattor med offline-funktionalitet
- IoT-enheter: Sensorer och smarta enheter med begränsade resurser
- Edge-servrar: Lokala bearbetningsenheter med begränsade GPU-resurser
- Persondatorer: Stationära och bärbara datorer i distributionsscenarier
Kursmoduler & Navigering
| Modul | Ämne | Fokusområde | Nyckelinnehåll | Nivå | Varaktighet |
|---|---|---|---|---|---|
| 📖 00 | Introduktion till EdgeAI | Grund & Kontext | EdgeAI Översikt • Branschapplikationer • SLM-introduktion • Lärandemål | Nybörjare | 1-2 tim |
| 📚 01 | Grundläggande EdgeAI | Jämförelse moln vs edge AI | EdgeAI Grunder • Verkliga fallstudier • Implementeringsguide • Edge-distribution | Nybörjare | 3-4 tim |
| 🧠 02 | SLM Modellgrunder | Modellfamiljer & arkitektur | Phi-familjen • Qwen-familjen • Gemma-familjen • BitNET • μModel • Phi-Silica | Nybörjare | 4-5 tim |
| 🚀 03 | SLM-distribution praktik | Lokal & moln-distribution | Avancerat lärande • Lokal miljö • Moln-distribution | Mellanliggande | 4-5 tim |
| ⚙️ 04 | Verktyg för modelloptimering | Plattform-överskridande optimering | Introduktion • Llama.cpp • Microsoft Olive • OpenVINO • Apple MLX • Arbetsflödessyntes | Mellanliggande | 5-6 tim |
| 🔧 05 | SLMOps produktion | Produktionsdrift | SLMOps introduktion • Modelldestillering • Finjustering • Produktionsdistribution | Avancerad | 5-6 tim |
| 🤖 06 | AI-agenter & Funktionsanrop | Agentramverk & MCP | Agentintroduktion • Funktionsanrop • Modellkontextprotokoll | Avancerad | 4-5 tim |
| 💻 07 | Plattformsimplementation | Plattformexempel | AI Toolkit • Foundry Local • Windows-utveckling | Avancerad | 3-4 tim |
| 🏭 08 | Foundry Local Toolkit | Produktions-exempel | Exempelapplikationer (se nedan) | Expert | 8-10 tim |
🏭 Modul 08: Exempelapplikationer
- 01: REST Chat Kom-igång
- 02: OpenAI SDK-integration
- 03: Modellupptäckt & Benchmarking
- 04: Chainlit RAG-applikation
- 05: Multi-agentorkestrering
- 06: Modeller-som-verktyg-router
- 07: Direkt API-klient
- 08: Windows 11 chatt-app
- 09: Avancerat multi-agent system
- 10: Foundry Tools Framework
🎓 Workshop: Praktisk inlärningsväg
Omfattande praktiska workshopmaterial med produktionsklara implementationer:
- Workshop-guide - Kompletta lärandemål, resultat och resursnavigering
- Python-exempel (6 sessioner) - Uppdaterade med bästa praxis, felhantering och omfattande dokumentation
- Jupyter-notebooks (8 interaktiva) - Steg-för-steg-handledningar med benchmark och prestandaövervakning
- Sessionsguider - Detaljerade markdown-guider för varje workshop-session
- Valideringsverktyg - Skript för att verifiera kodkvalitet och köra röktester
Vad Du Kommer Bygga:
- Lokala AI-chattapplikationer med streaming-stöd
- RAG-pipelines med kvalitetsutvärdering (RAGAS)
- Multi-modell benchmark och jämförelseverktyg
- Multi-agent orkestreringssystem
- Intelligent modellroutning med uppgiftsbaserat val
🎙️ Workshop För Agentic: Praktiskt - AI Podcast Studio
Bygg en AI-driven podcastproduktionspipeline från grunden! Denna immersiva workshop lär dig skapa ett komplett multi-agent system som förvandlar idéer till professionella podcastepisoder.
🎬 Starta AI Podcast Studio Workshop
Ditt uppdrag: Lansera "Future Bytes" — en teknikpodcast som drivs helt av AI-agenter du själv bygger. Inga molnberoenden, inga API-kostnader — allt körs lokalt på din maskin.
Vad som gör detta unikt:
- 🤖 Verklig multi-agent orkestrering - Bygg specialiserade AI-agenter som forskar, skriver och producerar ljud
- 🎯 Komplett produktionspipeline - Från ämnesval till slutgiltig podcastljudsproduktion
- 💻 100% Lokal distribution - Använder Ollama och lokala modeller (Qwen-3-8B) för full integritet och kontroll
- 🎤 Text-till-tal integration - Förvandla manus till naturligt klingande flerpersonssamtal
- ✋ Mänsklig-in-the-loop arbetsflöden - Godkännandepunkter säkerställer kvalitet samtidigt som automatiseringen bibehålls
Tre-akters lärupplevelse:
| Akt | Fokus | Nyckelfärdigheter | Varaktighet |
|---|---|---|---|
| Akt 1: Möt dina AI-assistenter | Bygg din första AI-agent | Verktygsintegration • Webb-sökning • Problemlösning • Agentiskt resonemang | 2-3 tim |
| Akt 2: Sätt ihop ditt produktionsteam | Orkestrera flera agenter | Teamkoordination • Godkännande-flöden • DevUI-gränssnitt • Mänsklig tillsyn | 3-4 tim |
| Akt 3: Ge liv åt din podcast | Generera podcastljud | Text-till-tal • Flerpersonssyntes • Långformat ljud • Fullständig automatisering | 2-3 tim |
Använda teknologier:
- Microsoft Agent Framework - Multi-agent orkestrering och koordinering
- Ollama - Lokal AI-modell runtime (inget moln behövs)
- Qwen-3-8B - Öppen källkod språkmodell optimerad för agentiska uppgifter
- Text-till-tal API:er - Naturlig röstsynthes för podcastgenerering
Hårdvarustöd:
- ✅ CPU-läge - Fungerar på vilken modern dator som helst (8GB+ RAM rekommenderas)
- 🚀 GPU-acceleration - Betydligt snabbare inferens med NVIDIA/AMD GPU:er
- ⚡ NPU-stöd - Nästa generations neuralt processorenhets-acceleration
Perfekt för:
- Utvecklare som lär sig multi-agent AI-system
- Alla intresserade av AI-automatisering och arbetsflöden
- Innehållsskapare som utforskar AI-assisterad produktion
- Studenter som studerar praktiska AI-orkestreringsmönster
Börja bygga: 🎙️ AI Podcast Studio Workshop →
📊 Sammanfattning av lärväg
- Total varaktighet: 36-45 timmar
- Nybörjarväg: Moduler 01-02 (7-9 timmar)
- Mellanväg: Moduler 03-04 (9-11 timmar)
- Avancerad väg: Moduler 05-07 (12-15 timmar)
- Expertväg: Modul 08 (8-10 timmar)
Vad du kommer att bygga
🎯 Kärnkompetenser
- Edge AI-arkitektur: Designa lokalt-först AI-system med molnintegration
- Modelloptimering: Kvantisera och komprimera modeller för edge-distribution (85% snabbare, 75% mindre)
- Multi-plattformsdistribution: Windows, mobilt, inbyggt och moln-edge hybrider
- Produktionsverksamhet: Övervakning, skalning och underhåll av edge AI i produktion
🏗️ Praktiska projekt
- Foundry Local Chat-appar: Windows 11-native app med modellväxling
- Multi-agent system: Koordinator med specialistagenter för komplexa arbetsflöden
- RAG-applikationer: Lokal dokumenthantering med vektorsökning
- Modellruttrar: Intelligent val mellan modeller baserat på uppgiftsanalys
- API-ramverk: Produktionsklara klienter med strömning och hälsokontroll
- Korsplattformverktyg: LangChain/Semantic Kernel integrationsmönster
🏢 Branschapplikationer
Tillverkning • Vård • Autonoma fordon • Smarta städer • Mobilappar
Snabbstart
Rekommenderad lärväg (20-30 timmar totalt):
- 📖 Introduktion (Introduction.md): EdgeAI-grunder + branschkontext + lärandets ramverk
- 📚 Grund (Moduler 01-02): EdgeAI-koncept + SLM-modellfamiljer
- ⚙️ Optimering (Moduler 03-04): Distribution + kvantiseringsramverk
- 🚀 Produktion (Moduler 05-06): SLMOps + AI-agenter + funktionsanrop
- 💻 Implementering (Moduler 07-08): Plattformsexempel + Foundry Local toolkit
Varje modul innehåller teori, praktiska övningar och produktionsklara kodexempel.
Karriäreffekt
Tekniska roller: EdgeAI-lösningsarkitekt • ML-ingenjör (Edge) • IoT AI-utvecklare • Mobil AI-utvecklare
Branscher: Tillverkning 4.0 • Vårdteknik • Autonoma system • FinTech • Konsumentelektronik
Portföljprojekt: Multi-agent system • Produktions-RAG-appar • Korsplattformdistribution • Prestandaoptimering
Repositorie-struktur
edgeai-for-beginners/
├── 📖 introduction.md # Foundation: EdgeAI Overview & Learning Framework
├── 📚 Module01-04/ # Fundamentals → SLMs → Deployment → Optimization
├── 🔧 Module05-06/ # SLMOps → AI Agents → Function Calling
├── 💻 Module07/ # Platform Samples (VS Code, Windows, Jetson, Mobile)
├── 🏭 Module08/ # Foundry Local Toolkit + 10 Comprehensive Samples
│ ├── samples/01-06/ # Foundation: REST, SDK, RAG, Agents, Routing
│ └── samples/07-10/ # Advanced: API Client, Windows App, Enterprise Agents, Tools
├── 🌐 translations/ # Multi-language support (8+ languages)
└── 📋 STUDY_GUIDE.md # Structured learning paths & time allocationKursens höjdpunkter
✅ Progressivt lärande: Teori → Praktik → Produktionsdistribution
✅ Verkliga fallstudier: Microsoft, Japan Airlines, företagsimplementeringar
✅ Praktiska exempel: 50+ exempel, 10 omfattande Foundry Local-demonstrationer
✅ Prestandafokus: 85% snabbare, 75% minskning i storlek
✅ Multi-plattform: Windows, mobilt, inbyggt, moln-edge hybrid
✅ Produktionsklart: Övervakning, skalning, säkerhet, regelefterlevnadsramverk
📖 Studiehandledning tillgänglig: Strukturerad 20-timmars lärväg med tidfördelning och självbedömningsverktyg.
EdgeAI representerar framtiden för AI-distribution: lokalt-först, integritetsbevarande och effektivt. Bemästra dessa färdigheter för att bygga nästa generations intelligenta applikationer.
Andra kurser
Vårt team producerar fler kurser! Kolla in:
LangChain
Azure / Edge / MCP / Agenter
Generativ AI-serie
Kärnlärande
Copilot-serie
Få Hjälp
Om du fastnar eller har några frågor om att bygga AI-appar, gå med i:
Om du har produktfeedback eller fel medan du bygger, besök:
Ansvarsfriskrivning: Detta dokument har översatts med hjälp av AI-översättningstjänsten Co-op Translator. Även om vi strävar efter noggrannhet, bör du vara medveten om att automatiska översättningar kan innehålla fel eller brister. Det ursprungliga dokumentet på dess modersmål bör betraktas som den auktoritativa källan. För viktig information rekommenderas professionell mänsklig översättning. Vi ansvarar inte för några missförstånd eller feltolkningar som uppstår från användningen av denna översättning.
