Chapter 19
EdgeAI für Einsteiger
EdgeAI für Einsteiger
Folgen Sie diesen Schritten, um mit der Nutzung dieser Ressourcen zu beginnen:
- Forken Sie das Repository: Klicken Sie auf
- Klonen Sie das Repository:
git clone https://github.com/microsoft/edgeai-for-beginners.git - Treten Sie dem Azure AI Foundry Discord bei und treffen Sie Experten und Entwicklerkollegen
🌐 Mehrsprachige Unterstützung
Unterstützt über GitHub Action (Automatisch & Immer aktuell)
Arabisch | Bengalisch | Bulgarisch | Burmesisch (Myanmar) | Chinesisch (Vereinfacht) | Chinesisch (Traditionell, Hongkong) | Chinesisch (Traditionell, Macau) | Chinesisch (Traditionell, Taiwan) | Kroatisch | Tschechisch | Dänisch | Niederländisch | Estnisch | Finnisch | Französisch | Deutsch | Griechisch | Hebräisch | Hindi | Ungarisch | Indonesisch | Italienisch | Japanisch | Kannada | Khmer | Koreanisch | Litauisch | Malaysisch | Malayalam | Marathi | Nepalesisch | Nigerianisches Pidgin | Norwegisch | Persisch (Farsi) | Polnisch | Portugiesisch (Brasilien) | Portugiesisch (Portugal) | Punjabi (Gurmukhi) | Rumänisch | Russisch | Serbisch (Kyrillisch) | Slowakisch | Slowenisch | Spanisch | Suaheli | Schwedisch | Tagalog (Filipino) | Tamil | Telugu | Thailändisch | Türkisch | Ukrainisch | Urdu | Vietnamesisch
Möchten Sie lieber lokal klonen?
Dieses Repository enthält über 50 Sprachübersetzungen, was die Downloadgröße deutlich erhöht. Um ohne Übersetzungen zu klonen, verwenden Sie Sparse Checkout:
Bash / macOS / Linux:
bashgit clone --filter=blob:none --sparse https://github.com/microsoft/edgeai-for-beginners.git cd edgeai-for-beginners git sparse-checkout set --no-cone '/*' '!translations' '!translated_images'CMD (Windows):
cmdgit clone --filter=blob:none --sparse https://github.com/microsoft/edgeai-for-beginners.git cd edgeai-for-beginners git sparse-checkout set --no-cone "/*" "!translations" "!translated_images"So erhalten Sie alles, was Sie brauchen, um den Kurs abzuschließen, mit wesentlich schnellerem Download.
Wenn Sie zusätzliche Übersetzungen wünschen, werden unterstützte Sprachen hier aufgeführt.
Einführung
Willkommen bei EdgeAI für Einsteiger – Ihre umfassende Reise in die transformative Welt der Edge-Künstlichen Intelligenz. Dieser Kurs überbrückt die Lücke zwischen leistungsstarken KI-Fähigkeiten und praktischer, realer Bereitstellung auf Edge-Geräten und ermöglicht es Ihnen, das Potenzial von KI direkt dort zu nutzen, wo Daten erzeugt werden und Entscheidungen getroffen werden müssen.
Was Sie meistern werden
Dieser Kurs führt Sie von grundliegenden Konzepten bis hin zu produktionsreifen Implementierungen und behandelt:
- Kleine Sprachmodelle (SLMs), optimiert für den Einsatz am Edge
- Hardwarebewusste Optimierung über verschiedene Plattformen hinweg
- Echtzeit-Inferenz mit datenschutzwahrenden Funktionen
- Produktionsbereitstellung Strategien für Unternehmensanwendungen
Warum EdgeAI wichtig ist
Edge AI stellt einen Paradigmenwechsel dar, der kritische moderne Herausforderungen angeht:
- Datenschutz & Sicherheit: Verarbeitung sensibler Daten lokal ohne Cloud-Exposition
- Echtzeit-Leistung: Eliminierung von Netzwerklatenz für zeitkritische Anwendungen
- Kosteneffizienz: Reduzierung von Bandbreite und Cloud-Computing-Kosten
- Robuste Abläufe: Aufrechterhaltung der Funktionalität bei Netzwerkausfällen
- Einhaltung gesetzlicher Vorgaben: Erfüllung von Anforderungen an Datensouveränität
Edge AI
Edge AI bezeichnet das Ausführen von KI-Algorithmen und Sprachmodellen lokal auf Hardware, nahe am Ort der Datenerzeugung, ohne Cloud-Ressourcen für die Inferenz zu nutzen. Dies reduziert Latenz, verbessert den Datenschutz und ermöglicht Echtzeitentscheidungen.
Grundprinzipien:
- Inference auf dem Gerät: KI-Modelle laufen auf Edge-Geräten (Telefone, Router, Mikrocontroller, Industrie-PCs)
- Offline-Fähigkeit: Funktioniert ohne permanente Internetverbindung
- Niedrige Latenz: Sofortige Antworten, geeignet für Echtzeitsysteme
- Datensouveränität: Hält sensible Daten lokal, verbessert Sicherheit und Compliance
Kleine Sprachmodelle (SLMs)
SLMs wie Phi-4, Mistral-7B und Gemma sind optimierte Versionen größerer LLMs – trainiert oder destilliert für:
- Reduzierten Speicherbedarf: Effiziente Nutzung des begrenzten Speichers von Edge-Geräten
- Geringeren Rechenaufwand: Optimiert für CPU- und Edge-GPU-Leistung
- Schnellere Startzeiten: Schnelle Initialisierung für reaktive Anwendungen
Sie erschließen leistungsstarke NLP-Fähigkeiten und erfüllen gleichzeitig die Anforderungen von:
- Eingebetteten Systemen: IoT-Geräte und Industriecontroller
- Mobilgeräten: Smartphones und Tablets mit Offline-Fähigkeiten
- IoT-Geräten: Sensoren und intelligente Geräte mit begrenzten Ressourcen
- Edge-Servern: Lokale Verarbeitungseinheiten mit begrenzten GPU-Ressourcen
- Personal Computern: Desktop- und Laptop-Einsatzszenarien
Kursmodule & Navigation
| Modul | Thema | Fokusbereich | Hauptinhalte | Niveau | Dauer |
|---|---|---|---|---|---|
| 📖 00 | Einführung in EdgeAI | Grundlagen & Kontext | EdgeAI Überblick • Industrieanwendungen • Einführung SLM • Lernziele | Anfänger | 1-2 Std. |
| 📚 01 | EdgeAI Grundlagen | Vergleich Cloud vs Edge AI | EdgeAI Grundlagen • Praxisbeispiele • Implementierungsleitfaden • Edge-Bereitstellung | Anfänger | 3-4 Std. |
| 🧠 02 | SLM Modellgrundlagen | Modellfamilien & Architektur | Phi Familie • Qwen Familie • Gemma Familie • BitNET • μModel • Phi-Silica | Anfänger | 4-5 Std. |
| 🚀 03 | SLM Bereitstellungspraxis | Lokale & Cloud-Bereitstellung | Fortgeschrittenes Lernen • Lokale Umgebung • Cloud-Bereitstellung | Mittel | 4-5 Std. |
| ⚙️ 04 | Modelloptimierungs-Toolkit | Plattformübergreifende Optimierung | Einführung • Llama.cpp • Microsoft Olive • OpenVINO • Apple MLX • Workflow-Synthese | Mittel | 5-6 Std. |
| 🔧 05 | SLMOps Produktion | Produktionsbetrieb | SLMOps Einführung • Modelldestillation • Feinabstimmung • Produktionsbereitstellung | Fortgeschritten | 5-6 Std. |
| 🤖 06 | KI-Agenten & Funktionsaufruf | Agentenframeworks & MCP | Agenten Einführung • Funktionsaufruf • Model Context Protocol | Fortgeschritten | 4-5 Std. |
| 💻 07 | Plattformimplementation | Plattformübergreifende Beispiele | KI-Toolkit • Foundry Local • Windows-Entwicklung | Fortgeschritten | 3-4 Std. |
| 🏭 08 | Foundry Local Toolkit | Produktionsreife Beispiele | Beispielanwendungen (siehe Details unten) | Experte | 8-10 Std. |
🏭 Modul 08: Beispielanwendungen
- 01: REST Chat Schnellstart
- 02: OpenAI SDK Integration
- 03: Modellerkennung & Benchmarking
- 04: Chainlit RAG Anwendung
- 05: Multi-Agent Orchestrierung
- 06: Models-as-Tools Router
- 07: Direkt-API-Client
- 08: Windows 11 Chat-App
- 09: Fortgeschrittenes Multi-Agenten-System
- 10: Foundry Tools Framework
🎓 Workshop: Praxisorientierter Lernpfad
Umfassende Workshop-Materialien mit produktionsreifen Implementierungen:
- Workshop-Leitfaden - Vollständige Lernziele, Ergebnisse und Ressourcen-Navigation
- Python-Beispiele (6 Sitzungen) - Aktualisiert mit Best Practices, Fehlerbehandlung und umfassender Dokumentation
- Jupyter Notebooks (8 interaktive) - Schritt-für-Schritt Tutorials mit Benchmarking und Performance-Überwachung
- Sitzungs-Leitfäden - Detaillierte Markdown-Anleitungen für jede Workshopsitzung
- Validierungstools - Skripte zur Überprüfung der Codequalität und für Smoketests
Was Sie bauen werden:
- Lokale KI-Chat-Anwendungen mit Streaming-Unterstützung
- RAG-Pipelines mit Qualitätsbewertung (RAGAS)
- Multi-Modell-Benchmarking- und Vergleichswerkzeuge
- Multi-Agenten-Orchestrierungssysteme
- Intelligente Modellweiterleitung mit aufgabenbasierter Auswahl
🎙️ Workshop für Agentic: Praxis - Das AI Podcast Studio
Erstelle eine KI-gestützte Podcast-Produktionspipeline von Grund auf! Dieser intensive Workshop lehrt dich, ein komplettes Multi-Agenten-System zu erstellen, das Ideen in professionelle Podcast-Episoden verwandelt.
🎬 Starte den AI Podcast Studio Workshop
Deine Mission: Starte „Future Bytes“ – einen Tech-Podcast, der vollständig von KI-Agenten betrieben wird, die du selbst baust. Keine Cloud-Abhängigkeiten, keine API-Kosten – alles läuft lokal auf deinem Rechner.
Was das Einzigartig macht:
- 🤖 Echte Multi-Agenten-Orchestrierung – Baue spezialisierte KI-Agenten, die recherchieren, schreiben und Audio produzieren
- 🎯 Komplette Produktionspipeline – Von der Themenauswahl bis zur finalen Podcast-Audiodatei
- 💻 100 % Lokale Bereitstellung – Nutzt Ollama und lokale Modelle (Qwen-3-8B) für volle Privatsphäre und Kontrolle
- 🎤 Text-zu-Sprache-Integration – Verwandle Skripte in natürlich klingende Mehrsprecher-Gespräche
- ✋ Mensch-im-Loop-Workflows – Freigabestufen sichern Qualität bei voller Automatisierung
Drei-Akt-Lernreise:
| Akt | Fokus | Kernkompetenzen | Dauer |
|---|---|---|---|
| Akt 1: Lerne deine KI-Assistenten kennen | Baue deinen ersten KI-Agenten | Tool-Integration • Websuche • Problemlösung • Agentenlogik | 2-3 Std. |
| Akt 2: Stelle dein Produktionsteam zusammen | Orchestriere mehrere Agenten | Teamkoordination • Freigabe-Workflows • DevUI-Schnittstelle • Menschliche Überwachung | 3-4 Std. |
| Akt 3: Erwecke deinen Podcast zum Leben | Erzeuge Podcast-Audio | Text-zu-Sprache • Mehrsprecher-Synthese • Langform-Audio • Volle Automatisierung | 2-3 Std. |
Verwendete Technologien:
- Microsoft Agent Framework – Multi-Agenten-Orchestrierung und Koordination
- Ollama – Lokale KI-Modell-Laufzeit (keine Cloud erforderlich)
- Qwen-3-8B – Open-Source-Sprachmodell, optimiert für agentenbasierte Aufgaben
- Text-zu-Sprache-APIs – Natürliche Sprachsynthese für Podcast-Erstellung
Hardware-Unterstützung:
- ✅ CPU-Modus – Läuft auf jedem modernen Computer (8GB+ RAM empfohlen)
- 🚀 GPU-Beschleunigung – Signifikant schnellere Inferenz mit NVIDIA/AMD-GPUs
- ⚡ NPU-Unterstützung – Beschleunigung durch Neural Processing Units der nächsten Generation
Ideal für:
- Entwickler, die Multi-Agenten-KI-Systeme lernen möchten
- Alle, die sich für KI-Automatisierung und Workflows interessieren
- Content-Ersteller, die KI-gestützte Produktion erkunden
- Studierende, die praktische KI-Orchestrierungsmuster studieren
Starte den Bau: 🎙️ Der AI Podcast Studio Workshop →
📊 Lernpfad-Zusammenfassung
- Gesamtdauer: 36-45 Stunden
- Einsteigerpfad: Module 01-02 (7-9 Stunden)
- Fortgeschrittenenpfad: Module 03-04 (9-11 Stunden)
- Expertenpfad: Module 05-07 (12-15 Stunden)
- Profi-Pfad: Modul 08 (8-10 Stunden)
Was du bauen wirst
🎯 Kernkompetenzen
- Edge KI-Architektur: Entwerfe lokal-fokussierte KI-Systeme mit Cloud-Integration
- Modelloptimierung: Quantisierung und Komprimierung für Edge-Bereitstellung (85 % schnellere Ausführung, 75 % kleinere Modelle)
- Multi-Plattform-Bereitstellung: Windows, Mobilgeräte, Embedded und Cloud-Edge-Hybride
- Produktionsbetrieb: Monitoring, Skalierung und Wartung von Edge AI im Einsatz
🏗️ Praktische Projekte
- Foundry Local Chat Apps: Windows 11 native Anwendung mit Modell-Auswahl
- Multi-Agenten-Systeme: Koordinator mit Spezialistenagenten für komplexe Workflows
- RAG-Anwendungen: Lokale Dokumentenbearbeitung mit Vektorsuche
- Modell-Router: Intelligente Auswahl zwischen Modellen basierend auf Aufgabenanalyse
- API-Frameworks: Produktionsfertige Clients mit Streaming und Gesundheitsüberwachung
- Cross-Plattform-Tools: Integrationsmuster für LangChain/Semantic Kernel
🏢 Branchenanwendungen
Fertigung • Gesundheitswesen • Autonome Fahrzeuge • Smart Cities • Mobile Apps
Schnellstart
Empfohlener Lernpfad (insgesamt 20-30 Stunden):
- 📖 Einführung (Introduction.md): EdgeAI Grundlagen + Branchenkontext + Lernframework
- 📚 Grundlagen (Module 01-02): EdgeAI Konzepte + SLM Modellfamilien
- ⚙️ Optimierung (Module 03-04): Deployment- und Quantisierungs-Frameworks
- 🚀 Produktion (Module 05-06): SLMOps + KI-Agenten + Funktionsaufrufe
- 💻 Umsetzung (Module 07-08): Plattformbeispiele + Foundry Local Toolkit
Jedes Modul beinhaltet Theorie, praktische Übungen und produktionsbereite Codebeispiele.
Karriereauswirkung
Technische Rollen: EdgeAI Lösungsarchitekt • ML-Ingenieur (Edge) • IoT KI-Entwickler • Mobile KI-Entwickler
Branchenbereiche: Fertigung 4.0 • Gesundheitstechnologie • Autonome Systeme • FinTech • Unterhaltungselektronik
Portfolio-Projekte: Multi-Agenten-Systeme • Produktionsreife RAG-Apps • Cross-Plattform-Bereitstellung • Performance-Optimierung
Repository-Struktur
edgeai-for-beginners/
├── 📖 introduction.md # Foundation: EdgeAI Overview & Learning Framework
├── 📚 Module01-04/ # Fundamentals → SLMs → Deployment → Optimization
├── 🔧 Module05-06/ # SLMOps → AI Agents → Function Calling
├── 💻 Module07/ # Platform Samples (VS Code, Windows, Jetson, Mobile)
├── 🏭 Module08/ # Foundry Local Toolkit + 10 Comprehensive Samples
│ ├── samples/01-06/ # Foundation: REST, SDK, RAG, Agents, Routing
│ └── samples/07-10/ # Advanced: API Client, Windows App, Enterprise Agents, Tools
├── 🌐 translations/ # Multi-language support (8+ languages)
└── 📋 STUDY_GUIDE.md # Structured learning paths & time allocationKurs-Highlights
✅ Progressives Lernen: Theorie → Praxis → Produktion
✅ Echte Fallstudien: Microsoft, Japan Airlines, Unternehmensimplementierungen
✅ Handlungsorientierte Beispiele: 50+ Beispiele, 10 umfassende Foundry Local Demos
✅ Performance-Fokus: 85 % schnellere Ausführung, 75 % kleinere Modelle
✅ Multi-Plattform: Windows, Mobilgeräte, Embedded, Cloud-Edge-Hybrid
✅ Produktionsbereit: Monitoring, Skalierung, Sicherheit, Compliance-Frameworks
📖 Studienführer verfügbar: Strukturierter 20-Stunden-Lernpfad mit Zeitangaben und Selbstbewertungstools.
EdgeAI repräsentiert die Zukunft der KI-Bereitstellung: lokal-first, datenschutzbewusst und effizient. Meistere diese Fähigkeiten, um die nächste Generation intelligenter Anwendungen zu bauen.
Weitere Kurse
Unser Team produziert weitere Kurse! Schau dir an:
LangChain
Azure / Edge / MCP / Agents
Generative KI-Serie
-9333EA?style=for-the-badge&labelColor=E5E7EB&color=9333EA){kind=icon}
-C084FC?style=for-the-badge&labelColor=E5E7EB&color=C084FC){kind=icon}
-E879F9?style=for-the-badge&labelColor=E5E7EB&color=E879F9){kind=icon}
Kernkompetenzen
Copilot-Serie
Hilfe erhalten
Wenn Sie nicht weiterkommen oder Fragen zum Erstellen von KI-Anwendungen haben, treten Sie bei:
Wenn Sie Produktfeedback oder Fehler beim Erstellen haben, besuchen Sie:
Haftungsausschluss:
Dieses Dokument wurde mit dem KI-Übersetzungsdienst Co-op Translator übersetzt. Obwohl wir uns um Genauigkeit bemühen, bitten wir zu beachten, dass automatisierte Übersetzungen Fehler oder Ungenauigkeiten enthalten können. Das Originaldokument in seiner Ursprungssprache gilt als die maßgebliche Quelle. Für wichtige Informationen wird eine professionelle menschliche Übersetzung empfohlen. Wir übernehmen keine Haftung für Missverständnisse oder Fehlinterpretationen, die sich aus der Nutzung dieser Übersetzung ergeben.