Chapter 29
EdgeAI za početnike
EdgeAI za početnike

Slijedite ove korake da biste započeli s korištenjem ovih resursa:
- Napravite fork repozitorija: Click
- Klonirajte repozitorij:
git clone https://github.com/microsoft/edgeai-for-beginners.git - Pridružite se Azure AI Foundry Discordu i upoznajte stručnjake i kolege developere
🌐 Višejezična podrška
Podržano putem GitHub Actiona (Automatski & Uvijek ažurirano)
Arapski | Bengalski | Bugarski | Burmanski (Myanmar) | Kineski (pojednostavljeni) | Kineski (tradicionalni, Hong Kong) | Kineski (tradicionalni, Macau) | Kineski (tradicionalni, Taiwan) | Hrvatski | Češki | Danski | Nizozemski | Estonski | Finski | Francuski | Njemački | Grčki | Hebrejski | Hindi | Mađarski | Indonezijski | Talijanski | Japanski | Kannada | Kmerski | Korejski | Litavski | Malezijski | Malayalam | Marathi | Nepalski | Nigerijski Pidgin | Norveški | Perzijski (Farsi) | Poljski | Portugalski (Brazil) | Portugalski (Portugal) | Punjabski (Gurmukhi) | Rumunjski | Ruski | Srpski (ćirilica) | Slovački | Slovenski | Španjolski | Svahili | Švedski | Tagalog (filipinski) | Tamilski | Telugu | Tajlandski | Turski | Ukrajinski | Urdu | Vijetnamski
Radije klonirati lokalno?
Ovo spremište uključuje više od 50 prijevoda jezika što značajno povećava veličinu preuzimanja. Za kloniranje bez prijevoda koristite sparse checkout:
Bash / macOS / Linux:
bashgit clone --filter=blob:none --sparse https://github.com/microsoft/edgeai-for-beginners.git cd edgeai-for-beginners git sparse-checkout set --no-cone '/*' '!translations' '!translated_images'CMD (Windows):
cmdgit clone --filter=blob:none --sparse https://github.com/microsoft/edgeai-for-beginners.git cd edgeai-for-beginners git sparse-checkout set --no-cone "/*" "!translations" "!translated_images"Ovo vam daje sve što je potrebno za dovršetak tečaja s puno bržim preuzimanjem.
Ako želite da budu podržani dodatni jezici prijevoda, oni su navedeni ovdje
Uvod
Dobrodošli u EdgeAI za početnike – vaše sveobuhvatno putovanje u transformativni svijet rubne umjetne inteligencije. Ovaj tečaj premošćuje jaz između moćnih AI mogućnosti i praktičnog, stvarnog razmještaja na edge uređajima, omogućujući vam da iskoristite potencijal AI-a izravno ondje gdje se podaci generiraju i gdje je potrebno donositi odluke.
Što ćete svladati
Ovaj tečaj vodi vas od temeljnih pojmova do implementacija spremnih za produkciju, pokrivajući:
- Mali jezični modeli (SLM-ovi) optimizirani za razmještaj na rubu
- Optimizacija prilagođena hardveru na različitim platformama
- Zaključivanje u stvarnom vremenu s mogućnostima očuvanja privatnosti
- Strategije implementacije u produkciju za enterprise aplikacije
Zašto je EdgeAI važan
Edge AI predstavlja paradigmu koja rješava ključne suvremene izazove:
- Privatnost i sigurnost: Obradite osjetljive podatke lokalno bez izlaganja u oblaku
- Performanse u stvarnom vremenu: Uklonite latenciju mreže za aplikacije osjetljive na vrijeme
- Učinkovitost troškova: Smanjite propusnost i troškove računanja u oblaku
- Otpornost u radu: Održava funkcionalnost tijekom prekida mreže
- Usklađenost s propisima: Ispunite zahtjeve za suverenitet podataka
Edge AI
Edge AI odnosi se na izvođenje AI algoritama i jezičnih modela lokalno na hardveru, blizu mjesta gdje se podaci generiraju, bez oslanjanja na oblačne resurse za zaključivanje. Smanjuje latenciju, poboljšava privatnost i omogućuje donošenje odluka u stvarnom vremenu.
Temeljna načela:
- Zaključivanje na uređaju: AI modeli rade na uređajima na rubu (telefoni, ruteri, mikrokontroleri, industrijska računala)
- Rad bez stalne internetske veze: Funkcionira bez stalne internetske povezanosti
- Niska latencija: Trenutačni odgovori prikladni za sustave u stvarnom vremenu
- Suverenitet podataka: Drži osjetljive podatke lokalno, poboljšavajući sigurnost i usklađenost
Mali jezični modeli (SLM-ovi)
SLM-ovi poput Phi-4, Mistral-7B i Gemma optimizirane su verzije većih LLM-ova—trenirane ili destilirane za:
- Smanjeni memorijski otisak: Učinkovito korištenje ograničene memorije edge uređaja
- Niže zahtjeve za računanjem: Optimizirano za CPU i performanse edge GPU-a
- Brže vrijeme pokretanja: Brzo inicijaliziranje za reaktivne aplikacije
Oni otključavaju moćne NLP sposobnosti dok zadovoljavaju ograničenja:
- Ugrađeni sustavi: IoT uređaji i industrijski kontroleri
- Mobilni uređaji: Pametni telefoni i tableti s mogućnostima rada offline
- IoT uređaji: Senzori i pametni uređaji s ograničenim resursima
- Edge serveri: Lokalne procesorske jedinice s ograničenim GPU resursima
- Osobna računala: Scenariji razmještaja na stolnim i prijenosnim računalima
Moduli tečaja i navigacija
| Modul | Tema | Područje fokusa | Ključni sadržaj | Razina | Trajanje |
|---|---|---|---|---|---|
| 📖 00 | Uvod u EdgeAI | Osnove i kontekst | Pregled EdgeAI • Primjene u industriji • Uvod u SLM • Ciljevi učenja | Početnik | 1-2 sata |
| 📚 01 | Osnove EdgeAI | Usporedba oblaka i Edge AI | Osnove EdgeAI • Studije slučaja iz stvarnog svijeta • Vodič za implementaciju • Razmještaj na rubu | Početnik | 3-4 sata |
| 🧠 02 | Osnove SLM modela | Obitelji modela i arhitektura | Phi Family • Qwen Family • Gemma Family • BitNET • μModel • Phi-Silica | Početnik | 4-5 sata |
| 🚀 03 | Praksa razmještaja SLM-a | Lokalni i oblačni razmještaj | Napredno učenje • Lokalno okruženje • Razmještaj u oblaku | Srednja razina | 4-5 sata |
| ⚙️ 04 | Alati za optimizaciju modela | Optimizacija za više platformi | Uvod • Llama.cpp • Microsoft Olive • OpenVINO • Apple MLX • Sinteza radnog tijeka | Srednja razina | 5-6 sati |
| 🔧 05 | SLMOps u produkciji | Operacije u produkciji | Uvod u SLMOps • Destilacija modela • Fino podešavanje • Razmještaj u produkciji | Napredno | 5-6 sati |
| 🤖 06 | AI agenti i pozivanje funkcija | Okviri agenata i MCP | Uvod u agente • Pozivanje funkcija • Protokol konteksta modela | Napredno | 4-5 sata |
| 💻 07 | Implementacija platforme | Primjeri za više platformi | AI alatni paket • Foundry Local • Razvoj za Windows | Napredno | 3-4 sata |
| 🏭 08 | Foundry Local alatni paket | Primjeri spremni za produkciju | Primjer aplikacija (vidi detalje dolje) | Ekspert | 8-10 sati |
🏭 Modul 08: Primjeri aplikacija
- 01: REST Chat Brzi početak
- 02: Integracija OpenAI SDK-a
- 03: Otkrivanje modela i benchmarkiranje
- 04: Chainlit RAG aplikacija
- 05: Orkestracija više agenata
- 06: Usmjerivač modela kao alata
- 07: Izravni API klijent
- 08: Chat aplikacija za Windows 11
- 09: Napredni sustav više agenata
- 10: Okvir Foundry alata
🎓 Radionica: Praktični put učenja
Sveobuhvatni materijali radionice s praktičnim primjerima spremnim za produkciju:
- Vodič radionice - Kompletni ciljevi učenja, ishodi i navigacija resursa
- Python primjeri (6 sesija) - Ažurirano s najboljim praksama, rukovanjem pogreškama i sveobuhvatnom dokumentacijom
- Jupyter bilježnice (8 interaktivnih) - Korak-po-korak tutorijali s benchmarkovima i praćenjem performansi
- Vodiči za sesije - Detaljni markdown vodiči za svaku radionicu
- Alati za validaciju - Skripte za provjeru kvalitete koda i pokretanje osnovnih testova
Što ćete izgraditi:
- Lokalni AI chat programi s podrškom za streamanje
- RAG pipelineovi s evaluacijom kvalitete (RAGAS)
- Alati za benchmarkiranje i usporedbu više modela
- Sustavi za orkestraciju više agenata
- Inteligentno usmjeravanje modela s odabirom temeljenim na zadacima
🎙️ Radionica za Agentic: Praktično - AI Podcast Studio
Build an AI-powered podcast production pipeline from scratch! This immersive workshop teaches you to create a complete multi-agent system that transforms ideas into professional podcast episodes.
🎬 Pokreni radionicu AI Podcast Studio
Tvoja misija: Pokreni "Future Bytes" — tehnološki podcast u potpunosti pokretan AI agentima koje ćeš sam izgraditi. Nema ovisnosti o oblaku, nema troškova API-ja — sve radi lokalno na tvom računalu.
Što ovo čini jedinstvenim:
- 🤖 Prava orkestracija više agenata - Izgradi specijalizirane AI agente koji istražuju, pišu i proizvode audio
- 🎯 Potpun proizvodni pipeline - Od odabira teme do završnog podcast audio izlaza
- 💻 100% lokalno raspoređivanje - Koristi Ollama i lokalne modele (Qwen-3-8B) za potpunu privatnost i kontrolu
- 🎤 Integracija teksta u govor - Pretvori scenarije u prirodno zvučeće razgovore s više govornika
- ✋ Radni tokovi s ljudskim nadzorom - Kontrolne točke za odobrenje osiguravaju kvalitetu uz održavanje automatizacije
Put učenja u tri čina:
| Act | Focus | Key Skills | Duration |
|---|---|---|---|
| Čin 1: Upoznajte svoje AI asistente | Izgradi svog prvog AI agenta | Integracija alata • Web pretraživanje • Rješavanje problema • Agentno rezoniranje | 2-3 hrs |
| Čin 2: Sastavi svoj proizvodni tim | Orkestriraj više agenata | Koordinacija tima • Radni tokovi odobrenja • DevUI sučelje • Ljudski nadzor | 3-4 hrs |
| Čin 3: Oživite svoj podcast | Generiraj podcast audio | Tekst-u-govor • Sintetiziranje s više govornika • Duži audio formati • Potpuna automatizacija | 2-3 hrs |
Tehnologije koje se koriste:
- Microsoft Agent Framework - Orkestracija i koordinacija više agenata
- Ollama - Lokalno runtime okruženje za AI model (nije potreban oblak)
- Qwen-3-8B - Open-source jezični model optimiziran za agentne zadatke
- Text-to-Speech APIs - Prirodna sinteza glasa za generiranje podcasta
Podrška hardvera:
- ✅ CPU način rada - Radi na bilo kojem modernom računalu (preporučeno 8GB+ RAM)
- 🚀 GPU ubrzanje - Značajno brže izvođenje s NVIDIA/AMD GPU-ima
- ⚡ Podrška za NPU - Ubrzanje s novim jedinicama za neuronsku obradu
Idealan za:
- Programere koji uče o sustavima s više agenata
- Sve zainteresirane za AI automatizaciju i radne tokove
- Kreatore sadržaja koji istražuju AI-podržanu produkciju
- Studente koji proučavaju praktične obrasce orkestracije AI-a
Započni graditi: 🎙️ Radionica AI Podcast Studija →
📊 Sažetak puta učenja
- Ukupno trajanje: 36-45 sati
- Put za početnike: Moduli 01-02 (7-9 sati)
- Srednji stupanj: Moduli 03-04 (9-11 sati)
- Napredni stupanj: Moduli 05-07 (12-15 sati)
- Ekspertni stupanj: Modul 08 (8-10 sati)
Što ćete izgraditi
🎯 Ključne kompetencije
- Edge AI arhitektura: Dizajniraj sustave koji su lokalni-prvo s integracijom u oblak
- Optimizacija modela: Kvantiziraj i komprimiraj modele za edge raspoređivanje (85% ubrzanje, 75% smanjenje veličine)
- Višeplatformsko raspoređivanje: Windows, mobilno, ugrađeno i cloud-edge hibridni sustavi
- Operacije u produkciji: Praćenje, skaliranje i održavanje Edge AI u produkciji
🏗️ Praktični projekti
- Foundry lokalne chat aplikacije: Izvorna aplikacija za Windows 11 s prebacivanjem modela
- Sustavi s više agenata: Koordinator sa specijalističkim agentima za složene radne tokove
- RAG aplikacije: Lokalna obrada dokumenata s vektorskim pretraživanjem
- Model Routers: Inteligentni odabir između modela na temelju analize zadatka
- API okviri: Klijenti spremni za produkciju s streamanjem i nadzorom zdravlja
- Višeplatformski alati: Obrasci integracije LangChain/Semantic Kernel
🏢 Primjene u industriji
Proizvodnja • Zdravstvo • Autonomna vozila • Pametni gradovi • Mobilne aplikacije
Brzi početak
Preporučeni put učenja (20-30 sati ukupno):
- 📖 Uvod (Introduction.md): Osnove EdgeAI + industrijski kontekst + okvir za učenje
- 📚 Temelj (Moduli 01-02): Koncepti EdgeAI + SLM obitelji modela
- ⚙️ Optimizacija (Moduli 03-04): Raspoređivanje + kvantizacijski okviri
- 🚀 Produkcija (Moduli 05-06): SLMOps + AI agenti + pozivanje funkcija
- 💻 Implementacija (Moduli 07-08): Primjeri za platforme + Foundry Local alatni paket
Svaki modul uključuje teoriju, praktične vježbe i uzorke koda spremne za produkciju.
Utjecaj na karijeru
Tehničke uloge: EdgeAI Solutions Architect • ML inženjer (Edge) • IoT AI developer • Mobilni AI developer
Industrijski sektori: Proizvodnja 4.0 • Zdravstvena tehnologija • Autonomni sustavi • FinTech • Potrošačka elektronika
Projekti za portfelj: Sustavi s više agenata • Produkcijske RAG aplikacije • Višeplatformsko raspoređivanje • Optimizacija performansi
Struktura repozitorija
edgeai-for-beginners/
├── 📖 introduction.md # Foundation: EdgeAI Overview & Learning Framework
├── 📚 Module01-04/ # Fundamentals → SLMs → Deployment → Optimization
├── 🔧 Module05-06/ # SLMOps → AI Agents → Function Calling
├── 💻 Module07/ # Platform Samples (VS Code, Windows, Jetson, Mobile)
├── 🏭 Module08/ # Foundry Local Toolkit + 10 Comprehensive Samples
│ ├── samples/01-06/ # Foundation: REST, SDK, RAG, Agents, Routing
│ └── samples/07-10/ # Advanced: API Client, Windows App, Enterprise Agents, Tools
├── 🌐 translations/ # Multi-language support (8+ languages)
└── 📋 STUDY_GUIDE.md # Structured learning paths & time allocationIstaknuto u tečaju
✅ Postupno učenje: Teorija → Praksa → Raspoređivanje u produkciju
✅ Stvarne studije slučaja: Microsoft, Japan Airlines, implementacije u poduzećima
✅ Praktični primjeri: 50+ primjera, 10 sveobuhvatnih Foundry Local demo projekata
✅ Fokus na performanse: 85% poboljšanja brzine, 75% smanjenja veličine
✅ Višeplatformsko: Windows, mobilno, ugrađeno, cloud-edge hibrid
✅ Spremno za produkciju: Praćenje, skaliranje, sigurnost, okviri usklađenosti
📖 Dostupan vodič za učenje: Strukturirani 20-satni plan učenja s raspodjelom vremena i alatima za samoocjenu.
EdgeAI predstavlja budućnost implementacije AI-a: lokalno-prvo, očuvanje privatnosti i učinkovito. Ovladajte ovim vještinama kako biste izgradili sljedeću generaciju inteligentnih aplikacija.
Ostali tečajevi
Our team produces other courses! Check out:
LangChain
Azure / Edge / MCP / Agents
Generativni AI serijal
Temeljno učenje
Copilot serija
Dobivanje pomoći
Ako zapnete ili imate bilo kakvih pitanja o izradi AI aplikacija, pridružite se:
Ako imate povratne informacije o proizvodu ili naiđete na greške tijekom izrade, posjetite:
Odricanje odgovornosti: Ovaj dokument je preveden pomoću AI usluge prevođenja Co-op Translator. Iako težimo točnosti, imajte na umu da automatizirani prijevodi mogu sadržavati pogreške ili netočnosti. Izvorni dokument na izvornom jeziku treba smatrati mjerodavnim izvorom. Za kritične informacije preporučuje se profesionalni ljudski prijevod. Ne snosimo odgovornost za bilo kakve nesporazume ili pogrešne interpretacije proizašle iz korištenja ovog prijevoda.
