Chapter 62
EdgeAI для початківців
EdgeAI для початківців
Слідуйте цим крокам, щоб розпочати використання цих ресурсів:
- Форкніть репозиторій: Натисніть
- Клонуйте репозиторій:
git clone https://github.com/microsoft/edgeai-for-beginners.git - Приєднуйтесь до Azure AI Foundry Discord та знайомтесь з експертами і іншими розробниками
🌐 Підтримка кількох мов
Підтримується через GitHub Action (автоматизовано та завжди актуально)
Arabic | Bengali | Bulgarian | Burmese (Myanmar) | Chinese (Simplified) | Chinese (Traditional, Hong Kong) | Chinese (Traditional, Macau) | Chinese (Traditional, Taiwan) | Croatian | Czech | Danish | Dutch | Estonian | Finnish | French | German | Greek | Hebrew | Hindi | Hungarian | Indonesian | Italian | Japanese | Kannada | Khmer | Korean | Lithuanian | Malay | Malayalam | Marathi | Nepali | Nigerian Pidgin | Norwegian | Persian (Farsi) | Polish | Portuguese (Brazil) | Portuguese (Portugal) | Punjabi (Gurmukhi) | Romanian | Russian | Serbian (Cyrillic) | Slovak | Slovenian | Spanish | Swahili | Swedish | Tagalog (Filipino) | Tamil | Telugu | Thai | Turkish | Ukrainian | Urdu | Vietnamese
Віддаєте перевагу клонуванню локально?
Цей репозиторій містить переклади більш ніж 50 мовами, що значно збільшує розмір завантаження. Щоб клонувати без перекладів, використовуйте sparse checkout:
Bash / macOS / Linux:
bashgit clone --filter=blob:none --sparse https://github.com/microsoft/edgeai-for-beginners.git cd edgeai-for-beginners git sparse-checkout set --no-cone '/*' '!translations' '!translated_images'CMD (Windows):
cmdgit clone --filter=blob:none --sparse https://github.com/microsoft/edgeai-for-beginners.git cd edgeai-for-beginners git sparse-checkout set --no-cone "/*" "!translations" "!translated_images"Це дасть вам все необхідне для проходження курсу набагато швидше.
Якщо ви бажаєте, щоб підтримувались додаткові мови перекладів, вони перераховані тут
Вступ
Ласкаво просимо до EdgeAI для початківців – вашої всебічної подорожі у трансформаційний світ Edge штучного інтелекту. Цей курс поєднує потужні можливості ШІ з практичним впровадженням у реальному світі на edge-пристроях, дозволяючи вам використовувати потенціал ШІ безпосередньо там, де генерується дані та потрібно приймати рішення.
Чому Ви Навчитесь
Цей курс проведе вас від базових концепцій до рішень, готових для виробництва, охоплюючи:
- Малі мовні моделі (SLM), оптимізовані для edge впровадження
- Оптимізація з урахуванням апаратного забезпечення на різних платформах
- Реальний час для висновків з можливостями захисту конфіденційності
- Стратегії виробничого впровадження для корпоративних застосунків
Чому EdgeAI Важливий
Edge AI означає змінити парадигму для вирішення критичних сучасних викликів:
- Конфіденційність і безпека: Обробка чутливих даних локально без передачі у хмару
- Продуктивність у реальному часі: Усунення затримок мережі для критичних додатків
- Економія коштів: Зменшення витрат на пропускну здатність та хмарні обчислення
- Стійкість роботи: Підтримка функціоналу під час збоїв мережі
- Відповідність регуляторним нормам: Відповідність вимогам до суверенітету даних
Edge AI
Edge AI означає запуск AI алгоритмів і мовних моделей локально на обладнанні, близько до місця генерації даних без залежності від хмарних ресурсів для висновків. Це знижує затримку, покращує конфіденційність і забезпечує прийняття рішень у реальному часі.
Основні принципи:
- Виведення на пристрої: AI моделі працюють на edge-пристроях (телефонах, маршрутизаторах, мікроконтролерах, промислових ПК)
- Робота офлайн: Функціонує без постійного підключення до інтернету
- Низька затримка: Миттєві відповіді для систем реального часу
- Суверенітет даних: Чутливі дані залишаються локально, підвищуючи безпеку та відповідність
Малі Мовні Моделі (SLM)
SLM, такі як Phi-4, Mistral-7B та Gemma, — це оптимізовані версії великих LLM, навчені або дистильовані для:
- Зменшеного використання пам’яті: Ефективне використання обмеженої пам’яті edge-пристроїв
- Менших обчислювальних затрат: Оптимізовані для продуктивності CPU та edge GPU
- Швидшого запуску: Швидка ініціалізація для чутливих застосунків
Вони відкривають потужні можливості NLP, відповідаючи обмеженням:
- Вбудовані системи: IoT пристрої та промислові контролери
- Мобільні пристрої: Смартфони та планшети з офлайн-функціональністю
- IoT пристрої: Датчики і розумні пристрої з обмеженими ресурсами
- Edge сервери: Локальні обчислювальні блоки з обмеженими GPU ресурсами
- Персональні комп’ютери: Десктопні і ноутбучні сценарії впровадження
Модулі курсу та навігація
| Модуль | Тема | Напрямок | Ключовий контент | Рівень | Тривалість |
|---|---|---|---|---|---|
| 📖 00 | Вступ до EdgeAI | Основи і контекст | Огляд EdgeAI • Галузеві застосування • Вступ до SLM • Навчальні цілі | Для початківців | 1-2 год |
| 📚 01 | Основи EdgeAI | Порівняння Cloud vs Edge AI | Основи EdgeAI • Кейс-стаді у реальному світі • Посібник із впровадження • Edge Deployment | Для початківців | 3-4 год |
| 🧠 02 | Основи моделей SLM | Сімейства моделей та архітектура | Сімейство Phi • Сімейство Qwen • Сімейство Gemma • BitNET • μModel • Phi-Silica | Для початківців | 4-5 год |
| 🚀 03 | Практика впровадження SLM | Локальне та хмарне впровадження | Поглиблене навчання • Локальне середовище • Хмарне впровадження | Середній | 4-5 год |
| ⚙️ 04 | Інструменти оптимізації моделей | Кросплатформна оптимізація | Вступ • Llama.cpp • Microsoft Olive • OpenVINO • Apple MLX • Синтез робочих процесів | Середній | 5-6 год |
| 🔧 05 | SLMOps для виробництва | Операції у виробництві | Вступ до SLMOps • Дистиляція моделей • Донастройка • Виробниче впровадження | Просунутий | 5-6 год |
| 🤖 06 | AI агенти та виклик функцій | Фреймворки агентів та MCP | Вступ до агентів • Виклик функцій • Протокол контексту моделей | Просунутий | 4-5 год |
| 💻 07 | Реалізація платформи | Кросплатформені приклади | AI інструментарій • Foundry Local • Розробка для Windows | Просунутий | 3-4 год |
| 🏭 08 | Foundry Local Інструментарій | Зразки, готові до виробництва | Зразкові застосунки (див. деталі нижче) | Експерт | 8-10 год |
🏭 Модуль 08: Зразкові застосунки
- 01: REST Chat Квікстарт
- 02: Інтеграція OpenAI SDK
- 03: Виявлення моделей і бенчмаркінг
- 04: Chainlit RAG застосунок
- 05: Оркестрація мульти-агентів
- 06: Роутер "Моделі як інструменти"
- 07: Прямий клієнт API
- 08: Chat додаток для Windows 11
- 09: Просунута мульти-агентська система
- 10: Foundry Tools Framework
🎓 Воркшоп: Практичний шлях навчання
Повний набір матеріалів практичного воркшопу з реалізаціями, готовими для виробництва:
- Керівництво до воркшопу - Повні навчальні цілі, результати та навігація по ресурсах
- Python приклади (6 сесій) - Оновлені з найкращими практиками, обробкою помилок та докладною документацією
- Jupyter ноутбуки (8 інтерактивних) - Покрокові підручники з бенчмарками та моніторингом продуктивності
- Керівництва по сесіях - Детальні markdown інструкції для кожної сесії воркшопу
- Інструменти валідації - Скрипти для перевірки якості коду та запуску smoke тестів
Що ви створите:
- Локальні AI чат-застосунки з підтримкою стрімінгу
- RAG пайплайни з оцінкою якості (RAGAS)
- Інструменти порівняння та бенчмаркінгу мульти-моделей
- Системи оркестрації мульти-агентів
- Інтелектуальний роутинг моделей з вибором за завданням
🎙️ Воркшоп For Agentic: Практичне – AI подкаст студія
Побудуйте конвеєр виробництва подкастів на основі штучного інтелекту з нуля! Цей захоплюючий воркшоп навчає створювати повну систему з кількох агентів, яка перетворює ідеї на професійні епізоди подкастів.
🎬 Почати воркшоп AI Podcast Studio
Ваше завдання: Запустити "Future Bytes" — технічний подкаст, створений повністю штучними агентами AI, яких ви створите самі. Без використання хмари, без витрат на API — усе виконується локально на вашому комп’ютері.
Що робить це унікальним:
- 🤖 Справжня оркестрація багатьох агентів — побудуйте спеціалізованих агентів AI, які досліджують, пишуть і виробляють аудіо
- 🎯 Повний виробничий конвеєр — від вибору теми до фінального аудіо до подкасту
- 💻 100% локальне розгортання — використовує Ollama та локальні моделі (Qwen-3-8B) для повної конфіденційності та контролю
- 🎤 Інтеграція текст-в-мову — перетворюйте скрипти у природні розмови з кількома доповідачами
- ✋ Робочі процеси з участю людини — етапи затвердження гарантують якість при збереженні автоматизації
Навчання у три акти:
| Акт | Фокус | Ключові навички | Тривалість |
|---|---|---|---|
| Акт 1: Познайомтесь зі своїми AI-асистентами | Створіть свого першого агента AI | Інтеграція інструментів • Веб-пошук • Розв’язання проблем • Агентне мислення | 2-3 год |
| Акт 2: Зберіть команду виробництва | Організуйте кількох агентів | Координація команди • Робочі процеси затвердження • Інтерфейс DevUI • Контроль людиною | 3-4 год |
| Акт 3: Реалізуйте свій подкаст** | Згенеруйте аудіо подкасту | Текст-в-мову • Синтез для кількох доповідачів • Довге аудіо • Повна автоматизація | 2-3 год |
Використані технології:
- Microsoft Agent Framework — оркестрація та координація багатьох агентів
- Ollama — локальний AI-рушій (без потреби у хмарі)
- Qwen-3-8B — відкрита мовна модель, оптимізована для агентних задач
- API текст-в-мову — природний синтез голосу для створення подкастів
Підтримка апаратного забезпечення:
- ✅ Режим CPU — працює на будь-якому сучасному комп’ютері (рекомендовано 8 ГБ+ ОЗП)
- 🚀 Акселерація GPU — значно швидше виконання з NVIDIA/AMD GPU
- ⚡ Підтримка NPU — прискорення на нейронних процесорах нового покоління
Ідеально підходить для:
- Розробників, які вивчають багатоагентні системи AI
- Усієї, хто цікавиться AI-автоматизацією і робочими процесами
- Творців контенту, які досліджують AI-підтримане виробництво
- Студентів, що вивчають практичні патерни оркестрації AI
Почати будувати: 🎙️ Воркшоп AI Podcast Studio →
📊 Підсумок навчального шляху
- Загальна тривалість: 36-45 годин
- Початковий рівень: модулі 01-02 (7-9 год)
- Середній рівень: модулі 03-04 (9-11 год)
- Високий рівень: модулі 05-07 (12-15 год)
- Експертний рівень: модуль 08 (8-10 год)
Що ви побудуєте
🎯 Основні компетенції
- Архітектура Edge AI: Проєктування AI-систем локального рівня з інтеграцією хмари
- Оптимізація моделей: Квантизація і стиснення моделей для локального розгортання (прискорення на 85%, зменшення розміру на 75%)
- Мультиплатформенне розгортання: Windows, мобільні пристрої, вбудовані системи, гібриди хмари та краю
- Виробничі операції: Моніторинг, масштабування та підтримка Edge AI у виробництві
🏗️ Практичні проєкти
- Foundry Local Chat Apps: нативний додаток для Windows 11 з перемиканням моделей
- Системи з багатьма агентами: координатор зі спеціалістами для складних робочих процесів
- RAG-додатки: локальна обробка документів із векторним пошуком
- Маршрутизатори моделей: інтелектуальний вибір між моделями за аналізом завдань
- API-фреймворки: клієнти, готові до виробництва, з потоковою передачею та моніторингом стану здоров’я
- Кросплатформенні інструменти: патерни інтеграції LangChain/Semantic Kernel
🏢 Галузеві застосування
Виробництво • Охорона здоров’я • Автономний транспорт • Розумні міста • Мобільні додатки
Швидкий старт
Рекомендований навчальний шлях (загалом 20-30 годин):
- 📖 Вступ (Introduction.md): основи EdgeAI + галузевий контекст + навчальна структура
- 📚 Основи (Модулі 01-02): концепції EdgeAI + сімейства моделей SLM
- ⚙️ Оптимізація (Модулі 03-04): розгортання + фреймворки квантизації
- 🚀 Виробництво (Модулі 05-06): SLMOps + агенти AI + виклики функцій
- 💻 Реалізація (Модулі 07-08): зразки платформ + інструментарій Foundry Local
Кожен модуль містить теорію, практичні вправи та готові до виробництва приклади коду.
Кар’єрний вплив
Технічні ролі: архітектор рішень EdgeAI • ML-інженер (Edge) • розробник IoT AI • мобільний AI-розробник
Галузеві сектори: Виробництво 4.0 • Медична технологія • Автономні системи • FinTech • Споживча електроніка
Проєкти портфоліо: багатоагентні системи • RAG-додатки для виробництва • кросплатформне розгортання • оптимізація продуктивності
Структура репозиторію
edgeai-for-beginners/
├── 📖 introduction.md # Foundation: EdgeAI Overview & Learning Framework
├── 📚 Module01-04/ # Fundamentals → SLMs → Deployment → Optimization
├── 🔧 Module05-06/ # SLMOps → AI Agents → Function Calling
├── 💻 Module07/ # Platform Samples (VS Code, Windows, Jetson, Mobile)
├── 🏭 Module08/ # Foundry Local Toolkit + 10 Comprehensive Samples
│ ├── samples/01-06/ # Foundation: REST, SDK, RAG, Agents, Routing
│ └── samples/07-10/ # Advanced: API Client, Windows App, Enterprise Agents, Tools
├── 🌐 translations/ # Multi-language support (8+ languages)
└── 📋 STUDY_GUIDE.md # Structured learning paths & time allocationОсновні переваги курсу
✅ Поступове навчання: Теорія → Практика → Розгортання у виробництві
✅ Реальні кейси: Microsoft, Japan Airlines, корпоративні впровадження
✅ Приклади коду: понад 50 прикладів, 10 комплексних демонстрацій Foundry Local
✅ Акцент на продуктивність: покращення швидкості на 85%, зменшення розміру на 75%
✅ Мультиплатформність: Windows, мобільні, вбудовані системи, гібриди хмара-край
✅ Готовність до виробництва: моніторинг, масштабування, безпека, відповідність стандартам
📖 Доступний навчальний посібник: структурований 20-годинний навчальний шлях з порадами щодо розподілу часу та інструментами самооцінки.
EdgeAI — це майбутнє розгортання AI: перш за все локальний, збереження приватності та ефективний. Освойте ці навички, щоб створювати нове покоління інтелектуальних додатків.
Інші курси
Наша команда створює інші курси! Ознайомтесь з ними:
LangChain
Azure / Edge / MCP / Агенті
Серія генеративного AI
-9333EA?style=for-the-badge&labelColor=E5E7EB&color=9333EA){kind=icon}
-C084FC?style=for-the-badge&labelColor=E5E7EB&color=C084FC){kind=icon}
-E879F9?style=for-the-badge&labelColor=E5E7EB&color=E879F9){kind=icon}
Основи навчання
Серія Copilot
Отримання допомоги
Якщо ви застрягли або маєте будь-які питання щодо створення AI-додатків, приєднуйтесь:
Якщо у вас є відгуки про продукт або виникають помилки під час створення, відвідайте:
Відмова від відповідальності:
Цей документ був перекладений за допомогою сервісу AI-перекладу Co-op Translator. Хоча ми прагнемо до точності, будь ласка, майте на увазі, що автоматичні переклади можуть містити помилки або неточності. Оригінальний документ рідною мовою слід вважати авторитетним джерелом. Для критичної інформації рекомендується професійний переклад людиною. Ми не несемо відповідальності за будь-які непорозуміння або неправильні тлумачення, що виникли внаслідок використання цього перекладу.