EdgeAI for Beginners

40 / 100·markdown

Chapter 40

EdgeAI untuk Pemula

Imej muka kursus

Ikuti langkah-langkah ini untuk mula menggunakan sumber ini:

Fork Repositori: Klik
Clone Repositori: git clone https://github.com/microsoft/edgeai-for-beginners.git
Sertai Discord Azure AI Foundry dan temui pakar serta rakan pembangun

🌐 Sokongan Pelbagai Bahasa

Disokong melalui GitHub Action (Automatik & Sentiasa Dikemas Kini)

Lebih suka Clone Secara Tempatan?

Repositori ini termasuk lebih 50+ terjemahan bahasa yang secara signifikan meningkatkan saiz muat turun. Untuk clone tanpa terjemahan, gunakan sparse checkout:

Bash / macOS / Linux:
bash
git clone --filter=blob:none --sparse https://github.com/microsoft/edgeai-for-beginners.git
cd edgeai-for-beginners
git sparse-checkout set --no-cone '/*' '!translations' '!translated_images'
CMD (Windows):
cmd
git clone --filter=blob:none --sparse https://github.com/microsoft/edgeai-for-beginners.git
cd edgeai-for-beginners
git sparse-checkout set --no-cone "/*" "!translations" "!translated_images"
Ini memberikan anda segala yang anda perlukan untuk menamatkan kursus dengan muat turun yang lebih pantas.

Jika anda ingin sokongan bahasa terjemahan tambahan senarai boleh dijumpai di sini

Pengenalan

Selamat datang ke EdgeAI untuk Pemula – perjalanan komprehensif anda ke dunia transformasi Kecerdasan Buatan Tepi. Kursus ini merapatkan jurang antara keupayaan AI yang hebat dan penerapan praktikal dunia sebenar pada peranti tepi, memberi kuasa kepada anda untuk memanfaatkan potensi AI terus di tempat data dihasilkan dan keputusan perlu dibuat.

Apa yang Akan Anda Kuasai

Kursus ini membawa anda dari konsep asas kepada pelaksanaan sedia produksi, merangkumi:

Model Bahasa Kecil (SLMs) yang dioptimumkan untuk penerapan tepi
Pengoptimuman sensitif perkakasan merentasi pelbagai platform
Inferens masa nyata dengan keupayaan melindungi privasi
Strategi penerapan produksi untuk aplikasi perusahaan

Kenapa EdgeAI Penting

Edge AI mewakili perubahan paradigma yang menangani cabaran moden yang kritikal:

Privasi & Keselamatan: Proses data sensitif secara setempat tanpa pendedahan awan
Prestasi Masa Nyata: Menghapuskan kelewatan rangkaian untuk aplikasi penting masa
Kecekapan Kos: Mengurangkan perbelanjaan jalur lebar dan pengkomputeran awan
Operasi Tahan Lasak: Mengekalkan fungsi semasa gangguan rangkaian
Pematuhan Peraturan: Memenuhi kehendak kedaulatan data

Edge AI

Edge AI merujuk kepada menjalankan algoritma AI dan model bahasa secara setempat pada perkakasan, dekat dengan tempat data dihasilkan tanpa bergantung pada sumber awan untuk inferens. Ia mengurangkan kelambatan, meningkatkan privasi, dan membolehkan pembuatan keputusan masa nyata.

Prinsip Teras:

Inferens pada peranti: Model AI berjalan pada peranti tepi (telefon, penghala, mikropengawal, PC industri)
Keupayaan luar talian: Berfungsi tanpa sambungan internet berterusan
Latensi rendah: Respons segera sesuai untuk sistem masa nyata
Kedaulatan data: Menyimpan data sensitif secara setempat, meningkatkan keselamatan dan pematuhan

Model Bahasa Kecil (SLMs)

SLM seperti Phi-4, Mistral-7B, dan Gemma adalah versi dioptimumkan dari LLM lebih besar—dilatih atau disaring untuk:

Jejak memori yang dikurangkan: Penggunaan cekap memori peranti tepi terhad
Permintaan pengkomputeran lebih rendah: Dioptimumkan untuk prestasi CPU dan GPU tepi
Masa permulaan lebih pantas: Inisialisasi cepat untuk aplikasi responsif

Mereka membuka keupayaan NLP yang hebat sambil memenuhi kekangan:

Sistem tertanam: Peranti IoT dan pengawal industri
Peranti mudah alih: Telefon pintar dan tablet dengan keupayaan luar talian
Peranti IoT: Sensor dan peranti pintar dengan sumber terhad
Pelayan tepi: Unit pemprosesan setempat dengan sumber GPU terhad
Komputer Peribadi: Senario penerapan desktop dan komputer riba

Modul Kursus & Navigasi

Modul	Topik	Fokus	Kandungan Utama	Tahap	Tempoh
📖 00	Pengenalan kepada EdgeAI	Asas & Konteks	Tinjauan EdgeAI • Aplikasi Industri • Pengenalan SLM • Objektif Pembelajaran	Pemula	1-2 jam
📚 01	Asas EdgeAI	Perbandingan Cloud vs Edge AI	Asas EdgeAI • Kajian Kes Dunia Nyata • Panduan Pelaksanaan • Penerapan Tepi	Pemula	3-4 jam
🧠 02	Asas Model SLM	Keluarga & seni bina model	Keluarga Phi • Keluarga Qwen • Keluarga Gemma • BitNET • μModel • Phi-Silica	Pemula	4-5 jam
🚀 03	Amalan Penerapan SLM	Penerapan setempat & awan	Pembelajaran Lanjutan • Persekitaran Setempat • Penerapan Awan	Pertengahan	4-5 jam
⚙️ 04	Toolkit Pengoptimuman Model	Pengoptimuman merentas platform	Pengenalan • Llama.cpp • Microsoft Olive • OpenVINO • Apple MLX • Sintesis Aliran Kerja	Pertengahan	5-6 jam
🔧 05	Produksi SLMOps	Operasi produksi	Pengenalan SLMOps • Penyulingan Model • Penalaan Baik • Penerapan Produksi	Lanjutan	5-6 jam
🤖 06	Ejen AI & Panggilan Fungsi	Rangka kerja ejen & MCP	Pengenalan Ejen • Panggilan Fungsi • Protokol Konteks Model	Lanjutan	4-5 jam
💻 07	Pelaksanaan Platform	Contoh merentas platform	Toolkit AI • Foundry Setempat • Pembangunan Windows	Lanjutan	3-4 jam
🏭 08	Toolkit Foundry Setempat	Contoh sedia produksi	Aplikasi contoh (lihat butiran di bawah)	Pakar	8-10 jam

🏭 Modul 08: Aplikasi Contoh

🎓 Bengkel: Laluan Pembelajaran Praktikal

Bahan bengkel praktikal komprehensif dengan pelaksanaan sedia produksi:

Panduan Bengkel - Objektif pembelajaran lengkap, hasil, dan navigasi sumber
Contoh Python (6 sesi) - Dikemas kini dengan amalan terbaik, pengendalian ralat, dan dokumentasi komprehensif
Notebook Jupyter (8 interaktif) - Tutorial langkah demi langkah dengan penanda aras dan pemantauan prestasi
Panduan Sesi - Panduan MARKDOWN terperinci untuk setiap sesi bengkel
Alat Pengesahan - Skrip untuk mengesahkan kualiti kod dan menjalankan ujian asap

Apa Yang Akan Anda Bangunkan:

Aplikasi chat AI setempat dengan sokongan streaming
Saluran RAG dengan penilaian kualiti (RAGAS)
Alat penanda aras dan perbandingan multi-model
Sistem orkestrasi multi-ejen
Penghalaan model pintar dengan pemilihan berdasarkan tugasan

🎙️ Bengkel Untuk Agentic: Praktikal - Studio Podcast AI

Bina saluran pengeluaran podcast dikuasakan AI dari awal! Bengkel imersif ini mengajar anda mencipta sistem multi-ejen lengkap yang mengubah idea menjadi episod podcast profesional.

🎬 Mulakan Bengkel Studio Podcast AI

Misi Anda: Lancarkan "Future Bytes" — podcast teknologi yang sepenuhnya dikuasakan oleh ejen AI yang anda bina sendiri. Tiada pergantungan awan, tiada kos API — semuanya berjalan secara tempatan pada mesin anda.

Apa Yang Membuat Ini Unik:

🤖 Orkestrasi Multi-Ejen Sebenar - Bina ejen AI khusus yang membuat penyelidikan, menulis, dan menghasilkan audio
🎯 Saluran Pengeluaran Lengkap - Dari pemilihan topik hingga output audio podcast akhir
💻 Pelaksanaan 100% Tempatan - Menggunakan Ollama dan model tempatan (Qwen-3-8B) untuk privasi dan kawalan penuh
🎤 Integrasi Teks-ke-Ucapan - Menukar skrip kepada perbualan pelbagai penceramah yang semula jadi
✋ Aliran Kerja Manusia-dalam-Kitaran - Pintu kelulusan memastikan kualiti sambil mengekalkan automasi

Perjalanan Pembelajaran Tiga Babak:

Babak	Fokus	Kemahiran Utama	Tempoh
Babak 1: Kenali Pembantu AI Anda	Bina ejen AI pertama anda	Integrasi alat • Carian web • Penyelesaian masalah • Pemikiran agen	2-3 jam
Babak 2: Kumpulkan Pasukan Pengeluaran Anda	Orkestrasi pelbagai ejen	Penyelarasan pasukan • Aliran kerja kelulusan • Antara muka DevUI • Pengawasan manusia	3-4 jam
Babak 3: Hidupkan Podcast Anda	Hasilkan audio podcast	Teks-ke-ucapan • Sintesis pelbagai penceramah • Audio bentuk panjang • Automasi sepenuhnya	2-3 jam

Teknologi Digunakan:

Microsoft Agent Framework - Orkestrasi dan penyelarasan multi-ejen
Ollama - Runtime model AI secara tempatan (tiada awan diperlukan)
Qwen-3-8B - Model bahasa sumber terbuka yang dioptimumkan untuk tugas agen
API Teks-ke-Ucapan - Sintesis suara semula jadi untuk penghasilan podcast

Sokongan Perkakasan:

✅ Mod CPU - Berfungsi pada mana-mana komputer moden (8GB+ RAM disyorkan)
🚀 Pecutan GPU - Inferen lebih pantas dengan GPU NVIDIA/AMD
⚡ Sokongan NPU - Pecutan unit pemprosesan neural generasi seterusnya

Sangat Sesuai Untuk:

Pembangun yang mempelajari sistem AI multi-ejen
Sesiapa yang berminat dalam automasi AI dan aliran kerja
Pencipta kandungan yang meneroka pengeluaran dengan bantuan AI
Pelajar yang mempelajari corak orkestrasi AI praktikal

Mulakan Membina: 🎙️ Bengkel Studio Podcast AI →

📊 Ringkasan Laluan Pembelajaran

Jumlah Tempoh: 36-45 jam
Laluan Permulaan: Modul 01-02 (7-9 jam)
Laluan Pertengahan: Modul 03-04 (9-11 jam)
Laluan Lanjutan: Modul 05-07 (12-15 jam)
Laluan Pakar: Modul 08 (8-10 jam)

Apa Yang Akan Anda Bina

🎯 Kompetensi Teras

Seni Bina AI Tepi: Reka sistem AI berfokuskan tempatan dengan integrasi awan
Pengoptimuman Model: Kuantisasi dan mampatan model untuk penempatan tepi (peningkatan kelajuan 85%, pengurangan saiz 75%)
Pelaksanaan Pelbagai Platform: Windows, mudah alih, tertanam, dan sistem hibrid awan-tepi
Operasi Pengeluaran: Pemantauan, penskalaan, dan penyelenggaraan AI tepi dalam pengeluaran

🏗️ Projek Praktikal

Aplikasi Sembang Tempatan Foundry: Aplikasi asli Windows 11 dengan pertukaran model
Sistem Multi-Ejen: Penyelarasan dengan ejen pakar untuk aliran kerja kompleks
Aplikasi RAG: Pemprosesan dokumen tempatan dengan carian vektor
Penghala Model: Pemilihan pintar antara model berdasarkan analisis tugas
Rangka Kerja API: Klien bersedia pengeluaran dengan penstriman dan pemantauan kesihatan
Alat Rentas Platform: Corak integrasi LangChain/Semantic Kernel

🏢 Aplikasi Industri

Pembuatan • Penjagaan Kesihatan • Kenderaan Autonomi • Bandar Pintar • Aplikasi Mudah Alih

Mula dengan Cepat

Laluan Pembelajaran Disyorkan (20-30 jam keseluruhan):

📖 Pengenalan (Introduction.md): Asas EdgeAI + konteks industri + rangka kerja pembelajaran
📚 Asas (Modul 01-02): Konsep EdgeAI + keluarga model SLM
⚙️ Pengoptimuman (Modul 03-04): Pelaksanaan + rangka kerja kuantisasi
🚀 Pengeluaran (Modul 05-06): SLMOps + ejen AI + panggilan fungsi
💻 Pelaksanaan (Modul 07-08): Contoh platform + toolkit Foundry Local

Setiap modul merangkumi teori, latihan praktikal, dan contoh kod bersedia pengeluaran.

Kesan Kerjaya

Peranan Teknikal: Arkitek Penyelesaian EdgeAI • Jurutera ML (Tepi) • Pembangun AI IoT • Pembangun AI Mudah Alih

Sektor Industri: Pembuatan 4.0 • Teknologi Penjagaan Kesihatan • Sistem Autonomi • FinTech • Elektronik Pengguna

Projek Portfolio: Sistem multi-ejen • Aplikasi RAG pengeluaran • Pelaksanaan rentas platform • Pengoptimuman prestasi

Struktur Repositori

code

edgeai-for-beginners/
├── 📖 introduction.md  # Foundation: EdgeAI Overview & Learning Framework
├── 📚 Module01-04/     # Fundamentals → SLMs → Deployment → Optimization  
├── 🔧 Module05-06/     # SLMOps → AI Agents → Function Calling
├── 💻 Module07/        # Platform Samples (VS Code, Windows, Jetson, Mobile)
├── 🏭 Module08/        # Foundry Local Toolkit + 10 Comprehensive Samples
│   ├── samples/01-06/  # Foundation: REST, SDK, RAG, Agents, Routing
│   └── samples/07-10/  # Advanced: API Client, Windows App, Enterprise Agents, Tools
├── 🌐 translations/    # Multi-language support (8+ languages)
└── 📋 STUDY_GUIDE.md   # Structured learning paths & time allocation

Sorotan Kursus

✅ Pembelajaran Progresif: Teori → Praktikal → Pelaksanaan pengeluaran
✅ Kajian Kes Sebenar: Microsoft, Japan Airlines, pelaksanaan perusahaan
✅ Contoh Praktikal: 50+ contoh, 10 demo komprehensif Foundry Local
✅ Fokus Prestasi: Peningkatan kelajuan 85%, pengurangan saiz 75%
✅ Multi-Platform: Windows, mudah alih, tertanam, hibrid awan-tepi
✅ Sedia Pengeluaran: Pemantauan, penskalaan, keselamatan, rangka kerja pematuhan

📖 Panduan Belajar Tersedia: Laluan pembelajaran 20 jam yang tersusun dengan panduan peruntukan masa dan alat penilaian kendiri.

EdgeAI mewakili masa depan pelaksanaan AI: berfokus tempatan, memelihara privasi, dan cekap. Kuasai kemahiran ini untuk membina generasi aplikasi pintar seterusnya.

Kursus Lain

Pasukan kami menghasilkan kursus lain! Lihat:

LangChain

Azure / Edge / MCP / Agen

Siri AI Generatif

Pembelajaran Teras

Siri Copilot

Mendapatkan Bantuan

Jika anda tersekat atau mempunyai sebarang pertanyaan tentang membina aplikasi AI, sertai:

Jika anda mempunyai maklum balas produk atau ralat semasa membina, kunjungi:

Penafian:
Dokumen ini telah diterjemahkan menggunakan perkhidmatan terjemahan AI Co-op Translator. Walaupun kami berusaha untuk ketepatan, sila maklum bahawa terjemahan automatik mungkin mengandungi kesilapan atau ketidaktepatan. Dokumen asal dalam bahasa asalnya harus dianggap sebagai sumber yang sah. Untuk maklumat penting, terjemahan profesional oleh manusia adalah disarankan. Kami tidak bertanggungjawab atas sebarang salah faham atau salah tafsir yang timbul daripada penggunaan terjemahan ini.

← 返回课程