Ikuti langkah-langkah ini untuk mula menggunakan sumber ini:
- Fork Repositori: Klik
- Clone Repositori:
git clone https://github.com/microsoft/edgeai-for-beginners.git - Sertai Discord Azure AI Foundry dan berhubung dengan pakar serta pembangun lain
Arabic | Bengali | Bulgarian | Burmese (Myanmar) | Chinese (Simplified) | Chinese (Traditional, Hong Kong) | Chinese (Traditional, Macau) | Chinese (Traditional, Taiwan) | Croatian | Czech | Danish | Dutch | Estonian | Finnish | French | German | Greek | Hebrew | Hindi | Hungarian | Indonesian | Italian | Japanese | Korean | Lithuanian | Malay | Marathi | Nepali | Nigerian Pidgin | Norwegian | Persian (Farsi) | Polish | Portuguese (Brazil) | Portuguese (Portugal) | Punjabi (Gurmukhi) | Romanian | Russian | Serbian (Cyrillic) | Slovak | Slovenian | Spanish | Swahili | Swedish | Tagalog (Filipino) | Tamil | Thai | Turkish | Ukrainian | Urdu | Vietnamese
Jika anda ingin menambah sokongan bahasa lain, senarai bahasa yang disokong boleh didapati di sini
Selamat datang ke EdgeAI untuk Pemula – perjalanan komprehensif anda ke dunia transformasi Kecerdasan Buatan di Edge. Kursus ini merapatkan jurang antara keupayaan AI yang hebat dan pelaksanaan praktikal di peranti edge, membolehkan anda memanfaatkan potensi AI secara langsung di tempat data dihasilkan dan keputusan perlu dibuat.
Kursus ini membawa anda dari konsep asas hingga pelaksanaan sedia pengeluaran, meliputi:
- Small Language Models (SLMs) yang dioptimumkan untuk pelaksanaan di edge
- Pengoptimuman berasaskan perkakasan di pelbagai platform
- Inferens masa nyata dengan keupayaan melindungi privasi
- Strategi pelaksanaan pengeluaran untuk aplikasi perusahaan
Edge AI mewakili perubahan paradigma yang menangani cabaran moden yang kritikal:
- Privasi & Keselamatan: Memproses data sensitif secara tempatan tanpa pendedahan kepada awan
- Prestasi Masa Nyata: Menghapuskan kelewatan rangkaian untuk aplikasi yang kritikal masa
- Kecekapan Kos: Mengurangkan penggunaan jalur lebar dan perbelanjaan pengkomputeran awan
- Operasi Tahan Lasak: Mengekalkan fungsi semasa gangguan rangkaian
- Pematuhan Peraturan: Memenuhi keperluan kedaulatan data
Edge AI merujuk kepada menjalankan algoritma AI dan model bahasa secara tempatan pada perkakasan, dekat dengan tempat data dihasilkan tanpa bergantung kepada sumber awan untuk inferens. Ia mengurangkan kelewatan, meningkatkan privasi, dan membolehkan pembuatan keputusan masa nyata.
- Inferens pada peranti: Model AI dijalankan pada peranti edge (telefon, router, mikrokontroler, PC industri)
- Keupayaan luar talian: Berfungsi tanpa sambungan internet yang berterusan
- Kelewatan rendah: Respons segera sesuai untuk sistem masa nyata
- Kedaulatan data: Menyimpan data sensitif secara tempatan, meningkatkan keselamatan dan pematuhan
SLMs seperti Phi-4, Mistral-7B, dan Gemma adalah versi dioptimumkan daripada LLM yang lebih besar—dilatih atau disuling untuk:
- Jejak memori yang dikurangkan: Penggunaan memori peranti edge yang terhad dengan cekap
- Permintaan pengkomputeran yang lebih rendah: Dioptimumkan untuk prestasi CPU dan GPU edge
- Masa permulaan yang lebih pantas: Inisialisasi cepat untuk aplikasi yang responsif
Mereka membuka keupayaan NLP yang hebat sambil memenuhi kekangan:
- Sistem terbenam: Peranti IoT dan pengawal industri
- Peranti mudah alih: Telefon pintar dan tablet dengan keupayaan luar talian
- Peranti IoT: Sensor dan peranti pintar dengan sumber terhad
- Pelayan edge: Unit pemprosesan tempatan dengan sumber GPU terhad
- Komputer Peribadi: Senario pelaksanaan desktop dan laptop
| Modul | Topik | Kawasan Fokus | Kandungan Utama | Tahap | Tempoh |
|---|---|---|---|---|---|
| 📖 00 | Pengenalan kepada EdgeAI | Asas & Konteks | Gambaran Keseluruhan EdgeAI • Aplikasi Industri • Pengenalan SLM • Objektif Pembelajaran | Pemula | 1-2 jam |
| 📚 01 | Asas EdgeAI | Perbandingan Cloud vs Edge AI | Asas EdgeAI • Kajian Kes Dunia Sebenar • Panduan Pelaksanaan • Pelaksanaan Edge | Pemula | 3-4 jam |
| 🧠 02 | Asas Model SLM | Keluarga model & seni bina | Keluarga Phi • Keluarga Qwen • Keluarga Gemma • BitNET • μModel • Phi-Silica | Pemula | 4-5 jam |
| 🚀 03 | Amalan Pelaksanaan SLM | Pelaksanaan tempatan & awan | Pembelajaran Lanjutan • Persekitaran Tempatan • Pelaksanaan Awan | Pertengahan | 4-5 jam |
| ⚙️ 04 | Toolkit Pengoptimuman Model | Pengoptimuman merentas platform | Pengenalan • Llama.cpp • Microsoft Olive • OpenVINO • Apple MLX • Sintesis Aliran Kerja | Pertengahan | 5-6 jam |
| 🔧 05 | SLMOps Pengeluaran | Operasi pengeluaran | Pengenalan SLMOps • Penyulingan Model • Penalaan Halus • Pelaksanaan Pengeluaran | Lanjutan | 5-6 jam |
| 🤖 06 | Ejen AI & Panggilan Fungsi | Rangka kerja ejen & MCP | Pengenalan Ejen • Panggilan Fungsi • Protokol Konteks Model | Lanjutan | 4-5 jam |
| 💻 07 | Pelaksanaan Platform | Sampel merentas platform | Toolkit AI • Foundry Tempatan • Pembangunan Windows | Lanjutan | 3-4 jam |
| 🏭 08 | Toolkit Foundry Tempatan | Sampel sedia pengeluaran | Aplikasi sampel (lihat butiran di bawah) | Pakar | 8-10 jam |
- 01: REST Chat Quickstart
- 02: Integrasi OpenAI SDK
- 03: Penemuan Model & Penanda Aras
- 04: Aplikasi Chainlit RAG
- 05: Orkestrasi Multi-Ejen
- 06: Router Model-as-Tools
- 07: Klien API Langsung
- 08: Aplikasi Chat Windows 11
- 09: Sistem Multi-Ejen Lanjutan
- 10: Rangka Kerja Alat Foundry
Bahan bengkel praktikal yang komprehensif dengan pelaksanaan sedia pengeluaran:
- Panduan Bengkel - Objektif pembelajaran lengkap, hasil, dan navigasi sumber
- Sampel Python (6 sesi) - Dikemas kini dengan amalan terbaik, pengendalian ralat, dan dokumentasi komprehensif
- Jupyter Notebooks (8 interaktif) - Tutorial langkah demi langkah dengan penanda aras dan pemantauan prestasi
- Panduan Sesi - Panduan markdown terperinci untuk setiap sesi bengkel
- Alat Pengesahan - Skrip untuk mengesahkan kualiti kod dan menjalankan ujian awal
Apa yang Akan Anda Bina:
- Aplikasi chat AI tempatan dengan sokongan penstriman
- Saluran RAG dengan penilaian kualiti (RAGAS)
- Alat penanda aras dan perbandingan multi-model
- Sistem orkestrasi multi-ejen
- Penghala model pintar dengan pemilihan berdasarkan tugas
- Jumlah Tempoh: 36-45 jam
- Laluan Pemula: Modul 01-02 (7-9 jam)
- Laluan Pertengahan: Modul 03-04 (9-11 jam)
- Laluan Lanjutan: Modul 05-07 (12-15 jam)
- Laluan Pakar: Modul 08 (8-10 jam)
- Seni Bina Edge AI: Reka sistem AI yang mengutamakan tempatan dengan integrasi awan
- Pengoptimuman Model: Kuantisasi dan pemampatan model untuk pelaksanaan di edge (peningkatan kelajuan 85%, pengurangan saiz 75%)
- Pelaksanaan Multi-Platform: Windows, mudah alih, terbenam, dan sistem hibrid awan-edge
- Operasi Pengeluaran: Memantau, menskalakan, dan menyelenggara AI tepi dalam pengeluaran
- Aplikasi Chat Tempatan Foundry: Aplikasi asli Windows 11 dengan penukaran model
- Sistem Multi-Ejen: Koordinator dengan ejen pakar untuk aliran kerja kompleks
- Aplikasi RAG: Pemprosesan dokumen tempatan dengan carian vektor
- Router Model: Pemilihan pintar antara model berdasarkan analisis tugas
- Kerangka API: Klien siap pengeluaran dengan penstriman dan pemantauan kesihatan
- Alat Lintas Platform: Pola integrasi LangChain/Semantic Kernel
Pembuatan • Kesihatan • Kenderaan Autonomi • Bandar Pintar • Aplikasi Mudah Alih
Laluan Pembelajaran Disyorkan (20-30 jam keseluruhan):
- 📖 Pengenalan (Introduction.md): Asas EdgeAI + konteks industri + kerangka pembelajaran
- 📚 Asas (Modul 01-02): Konsep EdgeAI + keluarga model SLM
- ⚙️ Pengoptimuman (Modul 03-04): Pengeluaran + kerangka kuantisasi
- 🚀 Pengeluaran (Modul 05-06): SLMOps + ejen AI + panggilan fungsi
- 💻 Pelaksanaan (Modul 07-08): Sampel platform + alat Foundry Local
Setiap modul termasuk teori, latihan praktikal, dan sampel kod siap pengeluaran.
Peranan Teknikal: Arkitek Penyelesaian EdgeAI • Jurutera ML (Edge) • Pembangun IoT AI • Pembangun AI Mudah Alih
Sektor Industri: Pembuatan 4.0 • Teknologi Kesihatan • Sistem Autonomi • FinTech • Elektronik Pengguna
Projek Portfolio: Sistem multi-ejen • Aplikasi RAG pengeluaran • Pengeluaran lintas platform • Pengoptimuman prestasi
edgeai-for-beginners/
├── 📖 introduction.md # Foundation: EdgeAI Overview & Learning Framework
├── 📚 Module01-04/ # Fundamentals → SLMs → Deployment → Optimization
├── 🔧 Module05-06/ # SLMOps → AI Agents → Function Calling
├── 💻 Module07/ # Platform Samples (VS Code, Windows, Jetson, Mobile)
├── 🏭 Module08/ # Foundry Local Toolkit + 10 Comprehensive Samples
│ ├── samples/01-06/ # Foundation: REST, SDK, RAG, Agents, Routing
│ └── samples/07-10/ # Advanced: API Client, Windows App, Enterprise Agents, Tools
├── 🌐 translations/ # Multi-language support (8+ languages)
└── 📋 STUDY_GUIDE.md # Structured learning paths & time allocation
✅ Pembelajaran Progresif: Teori → Praktik → Pengeluaran
✅ Kajian Kes Sebenar: Microsoft, Japan Airlines, pelaksanaan perusahaan
✅ Sampel Praktikal: 50+ contoh, 10 demo Foundry Local yang komprehensif
✅ Fokus Prestasi: Peningkatan kelajuan 85%, pengurangan saiz 75%
✅ Multi-Platform: Windows, mudah alih, tertanam, hibrid awan-tepi
✅ Siap Pengeluaran: Pemantauan, penskalaan, kerangka keselamatan, pematuhan
📖 Panduan Pembelajaran Tersedia: Laluan pembelajaran 20 jam yang terstruktur dengan panduan peruntukan masa dan alat penilaian kendiri.
EdgeAI mewakili masa depan pengeluaran AI: tempatan dahulu, melindungi privasi, dan cekap. Kuasai kemahiran ini untuk membina generasi seterusnya aplikasi pintar.
Pasukan kami menghasilkan kursus lain! Lihat:
Jika anda menghadapi masalah atau mempunyai soalan tentang membina aplikasi AI, sertai:
Jika anda mempunyai maklum balas produk atau kesilapan semasa membina, lawati:
Penafian:
Dokumen ini telah diterjemahkan menggunakan perkhidmatan terjemahan AI Co-op Translator. Walaupun kami berusaha untuk ketepatan, sila ambil perhatian bahawa terjemahan automatik mungkin mengandungi kesilapan atau ketidaktepatan. Dokumen asal dalam bahasa asalnya harus dianggap sebagai sumber yang berwibawa. Untuk maklumat penting, terjemahan manusia profesional adalah disyorkan. Kami tidak bertanggungjawab atas sebarang salah faham atau salah tafsir yang timbul daripada penggunaan terjemahan ini.
