Skip to content

Latest commit

 

History

History
255 lines (189 loc) · 19.2 KB

File metadata and controls

255 lines (189 loc) · 19.2 KB

EdgeAI untuk Pemula

Imej muka kursus

Penyumbang GitHub Isu GitHub Permintaan Tarik GitHub PRs Welcome

Pemerhati GitHub Fork GitHub Bintang GitHub

Microsoft Foundry Discord

Ikuti langkah-langkah ini untuk mula menggunakan sumber ini:

  1. Fork Repositori: Klik Fork GitHub
  2. Clone Repositori: git clone https://github.com/microsoft/edgeai-for-beginners.git
  3. Sertai Discord Azure AI Foundry dan berhubung dengan pakar serta pembangun lain

🌐 Sokongan Pelbagai Bahasa

Disokong melalui GitHub Action (Automatik & Sentiasa Terkini)

Arabic | Bengali | Bulgarian | Burmese (Myanmar) | Chinese (Simplified) | Chinese (Traditional, Hong Kong) | Chinese (Traditional, Macau) | Chinese (Traditional, Taiwan) | Croatian | Czech | Danish | Dutch | Estonian | Finnish | French | German | Greek | Hebrew | Hindi | Hungarian | Indonesian | Italian | Japanese | Korean | Lithuanian | Malay | Marathi | Nepali | Nigerian Pidgin | Norwegian | Persian (Farsi) | Polish | Portuguese (Brazil) | Portuguese (Portugal) | Punjabi (Gurmukhi) | Romanian | Russian | Serbian (Cyrillic) | Slovak | Slovenian | Spanish | Swahili | Swedish | Tagalog (Filipino) | Tamil | Thai | Turkish | Ukrainian | Urdu | Vietnamese

Jika anda ingin menambah sokongan bahasa lain, senarai bahasa yang disokong boleh didapati di sini

Pengenalan

Selamat datang ke EdgeAI untuk Pemula – perjalanan komprehensif anda ke dunia transformasi Kecerdasan Buatan di Edge. Kursus ini merapatkan jurang antara keupayaan AI yang hebat dan pelaksanaan praktikal di peranti edge, membolehkan anda memanfaatkan potensi AI secara langsung di tempat data dihasilkan dan keputusan perlu dibuat.

Apa yang Akan Anda Kuasai

Kursus ini membawa anda dari konsep asas hingga pelaksanaan sedia pengeluaran, meliputi:

  • Small Language Models (SLMs) yang dioptimumkan untuk pelaksanaan di edge
  • Pengoptimuman berasaskan perkakasan di pelbagai platform
  • Inferens masa nyata dengan keupayaan melindungi privasi
  • Strategi pelaksanaan pengeluaran untuk aplikasi perusahaan

Kenapa EdgeAI Penting

Edge AI mewakili perubahan paradigma yang menangani cabaran moden yang kritikal:

  • Privasi & Keselamatan: Memproses data sensitif secara tempatan tanpa pendedahan kepada awan
  • Prestasi Masa Nyata: Menghapuskan kelewatan rangkaian untuk aplikasi yang kritikal masa
  • Kecekapan Kos: Mengurangkan penggunaan jalur lebar dan perbelanjaan pengkomputeran awan
  • Operasi Tahan Lasak: Mengekalkan fungsi semasa gangguan rangkaian
  • Pematuhan Peraturan: Memenuhi keperluan kedaulatan data

Edge AI

Edge AI merujuk kepada menjalankan algoritma AI dan model bahasa secara tempatan pada perkakasan, dekat dengan tempat data dihasilkan tanpa bergantung kepada sumber awan untuk inferens. Ia mengurangkan kelewatan, meningkatkan privasi, dan membolehkan pembuatan keputusan masa nyata.

Prinsip Utama:

  • Inferens pada peranti: Model AI dijalankan pada peranti edge (telefon, router, mikrokontroler, PC industri)
  • Keupayaan luar talian: Berfungsi tanpa sambungan internet yang berterusan
  • Kelewatan rendah: Respons segera sesuai untuk sistem masa nyata
  • Kedaulatan data: Menyimpan data sensitif secara tempatan, meningkatkan keselamatan dan pematuhan

Small Language Models (SLMs)

SLMs seperti Phi-4, Mistral-7B, dan Gemma adalah versi dioptimumkan daripada LLM yang lebih besar—dilatih atau disuling untuk:

  • Jejak memori yang dikurangkan: Penggunaan memori peranti edge yang terhad dengan cekap
  • Permintaan pengkomputeran yang lebih rendah: Dioptimumkan untuk prestasi CPU dan GPU edge
  • Masa permulaan yang lebih pantas: Inisialisasi cepat untuk aplikasi yang responsif

Mereka membuka keupayaan NLP yang hebat sambil memenuhi kekangan:

  • Sistem terbenam: Peranti IoT dan pengawal industri
  • Peranti mudah alih: Telefon pintar dan tablet dengan keupayaan luar talian
  • Peranti IoT: Sensor dan peranti pintar dengan sumber terhad
  • Pelayan edge: Unit pemprosesan tempatan dengan sumber GPU terhad
  • Komputer Peribadi: Senario pelaksanaan desktop dan laptop

Modul Kursus & Navigasi

Modul Topik Kawasan Fokus Kandungan Utama Tahap Tempoh
📖 00 Pengenalan kepada EdgeAI Asas & Konteks Gambaran Keseluruhan EdgeAI • Aplikasi Industri • Pengenalan SLM • Objektif Pembelajaran Pemula 1-2 jam
📚 01 Asas EdgeAI Perbandingan Cloud vs Edge AI Asas EdgeAI • Kajian Kes Dunia Sebenar • Panduan Pelaksanaan • Pelaksanaan Edge Pemula 3-4 jam
🧠 02 Asas Model SLM Keluarga model & seni bina Keluarga Phi • Keluarga Qwen • Keluarga Gemma • BitNET • μModel • Phi-Silica Pemula 4-5 jam
🚀 03 Amalan Pelaksanaan SLM Pelaksanaan tempatan & awan Pembelajaran Lanjutan • Persekitaran Tempatan • Pelaksanaan Awan Pertengahan 4-5 jam
⚙️ 04 Toolkit Pengoptimuman Model Pengoptimuman merentas platform Pengenalan • Llama.cpp • Microsoft Olive • OpenVINO • Apple MLX • Sintesis Aliran Kerja Pertengahan 5-6 jam
🔧 05 SLMOps Pengeluaran Operasi pengeluaran Pengenalan SLMOps • Penyulingan Model • Penalaan Halus • Pelaksanaan Pengeluaran Lanjutan 5-6 jam
🤖 06 Ejen AI & Panggilan Fungsi Rangka kerja ejen & MCP Pengenalan Ejen • Panggilan Fungsi • Protokol Konteks Model Lanjutan 4-5 jam
💻 07 Pelaksanaan Platform Sampel merentas platform Toolkit AI • Foundry Tempatan • Pembangunan Windows Lanjutan 3-4 jam
🏭 08 Toolkit Foundry Tempatan Sampel sedia pengeluaran Aplikasi sampel (lihat butiran di bawah) Pakar 8-10 jam

🏭 Modul 08: Aplikasi Sampel

🎓 Bengkel: Laluan Pembelajaran Praktikal

Bahan bengkel praktikal yang komprehensif dengan pelaksanaan sedia pengeluaran:

  • Panduan Bengkel - Objektif pembelajaran lengkap, hasil, dan navigasi sumber
  • Sampel Python (6 sesi) - Dikemas kini dengan amalan terbaik, pengendalian ralat, dan dokumentasi komprehensif
  • Jupyter Notebooks (8 interaktif) - Tutorial langkah demi langkah dengan penanda aras dan pemantauan prestasi
  • Panduan Sesi - Panduan markdown terperinci untuk setiap sesi bengkel
  • Alat Pengesahan - Skrip untuk mengesahkan kualiti kod dan menjalankan ujian awal

Apa yang Akan Anda Bina:

  • Aplikasi chat AI tempatan dengan sokongan penstriman
  • Saluran RAG dengan penilaian kualiti (RAGAS)
  • Alat penanda aras dan perbandingan multi-model
  • Sistem orkestrasi multi-ejen
  • Penghala model pintar dengan pemilihan berdasarkan tugas

📊 Ringkasan Laluan Pembelajaran

  • Jumlah Tempoh: 36-45 jam
  • Laluan Pemula: Modul 01-02 (7-9 jam)
  • Laluan Pertengahan: Modul 03-04 (9-11 jam)
  • Laluan Lanjutan: Modul 05-07 (12-15 jam)
  • Laluan Pakar: Modul 08 (8-10 jam)

Apa yang Akan Anda Bina

🎯 Kecekapan Teras

  • Seni Bina Edge AI: Reka sistem AI yang mengutamakan tempatan dengan integrasi awan
  • Pengoptimuman Model: Kuantisasi dan pemampatan model untuk pelaksanaan di edge (peningkatan kelajuan 85%, pengurangan saiz 75%)
  • Pelaksanaan Multi-Platform: Windows, mudah alih, terbenam, dan sistem hibrid awan-edge
  • Operasi Pengeluaran: Memantau, menskalakan, dan menyelenggara AI tepi dalam pengeluaran

🏗️ Projek Praktikal

  • Aplikasi Chat Tempatan Foundry: Aplikasi asli Windows 11 dengan penukaran model
  • Sistem Multi-Ejen: Koordinator dengan ejen pakar untuk aliran kerja kompleks
  • Aplikasi RAG: Pemprosesan dokumen tempatan dengan carian vektor
  • Router Model: Pemilihan pintar antara model berdasarkan analisis tugas
  • Kerangka API: Klien siap pengeluaran dengan penstriman dan pemantauan kesihatan
  • Alat Lintas Platform: Pola integrasi LangChain/Semantic Kernel

🏢 Aplikasi Industri

PembuatanKesihatanKenderaan AutonomiBandar PintarAplikasi Mudah Alih

Permulaan Pantas

Laluan Pembelajaran Disyorkan (20-30 jam keseluruhan):

  1. 📖 Pengenalan (Introduction.md): Asas EdgeAI + konteks industri + kerangka pembelajaran
  2. 📚 Asas (Modul 01-02): Konsep EdgeAI + keluarga model SLM
  3. ⚙️ Pengoptimuman (Modul 03-04): Pengeluaran + kerangka kuantisasi
  4. 🚀 Pengeluaran (Modul 05-06): SLMOps + ejen AI + panggilan fungsi
  5. 💻 Pelaksanaan (Modul 07-08): Sampel platform + alat Foundry Local

Setiap modul termasuk teori, latihan praktikal, dan sampel kod siap pengeluaran.

Impak Kerjaya

Peranan Teknikal: Arkitek Penyelesaian EdgeAI • Jurutera ML (Edge) • Pembangun IoT AI • Pembangun AI Mudah Alih

Sektor Industri: Pembuatan 4.0 • Teknologi Kesihatan • Sistem Autonomi • FinTech • Elektronik Pengguna

Projek Portfolio: Sistem multi-ejen • Aplikasi RAG pengeluaran • Pengeluaran lintas platform • Pengoptimuman prestasi

Struktur Repositori

edgeai-for-beginners/
├── 📖 introduction.md  # Foundation: EdgeAI Overview & Learning Framework
├── 📚 Module01-04/     # Fundamentals → SLMs → Deployment → Optimization  
├── 🔧 Module05-06/     # SLMOps → AI Agents → Function Calling
├── 💻 Module07/        # Platform Samples (VS Code, Windows, Jetson, Mobile)
├── 🏭 Module08/        # Foundry Local Toolkit + 10 Comprehensive Samples
│   ├── samples/01-06/  # Foundation: REST, SDK, RAG, Agents, Routing
│   └── samples/07-10/  # Advanced: API Client, Windows App, Enterprise Agents, Tools
├── 🌐 translations/    # Multi-language support (8+ languages)
└── 📋 STUDY_GUIDE.md   # Structured learning paths & time allocation

Sorotan Kursus

Pembelajaran Progresif: Teori → Praktik → Pengeluaran
Kajian Kes Sebenar: Microsoft, Japan Airlines, pelaksanaan perusahaan
Sampel Praktikal: 50+ contoh, 10 demo Foundry Local yang komprehensif
Fokus Prestasi: Peningkatan kelajuan 85%, pengurangan saiz 75%
Multi-Platform: Windows, mudah alih, tertanam, hibrid awan-tepi
Siap Pengeluaran: Pemantauan, penskalaan, kerangka keselamatan, pematuhan

📖 Panduan Pembelajaran Tersedia: Laluan pembelajaran 20 jam yang terstruktur dengan panduan peruntukan masa dan alat penilaian kendiri.


EdgeAI mewakili masa depan pengeluaran AI: tempatan dahulu, melindungi privasi, dan cekap. Kuasai kemahiran ini untuk membina generasi seterusnya aplikasi pintar.

Kursus Lain

Pasukan kami menghasilkan kursus lain! Lihat:

Azure / Edge / MCP / Ejen

AZD untuk Pemula Edge AI untuk Pemula MCP untuk Pemula Ejen AI untuk Pemula


Siri AI Generatif

AI Generatif untuk Pemula AI Generatif (.NET) AI Generatif (Java) AI Generatif (JavaScript)


Pembelajaran Teras

ML untuk Pemula Sains Data untuk Pemula AI untuk Pemula Keselamatan Siber untuk Pemula Pembangunan Web untuk Pemula IoT untuk Pemula Pembangunan XR untuk Pemula


Siri Copilot

Copilot untuk Pengaturcaraan Berpasangan AI Copilot untuk C#/.NET Pengembaraan Copilot

Mendapatkan Bantuan

Jika anda menghadapi masalah atau mempunyai soalan tentang membina aplikasi AI, sertai:

Microsoft Foundry Discord

Jika anda mempunyai maklum balas produk atau kesilapan semasa membina, lawati:

Microsoft Foundry Developer Forum


Penafian:
Dokumen ini telah diterjemahkan menggunakan perkhidmatan terjemahan AI Co-op Translator. Walaupun kami berusaha untuk ketepatan, sila ambil perhatian bahawa terjemahan automatik mungkin mengandungi kesilapan atau ketidaktepatan. Dokumen asal dalam bahasa asalnya harus dianggap sebagai sumber yang berwibawa. Untuk maklumat penting, terjemahan manusia profesional adalah disyorkan. Kami tidak bertanggungjawab atas sebarang salah faham atau salah tafsir yang timbul daripada penggunaan terjemahan ini.