Skip to content

Latest commit

 

History

History
239 lines (179 loc) · 16.8 KB

File metadata and controls

239 lines (179 loc) · 16.8 KB

EdgeAI untuk Pemula

Imej muka kursus

Penyumbang GitHub Isu GitHub Permintaan Tarik GitHub PRs Welcome

Pemerhati GitHub Fork GitHub Bintang GitHub

Microsoft Azure AI Foundry Discord

Ikuti langkah-langkah ini untuk mula menggunakan sumber ini:

  1. Fork Repositori: Klik Fork GitHub
  2. Clone Repositori: git clone https://github.com/microsoft/edgeai-for-beginners.git
  3. Sertai Azure AI Foundry Discord dan berhubung dengan pakar serta pembangun lain

🌐 Sokongan Pelbagai Bahasa

Disokong melalui GitHub Action (Automatik & Sentiasa Terkini)

Arab | Bengali | Bulgaria | Burma (Myanmar) | Cina (Ringkas) | Cina (Tradisional, Hong Kong) | Cina (Tradisional, Macau) | Cina (Tradisional, Taiwan) | Croatia | Czech | Denmark | Belanda | Estonia | Finland | Perancis | Jerman | Greek | Ibrani | Hindi | Hungary | Indonesia | Itali | Jepun | Korea | Lithuania | Melayu | Marathi | Nepal | Norway | Parsi (Farsi) | Poland | Portugis (Brazil) | Portugis (Portugal) | Punjabi (Gurmukhi) | Romania | Rusia | Serbia (Cyrillic) | Slovak | Slovenia | Sepanyol | Swahili | Sweden | Tagalog (Filipina) | Tamil | Thai | Turki | Ukraine | Urdu | Vietnam

Jika anda ingin menambah sokongan bahasa terjemahan, senarai bahasa yang disokong boleh didapati di sini

Pengenalan

Selamat datang ke EdgeAI untuk Pemula – perjalanan komprehensif anda ke dunia transformasi Kecerdasan Buatan Edge. Kursus ini merapatkan jurang antara keupayaan AI yang hebat dan penerapan praktikal di peranti edge, membolehkan anda memanfaatkan potensi AI secara langsung di tempat data dihasilkan dan keputusan perlu dibuat.

Apa yang Akan Anda Kuasai

Kursus ini membawa anda dari konsep asas hingga pelaksanaan sedia pengeluaran, meliputi:

  • Model Bahasa Kecil (SLM) yang dioptimumkan untuk penerapan edge
  • Pengoptimuman berasaskan perkakasan di pelbagai platform
  • Inferens masa nyata dengan keupayaan melindungi privasi
  • Strategi penerapan pengeluaran untuk aplikasi perusahaan

Kenapa EdgeAI Penting

Edge AI mewakili perubahan paradigma yang menangani cabaran moden yang kritikal:

  • Privasi & Keselamatan: Memproses data sensitif secara tempatan tanpa pendedahan kepada awan
  • Prestasi Masa Nyata: Menghapuskan latensi rangkaian untuk aplikasi yang kritikal masa
  • Kecekapan Kos: Mengurangkan penggunaan jalur lebar dan perbelanjaan pengkomputeran awan
  • Operasi Tahan Lasak: Mengekalkan fungsi semasa gangguan rangkaian
  • Pematuhan Peraturan: Memenuhi keperluan kedaulatan data

Edge AI

Edge AI merujuk kepada menjalankan algoritma AI dan model bahasa secara tempatan pada perkakasan, dekat dengan tempat data dihasilkan tanpa bergantung kepada sumber awan untuk inferens. Ia mengurangkan latensi, meningkatkan privasi, dan membolehkan pembuatan keputusan masa nyata.

Prinsip Utama:

  • Inferens pada peranti: Model AI dijalankan pada peranti edge (telefon, router, mikrokontroler, PC industri)
  • Keupayaan luar talian: Berfungsi tanpa sambungan internet yang berterusan
  • Latensi rendah: Respons segera sesuai untuk sistem masa nyata
  • Kedaulatan data: Menyimpan data sensitif secara tempatan, meningkatkan keselamatan dan pematuhan

Model Bahasa Kecil (SLM)

SLM seperti Phi-4, Mistral-7B, dan Gemma adalah versi dioptimumkan daripada LLM yang lebih besar—dilatih atau disuling untuk:

  • Jejak memori yang dikurangkan: Penggunaan memori peranti edge yang terhad dengan cekap
  • Permintaan pengkomputeran yang lebih rendah: Dioptimumkan untuk prestasi CPU dan GPU edge
  • Masa permulaan yang lebih pantas: Inisialisasi cepat untuk aplikasi yang responsif

Mereka membuka keupayaan NLP yang hebat sambil memenuhi kekangan:

  • Sistem terbenam: Peranti IoT dan pengawal industri
  • Peranti mudah alih: Telefon pintar dan tablet dengan keupayaan luar talian
  • Peranti IoT: Sensor dan peranti pintar dengan sumber terhad
  • Pelayan edge: Unit pemprosesan tempatan dengan sumber GPU terhad
  • Komputer Peribadi: Senario penerapan desktop dan laptop

Modul Kursus & Navigasi

Modul Topik Kawasan Fokus Kandungan Utama Tahap Tempoh
📖 00 Pengenalan kepada EdgeAI Asas & Konteks Gambaran Keseluruhan EdgeAI • Aplikasi Industri • Pengenalan SLM • Objektif Pembelajaran Pemula 1-2 jam
📚 01 Asas EdgeAI Perbandingan Cloud vs Edge AI Asas EdgeAI • Kajian Kes Dunia Nyata • Panduan Pelaksanaan • Penerapan Edge Pemula 3-4 jam
🧠 02 Asas Model SLM Keluarga model & seni bina Keluarga Phi • Keluarga Qwen • Keluarga Gemma • BitNET • μModel • Phi-Silica Pemula 4-5 jam
🚀 03 Amalan Penerapan SLM Penerapan tempatan & awan Pembelajaran Lanjutan • Persekitaran Tempatan • Penerapan Awan Pertengahan 4-5 jam
⚙️ 04 Toolkit Pengoptimuman Model Pengoptimuman merentas platform Pengenalan • Llama.cpp • Microsoft Olive • OpenVINO • Apple MLX • Sintesis Aliran Kerja Pertengahan 5-6 jam
🔧 05 SLMOps Pengeluaran Operasi pengeluaran Pengenalan SLMOps • Penyulingan Model • Penalaan Halus • Penerapan Pengeluaran Lanjutan 5-6 jam
🤖 06 Ejen AI & Panggilan Fungsi Rangka kerja ejen & MCP Pengenalan Ejen • Panggilan Fungsi • Protokol Konteks Model Lanjutan 4-5 jam
💻 07 Pelaksanaan Platform Sampel merentas platform Toolkit AI • Foundry Tempatan • Pembangunan Windows Lanjutan 3-4 jam
🏭 08 Toolkit Foundry Tempatan Sampel sedia pengeluaran Aplikasi sampel (lihat butiran di bawah) Pakar 8-10 jam

🏭 Modul 08: Aplikasi Sampel

🎓 Bengkel: Laluan Pembelajaran Praktikal

Bahan bengkel praktikal yang komprehensif dengan pelaksanaan sedia pengeluaran:

  • Panduan Bengkel - Objektif pembelajaran lengkap, hasil, dan navigasi sumber
  • Sampel Python (6 sesi) - Dikemas kini dengan amalan terbaik, pengendalian ralat, dan dokumentasi komprehensif
  • Jupyter Notebooks (8 interaktif) - Tutorial langkah demi langkah dengan penanda aras dan pemantauan prestasi
  • Panduan Sesi - Panduan markdown terperinci untuk setiap sesi bengkel
  • Alat Pengesahan - Skrip untuk mengesahkan kualiti kod dan menjalankan ujian awal

Apa yang Akan Anda Bina:

  • Aplikasi chat AI tempatan dengan sokongan penstriman
  • Saluran RAG dengan penilaian kualiti (RAGAS)
  • Alat penanda aras dan perbandingan multi-model
  • Sistem orkestrasi multi-ejen
  • Penghala model pintar dengan pemilihan berasaskan tugas

📊 Ringkasan Laluan Pembelajaran

  • Jumlah Tempoh: 36-45 jam
  • Laluan Pemula: Modul 01-02 (7-9 jam)
  • Laluan Pertengahan: Modul 03-04 (9-11 jam)
  • Laluan Lanjutan: Modul 05-07 (12-15 jam)
  • Laluan Pakar: Modul 08 (8-10 jam)

Apa yang Akan Anda Bina

🎯 Kecekapan Teras

  • Seni Bina Edge AI: Reka sistem AI tempatan dengan integrasi awan
  • Pengoptimuman Model: Kuantisasi dan pemampatan model untuk penerapan edge (peningkatan kelajuan 85%, pengurangan saiz 75%)
  • Penerapan Multi-Platform: Windows, mudah alih, terbenam, dan sistem hibrid awan-edge
  • Operasi Pengeluaran: Memantau, menskalakan, dan menyelenggara AI tepi dalam pengeluaran

🏗️ Projek Praktikal

  • Aplikasi Chat Tempatan Foundry: Aplikasi asli Windows 11 dengan pertukaran model
  • Sistem Multi-Ejen: Koordinator dengan ejen pakar untuk aliran kerja kompleks
  • Aplikasi RAG: Pemprosesan dokumen tempatan dengan carian vektor
  • Router Model: Pemilihan pintar antara model berdasarkan analisis tugas
  • Kerangka API: Klien siap pengeluaran dengan penstriman dan pemantauan kesihatan
  • Alat Lintas Platform: Corak integrasi LangChain/Semantic Kernel

🏢 Aplikasi Industri

PembuatanKesihatanKenderaan AutonomiBandar PintarAplikasi Mudah Alih

Permulaan Pantas

Laluan Pembelajaran Disyorkan (20-30 jam keseluruhan):

  1. 📖 Pengenalan (Introduction.md): Asas EdgeAI + konteks industri + kerangka pembelajaran
  2. 📚 Asas (Modul 01-02): Konsep EdgeAI + keluarga model SLM
  3. ⚙️ Pengoptimuman (Modul 03-04): Kerangka pengeluaran + kuantisasi
  4. 🚀 Pengeluaran (Modul 05-06): SLMOps + ejen AI + pemanggilan fungsi
  5. 💻 Pelaksanaan (Modul 07-08): Sampel platform + alat Foundry Local

Setiap modul merangkumi teori, latihan praktikal, dan sampel kod siap pengeluaran.

Impak Kerjaya

Peranan Teknikal: Arkitek Penyelesaian EdgeAI • Jurutera ML (Edge) • Pembangun AI IoT • Pembangun AI Mudah Alih

Sektor Industri: Pembuatan 4.0 • Teknologi Kesihatan • Sistem Autonomi • FinTech • Elektronik Pengguna

Projek Portfolio: Sistem multi-ejen • Aplikasi RAG pengeluaran • Pengeluaran lintas platform • Pengoptimuman prestasi

Struktur Repositori

edgeai-for-beginners/
├── 📖 introduction.md  # Foundation: EdgeAI Overview & Learning Framework
├── 📚 Module01-04/     # Fundamentals → SLMs → Deployment → Optimization  
├── 🔧 Module05-06/     # SLMOps → AI Agents → Function Calling
├── 💻 Module07/        # Platform Samples (VS Code, Windows, Jetson, Mobile)
├── 🏭 Module08/        # Foundry Local Toolkit + 10 Comprehensive Samples
│   ├── samples/01-06/  # Foundation: REST, SDK, RAG, Agents, Routing
│   └── samples/07-10/  # Advanced: API Client, Windows App, Enterprise Agents, Tools
├── 🌐 translations/    # Multi-language support (8+ languages)
└── 📋 STUDY_GUIDE.md   # Structured learning paths & time allocation

Sorotan Kursus

Pembelajaran Progresif: Teori → Praktik → Pengeluaran
Kajian Kes Sebenar: Microsoft, Japan Airlines, pelaksanaan perusahaan
Sampel Praktikal: 50+ contoh, 10 demo Foundry Local yang komprehensif
Fokus Prestasi: Peningkatan kelajuan 85%, pengurangan saiz 75%
Multi-Platform: Windows, mudah alih, tertanam, hibrid awan-tepi
Siap Pengeluaran: Pemantauan, penskalaan, keselamatan, kerangka pematuhan

📖 Panduan Pembelajaran Tersedia: Laluan pembelajaran 20 jam yang terstruktur dengan panduan peruntukan masa dan alat penilaian kendiri.


EdgeAI mewakili masa depan pengeluaran AI: tempatan dahulu, melindungi privasi, dan cekap. Kuasai kemahiran ini untuk membina aplikasi pintar generasi seterusnya.

Kursus Lain

Pasukan kami menghasilkan kursus lain! Lihat:

Mendapatkan Bantuan

Jika anda menghadapi masalah atau mempunyai soalan tentang membina aplikasi AI, sertai:

Azure AI Foundry Discord

Jika anda mempunyai maklum balas produk atau menghadapi ralat semasa membina, lawati:

Azure AI Foundry Developer Forum


Penafian:
Dokumen ini telah diterjemahkan menggunakan perkhidmatan terjemahan AI Co-op Translator. Walaupun kami berusaha untuk memastikan ketepatan, sila ambil maklum bahawa terjemahan automatik mungkin mengandungi kesilapan atau ketidaktepatan. Dokumen asal dalam bahasa asalnya harus dianggap sebagai sumber yang berwibawa. Untuk maklumat yang kritikal, terjemahan manusia profesional adalah disyorkan. Kami tidak bertanggungjawab atas sebarang salah faham atau salah tafsir yang timbul daripada penggunaan terjemahan ini.