Skip to content

Latest commit

 

History

History
237 lines (177 loc) · 17.8 KB

File metadata and controls

237 lines (177 loc) · 17.8 KB

EdgeAI pro začátečníky

Obrázek kurzu

Přispěvatelé na GitHubu
Problémy na GitHubu
Pull requesty na GitHubu
PRs Welcome

Sledující na GitHubu
Forky na GitHubu
Hvězdičky na GitHubu

Microsoft Azure AI Foundry Discord

Postupujte podle těchto kroků, abyste mohli začít používat tyto zdroje:

  1. Forkněte repozitář: Klikněte Forky na GitHubu
  2. Naklonujte repozitář: git clone https://github.com/microsoft/edgeai-for-beginners.git
  3. Připojte se na Discord Azure AI Foundry a setkejte se s odborníky a dalšími vývojáři

🌐 Podpora více jazyků

Podporováno prostřednictvím GitHub Action (automatizované a vždy aktuální)

Arabština | Bengálština | Bulharština | Barmština (Myanmar) | Čínština (zjednodušená) | Čínština (tradiční, Hongkong) | Čínština (tradiční, Macao) | Čínština (tradiční, Tchaj-wan) | Chorvatština | Čeština | Dánština | Nizozemština | Estonština | Finština | Francouzština | Němčina | Řečtina | Hebrejština | Hindština | Maďarština | Indonéština | Italština | Japonština | Korejština | Litevština | Malajština | Maráthština | Nepálština | Norština | Perština (Farsi) | Polština | Portugalština (Brazílie) | Portugalština (Portugalsko) | Panjábština (Gurmukhi) | Rumunština | Ruština | Srbština (cyrilice) | Slovenština | Slovinština | Španělština | Svahilština | Švédština | Tagalog (Filipíny) | Tamilština | Thajština | Turečtina | Ukrajinština | Urdu | Vietnamština

Pokud si přejete přidat další překlady, seznam podporovaných jazyků najdete zde

Úvod

Vítejte v kurzu EdgeAI pro začátečníky – komplexní cestě do světa Edge umělé inteligence. Tento kurz propojuje výkonné schopnosti AI s praktickým nasazením na edge zařízeních, což vám umožní využít potenciál AI přímo tam, kde se generují data a kde je třeba činit rozhodnutí.

Co se naučíte

Kurz vás provede od základních konceptů až po implementace připravené pro produkci, včetně:

  • Malých jazykových modelů (SLM) optimalizovaných pro nasazení na edge
  • Optimalizace přizpůsobené hardwaru na různých platformách
  • Inferencí v reálném čase s ochranou soukromí
  • Strategií nasazení pro podnikové aplikace

Proč je EdgeAI důležité

Edge AI představuje zásadní změnu, která řeší klíčové moderní výzvy:

  • Ochrana soukromí a bezpečnost: Zpracování citlivých dat lokálně bez nutnosti přenosu do cloudu
  • Výkon v reálném čase: Eliminace latence sítě pro aplikace kritické na čas
  • Efektivita nákladů: Snížení nákladů na šířku pásma a cloudové výpočty
  • Odolnost: Funkčnost i při výpadcích sítě
  • Soulad s předpisy: Splnění požadavků na suverenitu dat

Edge AI

Edge AI označuje provozování AI algoritmů a jazykových modelů lokálně na hardwaru, blízko místa, kde se generují data, bez závislosti na cloudových zdrojích pro inferenci. Snižuje latenci, zvyšuje ochranu soukromí a umožňuje rozhodování v reálném čase.

Základní principy:

  • Inferencí na zařízení: AI modely běží na edge zařízeních (telefony, routery, mikrokontroléry, průmyslové PC)
  • Offline schopnosti: Funguje bez trvalého připojení k internetu
  • Nízká latence: Okamžité reakce vhodné pro systémy v reálném čase
  • Suverenita dat: Udržuje citlivá data lokálně, zlepšuje bezpečnost a soulad s předpisy

Malé jazykové modely (SLM)

SLM jako Phi-4, Mistral-7B a Gemma jsou optimalizované verze větších LLM – trénované nebo destilované pro:

  • Snížené nároky na paměť: Efektivní využití omezené paměti edge zařízení
  • Nižší výpočetní nároky: Optimalizace pro výkon CPU a edge GPU
  • Rychlejší start: Rychlá inicializace pro pohotové aplikace

Umožňují výkonné NLP schopnosti při splnění omezení:

  • Vestavěné systémy: IoT zařízení a průmyslové kontroléry
  • Mobilní zařízení: Smartphony a tablety s offline schopnostmi
  • IoT zařízení: Senzory a chytrá zařízení s omezenými zdroji
  • Edge servery: Lokální zpracovací jednotky s omezenými GPU zdroji
  • Osobní počítače: Scénáře nasazení na desktopu a notebooku

Moduly kurzu a navigace

Modul Téma Oblast zaměření Klíčový obsah Úroveň Délka
📖 00 Úvod do EdgeAI Základy a kontext Přehled EdgeAI • Průmyslové aplikace • Úvod do SLM • Cíle učení Začátečník 1-2 hod
📚 01 Základy EdgeAI Porovnání cloud vs Edge AI Základy EdgeAI • Případové studie • Průvodce implementací • Nasazení na edge Začátečník 3-4 hod
🧠 02 Základy modelů SLM Rodiny modelů a architektura Rodina Phi • Rodina Qwen • Rodina Gemma • BitNET • μModel • Phi-Silica Začátečník 4-5 hod
🚀 03 Praxe nasazení SLM Lokální a cloudové nasazení Pokročilé učení • Lokální prostředí • Cloudové nasazení Středně pokročilý 4-5 hod
⚙️ 04 Toolkit pro optimalizaci modelů Optimalizace napříč platformami Úvod • Llama.cpp • Microsoft Olive • OpenVINO • Apple MLX • Syntéza workflow Středně pokročilý 5-6 hod
🔧 05 SLMOps v produkci Produkční operace Úvod do SLMOps • Destilace modelů • Doladění • Produkční nasazení Pokročilý 5-6 hod
🤖 06 AI agenti a volání funkcí Rámce agentů & MCP Úvod do agentů • Volání funkcí • Protokol kontextu modelu Pokročilý 4-5 hod
💻 07 Implementace na platformě Ukázky napříč platformami AI Toolkit • Foundry Local • Vývoj pro Windows Pokročilý 3-4 hod
🏭 08 Toolkit Foundry Local Ukázky připravené pro produkci Ukázkové aplikace (viz podrobnosti níže) Expert 8-10 hod

🏭 Modul 08: Ukázkové aplikace

🎓 Workshop: Praktická cesta učení

Komplexní materiály pro praktický workshop s implementacemi připravenými pro produkci:

  • Průvodce workshopem - Kompletní cíle učení, výsledky a navigace zdrojů
  • Python ukázky (6 sezení) - Aktualizováno s nejlepšími postupy, ošetřením chyb a komplexní dokumentací
  • Jupyter Notebooks (8 interaktivních) - Krok za krokem tutoriály s benchmarky a monitorováním výkonu
  • Průvodce sezeními - Podrobné markdown průvodce pro každé sezení workshopu
  • Nástroje pro validaci - Skripty pro ověření kvality kódu a provedení rychlých testů

Co vytvoříte:

  • Lokální AI chatovací aplikace s podporou streamování
  • RAG pipeline s hodnocením kvality (RAGAS)
  • Nástroje pro benchmarking a porovnání více modelů
  • Systémy pro orchestrace více agentů
  • Inteligentní směrování modelů na základě úkolů

📊 Shrnutí cesty učení

  • Celková délka: 36-45 hodin
  • Cesta pro začátečníky: Moduly 01-02 (7-9 hodin)
  • Cesta pro středně pokročilé: Moduly 03-04 (9-11 hodin)
  • Cesta pro pokročilé: Moduly 05-07 (12-15 hodin)
  • Cesta pro experty: Modul 08 (8-10 hodin)

Co vytvoříte

🎯 Klíčové dovednosti

  • Architektura Edge AI: Navrhování AI systémů s lokálním zaměřením a integrací cloudu
  • Optimalizace modelů: Kvantizace a komprese modelů pro nasazení na edge (85% zrychlení, 75% snížení velikosti)
  • Nasazení na více platformách: Windows, mobilní zařízení, vestavěné systémy a hybridní systémy cloud-edge
  • Provoz v produkci: Monitorování, škálování a údržba edge AI v produkčním prostředí

🏗️ Praktické projekty

  • Foundry Local Chat Apps: Nativní aplikace pro Windows 11 s přepínáním modelů
  • Multi-agentní systémy: Koordinátor se specializovanými agenty pro komplexní pracovní postupy
  • RAG aplikace: Lokální zpracování dokumentů s vyhledáváním pomocí vektorů
  • Modelové routery: Inteligentní výběr mezi modely na základě analýzy úkolů
  • API frameworky: Produkčně připravení klienti s podporou streamování a monitorování stavu
  • Nástroje napříč platformami: Vzory integrace LangChain/Semantic Kernel

🏢 Průmyslové aplikace

VýrobaZdravotnictvíAutonomní vozidlaChytrá městaMobilní aplikace

Rychlý start

Doporučená studijní cesta (celkem 20–30 hodin):

  1. 📖 Úvod (Introduction.md): Základy EdgeAI + průmyslový kontext + rámec pro učení
  2. 📚 Základy (Moduly 01–02): Koncepty EdgeAI + rodiny modelů SLM
  3. ⚙️ Optimalizace (Moduly 03–04): Nasazení + kvantizační frameworky
  4. 🚀 Produkce (Moduly 05–06): SLMOps + AI agenti + volání funkcí
  5. 💻 Implementace (Moduly 07–08): Ukázky platforem + nástroje Foundry Local

Každý modul obsahuje teorii, praktická cvičení a produkčně připravené ukázky kódu.

Dopad na kariéru

Technické role: Architekt řešení EdgeAI • ML inženýr (Edge) • Vývojář IoT AI • Vývojář mobilní AI

Průmyslové sektory: Výroba 4.0 • Zdravotnické technologie • Autonomní systémy • FinTech • Spotřební elektronika

Portfolio projektů: Multi-agentní systémy • Produkční RAG aplikace • Nasazení napříč platformami • Optimalizace výkonu

Struktura repozitáře

edgeai-for-beginners/
├── 📖 introduction.md  # Foundation: EdgeAI Overview & Learning Framework
├── 📚 Module01-04/     # Fundamentals → SLMs → Deployment → Optimization  
├── 🔧 Module05-06/     # SLMOps → AI Agents → Function Calling
├── 💻 Module07/        # Platform Samples (VS Code, Windows, Jetson, Mobile)
├── 🏭 Module08/        # Foundry Local Toolkit + 10 Comprehensive Samples
│   ├── samples/01-06/  # Foundation: REST, SDK, RAG, Agents, Routing
│   └── samples/07-10/  # Advanced: API Client, Windows App, Enterprise Agents, Tools
├── 🌐 translations/    # Multi-language support (8+ languages)
└── 📋 STUDY_GUIDE.md   # Structured learning paths & time allocation

Hlavní body kurzu

Progresivní učení: Teorie → Praxe → Nasazení v produkci
Skutečné případové studie: Microsoft, Japan Airlines, podnikové implementace
Praktické ukázky: Více než 50 příkladů, 10 komplexních ukázek Foundry Local
Zaměření na výkon: Zlepšení rychlosti o 85 %, snížení velikosti o 75 %
Podpora více platforem: Windows, mobilní zařízení, embedded systémy, hybridní cloud-edge
Připraveno pro produkci: Monitorování, škálování, zabezpečení, rámce pro dodržování předpisů

📖 Dostupný studijní průvodce: Strukturovaná studijní cesta na 20 hodin s doporučením časového rozvržení a nástroji pro sebehodnocení.


EdgeAI představuje budoucnost nasazení AI: lokální přístup, ochrana soukromí a efektivita. Osvojte si tyto dovednosti a vytvořte další generaci inteligentních aplikací.

Další kurzy

Náš tým vytváří i další kurzy! Podívejte se na:

Získání pomoci

Pokud narazíte na problém nebo máte otázky ohledně vytváření AI aplikací, připojte se:

Azure AI Foundry Discord

Pokud máte zpětnou vazbu k produktu nebo narazíte na chyby při vývoji, navštivte:

Azure AI Foundry Developer Forum


Prohlášení:
Tento dokument byl přeložen pomocí služby AI pro překlady Co-op Translator. I když se snažíme o přesnost, mějte prosím na paměti, že automatizované překlady mohou obsahovat chyby nebo nepřesnosti. Původní dokument v jeho původním jazyce by měl být považován za autoritativní zdroj. Pro důležité informace doporučujeme profesionální lidský překlad. Neodpovídáme za žádná nedorozumění nebo nesprávné interpretace vyplývající z použití tohoto překladu.