Skip to content

Latest commit

 

History

History
255 lines (189 loc) · 20.2 KB

File metadata and controls

255 lines (189 loc) · 20.2 KB

EdgeAI pro začátečníky

Obrázek kurzu

Přispěvatelé na GitHubu Problémy na GitHubu Pull requesty na GitHubu PRs Welcome

Sledující na GitHubu Forky na GitHubu Hvězdičky na GitHubu

Microsoft Azure AI Foundry Discord

Postupujte podle těchto kroků, abyste mohli začít používat tyto zdroje:

  1. Forkněte repozitář: Klikněte Forky na GitHubu
  2. Naklonujte repozitář: git clone https://github.com/microsoft/edgeai-for-beginners.git
  3. Připojte se na Discord Azure AI Foundry a setkejte se s odborníky a dalšími vývojáři

🌐 Podpora více jazyků

Podporováno prostřednictvím GitHub Action (automatizované a vždy aktuální)

Arabština | Bengálština | Bulharština | Barmština (Myanmar) | Čínština (zjednodušená) | Čínština (tradiční, Hongkong) | Čínština (tradiční, Macao) | Čínština (tradiční, Tchaj-wan) | Chorvatština | Čeština | Dánština | Nizozemština | Estonština | Finština | Francouzština | Němčina | Řečtina | Hebrejština | Hindština | Maďarština | Indonéština | Italština | Japonština | Korejština | Litevština | Malajština | Maráthština | Nepálština | Norština | Perština (Farsi) | Polština | Portugalština (Brazílie) | Portugalština (Portugalsko) | Paňdžábština (Gurmukhi) | Rumunština | Ruština | Srbština (cyrilice) | Slovenština | Slovinština | Španělština | Svahilština | Švédština | Tagalog (Filipíny) | Tamilština | Thajština | Turečtina | Ukrajinština | Urdu | Vietnamština

Pokud si přejete mít podporu dalších jazyků, seznam podporovaných jazyků najdete zde

Úvod

Vítejte v EdgeAI pro začátečníky – komplexní cestě do světa Edge umělé inteligence. Tento kurz propojuje výkonné schopnosti AI s praktickým nasazením na edge zařízeních, což vám umožní využít potenciál AI přímo tam, kde se generují data a je třeba činit rozhodnutí.

Co se naučíte

Tento kurz vás provede od základních konceptů až po implementace připravené pro produkci, zahrnující:

  • Malé jazykové modely (SLMs) optimalizované pro nasazení na edge
  • Optimalizace přizpůsobená hardwaru na různých platformách
  • Inferenci v reálném čase s ochranou soukromí
  • Strategie nasazení do produkce pro podnikové aplikace

Proč je EdgeAI důležité

Edge AI představuje změnu paradigmatu, která řeší klíčové moderní výzvy:

  • Soukromí a bezpečnost: Zpracování citlivých dat lokálně bez vystavení cloudu
  • Výkon v reálném čase: Eliminace latence sítě pro aplikace kritické na čas
  • Efektivita nákladů: Snížení nákladů na šířku pásma a cloudové výpočty
  • Odolnost provozu: Funkčnost i při výpadcích sítě
  • Regulační shoda: Splnění požadavků na suverenitu dat

Edge AI

Edge AI znamená provozování AI algoritmů a jazykových modelů lokálně na hardwaru, blízko místa, kde se generují data, bez závislosti na cloudových zdrojích pro inferenci. Snižuje latenci, zvyšuje soukromí a umožňuje rozhodování v reálném čase.

Základní principy:

  • Inferenci na zařízení: AI modely běží na edge zařízeních (telefony, routery, mikrokontroléry, průmyslové PC)
  • Offline schopnosti: Funguje bez trvalého připojení k internetu
  • Nízká latence: Okamžité reakce vhodné pro systémy v reálném čase
  • Suverenita dat: Udržuje citlivá data lokálně, zlepšuje bezpečnost a shodu

Malé jazykové modely (SLMs)

SLMs jako Phi-4, Mistral-7B a Gemma jsou optimalizované verze větších LLMs – trénované nebo destilované pro:

  • Snížené nároky na paměť: Efektivní využití omezené paměti edge zařízení
  • Nižší výpočetní nároky: Optimalizované pro výkon CPU a edge GPU
  • Rychlejší start: Rychlá inicializace pro pohotové aplikace

Umožňují výkonné schopnosti NLP při splnění omezení:

  • Vestavěné systémy: IoT zařízení a průmyslové kontroléry
  • Mobilní zařízení: Smartphony a tablety s offline schopnostmi
  • IoT zařízení: Senzory a chytrá zařízení s omezenými zdroji
  • Edge servery: Lokální zpracovací jednotky s omezenými GPU zdroji
  • Osobní počítače: Scénáře nasazení na desktopu a notebooku

Moduly kurzu a navigace

Modul Téma Oblast zaměření Klíčový obsah Úroveň Délka
📖 00 Úvod do EdgeAI Základy a kontext Přehled EdgeAI • Průmyslové aplikace • Úvod do SLM • Cíle učení Začátečník 1-2 hod
📚 01 Základy EdgeAI Porovnání cloud vs Edge AI Základy EdgeAI • Případové studie z reálného světa • Průvodce implementací • Nasazení na edge Začátečník 3-4 hod
🧠 02 Základy modelů SLM Rodiny modelů a architektura Rodina Phi • Rodina Qwen • Rodina Gemma • BitNET • μModel • Phi-Silica Začátečník 4-5 hod
🚀 03 Praxe nasazení SLM Lokální a cloudové nasazení Pokročilé učení • Lokální prostředí • Cloudové nasazení Středně pokročilý 4-5 hod
⚙️ 04 Toolkit pro optimalizaci modelů Optimalizace napříč platformami Úvod • Llama.cpp • Microsoft Olive • OpenVINO • Apple MLX • Syntéza workflow Středně pokročilý 5-6 hod
🔧 05 SLMOps v produkci Produkční operace Úvod do SLMOps • Destilace modelů • Doladění • Nasazení do produkce Pokročilý 5-6 hod
🤖 06 AI agenti a volání funkcí Rámce agentů a MCP Úvod do agentů • Volání funkcí • Protokol kontextu modelu Pokročilý 4-5 hod
💻 07 Implementace na platformě Ukázky napříč platformami AI Toolkit • Foundry Local • Vývoj pro Windows Pokročilý 3-4 hod
🏭 08 Toolkit Foundry Local Ukázky připravené pro produkci Ukázkové aplikace (viz podrobnosti níže) Expert 8-10 hod

🏭 Modul 08: Ukázkové aplikace

🎓 Workshop: Praktická cesta učení

Komplexní materiály pro praktický workshop s implementacemi připravenými pro produkci:

  • Průvodce workshopem - Kompletní cíle učení, výsledky a navigace zdrojů
  • Python ukázky (6 sezení) - Aktualizováno s nejlepšími postupy, zpracováním chyb a komplexní dokumentací
  • Jupyter Notebooks (8 interaktivních) - Krok za krokem tutoriály s benchmarky a monitorováním výkonu
  • Průvodce sezeními - Podrobné markdown průvodce pro každé sezení workshopu
  • Nástroje pro validaci - Skripty pro ověření kvality kódu a provedení rychlých testů

Co vytvoříte:

  • Lokální AI chatovací aplikace s podporou streamování
  • RAG pipeline s hodnocením kvality (RAGAS)
  • Nástroje pro benchmarking a porovnání více modelů
  • Systémy pro orchestrace více agentů
  • Inteligentní směrování modelů s výběrem na základě úkolů

📊 Shrnutí cesty učení

  • Celková délka: 36-45 hodin
  • Cesta pro začátečníky: Moduly 01-02 (7-9 hodin)
  • Cesta pro středně pokročilé: Moduly 03-04 (9-11 hodin)
  • Cesta pro pokročilé: Moduly 05-07 (12-15 hodin)
  • Cesta pro experty: Modul 08 (8-10 hodin)

Co vytvoříte

🎯 Klíčové kompetence

  • Architektura Edge AI: Navrhování AI systémů s lokálním zaměřením a integrací cloudu
  • Optimalizace modelů: Kvantizace a komprese modelů pro nasazení na edge (85% zrychlení, 75% snížení velikosti)
  • Nasazení na více platformách: Windows, mobilní zařízení, vestavěné systémy a hybridní systémy cloud-edge
  • Provoz v produkci: Monitorování, škálování a údržba edge AI v produkčním prostředí

🏗️ Praktické projekty

  • Foundry Local Chat Apps: Nativní aplikace pro Windows 11 s přepínáním modelů
  • Multi-Agent Systems: Koordinátor se specializovanými agenty pro složité pracovní postupy
  • RAG Applications: Lokální zpracování dokumentů s vektorovým vyhledáváním
  • Model Routers: Inteligentní výběr mezi modely na základě analýzy úkolů
  • API Frameworks: Klienti připravení pro produkci se streamováním a monitorováním stavu
  • Cross-Platform Tools: Vzory integrace LangChain/Semantic Kernel

🏢 Průmyslové aplikace

VýrobaZdravotnictvíAutonomní vozidlaChytrá městaMobilní aplikace

Rychlý start

Doporučená studijní cesta (celkem 20-30 hodin):

  1. 📖 Úvod (Introduction.md): Základy EdgeAI + průmyslový kontext + studijní rámec
  2. 📚 Základy (Moduly 01-02): Koncepty EdgeAI + rodiny modelů SLM
  3. ⚙️ Optimalizace (Moduly 03-04): Nasazení + kvantizační rámce
  4. 🚀 Produkce (Moduly 05-06): SLMOps + AI agenti + volání funkcí
  5. 💻 Implementace (Moduly 07-08): Ukázky platforem + nástroje Foundry Local

Každý modul obsahuje teorii, praktická cvičení a ukázky kódu připraveného pro produkci.

Dopad na kariéru

Technické role: Architekt řešení EdgeAI • ML inženýr (Edge) • Vývojář IoT AI • Vývojář mobilní AI

Průmyslové sektory: Výroba 4.0 • Technologie ve zdravotnictví • Autonomní systémy • FinTech • Spotřební elektronika

Portfolio projektů: Multi-agentní systémy • Produkční RAG aplikace • Nasazení na více platformách • Optimalizace výkonu

Struktura repozitáře

edgeai-for-beginners/
├── 📖 introduction.md  # Foundation: EdgeAI Overview & Learning Framework
├── 📚 Module01-04/     # Fundamentals → SLMs → Deployment → Optimization  
├── 🔧 Module05-06/     # SLMOps → AI Agents → Function Calling
├── 💻 Module07/        # Platform Samples (VS Code, Windows, Jetson, Mobile)
├── 🏭 Module08/        # Foundry Local Toolkit + 10 Comprehensive Samples
│   ├── samples/01-06/  # Foundation: REST, SDK, RAG, Agents, Routing
│   └── samples/07-10/  # Advanced: API Client, Windows App, Enterprise Agents, Tools
├── 🌐 translations/    # Multi-language support (8+ languages)
└── 📋 STUDY_GUIDE.md   # Structured learning paths & time allocation

Hlavní body kurzu

Progresivní učení: Teorie → Praxe → Nasazení do produkce
Skutečné případové studie: Microsoft, Japan Airlines, podnikové implementace
Praktické ukázky: Více než 50 příkladů, 10 komplexních ukázek Foundry Local
Zaměření na výkon: Zlepšení rychlosti o 85 %, snížení velikosti o 75 %
Více platforem: Windows, mobilní zařízení, vestavěné systémy, hybridní cloud-edge
Připraveno pro produkci: Monitorování, škálování, bezpečnostní a regulační rámce

📖 Dostupný studijní průvodce: Strukturovaná 20hodinová studijní cesta s doporučením časového rozvrhu a nástroji pro sebehodnocení.


EdgeAI představuje budoucnost nasazení AI: lokální přístup, ochrana soukromí a efektivita. Ovládněte tyto dovednosti a vytvořte novou generaci inteligentních aplikací.

Další kurzy

Náš tým vytváří i další kurzy! Podívejte se:

Azure / Edge / MCP / Agenti

AZD pro začátečníky Edge AI pro začátečníky MCP pro začátečníky AI Agenti pro začátečníky


Generativní AI série

Generativní AI pro začátečníky Generativní AI (.NET) Generativní AI (Java) Generativní AI (JavaScript)


Základní vzdělávání

ML pro začátečníky Data Science pro začátečníky AI pro začátečníky Kybernetická bezpečnost pro začátečníky Webový vývoj pro začátečníky IoT pro začátečníky XR vývoj pro začátečníky


Copilot série

Copilot pro párové programování s AI Copilot pro C#/.NET Copilot Adventure

Získání pomoci

Pokud se zaseknete nebo máte jakékoliv dotazy ohledně tvorby AI aplikací, připojte se:

Azure AI Foundry Discord

Pokud máte zpětnou vazbu k produktu nebo narazíte na chyby při vývoji, navštivte:

Azure AI Foundry Developer Forum


Prohlášení:
Tento dokument byl přeložen pomocí služby AI pro překlady Co-op Translator. Ačkoli se snažíme o přesnost, mějte prosím na paměti, že automatické překlady mohou obsahovat chyby nebo nepřesnosti. Původní dokument v jeho původním jazyce by měl být považován za autoritativní zdroj. Pro důležité informace se doporučuje profesionální lidský překlad. Neodpovídáme za žádná nedorozumění nebo nesprávné interpretace vyplývající z použití tohoto překladu.