Skip to content

README.md

Latest commit

 

History

History
237 lines (177 loc) · 18.1 KB

README.md

File metadata and controls

237 lines (177 loc) · 18.1 KB

EdgeAI pre začiatočníkov

Obrázok obálky kurzu

Prispievatelia na GitHub
Problémy na GitHub
Pull-requests na GitHub
PRs Welcome

Sledovatelia na GitHub
Forky na GitHub
Hviezdičky na GitHub

Microsoft Azure AI Foundry Discord

Postupujte podľa týchto krokov, aby ste mohli začať používať tieto zdroje:

  1. Forknite repozitár: Kliknite Forky na GitHub
  2. Klonujte repozitár: git clone https://github.com/microsoft/edgeai-for-beginners.git
  3. Pripojte sa k Azure AI Foundry Discord a stretnite sa s odborníkmi a ďalšími vývojármi

🌐 Podpora viacerých jazykov

Podporované prostredníctvom GitHub Action (automatizované a vždy aktuálne)

Arabčina | Bengálčina | Bulharčina | Barmčina (Mjanmarsko) | Čínština (zjednodušená) | Čínština (tradičná, Hongkong) | Čínština (tradičná, Macao) | Čínština (tradičná, Taiwan) | Chorvátčina | Čeština | Dánčina | Holandčina | Estónčina | Fínčina | Francúzština | Nemčina | Gréčtina | Hebrejčina | Hindčina | Maďarčina | Indonézština | Taliančina | Japončina | Kórejčina | Litovčina | Malajčina | Maráthčina | Nepálčina | Nórčina | Perzština (Farsí) | Poľština | Portugalčina (Brazília) | Portugalčina (Portugalsko) | Pandžábčina (Gurmukhi) | Rumunčina | Ruština | Srbčina (cyrilika) | Slovenčina | Slovinčina | Španielčina | Swahilčina | Švédčina | Tagalog (Filipínčina) | Tamilčina | Thajčina | Turečtina | Ukrajinčina | Urdu | Vietnamčina

Ak si želáte podporu ďalších jazykov, zoznam podporovaných jazykov nájdete tu

Úvod

Vitajte v EdgeAI pre začiatočníkov – vašej komplexnej ceste do transformačného sveta Edge umelého inteligencie. Tento kurz spája silné schopnosti AI s praktickým nasadením v reálnom svete na zariadeniach na okraji siete, čo vám umožní využiť potenciál AI priamo tam, kde sa generujú údaje a kde je potrebné prijímať rozhodnutia.

Čo sa naučíte

Tento kurz vás prevedie od základných konceptov až po implementácie pripravené na produkciu, vrátane:

  • Malé jazykové modely (SLM) optimalizované pre nasadenie na okraji siete
  • Optimalizácia zohľadňujúca hardvér na rôznych platformách
  • Inferencia v reálnom čase s ochranou súkromia
  • Stratégie nasadenia do produkcie pre podnikové aplikácie

Prečo je EdgeAI dôležitý

Edge AI predstavuje zmenu paradigmy, ktorá rieši kritické moderné výzvy:

  • Súkromie a bezpečnosť: Spracovanie citlivých údajov lokálne bez vystavenia cloudu
  • Výkon v reálnom čase: Eliminácia latencie siete pre časovo kritické aplikácie
  • Efektívnosť nákladov: Zníženie nákladov na šírku pásma a cloudové výpočty
  • Odolné operácie: Zachovanie funkčnosti počas výpadkov siete
  • Dodržiavanie predpisov: Splnenie požiadaviek na suverenitu údajov

Edge AI

Edge AI sa týka spúšťania algoritmov AI a jazykových modelov lokálne na hardvéri, blízko miesta, kde sa generujú údaje, bez závislosti na cloudových zdrojoch pre inferenciu. Znižuje latenciu, zlepšuje súkromie a umožňuje rozhodovanie v reálnom čase.

Základné princípy:

  • Inferencia na zariadení: AI modely bežia na zariadeniach na okraji siete (telefóny, routery, mikrokontroléry, priemyselné PC)
  • Offline schopnosti: Funguje bez neustáleho pripojenia na internet
  • Nízka latencia: Okamžité reakcie vhodné pre systémy v reálnom čase
  • Suverenita údajov: Uchováva citlivé údaje lokálne, čím zlepšuje bezpečnosť a súlad

Malé jazykové modely (SLM)

SLM ako Phi-4, Mistral-7B a Gemma sú optimalizované verzie väčších LLM – trénované alebo destilované na:

  • Zníženú pamäťovú náročnosť: Efektívne využitie obmedzenej pamäte zariadení na okraji siete
  • Nižšie požiadavky na výpočtový výkon: Optimalizované pre výkon CPU a edge GPU
  • Rýchlejšie časy spustenia: Rýchla inicializácia pre pohotové aplikácie

Umožňujú výkonné schopnosti NLP a zároveň spĺňajú obmedzenia:

  • Vstavané systémy: IoT zariadenia a priemyselné ovládače
  • Mobilné zariadenia: Smartfóny a tablety s offline schopnosťami
  • IoT zariadenia: Senzory a inteligentné zariadenia s obmedzenými zdrojmi
  • Edge servery: Lokálne spracovacie jednotky s obmedzenými GPU zdrojmi
  • Osobné počítače: Scenáre nasadenia na stolných a prenosných počítačoch

Moduly kurzu a navigácia

Modul Téma Oblasť zamerania Kľúčový obsah Úroveň Trvanie
📖 00 Úvod do EdgeAI Základy a kontext Prehľad EdgeAI • Priemyselné aplikácie • Úvod do SLM • Ciele učenia Začiatočník 1-2 hod
📚 01 Základy EdgeAI Porovnanie Cloud vs Edge AI Základy EdgeAI • Prípadové štúdie z reálneho sveta • Príručka implementácie • Nasadenie na okraji siete Začiatočník 3-4 hod
🧠 02 Základy modelov SLM Rodiny modelov a architektúra Rodina Phi • Rodina Qwen • Rodina Gemma • BitNET • μModel • Phi-Silica Začiatočník 4-5 hod
🚀 03 Praxe nasadenia SLM Lokálne a cloudové nasadenie Pokročilé učenie • Lokálne prostredie • Cloudové nasadenie Stredne pokročilý 4-5 hod
⚙️ 04 Toolkit optimalizácie modelov Optimalizácia naprieč platformami Úvod • Llama.cpp • Microsoft Olive • OpenVINO • Apple MLX • Syntéza pracovného toku Stredne pokročilý 5-6 hod
🔧 05 SLMOps Produkcia Produkčné operácie Úvod do SLMOps • Destilácia modelov • Jemné doladenie • Produkčné nasadenie Pokročilý 5-6 hod
🤖 06 AI agenti a volanie funkcií Rámce agentov a MCP Úvod do agentov • Volanie funkcií • Protokol kontextu modelu Pokročilý 4-5 hod
💻 07 Implementácia platformy Ukážky naprieč platformami AI Toolkit • Foundry Local • Vývoj pre Windows Pokročilý 3-4 hod
🏭 08 Toolkit Foundry Local Ukážky pripravené na produkciu Ukážkové aplikácie (pozri podrobnosti nižšie) Expert 8-10 hod

🏭 Modul 08: Ukážkové aplikácie

🎓 Workshop: Praktická cesta učenia

Komplexné materiály pre praktický workshop s implementáciami pripravenými na produkciu:

  • Príručka workshopu - Kompletné ciele učenia, výsledky a navigácia zdrojov
  • Python ukážky (6 relácií) - Aktualizované s najlepšími postupmi, spracovaním chýb a komplexnou dokumentáciou
  • Jupyter Notebooks (8 interaktívnych) - Krok za krokom tutoriály s benchmarkmi a monitorovaním výkonu
  • Príručky relácií - Podrobné markdown príručky pre každú reláciu workshopu
  • Nástroje validácie - Skripty na overenie kvality kódu a spustenie testov

Čo vytvoríte:

  • Lokálne AI chat aplikácie s podporou streamovania
  • RAG pipeline s hodnotením kvality (RAGAS)
  • Nástroje na benchmarking a porovnanie viacerých modelov
  • Systémy orchestrácie viacerých agentov
  • Inteligentné smerovanie modelov s výberom na základe úloh

📊 Zhrnutie cesty učenia

  • Celkové trvanie: 36-45 hodín
  • Cesta pre začiatočníkov: Moduly 01-02 (7-9 hodín)
  • Cesta pre stredne pokročilých: Moduly 03-04 (9-11 hodín)
  • Cesta pre pokročilých: Moduly 05-07 (12-15 hodín)
  • Cesta pre expertov: Modul 08 (8-10 hodín)

Čo vytvoríte

🎯 Kľúčové kompetencie

  • Architektúra Edge AI: Navrhovanie systémov AI s prioritou lokálneho spracovania a integráciou cloudu
  • Optimalizácia modelov: Kvantizácia a kompresia modelov pre nasadenie na okraji siete (85% zrýchlenie, 75% zníženie veľkosti)
  • Nasadenie na viacerých platformách: Windows, mobilné zariadenia, vstavané systémy a hybridné systémy cloud-okraj
  • Prevádzkové operácie: Monitorovanie, škálovanie a údržba edge AI v produkčnom prostredí

🏗️ Praktické projekty

  • Foundry Local Chat Apps: Natívna aplikácia pre Windows 11 s prepínaním modelov
  • Multi-agentové systémy: Koordinátor so špecializovanými agentmi pre komplexné pracovné postupy
  • RAG aplikácie: Lokálne spracovanie dokumentov s vektorovým vyhľadávaním
  • Modelové routery: Inteligentný výber medzi modelmi na základe analýzy úloh
  • API rámce: Produkčne pripravení klienti so streamovaním a monitorovaním stavu
  • Nástroje pre viaceré platformy: Vzory integrácie LangChain/Semantic Kernel

🏢 Priemyselné aplikácie

Výroba • Zdravotníctvo • Autonómne vozidlá • Inteligentné mestá • Mobilné aplikácie

Rýchly štart

Odporúčaný študijný plán (celkovo 20-30 hodín):

  1. 📖 Úvod (Introduction.md): Základy EdgeAI + kontext priemyslu + rámec učenia
  2. 📚 Základy (Moduly 01-02): Koncepty EdgeAI + rodiny SLM modelov
  3. ⚙️ Optimalizácia (Moduly 03-04): Nasadenie + rámce kvantizácie
  4. 🚀 Produkcia (Moduly 05-06): SLMOps + AI agenti + volanie funkcií
  5. 💻 Implementácia (Moduly 07-08): Ukážky platforiem + Foundry Local toolkit

Každý modul obsahuje teóriu, praktické cvičenia a produkčne pripravené ukážky kódu.

Dopad na kariéru

Technické pozície: Architekt riešení EdgeAI • ML inžinier (Edge) • IoT AI vývojár • Mobilný AI vývojár

Priemyselné sektory: Výroba 4.0 • Zdravotnícka technológia • Autonómne systémy • FinTech • Spotrebná elektronika

Portfólio projektov: Multi-agentové systémy • Produkčné RAG aplikácie • Nasadenie na viacerých platformách • Optimalizácia výkonu

Štruktúra repozitára

edgeai-for-beginners/
├── 📖 introduction.md  # Foundation: EdgeAI Overview & Learning Framework
├── 📚 Module01-04/     # Fundamentals → SLMs → Deployment → Optimization  
├── 🔧 Module05-06/     # SLMOps → AI Agents → Function Calling
├── 💻 Module07/        # Platform Samples (VS Code, Windows, Jetson, Mobile)
├── 🏭 Module08/        # Foundry Local Toolkit + 10 Comprehensive Samples
│   ├── samples/01-06/  # Foundation: REST, SDK, RAG, Agents, Routing
│   └── samples/07-10/  # Advanced: API Client, Windows App, Enterprise Agents, Tools
├── 🌐 translations/    # Multi-language support (8+ languages)
└── 📋 STUDY_GUIDE.md   # Structured learning paths & time allocation

Hlavné body kurzu

✅ Progresívne učenie: Teória → Prax → Produkčné nasadenie
✅ Reálne prípadové štúdie: Microsoft, Japan Airlines, podnikové implementácie
✅ Praktické ukážky: Viac ako 50 príkladov, 10 komplexných Foundry Local demo projektov
✅ Zameranie na výkon: Zlepšenie rýchlosti o 85 %, zníženie veľkosti o 75 %
✅ Viacero platforiem: Windows, mobilné zariadenia, embedded systémy, hybridné cloud-edge riešenia
✅ Pripravené na produkciu: Monitorovanie, škálovanie, bezpečnostné a súladové rámce

📖 Dostupný študijný sprievodca: Štruktúrovaný 20-hodinový študijný plán s odporúčaním časového rozvrhu a nástrojmi na sebahodnotenie.

EdgeAI predstavuje budúcnosť nasadenia AI: lokálne orientované, zachovávajúce súkromie a efektívne. Ovládnite tieto zručnosti a vytvorte ďalšiu generáciu inteligentných aplikácií.

Ďalšie kurzy

Náš tím vytvára aj ďalšie kurzy! Pozrite si:

Získanie pomoci

Ak narazíte na problém alebo máte otázky ohľadom budovania AI aplikácií, pridajte sa:

Azure AI Foundry Discord

Ak máte spätnú väzbu k produktu alebo chyby pri budovaní, navštívte:

Azure AI Foundry Developer Forum

Upozornenie:
Tento dokument bol preložený pomocou služby AI prekladu Co-op Translator. Hoci sa snažíme o presnosť, prosím, berte na vedomie, že automatizované preklady môžu obsahovať chyby alebo nepresnosti. Pôvodný dokument v jeho rodnom jazyku by mal byť považovaný za autoritatívny zdroj. Pre kritické informácie sa odporúča profesionálny ľudský preklad. Nenesieme zodpovednosť za akékoľvek nedorozumenia alebo nesprávne interpretácie vyplývajúce z použitia tohto prekladu.