Skip to content

Latest commit

 

History

History
318 lines (236 loc) · 23.7 KB

File metadata and controls

318 lines (236 loc) · 23.7 KB

EdgeAI za začetnike

Slika naslovnice tečaja

Sodelujoči na GitHubu GitHub težave GitHub pull zahtevki PR dobrodošli

GitHub opazovalci GitHub vilice GitHub zvezde

Microsoft Foundry Discord

Sledite tem korakom, da začnete uporabljati te vire:

  1. Vilica repozitorija: Kliknite GitHub vilice
  2. Klonirajte repozitorij: git clone https://github.com/microsoft/edgeai-for-beginners.git
  3. Pridružite se Azure AI Foundry Discordu in spoznajte strokovnjake ter druge razvijalce

🌐 Podpora več jezikom

Podprto preko GitHub Action (avtomatizirano in vedno posodobljeno)

Arabščina | Bengalščina | Bolgarščina | Burmanski (Myanmar) | Kitajščina (poenostavljena) | Kitajščina (tradicionalna, Hong Kong) | Kitajščina (tradicionalna, Macau) | Kitajščina (tradicionalna, Taiwan) | Hrvaščina | Češčina | Danščina | Nizozemščina | Estonščina | Finščina | Francoščina | Nemščina | Grščina | Hebrejščina | Hindujščina | Madžarščina | Indonezijščina | Italijanščina | Japonščina | Kannada | Korejščina | Litvijščina | Malajščina | Malajalščina | Maratščina | Nepalščina | Nigeryjski pidgin | Norveščina | Perzijščina (Farzi) | Poljščina | Portugalščina (Brazilija) | Portugalščina (Portugalska) | Pandžabščina (Gurmukhi) | Romunščina | Ruščina | Srbščina (cirilica) | Slovaščina | Slovenščina | Španščina | Svahili | Švedščina | Tagalog (Filipini) | Tamilščina | Telugu | Tajščina | Turščina | Ukrajinščina | Urdu | Vietnamščina

Raje klonirate lokalno?

Ta repozitorij vključuje več kot 50 jezikovnih prevodov, kar znatno poveča velikost prenosa. Za kloniranje brez prevodov uporabite sparse checkout:

git clone --filter=blob:none --sparse https://github.com/microsoft/edgeai-for-beginners.git
cd edgeai-for-beginners
git sparse-checkout set --no-cone '/*' '!translations' '!translated_images'

Tako dobite vse, kar potrebujete za dokončanje tečaja z veliko hitrejšim prenosom.

Če želite, da so podprti dodatni prevodni jeziki, so navedeni tukaj

Uvod

Dobrodošli v EdgeAI za začetnike – vašo celovito potovanje v prelomni svet umetne inteligence na robu. Ta tečaj premošča vrzel med močnimi zmožnostmi AI in praktično, resnično implementacijo na robnih napravah, kar vam omogoča, da izkoristite potencial AI neposredno tam, kjer se ustvarjajo podatki in je treba sprejeti odločitve.

Česar se boste naučili

Ta tečaj vas popelje od osnovnih pojmov do izvedb, pripravljenih za produkcijo, ki pokrivajo:

  • Majhne jezikovne modele (SLM), optimizirane za robno uvajanje
  • Optimizacijo z ozaveščenostjo strojne opreme na različnih platformah
  • Inferenco v realnem času z zmožnostmi varovanja zasebnosti
  • Strategije uvajanja v proizvodnjo za podjetniške aplikacije

Zakaj je EdgeAI pomemben

Edge AI predstavlja premik paradigme, ki rešuje kritične sodobne izzive:

  • Zasebnost in varnost: Obravnava občutljive podatke lokalno brez razkritja v oblaku
  • Izvedba v realnem času: Odpravlja zakasnitve omrežja za aplikacije, ki zahtevajo hiter odziv
  • Stroškovna učinkovitost: Zmanjšuje stroške pasovne širine in oblačnih storitev
  • Odpornost delovanja: Ohranja funkcionalnost med izpadi omrežja
  • Skladnost z zakonodajo: Izpolnjuje zahteve glede suverenosti podatkov

Edge AI

Edge AI pomeni izvajanje AI algoritmov in jezikovnih modelov lokalno na strojni opremi, blizu mesta ustvarjanja podatkov, brez odvisnosti od oblačnih virov za inferenco. Zmanjšuje latenco, izboljšuje zasebnost in omogoča odločanje v realnem času.

Temeljna načela:

  • Inferenca na napravi: AI modeli delujejo na robnih napravah (telefoni, usmerjevalniki, mikrokontrolerji, industrijski PC-ji)
  • Funkcionalnost brez povezave: Deluje brez stalne internetne povezave
  • Nizka latenca: Takojšnji odzivi, primerni za sisteme v realnem času
  • Suverenost podatkov: Ohranja občutljive podatke lokalno, izboljšuje varnost in skladnost

Majhni jezikovni modeli (SLM)

SLM-ji, kot so Phi-4, Mistral-7B in Gemma, so optimizirane različice večjih LLM-jev—usposobljeni ali destilirani za:

  • Zmanjšan pomnilniški odtis: Učinkovita uporaba omejenega pomnilnika na robnih napravah
  • Nižjo računsko zahtevnost: Optimizirani za delovanje na CPU-ju in robnem GPU-ju
  • Hitrejši zagon: Hitro inicializiranje za odzivne aplikacije

Odklenejo močne zmožnosti NLP, hkrati izpolnjujejo omejitve:

  • Vgrajeni sistemi: IoT naprave in industrijski krmilniki
  • Mobilne naprave: Pametni telefoni in tablice z delovanjem brez povezave
  • IoT naprave: Senzorji in pametne naprave z omejenimi viri
  • Robni strežniki: Lokalni procesni enoti z omejenimi GPU viri
  • Osebni računalniki: Namizne in prenosne naprave za uporabo

Moduli tečaja & navigacija

Modul Tema Osrednje področje Ključna vsebina Nivo Trajanje
📖 00 Uvod v EdgeAI Osnove & kontekst Pregled EdgeAI • Industrijske uporabe • Uvod v SLM • Cilji učenja Začetnik 1-2 uri
📚 01 Osnove EdgeAI Primerjava oblaka in roba Osnove EdgeAI • Študije primerov iz resničnega sveta • Vodnik za implementacijo • Robno uvajanje Začetnik 3-4 ure
🧠 02 Osnove SLM modelov Družine modelov & arhitektura Družina Phi • Družina Qwen • Družina Gemma • BitNET • μModel • Phi-Silica Začetnik 4-5 ur
🚀 03 Praksa uvajanja SLM Lokalno in oblačno uvajanje Napredno učenje • Lokalno okolje • Oblačno uvajanje Srednji 4-5 ur
⚙️ 04 Orodja za optimizacijo modela Optimizacija med platformami Uvod • Llama.cpp • Microsoft Olive • OpenVINO • Apple MLX • Sestavljanje poteka dela Srednji 5-6 ur
🔧 05 Proizvodni SLMOps Proizvodne operacije Uvod v SLMOps • Destilacija modela • Delo na fino nastavitev • Uvajanje v produkcijo Napredno 5-6 ur
🤖 06 AI agenti in klic funkcij Okviri agentov & MCP Uvod v agente • Klic funkcij • Protokol konteksta modela Napredno 4-5 ur
💻 07 Implementacija platforme Vzorcev med platformami Orodja AI • Foundry Local • Razvoj za Windows Napredno 3-4 ure
🏭 08 Foundry Local orodja Pripravljeni vzorci za produkcijo Vzorec aplikacij (glej podrobnosti spodaj) Strokovnjak 8-10 ur

🏭 Modul 08: Vzorec aplikacij

🎓 Delavnica: Pot ročnega učenja

Celovita gradiva za delavnico s praktičnimi vsebinami in izvajanjem, pripravljenim za produkcijo:

  • Vodnik delavnice - Celotni cilji učenja, izidi in navigacija po virih
  • Python vzorci (6 sej) - Posodobljeni z najboljšimi praksami, ravnanjem z napakami in obsežno dokumentacijo
  • Jupyter zvezki (8 interaktivnih) - Korak za korakom vodiči z benchmarkingom in spremljanjem zmogljivosti
  • Vodniki za seje - Podrobni markdown vodiči za vsako delavnico
  • Orodja za validacijo - Skripte za preverjanje kakovosti kode in izvajanje dimnih testov

Kaj boste zgradili:

  • Lokalno AI klepetalno aplikacijo s podporo pretakanju
  • RAG cevovode z ocenjevanjem kakovosti (RAGAS)
  • Orodja za benchmarking in primerjavo več modelov
  • Sisteme za orkestracijo več agentov
  • Inteligentno usmerjanje modelov z izbiro na podlagi nalog

🎙️ Delavnica za Agentic: Praktično - AI Podcast Studio

Zgradite produkcijsko cevovod za podcast, ki ga poganja umetna inteligenca, iz nič! Ta poglobljena delavnica vas uči, kako ustvariti celovit večagentni sistem, ki spremeni ideje v profesionalne epizode podcasta. 🎬 Začni delavnico AI Podcast Studia

Tvoja naloga: Zaženi "Future Bytes" — tehnološki podcast, ki ga poganjajo izključno AI agenti, ki jih boš sam ustvaril. Brez odvisnosti od oblaka, brez stroškov API-jev — vse teče lokalno na tvojem računalniku.

Kaj to naredi edinstveno:

  • 🤖 Resnična orkestracija več agentov - Ustvari specializirane AI agente, ki raziskujejo, pišejo in proizvajajo avdio
  • 🎯 Popoln produkcijski proces - Od izbire teme do končnega avdio posnetka podcasta
  • 💻 100 % lokalna uporaba - Uporablja Ollamo in lokalne modele (Qwen-3-8B) za popolno zasebnost in nadzor
  • 🎤 Integracija besedilo-v-govorno - Pretvori scenarije v naravno zveneče večglasne pogovore
  • ✋ Delovni tokovi s človekom v zanki - Vrata za odobritev zagotavljajo kakovost med avtomatizacijo

Učenje v treh dejanjih:

Dejanje Osredotočenost Ključne spretnosti Trajanje
Dejanje 1: Spoznaj svoje AI asistente Ustvari svojega prvega AI agenta Integracija orodij • Iskanje na spletu • Reševanje problemov • Agentično razmišljanje 2-3 ure
Dejanje 2: Sestavi svojo produkcijsko ekipo Orkestriraj več agentov Koordinacija ekipe • Delovni tokovi odobritve • Vmesnik DevUI • Človeški nadzor 3-4 ure
Dejanje 3: Oživitev tvojega podcasta Generiraj avdio podcasta Besedilo v govor • Sinteza več govorcev • Dolgi avdio • Polna avtomatizacija 2-3 ure

Uporabljene tehnologije:

  • Microsoft Agent Framework - Orkestracija in koordinacija več agentov
  • Ollama - Lokalno izvajanje modelov AI (brez oblaka)
  • Qwen-3-8B - Odprt vir jezikovni model optimiziran za agentske naloge
  • API-ji za besedilo-v-govor - Naravna sinteza glasu za generiranje podcasta

Podpora strojne opreme:

  • Način CPU - Deluje na katerem koli sodobnem računalniku (priporočljivo 8GB+ RAM)
  • 🚀 Pospešek z GPU - Znatno hitrejše sklepanje z NVIDIA/AMD GPU-ji
  • Podpora NPU - Pospeševanje z naslednjo generacijo nevronskih procesnih enot

Popolno za:

  • Razvijalce, ki se učijo sistemov več agentov AI
  • Vsakogar, ki ga zanima AI avtomatizacija in delovni tokovi
  • Ustvarjalce vsebin, ki raziskujejo AI-podprto produkcijo
  • Študente, ki preučujejo praktične vzorce AI orkestracije

Začni graditi: 🎙️ Delavnica AI Podcast Studia →

📊 Povzetek učne poti

  • Skupno trajanje: 36-45 ur
  • Pot začetnika: Moduli 01-02 (7-9 ur)
  • Srednje zahtevna pot: Moduli 03-04 (9-11 ur)
  • Napredna pot: Moduli 05-07 (12-15 ur)
  • Strokovna pot: Modul 08 (8-10 ur)

Kaj boš izdelal

🎯 Ključne kompetence

  • Robna AI arhitektura: Oblikovanje sistemov AI z lokalno prvinsko zasnovo in integracijo v oblak
  • Optimizacija modela: Kvantizacija in kompresija modelov za robno izvajanje (85 % pospešek hitrosti, 75 % zmanjšanje velikosti)
  • Večplatformska postavitev: Windows, mobilno, vgrajeno in hibridno oblačno-robo okolje
  • Produkcijske operacije: Nadzor, skaliranje in vzdrževanje robne AI v produkciji

🏗️ Praktični projekti

  • Foundry lokalne klepetalne aplikacije: Windows 11 domača aplikacija s preklapljanjem modelov
  • Sistemi z več agenti: Koordinator z specialističnimi agenti za kompleksne delovne tokove
  • RAG aplikacije: Lokalna obdelava dokumentov z vektorskim iskanjem
  • Preusmerjevalniki modelov: Pametna izbira modelov glede na analizo naloge
  • API okvirji: Produkcijsko pripravljeni klienti z pretočnim prenosom in nadzorom zdravja
  • Večplatformska orodja: Vzorci integracije LangChain/Semantic Kernel

🏢 Industrijske aplikacije

ProizvodnjaZdravstvoAvtonomna vozilaPametna mestaMobilne aplikacije

Hitri začetek

Priporočena učna pot (skupno 20-30 ur):

  1. 📖 Uvod (Introduction.md): Temelji EdgeAI + industrijski kontekst + učni okvir
  2. 📚 Osnove (Moduli 01-02): Koncepti EdgeAI + družine modelov SLM
  3. ⚙️ Optimizacija (Moduli 03-04): Postavitev + okvirji za kvantizacijo
  4. 🚀 Produkcija (Moduli 05-06): SLMOps + AI agenti + klicanje funkcij
  5. 💻 Implementacija (Moduli 07-08): Vzorec platforme + Foundry Local orodjarna

Vsak modul vsebuje teorijo, praktične vaje in kode pripravljene za produkcijo.

Vpliv na kariero

Tehnične vloge: Arhitekt rešitev EdgeAI • ML inženir (rob) • IoT AI razvijalec • Mobilni AI razvijalec

Industrijski sektorji: Proizvodnja 4.0 • Zdravstvena tehnologija • Avtonomni sistemi • FinTech • Potrošniška elektronika

Projekti za portfelj: Sistemi z več agenti • Produkcijske RAG aplikacije • Večplatformska postavitev • Optimizacija zmogljivosti

Struktura repozitorija

edgeai-for-beginners/
├── 📖 introduction.md  # Foundation: EdgeAI Overview & Learning Framework
├── 📚 Module01-04/     # Fundamentals → SLMs → Deployment → Optimization  
├── 🔧 Module05-06/     # SLMOps → AI Agents → Function Calling
├── 💻 Module07/        # Platform Samples (VS Code, Windows, Jetson, Mobile)
├── 🏭 Module08/        # Foundry Local Toolkit + 10 Comprehensive Samples
│   ├── samples/01-06/  # Foundation: REST, SDK, RAG, Agents, Routing
│   └── samples/07-10/  # Advanced: API Client, Windows App, Enterprise Agents, Tools
├── 🌐 translations/    # Multi-language support (8+ languages)
└── 📋 STUDY_GUIDE.md   # Structured learning paths & time allocation

Poudarki tečaja

Postopen razvoj znanja: Teorija → Praksa → Produkcijska postavitev
Resnične študije primerov: Microsoft, Japan Airlines, implementacije v podjetjih
Praktični primeri: 50+ primerov, 10 celovitih demonstracij Foundry Local
Osredotočenost na zmogljivost: 85 % izboljšave hitrosti, 75 % zmanjšanja velikosti
Večplatformski: Windows, mobilno, vgrajeno, oblačno-robo hibridno
Pripravljen za produkcijo: Nadzor, skaliranje, varnost, skladnostni okviri

📖 Na voljo študijski vodnik: Strukturirana 20-urna učna pot z usmeritvijo glede časa in orodji za samoocenjevanje.


EdgeAI predstavlja prihodnost uvajanja AI: lokalno najprej, varovanje zasebnosti in učinkovitost. Obvladaj te spretnosti in ustvarjaj naslednjo generacijo inteligentnih aplikacij.

Drugi tečaji

Naša ekipa izdeluje tudi druge tečaje! Oglej si:

LangChain

LangChain4j za začetnike LangChain.js za začetnike


Azure / Edge / MCP / Agenti

AZD za začetnike Edge AI za začetnike MCP za začetnike AI Agenti za začetnike


Serija Generativne AI

Generativna AI za začetnike Generativna AI (.NET) Generativna AI (Java) Generativna AI (JavaScript)


Osnovno učenje

ML za začetnike Podatkovna znanost za začetnike AI za začetnike Kibernetska varnost za začetnike Spletni razvoj za začetnike IoT za začetnike XR razvoj za začetnike


Serija Copilot

Copilot za AI parno programiranje Copilot for C#/.NET Copilot Adventure

Pridobivanje pomoči

Če zaidete v težave ali imate vprašanja o ustvarjanju AI aplikacij, se pridružite:

Microsoft Foundry Discord

Če imate povratne informacije o izdelku ali napake med razvojem, obiščite:

Microsoft Foundry Developer Forum


Izjava o omejitvi odgovornosti: Ta dokument je bil preveden z uporabo storitve AI prevajanja Co-op Translator. Čeprav si prizadevamo za natančnost, vas opozarjamo, da avtomatizirani prevodi lahko vsebujejo napake ali netočnosti. Izvirni dokument v njegovem izvorni jezik naj velja za avtoritativni vir. Za kritične informacije priporočamo strokovni človeški prevod. Za kakršnekoli nesporazume ali napačne interpretacije, ki izhajajo iz uporabe tega prevoda, ne prevzemamo odgovornosti.