README.md

EdgeAI pradedantiesiems

Sekite šiuos žingsnius, kad pradėtumėte naudotis šiais ištekliais:

1. Fork'inkite saugyklą: Spustelėkite
2. Klonuokite saugyklą: git clone https://github.com/microsoft/edgeai-for-beginners.git
3. Prisijunkite prie Azure AI Foundry Discord ir susipažinkite su ekspertais bei kitais kūrėjais

🌐 Daugiakalbė palaikymas

Palaikoma per GitHub Action (automatiškai ir visada atnaujinta)

Arabų | Bengalų | Bulgarų | Birmos (Mianmaras) | Kinų (supaprastinta) | Kinų (tradicinė, Honkongas) | Kinų (tradicinė, Makao) | Kinų (tradicinė, Taivanas) | Kroatų | Čekų | Danų | Olandų | Estų | Suomių | Prancūzų | Vokiečių | Graikų | Hebrajų | Hindi | Vengrų | Indoneziečių | Italų | Japonų | Korėjiečių | Lietuvių | Malajų | Maratų | Nepalų | Norvegų | Persų (farsi) | Lenkų | Portugalų (Brazilija) | Portugalų (Portugalija) | Pandžabų (Gurmukhi) | Rumunų | Rusų | Serbų (kirilica) | Slovakų | Slovėnų | Ispanų | Svahilių | Švedų | Tagalogų (filipiniečių) | Tamilų | Tajų | Turkų | Ukrainiečių | Urdu | Vietnamiečių

Jei norite, kad būtų palaikomos papildomos kalbos, sąrašą rasite čia

Įvadas

Sveiki atvykę į EdgeAI pradedantiesiems – išsamų kursą apie Edge dirbtinio intelekto pasaulį. Šis kursas sujungia galingas DI galimybes su praktiniu pritaikymu kraštiniuose įrenginiuose, suteikdamas galimybę naudotis DI tiesiogiai ten, kur generuojami duomenys ir priimami sprendimai.

Ko išmoksite

Šis kursas apima viską nuo pagrindinių sąvokų iki paruoštų gamybai sprendimų:

• Maži kalbos modeliai (SLM), optimizuoti kraštiniam naudojimui
• Aparatūros optimizacija įvairiose platformose
• Realaus laiko prognozavimas su privatumo išsaugojimu
• Gamybos diegimo strategijos verslo aplikacijoms

Kodėl EdgeAI yra svarbus

Edge DI keičia žaidimo taisykles, sprendžiant šiuolaikinius iššūkius:

• Privatumas ir saugumas: Apdorokite jautrius duomenis vietoje, be debesų
• Realaus laiko našumas: Pašalinkite tinklo vėlavimą kritinėms aplikacijoms
• Efektyvumas: Sumažinkite tinklo ir debesų kompiuterijos išlaidas
• Atsparumas: Užtikrinkite funkcionalumą tinklo gedimų metu
• Reguliacinis atitikimas: Atitikite duomenų suvereniteto reikalavimus

Edge DI

Edge DI reiškia DI algoritmų ir kalbos modelių vykdymą vietoje, arti duomenų generavimo šaltinio, be debesų resursų naudojimo prognozavimui. Tai sumažina vėlavimą, pagerina privatumą ir leidžia priimti sprendimus realiu laiku.

Pagrindiniai principai:

• Prognozavimas įrenginyje: DI modeliai veikia kraštiniuose įrenginiuose (telefonuose, maršrutizatoriuose, mikrovaldikliuose, pramoniniuose kompiuteriuose)
• Neprisijungimo galimybė: Funkcionuoja be nuolatinio interneto ryšio
• Mažas vėlavimas: Greiti atsakymai, tinkami realaus laiko sistemoms
• Duomenų suverenitetas: Jautrūs duomenys lieka vietoje, gerinant saugumą ir atitiktį

Maži kalbos modeliai (SLM)

SLM, tokie kaip Phi-4, Mistral-7B ir Gemma, yra optimizuotos didesnių LLM versijos, pritaikytos:

• Mažesniam atminties naudojimui: Efektyvus ribotų kraštinių įrenginių atminties naudojimas
• Mažesniam skaičiavimo poreikiui: Optimizuota CPU ir kraštinių GPU našumui
• Greitesniam paleidimui: Greitas inicializavimas, tinkamas jautrioms aplikacijoms

Jie suteikia galingas NLP galimybes, atitinkančias šiuos apribojimus:

• Įterptinės sistemos: IoT įrenginiai ir pramoniniai valdikliai
• Mobilūs įrenginiai: Išmanieji telefonai ir planšetės su neprisijungimo galimybėmis
• IoT įrenginiai: Jutikliai ir išmanieji įrenginiai su ribotais resursais
• Kraštiniai serveriai: Vietiniai apdorojimo įrenginiai su ribotais GPU resursais
• Asmeniniai kompiuteriai: Darbalaukio ir nešiojamojo kompiuterio diegimo scenarijai

Kurso moduliai ir navigacija

Modulis	Tema	Pagrindinė sritis	Pagrindinis turinys	Lygis	Trukmė
📖 00	Įvadas į EdgeAI	Pagrindai ir kontekstas	EdgeAI apžvalga • Pramonės taikymas • SLM įvadas • Mokymosi tikslai	Pradedantysis	1-2 val.
📚 01	EdgeAI pagrindai	Debesų ir kraštinio DI palyginimas	EdgeAI pagrindai • Realūs atvejų tyrimai • Įgyvendinimo vadovas • Kraštinis diegimas	Pradedantysis	3-4 val.
🧠 02	SLM modelių pagrindai	Modelių šeimos ir architektūra	Phi šeima • Qwen šeima • Gemma šeima • BitNET • μModel • Phi-Silica	Pradedantysis	4-5 val.
🚀 03	SLM diegimo praktika	Vietinis ir debesų diegimas	Išplėstinis mokymasis • Vietinė aplinka • Debesų diegimas	Vidutinis	4-5 val.
⚙️ 04	Modelių optimizavimo įrankių rinkinys	Kryžminės platformos optimizacija	Įvadas • Llama.cpp • Microsoft Olive • OpenVINO • Apple MLX • Darbo eigos sintezė	Vidutinis	5-6 val.
🔧 05	SLMOps gamyba	Gamybos operacijos	SLMOps įvadas • Modelių distiliacija • Smulkus derinimas • Gamybos diegimas	Pažengęs	5-6 val.
🤖 06	DI agentai ir funkcijų kvietimas	Agentų sistemos ir MCP	Agentų įvadas • Funkcijų kvietimas • Modelio konteksto protokolas	Pažengęs	4-5 val.
💻 07	Platformos įgyvendinimas	Kryžminės platformos pavyzdžiai	DI įrankių rinkinys • Foundry Local • Windows kūrimas	Pažengęs	3-4 val.
🏭 08	Foundry Local įrankių rinkinys	Gamybai paruošti pavyzdžiai	Pavyzdinės aplikacijos (žr. detales žemiau)	Ekspertas	8-10 val.

🏭 Modulis 08: Pavyzdinės aplikacijos

• 01: REST pokalbių greitas startas
• 02: OpenAI SDK integracija
• 03: Modelių atradimas ir vertinimas
• 04: Chainlit RAG aplikacija
• 05: Daugiagentė orkestracija
• 06: Modeliai kaip įrankiai maršrutizatorius
• 07: Tiesioginis API klientas
• 08: Windows 11 pokalbių aplikacija
• 09: Išplėstinė daugiagentė sistema
• 10: Foundry įrankių sistema

🎓 Dirbtuvės: Praktinis mokymosi kelias

Išsamios praktinės dirbtuvių medžiagos su gamybai paruoštais sprendimais:

• Dirbtuvių vadovas - Pilni mokymosi tikslai, rezultatai ir išteklių navigacija
• Python pavyzdžiai (6 sesijos) - Atnaujinta su geriausiomis praktikomis, klaidų tvarkymu ir išsamia dokumentacija
• Jupyter užrašų knygelės (8 interaktyvios) - Žingsnis po žingsnio pamokos su vertinimais ir našumo stebėjimu
• Sesijų vadovai - Išsamūs markdown vadovai kiekvienai dirbtuvių sesijai
• Validacijos įrankiai - Skriptai kodo kokybei tikrinti ir greitiems testams atlikti

Ką sukursite:

• Vietinės DI pokalbių aplikacijos su srautinio perdavimo palaikymu
• RAG vamzdynai su kokybės vertinimu (RAGAS)
• Daugiamodelių vertinimo ir palyginimo įrankiai
• Daugiagentės orkestracijos sistemos
• Išmanus modelių maršrutizavimas pagal užduotis

📊 Mokymosi kelio santrauka

• Bendra trukmė: 36-45 valandos
• Pradedančiųjų kelias: Moduliai 01-02 (7-9 valandos)
• Vidutinis kelias: Moduliai 03-04 (9-11 valandų)
• Pažengusiųjų kelias: Moduliai 05-07 (12-15 valandų)
• Ekspertų kelias: Modulis 08 (8-10 valandų)

Ką sukursite

🎯 Pagrindinės kompetencijos

• Edge DI architektūra: Kurkite vietinės pirmumo DI sistemas su debesų integracija
• Modelių optimizavimas: Kvantizuokite ir suspauskite modelius kraštiniam diegimui (85% greičio padidėjimas, 75% dydžio sumažinimas)
• Daugiaplatformis diegimas: Windows, mobilūs, įterptiniai ir debesų-kraštų hibridinės sistemos
• Gamybos operacijos: Stebėjimas, mastelio keitimas ir Edge AI palaikymas gamyboje

🏗️ Praktiniai projektai

• Foundry vietinės pokalbių programėlės: Windows 11 gimtoji programėlė su modelių perjungimu
• Daugiagentės sistemos: Koordinatorius su specializuotais agentais sudėtingiems darbo procesams
• RAG programos: Vietinių dokumentų apdorojimas su vektorine paieška
• Modelių maršrutizatoriai: Išmanus modelių pasirinkimas pagal užduočių analizę
• API karkasai: Gamybai paruošti klientai su srautinio perdavimo ir sveikatos stebėjimo funkcijomis
• Daugiaplatformiai įrankiai: LangChain/Semantic Kernel integracijos šablonai

🏢 Pramonės taikymas

Gamyba • Sveikatos apsauga • Autonominiai automobiliai • Išmanieji miestai • Mobiliosios programėlės

Greitas startas

Rekomenduojamas mokymosi kelias (iš viso 20–30 valandų):

0. 📖 Įvadas (Introduction.md): EdgeAI pagrindai + pramonės kontekstas + mokymosi struktūra
1. 📚 Pagrindai (1–2 moduliai): EdgeAI sąvokos + SLM modelių šeimos
2. ⚙️ Optimizavimas (3–4 moduliai): Diegimo + kvantizavimo karkasai
3. 🚀 Gamyba (5–6 moduliai): SLMOps + AI agentai + funkcijų kvietimas
4. 💻 Įgyvendinimas (7–8 moduliai): Platformos pavyzdžiai + Foundry vietinių įrankių rinkinys

Kiekviename modulyje yra teorija, praktiniai pratimai ir gamybai paruošti kodo pavyzdžiai.

Karjeros poveikis

Techninės pareigos: EdgeAI sprendimų architektas • ML inžinierius (Edge) • IoT AI kūrėjas • Mobiliosios AI kūrėjas

Pramonės sektoriai: Gamyba 4.0 • Sveikatos technologijos • Autonominės sistemos • FinTech • Vartotojų elektronika

Portfelio projektai: Daugiagentės sistemos • Gamybinės RAG programos • Daugiaplatformis diegimas • Našumo optimizavimas

Saugyklos struktūra

edgeai-for-beginners/
├── 📖 introduction.md  # Foundation: EdgeAI Overview & Learning Framework
├── 📚 Module01-04/     # Fundamentals → SLMs → Deployment → Optimization  
├── 🔧 Module05-06/     # SLMOps → AI Agents → Function Calling
├── 💻 Module07/        # Platform Samples (VS Code, Windows, Jetson, Mobile)
├── 🏭 Module08/        # Foundry Local Toolkit + 10 Comprehensive Samples
│   ├── samples/01-06/  # Foundation: REST, SDK, RAG, Agents, Routing
│   └── samples/07-10/  # Advanced: API Client, Windows App, Enterprise Agents, Tools
├── 🌐 translations/    # Multi-language support (8+ languages)
└── 📋 STUDY_GUIDE.md   # Structured learning paths & time allocation

Kurso akcentai

✅ Progresyvus mokymasis: Teorija → Praktika → Gamybinis diegimas
✅ Tikri atvejų tyrimai: Microsoft, Japan Airlines, įmonių įgyvendinimai
✅ Praktiniai pavyzdžiai: 50+ pavyzdžių, 10 išsamių Foundry vietinių demonstracijų
✅ Našumo dėmesys: 85% greičio patobulinimai, 75% dydžio sumažinimai
✅ Daugiaplatformis: Windows, mobilieji, įterptiniai, debesų ir Edge hibridai
✅ Paruošta gamybai: Stebėjimo, mastelio keitimo, saugumo, atitikties karkasai

📖 Studijų vadovas: Struktūrizuotas 20 valandų mokymosi kelias su laiko paskirstymo gairėmis ir savęs vertinimo įrankiais.

---

EdgeAI yra AI diegimo ateitis: vietinis pirmiausia, privatumo išsaugojimas ir efektyvumas. Įvaldykite šiuos įgūdžius, kad sukurtumėte naujos kartos intelektualias programėles.

Kiti kursai

Mūsų komanda kuria ir kitus kursus! Peržiūrėkite:

• MCP pradedantiesiems
• AI agentai pradedantiesiems
• Generatyvinė AI pradedantiesiems naudojant .NET
• Generatyvinė AI pradedantiesiems naudojant JavaScript
• Generatyvinė AI pradedantiesiems
• ML pradedantiesiems
• Duomenų mokslas pradedantiesiems
• AI pradedantiesiems
• Kibernetinis saugumas pradedantiesiems
• Web kūrimas pradedantiesiems
• IoT pradedantiesiems
• XR kūrimas pradedantiesiems
• GitHub Copilot įvaldymas AI poriniam programavimui
• GitHub Copilot įvaldymas C#/.NET kūrėjams
• Pasirinkite savo Copilot nuotykį

Pagalba

Jei susiduriate su sunkumais ar turite klausimų apie AI programėlių kūrimą, prisijunkite:

Jei turite produktų atsiliepimų ar klaidų kuriant, apsilankykite:

---

Atsakomybės atsisakymas:
Šis dokumentas buvo išverstas naudojant AI vertimo paslaugą Co-op Translator. Nors siekiame tikslumo, prašome atkreipti dėmesį, kad automatiniai vertimai gali turėti klaidų ar netikslumų. Originalus dokumentas jo gimtąja kalba turėtų būti laikomas autoritetingu šaltiniu. Kritinei informacijai rekomenduojama naudoti profesionalų žmogaus vertimą. Mes neprisiimame atsakomybės už nesusipratimus ar neteisingus aiškinimus, atsiradusius dėl šio vertimo naudojimo.