Skip to content

Latest commit

 

History

History
249 lines (184 loc) · 19.7 KB

File metadata and controls

249 lines (184 loc) · 19.7 KB

EdgeAI pradedantiesiems

Kurso viršelio paveikslėlis

GitHub contributors GitHub issues GitHub pull-requests PRs Welcome

Microsoft Azure AI Foundry Discord

Sekite šiuos žingsnius, kad pradėtumėte naudotis šiais ištekliais:

  1. Fork Repository: Spustelėkite GitHub forks
  2. Clone Repository: git clone https://github.com/microsoft/edgeai-for-beginners.git
  3. Prisijunkite prie Azure AI Foundry Discord ir susipažinkite su ekspertais bei kitais kūrėjais

🌐 Daugiafunkcinė kalbų palaikymas

Palaikoma per GitHub Action (Automatiškai ir visada atnaujinama)

Arabų | Bengalų | Bulgarų | Birmos (Mianmaras) | Kinų (supaprastinta) | Kinų (tradicinė, Honkongas) | Kinų (tradicinė, Makao) | Kinų (tradicinė, Taivanas) | Kroatų | Čekų | Danų | Olandų | Estų | Suomių | Prancūzų | Vokiečių | Graikų | Hebrajų | Hindi | Vengrų | Indoneziečių | Italų | Japonų | Korėjiečių | Lietuvių | Malajų | Maratų | Nepalų | Norvegų | Persų (Farsi) | Lenkų | Portugalų (Brazilija) | Portugalų (Portugalija) | Pandžabų (Gurmukhi) | Rumunų | Rusų | Serbų (kirilica) | Slovakų | Slovėnų | Ispanų | Svahilių | Švedų | Tagalogų (Filipinų) | Tamilų | Tajų | Turkų | Ukrainiečių | Urdu | Vietnamiečių

Jei norite, kad būtų palaikomos papildomos kalbos, sąrašą rasite čia

Įvadas

Sveiki atvykę į EdgeAI pradedantiesiems – jūsų išsamų kelionės vadovą į transformuojantį Edge dirbtinio intelekto pasaulį. Šis kursas sujungia galingas AI galimybes su praktiniu, realaus pasaulio diegimu kraštiniuose įrenginiuose, suteikdamas jums galimybę išnaudoti AI potencialą tiesiogiai ten, kur generuojami duomenys ir reikia priimti sprendimus.

Ką išmoksite

Šis kursas veda jus nuo pagrindinių koncepcijų iki paruoštų gamybai įgyvendinimų, apimant:

  • Maži kalbos modeliai (SLM), optimizuoti kraštiniam diegimui
  • Optimizacija, pritaikyta aparatūrai įvairiose platformose
  • Realaus laiko išvada su privatumo išsaugojimo galimybėmis
  • Gamybos diegimo strategijos verslo programoms

Kodėl EdgeAI yra svarbus

Edge AI atspindi paradigmos pokytį, kuris sprendžia svarbius šiuolaikinius iššūkius:

  • Privatumas ir saugumas: Apdorokite jautrius duomenis vietoje, neperduodami jų į debesį
  • Realaus laiko našumas: Pašalinkite tinklo vėlavimą laiko kritinėse programose
  • Ekonominis efektyvumas: Sumažinkite pralaidumo ir debesų kompiuterijos išlaidas
  • Atsparumas: Užtikrinkite funkcionalumą tinklo sutrikimų metu
  • Reglamentų laikymasis: Atitikite duomenų suvereniteto reikalavimus

Edge AI

Edge AI reiškia AI algoritmų ir kalbos modelių vykdymą vietoje, tiesiai ant aparatūros, šalia duomenų generavimo vietos, nesiremiant debesų ištekliais išvadai. Tai sumažina vėlavimą, padidina privatumą ir leidžia priimti sprendimus realiu laiku.

Pagrindiniai principai:

  • Įrenginio išvada: AI modeliai veikia kraštiniuose įrenginiuose (telefonuose, maršrutizatoriuose, mikrovaldikliuose, pramoniniuose kompiuteriuose)
  • Neprisijungimo galimybė: Funkcionuoja be nuolatinio interneto ryšio
  • Mažas vėlavimas: Greiti atsakymai, tinkami realaus laiko sistemoms
  • Duomenų suverenitetas: Laiko jautrius duomenis vietoje, gerinant saugumą ir atitiktį

Maži kalbos modeliai (SLM)

SLM, tokie kaip Phi-4, Mistral-7B ir Gemma, yra optimizuotos didesnių LLM versijos – apmokytos arba distiliuotos:

  • Mažesnė atminties apkrova: Efektyvus ribotos kraštinio įrenginio atminties naudojimas
  • Mažesnis skaičiavimo poreikis: Optimizuotas CPU ir kraštinio GPU našumui
  • Greitesnis paleidimas: Greitas inicializavimas, skirtas reaguojančioms programoms

Jie atveria galingas NLP galimybes, atitinkančias:

  • Įterptosios sistemos: IoT įrenginiai ir pramoniniai valdikliai
  • Mobilieji įrenginiai: Išmanieji telefonai ir planšetiniai kompiuteriai su neprisijungimo galimybėmis
  • IoT įrenginiai: Jutikliai ir išmanieji įrenginiai su ribotais ištekliais
  • Kraštiniai serveriai: Vietiniai apdorojimo įrenginiai su ribotais GPU ištekliais
  • Asmeniniai kompiuteriai: Stacionarūs ir nešiojamieji kompiuteriai diegimo scenarijams

Kurso moduliai ir navigacija

Modulis Tema Pagrindinė sritis Pagrindinis turinys Lygis Trukmė
📖 00 Įvadas į EdgeAI Pagrindai ir kontekstas EdgeAI apžvalga • Pramonės taikymas • SLM įvadas • Mokymosi tikslai Pradedantysis 1-2 val.
📚 01 EdgeAI pagrindai Debesų ir kraštinio AI palyginimas EdgeAI pagrindai • Realūs atvejų tyrimai • Įgyvendinimo vadovas • Kraštinis diegimas Pradedantysis 3-4 val.
🧠 02 SLM modelių pagrindai Modelių šeimos ir architektūra Phi šeima • Qwen šeima • Gemma šeima • BitNET • μModel • Phi-Silica Pradedantysis 4-5 val.
🚀 03 SLM diegimo praktika Vietinis ir debesų diegimas Išplėstinis mokymasis • Vietinė aplinka • Debesų diegimas Vidutinis 4-5 val.
⚙️ 04 Modelių optimizavimo įrankių rinkinys Kryžminės platformos optimizacija Įvadas • Llama.cpp • Microsoft Olive • OpenVINO • Apple MLX • Darbo eigos sintezė Vidutinis 5-6 val.
🔧 05 SLMOps gamyba Gamybos operacijos SLMOps įvadas • Modelių distiliacija • Smulkinimas • Gamybos diegimas Pažengęs 5-6 val.
🤖 06 AI agentai ir funkcijų kvietimas Agentų sistemos ir MCP Agentų įvadas • Funkcijų kvietimas • Modelio konteksto protokolas Pažengęs 4-5 val.
💻 07 Platformos įgyvendinimas Kryžminės platformos pavyzdžiai AI įrankių rinkinys • Foundry Local • Windows kūrimas Pažengęs 3-4 val.
🏭 08 Foundry Local įrankių rinkinys Gamybai paruošti pavyzdžiai Pavyzdinės programos (žr. detales žemiau) Ekspertas 8-10 val.

🏭 Modulis 08: Pavyzdinės programos

🎓 Dirbtuvės: Praktinis mokymosi kelias

Išsamios praktinės dirbtuvių medžiagos su gamybai paruoštais įgyvendinimais:

  • Dirbtuvių vadovas - Pilni mokymosi tikslai, rezultatai ir išteklių navigacija
  • Python pavyzdžiai (6 sesijos) - Atnaujinta su geriausiomis praktikomis, klaidų tvarkymu ir išsamia dokumentacija
  • Jupyter užrašų knygelės (8 interaktyvios) - Žingsnis po žingsnio pamokos su palyginimais ir našumo stebėjimu
  • Sesijų vadovai - Išsamūs markdown vadovai kiekvienai dirbtuvių sesijai
  • Validacijos įrankiai - Skriptai, skirti patikrinti kodo kokybę ir atlikti greitus testus

Ką sukursite:

  • Vietines AI pokalbių programas su srautinio perdavimo palaikymu
  • RAG vamzdynus su kokybės vertinimu (RAGAS)
  • Multi-modelių palyginimo ir palyginimo įrankius
  • Multi-agentų orkestracijos sistemas
  • Išmanų modelių maršrutizavimą su užduočių pagrindu pasirinkimu

📊 Mokymosi kelio santrauka

  • Bendra trukmė: 36-45 valandos
  • Pradedančiųjų kelias: Moduliai 01-02 (7-9 valandos)
  • Vidutinis kelias: Moduliai 03-04 (9-11 valandų)
  • Pažengusiųjų kelias: Moduliai 05-07 (12-15 valandų)
  • Ekspertų kelias: Modulis 08 (8-10 valandų)

Ką sukursite

🎯 Pagrindinės kompetencijos

  • Edge AI architektūra: Kurkite vietinius AI sistemas su debesų integracija
  • Modelių optimizacija: Kvantizuokite ir suspauskite modelius kraštiniam diegimui (85% greičio padidėjimas, 75% dydžio sumažinimas)
  • Multi-platformų diegimas: Windows, mobilieji, įterptieji ir debesų-kraštų hibridinės sistemos
  • Gamybos operacijos: Stebėjimas, mastelio keitimas ir kraštinio dirbtinio intelekto palaikymas gamyboje

🏗️ Praktiniai projektai

  • Foundry vietinės pokalbių programėlės: Windows 11 gimtoji programėlė su modelių perjungimu
  • Daugiaveiksmės sistemos: Koordinatorius su specializuotais agentais sudėtingiems darbo procesams
  • RAG programos: Vietinių dokumentų apdorojimas su vektorine paieška
  • Modelių maršrutizatoriai: Išmanus modelių pasirinkimas pagal užduočių analizę
  • API karkasai: Gamybai paruošti klientai su srautinio perdavimo ir sveikatos stebėjimo funkcijomis
  • Daugiaplatformiai įrankiai: LangChain/Semantic Kernel integracijos modeliai

🏢 Pramonės taikymas

GamybaSveikatos apsaugaAutonominiai automobiliaiIšmanieji miestaiMobiliosios programėlės

Greitas startas

Rekomenduojamas mokymosi kelias (iš viso 20–30 valandų):

  1. 📖 Įvadas (Introduction.md): Kraštinio dirbtinio intelekto pagrindai + pramonės kontekstas + mokymosi struktūra
  2. 📚 Pagrindai (Moduliai 01-02): Kraštinio dirbtinio intelekto sąvokos + SLM modelių šeimos
  3. ⚙️ Optimizavimas (Moduliai 03-04): Diegimo + kvantizavimo karkasai
  4. 🚀 Gamyba (Moduliai 05-06): SLMOps + AI agentai + funkcijų kvietimas
  5. 💻 Įgyvendinimas (Moduliai 07-08): Platformos pavyzdžiai + Foundry vietinių įrankių rinkinys

Kiekviename modulyje yra teorija, praktiniai pratimai ir gamybai paruošti kodo pavyzdžiai.

Karjeros poveikis

Techninės pareigos: Kraštinio dirbtinio intelekto sprendimų architektas • ML inžinierius (kraštinis) • IoT AI kūrėjas • Mobiliojo AI kūrėjas

Pramonės sektoriai: Gamyba 4.0 • Sveikatos technologijos • Autonominės sistemos • FinTech • Vartotojų elektronika

Portfelio projektai: Daugiaveiksmės sistemos • Gamybinės RAG programos • Daugiaplatformis diegimas • Našumo optimizavimas

Saugyklos struktūra

edgeai-for-beginners/
├── 📖 introduction.md  # Foundation: EdgeAI Overview & Learning Framework
├── 📚 Module01-04/     # Fundamentals → SLMs → Deployment → Optimization  
├── 🔧 Module05-06/     # SLMOps → AI Agents → Function Calling
├── 💻 Module07/        # Platform Samples (VS Code, Windows, Jetson, Mobile)
├── 🏭 Module08/        # Foundry Local Toolkit + 10 Comprehensive Samples
│   ├── samples/01-06/  # Foundation: REST, SDK, RAG, Agents, Routing
│   └── samples/07-10/  # Advanced: API Client, Windows App, Enterprise Agents, Tools
├── 🌐 translations/    # Multi-language support (8+ languages)
└── 📋 STUDY_GUIDE.md   # Structured learning paths & time allocation

Kurso akcentai

Progresyvus mokymasis: Teorija → Praktika → Gamybinis diegimas
Tikri atvejų tyrimai: Microsoft, Japan Airlines, įmonių įgyvendinimai
Praktiniai pavyzdžiai: 50+ pavyzdžių, 10 išsamių Foundry vietinių demonstracijų
Našumo dėmesys: 85% greičio pagerinimas, 75% dydžio sumažinimas
Daugiaplatformis: Windows, mobilieji, įterptiniai, debesų kraštų hibridai
Paruošta gamybai: Stebėjimo, mastelio keitimo, saugumo, atitikties karkasai

📖 Studijų vadovas: Struktūrizuotas 20 valandų mokymosi kelias su laiko paskirstymo gairėmis ir savęs vertinimo įrankiais.


Kraštinis dirbtinis intelektas yra AI diegimo ateitis: vietinis pirmiausia, privatumo išsaugojimas ir efektyvumas. Įvaldykite šiuos įgūdžius, kad sukurtumėte naujos kartos išmaniąsias programėles.

Kiti kursai

Mūsų komanda kuria ir kitus kursus! Peržiūrėkite:

Azure / Edge / MCP / Agentai

AZD pradedantiesiems Kraštinis AI pradedantiesiems MCP pradedantiesiems AI agentai pradedantiesiems


Generatyvinio AI serija

Generatyvinis AI pradedantiesiems Generatyvinis AI (.NET) Generatyvinis AI (Java) Generatyvinis AI (JavaScript)


Pagrindinis mokymasis

ML pradedantiesiems Duomenų mokslas pradedantiesiems AI pradedantiesiems Kibernetinis saugumas pradedantiesiems Web kūrimas pradedantiesiems IoT pradedantiesiems XR kūrimas pradedantiesiems


Copilot serija

Copilot AI porinis programavimas Copilot C#/.NET Copilot nuotykiai

Pagalba

Jei susiduriate su sunkumais ar turite klausimų apie AI programėlių kūrimą, prisijunkite:

Azure AI Foundry Discord

Jei turite produktų atsiliepimų ar klaidų kuriant, apsilankykite:

Azure AI Foundry Developer Forum


Atsakomybės apribojimas:
Šis dokumentas buvo išverstas naudojant AI vertimo paslaugą Co-op Translator. Nors siekiame tikslumo, prašome atkreipti dėmesį, kad automatiniai vertimai gali turėti klaidų ar netikslumų. Originalus dokumentas jo gimtąja kalba turėtų būti laikomas autoritetingu šaltiniu. Kritinei informacijai rekomenduojama profesionali žmogaus vertimo paslauga. Mes neprisiimame atsakomybės už nesusipratimus ar neteisingus aiškinimus, atsiradusius naudojant šį vertimą.