Skip to content

Latest commit

 

History

History
310 lines (228 loc) · 23.6 KB

File metadata and controls

310 lines (228 loc) · 23.6 KB

EdgeAI za Početnike

Course cover image

GitHub contributors GitHub issues GitHub pull-requests PRs Welcome

GitHub watchers GitHub forks GitHub stars

Microsoft Foundry Discord

Slijedite ove korake za početak korištenja ovih resursa:

  1. Forkajte repozitorij: Kliknite GitHub forks
  2. Klonirajte repozitorij: git clone https://github.com/microsoft/edgeai-for-beginners.git
  3. Pridružite se Azure AI Foundry Discord zajednici i upoznajte stručnjake i kolege developere

🌐 Višejezična Podrška

Podržano preko GitHub Akcije (Automatski i Uvijek Ažurirano)

Arabic | Bengali | Bulgarian | Burmese (Myanmar) | Chinese (Simplified) | Chinese (Traditional, Hong Kong) | Chinese (Traditional, Macau) | Chinese (Traditional, Taiwan) | Croatian | Czech | Danish | Dutch | Estonian | Finnish | French | German | Greek | Hebrew | Hindi | Hungarian | Indonesian | Italian | Japanese | Kannada | Korean | Lithuanian | Malay | Malayalam | Marathi | Nepali | Nigerian Pidgin | Norwegian | Persian (Farsi) | Polish | Portuguese (Brazil) | Portuguese (Portugal) | Punjabi (Gurmukhi) | Romanian | Russian | Serbian (Cyrillic) | Slovak | Slovenian | Spanish | Swahili | Swedish | Tagalog (Filipino) | Tamil | Telugu | Thai | Turkish | Ukrainian | Urdu | Vietnamese

Preferirate li kloniranje lokalno?

Ovaj repozitorij uključuje više od 50 prevoda na različite jezike što značajno povećava veličinu preuzimanja. Za kloniranje bez prijevoda koristite sparse checkout:

git clone --filter=blob:none --sparse https://github.com/microsoft/edgeai-for-beginners.git
cd edgeai-for-beginners
git sparse-checkout set --no-cone '/*' '!translations' '!translated_images'

Ovo vam daje sve što trebate da završite tečaj s puno bržim preuzimanjem.

Ako želite dodatnu podršku za prijevode na drugim jezicima, popis podržanih jezika nalazi se ovdje

Uvod

Dobrodošli u EdgeAI za Početnike – vaše sveobuhvatno putovanje u transformativni svijet Edge umjetne inteligencije. Ovaj tečaj premošćuje jaz između moćnih AI mogućnosti i praktične, stvarne primjene na edge uređajima, omogućujući vam da iskoristite potencijal AI-ja izravno tamo gdje se podaci generiraju i gdje je potrebno donositi odluke.

Što ćete ovladati

Ovaj tečaj vodi vas od osnovnih pojmova do proizvodno spremnih implementacija, pokrivajući:

  • Male Jezične Modele (SLM) optimizirane za edge implementaciju
  • Optimizaciju svjesnu hardvera na raznolikim platformama
  • Realtimsku inferencu s mogućnostima zaštite privatnosti
  • Strategije proizvodnog postavljanja za korporativne aplikacije

Zašto je EdgeAI važan

Edge AI predstavlja paradigmu koja odgovara na ključne moderne izazove:

  • Privatnost i sigurnost: Obrada osjetljivih podataka lokalno bez izlaganja oblaku
  • Realtimske performanse: Eliminacija mrežnog kašnjenja za aplikacije koje zahtijevaju trenutne odgovore
  • Učinkovitost troškova: Smanjenje troškova propusnosti i računarstva u oblaku
  • Otpornost rada: Održavanje funkcionalnosti tijekom prekida mreže
  • Zadovoljavanje regulativa: Ispunjavanje zahtjeva za suverenitetom podataka

Edge AI

Edge AI označava pokretanje AI algoritama i jezičnih modela lokalno na hardveru, blizu mjesta gdje se podaci generiraju, bez oslanjanja na oblačne resurse za inferencu. To smanjuje kašnjenje, povećava privatnost i omogućava donošenje odluka u stvarnom vremenu.

Temeljna načela:

  • Inferenca na uređaju: AI modeli se izvršavaju na edge uređajima (telefoni, ruteri, mikrokontroleri, industrijska računala)
  • Funkcioniranje offline: Radi bez stalne internetske veze
  • Nisko kašnjenje: Trenutni odgovori prikladni za sustave u stvarnom vremenu
  • Suverenitet podataka: Čuva osjetljive podatke lokalno, poboljšavajući sigurnost i usklađenost

Mali Jezični Modeli (SLM)

SLM-ovi poput Phi-4, Mistral-7B i Gemma su optimizirane verzije većih LLM-ova — trenirani ili destilirani za:

  • Smanjenu memorijsku potrošnju: Efikasno korištenje ograničene memorije edge uređaja
  • Manju potrošnju računarske snage: Optimizirani za performanse CPU-a i edge GPU-a
  • Brže vrijeme pokretanja: Brza inicijalizacija za responzivne aplikacije

Oni otključavaju moćne NLP mogućnosti, uz poštivanje ograničenja:

  • Ugrađeni sustavi: IoT uređaji i industrijski kontroleri
  • Mobilni uređaji: Pametni telefoni i tableti s offline sposobnostima
  • IoT uređaji: Senzori i pametni uređaji s ograničenim resursima
  • Edge serveri: Lokalni procesni jedinice s ograničenim GPU resursima
  • Osobna računala: Scenariji implementacije na desktop i prijenosnim računalima

Moduli tečaja i navigacija

Modul Tema Fokus područje Ključni sadržaj Razina Trajanje
📖 00 Uvod u EdgeAI Osnove i kontekst Pregled EdgeAI • Primjeri iz industrije • Uvod u SLM • Ciljevi učenja Početnik 1-2 sata
📚 01 Osnove EdgeAI Usporedba Cloud i Edge AI Osnove EdgeAI • Primjeri iz stvarnog svijeta • Vodič za implementaciju • Edge postavljanje Početnik 3-4 sata
🧠 02 Osnove SLM Modela Obitelji modela & arhitektura Phi obitelj • Qwen obitelj • Gemma obitelj • BitNET • μModel • Phi-Silica Početnik 4-5 sati
🚀 03 Praksa postavljanja SLM-a Lokalno & cloud postavljanje Napredna učenja • Lokalno okruženje • Cloud implementacija Srednji 4-5 sati
⚙️ 04 Toolkit za optimizaciju modela Optimizacija na više platformi Uvod • Llama.cpp • Microsoft Olive • OpenVINO • Apple MLX • Sinteza toka rada Srednji 5-6 sati
🔧 05 SLMOps u proizvodnji Proizvodne operacije Uvod u SLMOps • Destilacija modela • Fine-tuning • Proizvodno postavljanje Napredni 5-6 sati
🤖 06 AI agenti & pozivanje funkcija Okviri agenata & MCP Uvod u agente • Pozivanje funkcija • Protokol konteksta modela Napredni 4-5 sati
💻 07 Implementacija platforme Uzorci za više platformi AI Toolkit • Foundry Local • Razvoj na Windowsu Napredni 3-4 sata
🏭 08 Foundry Local Toolkit Uzorci spremni za proizvodnju Uzorci aplikacija (pogledajte detalje ispod) Stručnjak 8-10 sati

🏭 Modul 08: Uzorci aplikacija

🎓 Radionica: Praktični put učenja

Sveobuhvatni materijali za praktične radionice s proizvodno spremnim implementacijama:

  • Vodič kroz radionicu - Potpuni ciljevi učenja, ishodi i navigacija resursima
  • Python uzorci (6 sesija) - Ažurirani s najboljim praksama, rukovanjem pogreškama i opširnom dokumentacijom
  • Jupyter bilježnice (8 interaktivnih) - Tutorijali korak po korak s mjerama i praćenjem performansi
  • Vodiči za sesije - Detaljni markdown vodiči za svaku radionicu
  • Alati za validaciju - Skripte za provjeru kvalitete koda i provođenje smoke testova

Što ćete izgraditi:

  • Lokalne AI chat aplikacije s podrškom za streaming
  • RAG pipeline-e s evaluacijom kvalitete (RAGAS)
  • Alate za benchmark i usporedbu više modela
  • Sustave orkestracije više agenata
  • Inteligentno usmjeravanje modela s odabirom na temelju zadataka

🎙️ Radionica za Agentic: Praktično - AI Podcast Studio

Izgradite proizvodni pipeline za podcast pokretan AI-jem od nule! Ova imerzivna radionica vas uči kako kreirati kompletan sustav više agenata koji pretvara ideje u profesionalne epizode podcasta. 🎬 Pokreni radionicu AI Podcast Studija

Tvoj zadatak: Pokreni "Future Bytes" — tech podcast koji u potpunosti pokreću AI agenti koje ćeš sam izgraditi. Bez ovisnosti o oblaku, bez troškova API-ja — sve radi lokalno na tvom računalu.

Što ovo čini jedinstvenim:

  • 🤖 Prava višestruka orkestracija agenata - Izgradi specijalizirane AI agente koji istražuju, pišu i produciraju zvuk
  • 🎯 Potpuni produkcijski tijek - Od izbora teme do konačnog audio zapisa podcasta
  • 💻 100% lokalno izvođenje - Koristi Ollamu i lokalne modele (Qwen-3-8B) za potpunu privatnost i kontrolu
  • 🎤 Integracija pretvorbe teksta u govor - Pretvori skripte u prirodne višegovorne razgovore
  • ✋ Radni tokovi s ljudskom kontrolom - Kapije za odobrenje osiguravaju kvalitetu uz automatizaciju

Učenje u tri čina:

Čin Fokus Ključne vještine Trajanje
Čin 1: Upoznaj svoje AI asistente Izgradi svog prvog AI agenta Integracija alata • Pretraživanje weba • Rješavanje problema • Agentno razmišljanje 2-3 sata
Čin 2: Sastavi svoj produkcijski tim Orkestriraj više agenata Koordinacija tima • Radni tokovi odobrenja • DevUI sučelje • Ljudski nadzor 3-4 sata
Čin 3: Oživi svoj podcast Generiraj audio podcasta Pretvorba teksta u govor • Sinteza višegovornosti • Dugi audio zapisi • Potpuna automatizacija 2-3 sata

Korištene tehnologije:

  • Microsoft Agent Framework - Orkestracija i koordinacija višestrukih agenata
  • Ollama - Lokalno izvođenje AI modela (bez potrebe za oblakom)
  • Qwen-3-8B - Open-source jezični model optimiziran za agentne zadatke
  • API-ji za pretvorbu teksta u govor - Prirodna sinteza glasa za generiranje podcasta

Podrška hardvera:

  • Način rada na CPU-u - Radi na bilo kojem modernom računalu (preporučeno 8GB+ RAM)
  • 🚀 GPU ubrzanje - Značajno brže izvođenje sa NVIDIA/AMD grafičkim karticama
  • Podrška za NPU - Ubrzanje sljedeće generacije neuronskih procesorskih jedinica

Savršeno za:

  • Programere koji uče sustave višestrukih AI agenata
  • Svakoga zainteresiranog za AI automatizaciju i radne tokove
  • Kreatore sadržaja koji istražuju AI-pomoćenu produkciju
  • Studente koji proučavaju praktične uzorke AI orkestracije

Počni graditi: 🎙️ Radionica AI Podcast Studija →

📊 Sažetak puta učenja

  • Ukupno trajanje: 36-45 sati
  • Put za početnike: Moduli 01-02 (7-9 sati)
  • Srednji put: Moduli 03-04 (9-11 sati)
  • Napredni put: Moduli 05-07 (12-15 sati)
  • Put za eksperte: Modul 08 (8-10 sati)

Što ćeš izgraditi

🎯 Temeljne kompetencije

  • Edge AI arhitektura: Dizajniraj AI sustave s pristupom prvenstveno lokalnom izvođenju, a s integracijom oblaka
  • Optimizacija modela: Kvantizacija i kompresija modela za izvođenje na rubu (85% ubrzanje, 75% smanjenje veličine)
  • Višestruka platforma: Windows, mobilno, ugrađeno i hibridni sustavi oblak-rub
  • Produkcijske operacije: Praćenje, skaliranje i održavanje Edge AI u produkciji

🏗️ Praktični projekti

  • Foundry Local chat aplikacije: Izvorna Windows 11 aplikacija s mogućnošću mijenjanja modela
  • Sustavi s više agenata: Koordinator s specijaliziranim agentima za složene radne tokove
  • RAG aplikacije: Lokalna obrada dokumenata s vektorskim pretraživanjem
  • Ruter modela: Inteligentni odabir modela temeljen na analizi zadataka
  • API okviri: Klijenti spremni za produkciju sa streamingom i nadzorom zdravlja
  • Alati za više platformi: Uzorci integracija LangChain/Semantic Kernel

🏢 Industrijske primjene

ProizvodnjaZdravstvoAutonomna vozilaPametni gradoviMobilne aplikacije

Brzi početak

Preporučeni put učenja (ukupno 20-30 sati):

  1. 📖 Uvod (Introduction.md): Osnove EdgeAI + kontekst industrije + okvir za učenje
  2. 📚 Osnove (Moduli 01-02): Pojmovi EdgeAI + SLM obitelji modela
  3. ⚙️ Optimizacija (Moduli 03-04): Izvođenje + kvantizacijski okviri
  4. 🚀 Produkcija (Moduli 05-06): SLMOps + AI agenti + pozivanje funkcija
  5. 💻 Implementacija (Moduli 07-08): Primjeri platforme + Foundry Local alatni paket

Svaki modul uključuje teoriju, praktične vježbe i produkcijski spremne primjere koda.

Utjecaj na karijeru

Tehničke uloge: Arhitekt EdgeAI rješenja • Inženjer strojnog učenja (Edge) • IoT AI programer • Mobilni AI programer

Industrijski sektori: Proizvodnja 4.0 • Zdravstvena tehnologija • Autonomni sustavi • FinTech • Potrošačka elektronika

Projekti za portfolio: Sustavi s više agenata • RAG proizvodne aplikacije • Izvođenje na više platformi • Optimizacija performansi

Struktura repozitorija

edgeai-for-beginners/
├── 📖 introduction.md  # Foundation: EdgeAI Overview & Learning Framework
├── 📚 Module01-04/     # Fundamentals → SLMs → Deployment → Optimization  
├── 🔧 Module05-06/     # SLMOps → AI Agents → Function Calling
├── 💻 Module07/        # Platform Samples (VS Code, Windows, Jetson, Mobile)
├── 🏭 Module08/        # Foundry Local Toolkit + 10 Comprehensive Samples
│   ├── samples/01-06/  # Foundation: REST, SDK, RAG, Agents, Routing
│   └── samples/07-10/  # Advanced: API Client, Windows App, Enterprise Agents, Tools
├── 🌐 translations/    # Multi-language support (8+ languages)
└── 📋 STUDY_GUIDE.md   # Structured learning paths & time allocation

Istaknuti dijelovi tečaja

Postepeno učenje: Teorija → praksa → produkcijsko izvođenje
Pravi studiji slučaja: Microsoft, Japan Airlines, implementacije u poduzećima
Praktični primjeri: 50+ primjera, 10 sveobuhvatnih Foundry Local demo aplikacija
Fokus na performanse: 85% poboljšanja brzine, 75% smanjenja veličine
Višeplatformski pristup: Windows, mobilno, ugrađeno, hibrid oblak-rub
Spremno za proizvodnju: Praćenje, skaliranje, sigurnosni i usklađeni okviri

📖 Dostupan vodič za učenje: Strukturiran put učenja od 20 sati s uputama za raspored vremena i alatima za samoprocjenu.


EdgeAI predstavlja budućnost AI izvođenja: s fokusom na lokalno izvođenje, očuvanje privatnosti i efikasnost. Ovladavaj ovim vještinama da izgradiš sljedeću generaciju inteligentnih aplikacija.

Ostali tečajevi

Naš tim stvara i druge tečajeve! Pogledaj:

LangChain

LangChain4j za početnike LangChain.js za početnike LangChain za početnike

Azure / Edge / MCP / Agenti

AZD za početnike Edge AI za početnike MCP za početnike AI agenti za početnike


Serija Generativnog AI

Generativni AI za početnike Generativni AI (.NET) Generativni AI (Java) Generativni AI (JavaScript)


Temeljno učenje

ML za početnike Data Science za početnike AI za početnike Cybersecurity za početnike Web razvoj za početnike IoT za početnike XR razvoj za početnike


Serija Copilot

Copilot for AI Paired Programming Copilot for C#/.NET Copilot Adventure

Dobivanje pomoći

Ako zapnete ili imate bilo kakvih pitanja o izradi AI aplikacija, pridružite se:

Microsoft Foundry Discord

Ako imate povratne informacije o proizvodu ili pogreške tijekom izrade, posjetite:

Microsoft Foundry Developer Forum


Izjava o odricanju od odgovornosti:
Ovaj dokument je preveden pomoću AI usluge za prevođenje Co-op Translator. Iako nastojimo postići točnost, imajte na umu da automatski prijevodi mogu sadržavati pogreške ili netočnosti. Izvorni dokument na izvornom jeziku treba smatrati službenim i autoritativnim izvorom. Za kritične informacije preporučuje se profesionalni ljudski prijevod. Ne snosimo odgovornost za bilo kakva nesporazume ili pogrešna tumačenja koja proizlaze iz korištenja ovog prijevoda.