Slijedite ove korake za početak korištenja ovih resursa:
- Forkajte repozitorij: Kliknite
- Klonirajte repozitorij:
git clone https://github.com/microsoft/edgeai-for-beginners.git - Pridružite se Azure AI Foundry Discord zajednici i upoznajte stručnjake i kolege developere
Arabic | Bengali | Bulgarian | Burmese (Myanmar) | Chinese (Simplified) | Chinese (Traditional, Hong Kong) | Chinese (Traditional, Macau) | Chinese (Traditional, Taiwan) | Croatian | Czech | Danish | Dutch | Estonian | Finnish | French | German | Greek | Hebrew | Hindi | Hungarian | Indonesian | Italian | Japanese | Kannada | Korean | Lithuanian | Malay | Malayalam | Marathi | Nepali | Nigerian Pidgin | Norwegian | Persian (Farsi) | Polish | Portuguese (Brazil) | Portuguese (Portugal) | Punjabi (Gurmukhi) | Romanian | Russian | Serbian (Cyrillic) | Slovak | Slovenian | Spanish | Swahili | Swedish | Tagalog (Filipino) | Tamil | Telugu | Thai | Turkish | Ukrainian | Urdu | Vietnamese
Preferirate li kloniranje lokalno?
Ovaj repozitorij uključuje više od 50 prevoda na različite jezike što značajno povećava veličinu preuzimanja. Za kloniranje bez prijevoda koristite sparse checkout:
git clone --filter=blob:none --sparse https://github.com/microsoft/edgeai-for-beginners.git cd edgeai-for-beginners git sparse-checkout set --no-cone '/*' '!translations' '!translated_images'Ovo vam daje sve što trebate da završite tečaj s puno bržim preuzimanjem.
Ako želite dodatnu podršku za prijevode na drugim jezicima, popis podržanih jezika nalazi se ovdje
Dobrodošli u EdgeAI za Početnike – vaše sveobuhvatno putovanje u transformativni svijet Edge umjetne inteligencije. Ovaj tečaj premošćuje jaz između moćnih AI mogućnosti i praktične, stvarne primjene na edge uređajima, omogućujući vam da iskoristite potencijal AI-ja izravno tamo gdje se podaci generiraju i gdje je potrebno donositi odluke.
Ovaj tečaj vodi vas od osnovnih pojmova do proizvodno spremnih implementacija, pokrivajući:
- Male Jezične Modele (SLM) optimizirane za edge implementaciju
- Optimizaciju svjesnu hardvera na raznolikim platformama
- Realtimsku inferencu s mogućnostima zaštite privatnosti
- Strategije proizvodnog postavljanja za korporativne aplikacije
Edge AI predstavlja paradigmu koja odgovara na ključne moderne izazove:
- Privatnost i sigurnost: Obrada osjetljivih podataka lokalno bez izlaganja oblaku
- Realtimske performanse: Eliminacija mrežnog kašnjenja za aplikacije koje zahtijevaju trenutne odgovore
- Učinkovitost troškova: Smanjenje troškova propusnosti i računarstva u oblaku
- Otpornost rada: Održavanje funkcionalnosti tijekom prekida mreže
- Zadovoljavanje regulativa: Ispunjavanje zahtjeva za suverenitetom podataka
Edge AI označava pokretanje AI algoritama i jezičnih modela lokalno na hardveru, blizu mjesta gdje se podaci generiraju, bez oslanjanja na oblačne resurse za inferencu. To smanjuje kašnjenje, povećava privatnost i omogućava donošenje odluka u stvarnom vremenu.
- Inferenca na uređaju: AI modeli se izvršavaju na edge uređajima (telefoni, ruteri, mikrokontroleri, industrijska računala)
- Funkcioniranje offline: Radi bez stalne internetske veze
- Nisko kašnjenje: Trenutni odgovori prikladni za sustave u stvarnom vremenu
- Suverenitet podataka: Čuva osjetljive podatke lokalno, poboljšavajući sigurnost i usklađenost
SLM-ovi poput Phi-4, Mistral-7B i Gemma su optimizirane verzije većih LLM-ova — trenirani ili destilirani za:
- Smanjenu memorijsku potrošnju: Efikasno korištenje ograničene memorije edge uređaja
- Manju potrošnju računarske snage: Optimizirani za performanse CPU-a i edge GPU-a
- Brže vrijeme pokretanja: Brza inicijalizacija za responzivne aplikacije
Oni otključavaju moćne NLP mogućnosti, uz poštivanje ograničenja:
- Ugrađeni sustavi: IoT uređaji i industrijski kontroleri
- Mobilni uređaji: Pametni telefoni i tableti s offline sposobnostima
- IoT uređaji: Senzori i pametni uređaji s ograničenim resursima
- Edge serveri: Lokalni procesni jedinice s ograničenim GPU resursima
- Osobna računala: Scenariji implementacije na desktop i prijenosnim računalima
| Modul | Tema | Fokus područje | Ključni sadržaj | Razina | Trajanje |
|---|---|---|---|---|---|
| 📖 00 | Uvod u EdgeAI | Osnove i kontekst | Pregled EdgeAI • Primjeri iz industrije • Uvod u SLM • Ciljevi učenja | Početnik | 1-2 sata |
| 📚 01 | Osnove EdgeAI | Usporedba Cloud i Edge AI | Osnove EdgeAI • Primjeri iz stvarnog svijeta • Vodič za implementaciju • Edge postavljanje | Početnik | 3-4 sata |
| 🧠 02 | Osnove SLM Modela | Obitelji modela & arhitektura | Phi obitelj • Qwen obitelj • Gemma obitelj • BitNET • μModel • Phi-Silica | Početnik | 4-5 sati |
| 🚀 03 | Praksa postavljanja SLM-a | Lokalno & cloud postavljanje | Napredna učenja • Lokalno okruženje • Cloud implementacija | Srednji | 4-5 sati |
| ⚙️ 04 | Toolkit za optimizaciju modela | Optimizacija na više platformi | Uvod • Llama.cpp • Microsoft Olive • OpenVINO • Apple MLX • Sinteza toka rada | Srednji | 5-6 sati |
| 🔧 05 | SLMOps u proizvodnji | Proizvodne operacije | Uvod u SLMOps • Destilacija modela • Fine-tuning • Proizvodno postavljanje | Napredni | 5-6 sati |
| 🤖 06 | AI agenti & pozivanje funkcija | Okviri agenata & MCP | Uvod u agente • Pozivanje funkcija • Protokol konteksta modela | Napredni | 4-5 sati |
| 💻 07 | Implementacija platforme | Uzorci za više platformi | AI Toolkit • Foundry Local • Razvoj na Windowsu | Napredni | 3-4 sata |
| 🏭 08 | Foundry Local Toolkit | Uzorci spremni za proizvodnju | Uzorci aplikacija (pogledajte detalje ispod) | Stručnjak | 8-10 sati |
- 01: REST Chat Brzi početak
- 02: OpenAI SDK integracija
- 03: Otkriće modela i benchmarking
- 04: Chainlit RAG aplikacija
- 05: Orkestracija više agenata
- 06: Usmjerivač modela kao alata
- 07: Direktni API klijent
- 08: Chat aplikacija za Windows 11
- 09: Napredni sustav više agenata
- 10: Foundry alatni okvir
Sveobuhvatni materijali za praktične radionice s proizvodno spremnim implementacijama:
- Vodič kroz radionicu - Potpuni ciljevi učenja, ishodi i navigacija resursima
- Python uzorci (6 sesija) - Ažurirani s najboljim praksama, rukovanjem pogreškama i opširnom dokumentacijom
- Jupyter bilježnice (8 interaktivnih) - Tutorijali korak po korak s mjerama i praćenjem performansi
- Vodiči za sesije - Detaljni markdown vodiči za svaku radionicu
- Alati za validaciju - Skripte za provjeru kvalitete koda i provođenje smoke testova
Što ćete izgraditi:
- Lokalne AI chat aplikacije s podrškom za streaming
- RAG pipeline-e s evaluacijom kvalitete (RAGAS)
- Alate za benchmark i usporedbu više modela
- Sustave orkestracije više agenata
- Inteligentno usmjeravanje modela s odabirom na temelju zadataka
Izgradite proizvodni pipeline za podcast pokretan AI-jem od nule! Ova imerzivna radionica vas uči kako kreirati kompletan sustav više agenata koji pretvara ideje u profesionalne epizode podcasta. 🎬 Pokreni radionicu AI Podcast Studija
Tvoj zadatak: Pokreni "Future Bytes" — tech podcast koji u potpunosti pokreću AI agenti koje ćeš sam izgraditi. Bez ovisnosti o oblaku, bez troškova API-ja — sve radi lokalno na tvom računalu.
Što ovo čini jedinstvenim:
- 🤖 Prava višestruka orkestracija agenata - Izgradi specijalizirane AI agente koji istražuju, pišu i produciraju zvuk
- 🎯 Potpuni produkcijski tijek - Od izbora teme do konačnog audio zapisa podcasta
- 💻 100% lokalno izvođenje - Koristi Ollamu i lokalne modele (Qwen-3-8B) za potpunu privatnost i kontrolu
- 🎤 Integracija pretvorbe teksta u govor - Pretvori skripte u prirodne višegovorne razgovore
- ✋ Radni tokovi s ljudskom kontrolom - Kapije za odobrenje osiguravaju kvalitetu uz automatizaciju
Učenje u tri čina:
| Čin | Fokus | Ključne vještine | Trajanje |
|---|---|---|---|
| Čin 1: Upoznaj svoje AI asistente | Izgradi svog prvog AI agenta | Integracija alata • Pretraživanje weba • Rješavanje problema • Agentno razmišljanje | 2-3 sata |
| Čin 2: Sastavi svoj produkcijski tim | Orkestriraj više agenata | Koordinacija tima • Radni tokovi odobrenja • DevUI sučelje • Ljudski nadzor | 3-4 sata |
| Čin 3: Oživi svoj podcast | Generiraj audio podcasta | Pretvorba teksta u govor • Sinteza višegovornosti • Dugi audio zapisi • Potpuna automatizacija | 2-3 sata |
Korištene tehnologije:
- Microsoft Agent Framework - Orkestracija i koordinacija višestrukih agenata
- Ollama - Lokalno izvođenje AI modela (bez potrebe za oblakom)
- Qwen-3-8B - Open-source jezični model optimiziran za agentne zadatke
- API-ji za pretvorbu teksta u govor - Prirodna sinteza glasa za generiranje podcasta
Podrška hardvera:
- ✅ Način rada na CPU-u - Radi na bilo kojem modernom računalu (preporučeno 8GB+ RAM)
- 🚀 GPU ubrzanje - Značajno brže izvođenje sa NVIDIA/AMD grafičkim karticama
- ⚡ Podrška za NPU - Ubrzanje sljedeće generacije neuronskih procesorskih jedinica
Savršeno za:
- Programere koji uče sustave višestrukih AI agenata
- Svakoga zainteresiranog za AI automatizaciju i radne tokove
- Kreatore sadržaja koji istražuju AI-pomoćenu produkciju
- Studente koji proučavaju praktične uzorke AI orkestracije
Počni graditi: 🎙️ Radionica AI Podcast Studija →
- Ukupno trajanje: 36-45 sati
- Put za početnike: Moduli 01-02 (7-9 sati)
- Srednji put: Moduli 03-04 (9-11 sati)
- Napredni put: Moduli 05-07 (12-15 sati)
- Put za eksperte: Modul 08 (8-10 sati)
- Edge AI arhitektura: Dizajniraj AI sustave s pristupom prvenstveno lokalnom izvođenju, a s integracijom oblaka
- Optimizacija modela: Kvantizacija i kompresija modela za izvođenje na rubu (85% ubrzanje, 75% smanjenje veličine)
- Višestruka platforma: Windows, mobilno, ugrađeno i hibridni sustavi oblak-rub
- Produkcijske operacije: Praćenje, skaliranje i održavanje Edge AI u produkciji
- Foundry Local chat aplikacije: Izvorna Windows 11 aplikacija s mogućnošću mijenjanja modela
- Sustavi s više agenata: Koordinator s specijaliziranim agentima za složene radne tokove
- RAG aplikacije: Lokalna obrada dokumenata s vektorskim pretraživanjem
- Ruter modela: Inteligentni odabir modela temeljen na analizi zadataka
- API okviri: Klijenti spremni za produkciju sa streamingom i nadzorom zdravlja
- Alati za više platformi: Uzorci integracija LangChain/Semantic Kernel
Proizvodnja • Zdravstvo • Autonomna vozila • Pametni gradovi • Mobilne aplikacije
Preporučeni put učenja (ukupno 20-30 sati):
- 📖 Uvod (Introduction.md): Osnove EdgeAI + kontekst industrije + okvir za učenje
- 📚 Osnove (Moduli 01-02): Pojmovi EdgeAI + SLM obitelji modela
- ⚙️ Optimizacija (Moduli 03-04): Izvođenje + kvantizacijski okviri
- 🚀 Produkcija (Moduli 05-06): SLMOps + AI agenti + pozivanje funkcija
- 💻 Implementacija (Moduli 07-08): Primjeri platforme + Foundry Local alatni paket
Svaki modul uključuje teoriju, praktične vježbe i produkcijski spremne primjere koda.
Tehničke uloge: Arhitekt EdgeAI rješenja • Inženjer strojnog učenja (Edge) • IoT AI programer • Mobilni AI programer
Industrijski sektori: Proizvodnja 4.0 • Zdravstvena tehnologija • Autonomni sustavi • FinTech • Potrošačka elektronika
Projekti za portfolio: Sustavi s više agenata • RAG proizvodne aplikacije • Izvođenje na više platformi • Optimizacija performansi
edgeai-for-beginners/
├── 📖 introduction.md # Foundation: EdgeAI Overview & Learning Framework
├── 📚 Module01-04/ # Fundamentals → SLMs → Deployment → Optimization
├── 🔧 Module05-06/ # SLMOps → AI Agents → Function Calling
├── 💻 Module07/ # Platform Samples (VS Code, Windows, Jetson, Mobile)
├── 🏭 Module08/ # Foundry Local Toolkit + 10 Comprehensive Samples
│ ├── samples/01-06/ # Foundation: REST, SDK, RAG, Agents, Routing
│ └── samples/07-10/ # Advanced: API Client, Windows App, Enterprise Agents, Tools
├── 🌐 translations/ # Multi-language support (8+ languages)
└── 📋 STUDY_GUIDE.md # Structured learning paths & time allocation
✅ Postepeno učenje: Teorija → praksa → produkcijsko izvođenje
✅ Pravi studiji slučaja: Microsoft, Japan Airlines, implementacije u poduzećima
✅ Praktični primjeri: 50+ primjera, 10 sveobuhvatnih Foundry Local demo aplikacija
✅ Fokus na performanse: 85% poboljšanja brzine, 75% smanjenja veličine
✅ Višeplatformski pristup: Windows, mobilno, ugrađeno, hibrid oblak-rub
✅ Spremno za proizvodnju: Praćenje, skaliranje, sigurnosni i usklađeni okviri
📖 Dostupan vodič za učenje: Strukturiran put učenja od 20 sati s uputama za raspored vremena i alatima za samoprocjenu.
EdgeAI predstavlja budućnost AI izvođenja: s fokusom na lokalno izvođenje, očuvanje privatnosti i efikasnost. Ovladavaj ovim vještinama da izgradiš sljedeću generaciju inteligentnih aplikacija.
Naš tim stvara i druge tečajeve! Pogledaj:
Ako zapnete ili imate bilo kakvih pitanja o izradi AI aplikacija, pridružite se:
Ako imate povratne informacije o proizvodu ili pogreške tijekom izrade, posjetite:
Izjava o odricanju od odgovornosti:
Ovaj dokument je preveden pomoću AI usluge za prevođenje Co-op Translator. Iako nastojimo postići točnost, imajte na umu da automatski prijevodi mogu sadržavati pogreške ili netočnosti. Izvorni dokument na izvornom jeziku treba smatrati službenim i autoritativnim izvorom. Za kritične informacije preporučuje se profesionalni ljudski prijevod. Ne snosimo odgovornost za bilo kakva nesporazume ili pogrešna tumačenja koja proizlaze iz korištenja ovog prijevoda.
