README.md

EdgeAI за почетнике

Следите ове кораке да бисте започели коришћење ових ресурса:

1. Направите форк репозиторијума: Кликните
2. Клонирајте репозиторијум: git clone https://github.com/microsoft/edgeai-for-beginners.git
3. Придружите се Azure AI Foundry Discord-у и упознајте експерте и друге програмере

🌐 Подршка за више језика

Подржано преко GitHub Action (Аутоматски и увек ажурно)

Арапски | Бенгалски | Бугарски | Бирмански (Мјанмар) | Кинески (поједностављени) | Кинески (традиционални, Хонг Конг) | Кинески (традиционални, Макао) | Кинески (традиционални, Тајван) | Хрватски | Чешки | Дански | Холандски | Естонски | Фински | Француски | Немачки | Грчки | Хебрејски | Хинди | Мађарски | Индонежански | Италијански | Јапански | Каннада | Кмерски | Корејски | Литвански | Малајски | Малајалам | Марати | Непалски | Нигеријски пидџин | Норвешки | Персијски (фарси) | Пољски | Португалски (Бразил) | Португалски (Португал) | Панџаби (Гурумухи) | Румунски | Руски | Српски (ћирилица) | Словачки | Словеначки | Шпански | Свахили | Шведски | Тагалог (Филипински) | Тамил | Телугу | Тајландски | Турски | Украјински | Урду | Вијетнамски

Преферирате да клонирате локално?

Овај репозиторијум укључује преко 50 превода што значајно повећава величину преузимања. Да бисте клонирали без превода, користите sparse checkout:

Bash / macOS / Linux:

git clone --filter=blob:none --sparse https://github.com/microsoft/edgeai-for-beginners.git
cd edgeai-for-beginners
git sparse-checkout set --no-cone '/*' '!translations' '!translated_images'

CMD (Windows):

git clone --filter=blob:none --sparse https://github.com/microsoft/edgeai-for-beginners.git
cd edgeai-for-beginners
git sparse-checkout set --no-cone "/*" "!translations" "!translated_images"

Ово вам даје све што вам је потребно за завршетак курса уз много брже преузимање.

Ако желите додатне преводе, подржани језици су наведени овде

Увод

Добродошли у EdgeAI за почетнике – ваше свеобухватно путовање у трансформативни свет Edge вештачке интелигенције. Овај курс преклапа јаз између моћних AI могућности и практичне, реалне примене на edge уређајима, омогућавајући вам да искористите потенцијал AI-а директно тамо где се подаци генеришу и где треба доносити одлуке.

Шта ћете савладати

Овај курс вас води од основних концепата до имплементација спремних за производњу, обухватајући:

• Мали језички модели (SLM) оптимизовани за распоређивање на периферији
• Оптимизацију свесну хардвера на различитим платформама
• Извођење у реалном времену са могућностима очувања приватности
• Стратегије производног распоређивања за корпоративне апликације

Зашто је EdgeAI важан

Edge AI представља промена парадигме која решава критичне савремене изазове:

• Приватност и безбедност: Обрада осетљивих података локално, без излагања облаку
• Перформансе у реалном времену: Елиминише латенцију мреже за апликације осетљиве на време
• Ефикасност трошкова: Смањује пропусни опсег и трошкове облачног рачунања
• Отпорне операције: Одржава функционалност током прекида мреже
• Усклађеност са регулативом: Испуњава захтеве о суверенитету података

Edge AI

Edge AI означава покретање AI алгоритама и језичких модела локално на хардверу, близу места где се подаци генеришу, без ослањања на облачне ресурсе за извођење. Смањује латенцију, побољшава приватност и омогућава доношење одлука у реалном времену.

Основна начела:

• Инференција на уређају: AI модели раде на edge уређајима (телефони, рутери, микроконтролери, индустријски ПК)
• Рад без мреже: Функционише без сталне интернет везе
• Ниска латенција: Одговори у истом тренутку погодни за системе у реалном времену
• Суверенитет података: Чува осетљиве податке локално, побољшавајући безбедност и усклађеност

Мали језички модели (SLM)

SLM-ови као што су Phi-4, Mistral-7B и Gemma су оптимизоване верзије већих LLM-ова — обучавани или дистиловани за:

• Смањен меморијски отисак: Ефикасна употреба ограничене меморије edge уређаја
• Смањени захтеви за ресурсе: Оптимизације за CPU и edge GPU перформансе
• Брже време покретања: Брза иницијализација за ресиве апликације

Они откључавају моћне NLP могућности уз испуњавање ограничења:

• Уграчени системи: IoT уређаји и индустријски контролери
• Мобилни уређаји: Смарт телефони и таблети са могућностима рада без мреже
• IoT уређаји: Сензори и паметни уређаји са ограниченим ресурсима
• Edge сервери: Локалне јединице за обраду са ограниченим GPU ресурсима
• Персонални рачунари: Сценарији распоређивања на десктоп и лаптоп уређајима

Модули курса и навигација

Module	Topic	Focus Area	Key Content	Level	Duration
📖 00	Увод у EdgeAI	Фондација и контекст	Преглед EdgeAI • Индустријске примене • Увод у SLM • Циљеви учења	Почетник	1-2 hrs
📚 01	Основе EdgeAI	Поређење облака и периферије	Основе EdgeAI • Студије случаја из стварног света • Водич за имплементацију • Распоређивање на периферији	Почетник	3-4 hrs
🧠 02	Основе SLM модела	Породице модела и архитектура	Phi породица • Qwen породица • Gemma породица • BitNET • μModel • Phi-Silica	Почетник	4-5 hrs
🚀 03	Практична имплементација SLM	Локално и у облаку	Напредно учење • Локално окружење • Распоређивање у облаку	Средњи	4-5 hrs
⚙️ 04	Алати за оптимизацију модела	Оптимизација за више платформи	Увод • Llama.cpp • Microsoft Olive • OpenVINO • Apple MLX • Синтеза рада	Средњи	5-6 hrs
🔧 05	SLMOps у производњи	Операције у производњи	Увод у SLMOps • Дестилација модела • Фино подешавање • Распоређивање у производњи	Напредни	5-6 hrs
🤖 06	AI агенти и позив функција	Фрејмворкови агената и MCP	Увод у агенте • Позив функција • Протокол контекста модела	Напредни	4-5 hrs
💻 07	Имплементација платформе	Примери за више платформи	AI алатни комплет • Foundry Local • Развој за Windows	Напредни	3-4 hrs
🏭 08	Foundry локални алатни комплет	Примери спремни за производњу	Примери апликација (видети детаље испод)	Експерт	8-10 hrs

🏭 Модул 08: Примери апликација

• 01: REST Chat брзи почетак
• 02: Интеграција OpenAI SDK
• 03: Откривање модела и бенчмаркинг
• 04: Chainlit RAG апликација
• 05: Оркестрација више агената
• 06: Рутер Модели као алати
• 07: Директни API клијент
• 08: Windows 11 чат апликација
• 09: Напредни систем више агената
• 10: Foundry алатни оквир

🎓 Радионица: Практична стаза учења

Свеобухватни материјали за практичну радионицу са имплементацијама спремним за производњу:

• Водич за радионицу - Комплетни циљеви учења, резултати и навигација ресурса
• Python примери (6 сесија) - Ажурирани са најбољим праксама, руковањем грешкама и свеобухватном документацијом
• Jupyter бележнице (8 интерактивних) - Туторијали корак по корак са бенчмаркингом и праћењем перформанси
• Водичи за сесије - Детаљни markdown водичи за сваку радионичку сесију
• Алатке за валидацију - Скрипте за проверу квалитета кода и покретање основних тестова

Шта ћете изградити:

• Локалне AI чат апликације са подршком за стриминг
• RAG пипелайни са проценом квалитета (RAGAS)
• Алатке за бенчмаркинг и упоређивање више модела
• Системи за оркестрацију више агената
• Интелигентно усмеравање модела са избором на основу задатка

🎙️ Радионица за Agentic: Практична - AI подкаст студио

Build an AI-powered podcast production pipeline from scratch! This immersive workshop teaches you to create a complete multi-agent system that transforms ideas into professional podcast episodes.

🎬 Start The AI Podcast Studio Workshop

Ваша мисија: Покрените "Future Bytes" — технолошки подкаст који је у потпуности покренут од стране AI агената које ћете сами изградити. Без облака, без трошкова API-ja — све ради локално на вашем рачунару.

Шта ово чини једноставним и јединственим:

• 🤖 Правa мулти-агентска оркестрација - Изградите специјализоване AI агенте који истражују, пишу и производе аудио
• 🎯 Потпуни продукцијски пипелайн - Од избора теме до коначног подцаст аудио исхода
• 💻 Потпуно локално извршавање - Користи Ollama и локалне моделе (Qwen-3-8B) за пуну приватност и контролу
• 🎤 Интеграција текста у говор - Претворите сценарије у природно звучеће разговоре са више говорника
• ✋ Радни токови са људским надзором - Прелази за одобравање осигуравају квалитет уз одржавање аутоматизације

Трочинска учења путовање:

Act	Focus	Key Skills	Duration
Act 1: Meet Your AI Assistants	Изградите свог првог AI агента	Интеграција алата • Веб претрага • Решавање проблема • Агентско резоновање	2-3 hrs
Act 2: Assemble Your Production Team	Оркестрирајте више агената	Координација тима • Радни токови за одобравање • DevUI интерфејс • Људски надзор	3-4 hrs
Act 3: Bring Your Podcast to Life	Генеришите подкаст аудио	Текст-у-говор • Синтеза више говорника • Дужи аудио формати • Потпуна аутоматизација	2-3 hrs

Технологије које се користе:

• Microsoft Agent Framework - Оркестрација и координација мулти-агентских система
• Ollama - Локални runtime за AI моделе (није потребан облак)
• Qwen-3-8B - Отворени модел језика оптимизован за агентске задатке
• Text-to-Speech APIs - Нативна синтеза гласа за генерисање подкаста

Подршка хардвера:

• ✅ CPU режим - Ради на сваком савременом рачунару (препоручено 8GB+ RAM)
• 🚀 GPU убрзање - Знатно брже закључивање са NVIDIA/AMD GPU-има
• ⚡ Подршка за NPU - Убрзање на новом генерацији неуронских процесних јединица

Идеално за:

• Девелопере који уче мулти-агентске AI системе
• Све који су заинтересовани за AI аутоматизацију и радне токове
• Креаторе садржаја који истражују AI-помогнуту продукцију
• Студенте који изучавају практичне обрасце оркестрације AI

Почните са изградњом: 🎙️ The AI Podcast Studio Workshop →

📊 Резиме пута учења

• Укупно трајање: 36-45 сати
• Путања за почетнике: Модули 01-02 (7-9 сати)
• Средњи ниво: Модули 03-04 (9-11 сати)
• Напредни ниво: Модули 05-07 (12-15 сати)
• Експертска путања: Модул 08 (8-10 сати)

Шта ћете изградити

🎯 Кључне компетенције

• Edge AI архитектура: Дизајнирајте локално-прво AI системе са интеграцијом у облак
• Оптимизација модела: Квантизујте и компримујте моделе за Edge распоређивање (85% убрзање, 75% смањење величине)
• Распоређивање на више платформи: Windows, мобилне, уграђене и cloud-edge хибридне системе
• Операције продукције: Мониторинг, скалирање и одржавање Edge AI у продукцији

🏗️ Практични пројекти

• Foundry локалне чат апликације: Нативна апликација за Windows 11 са пребацивањем модела
• Мулти-агентски системи: Координатор са специјалистичким агентима за сложене радне токове
• RAG апликације: Локална обрада докумената са векторском претрагом
• Рутери модела: Интелигентан избор између модела базиран на анализи задатка
• API оквири: Клијенти спремни за продукцију са стримингом и мониторингом здравља
• Крос-платформ алати: Обрасци интеграције LangChain/Semantic Kernel

🏢 Примена у индустрији

Производња • Здравство • Аутономна возила • Паметни градови • Мобилне апликације

Брзи почетак

Препоручена путања учења (укупно 20-30 сати):

0. 📖 Увод (Introduction.md): Основа EdgeAI + контекст индустрије + оквир учења
1. 📚 Основа (Модули 01-02): EdgeAI концепти + SLM породице модела
2. ⚙️ Оптимизација (Модули 03-04): Рaspоређивање + квантизација оквира
3. 🚀 Продукција (Модули 05-06): SLMOps + AI агенти + function calling
4. 💻 Имплементација (Модули 07-08): Примери платформи + Foundry Local алат

Сваки модул садржи теорију, вежбе и код спреман за продукцију.

Утицај на каријеру

Техничке улоге: EdgeAI Solutions Architect • ML Engineer (Edge) • IoT AI Developer • Mobile AI Developer

Индустријски сектори: Производња 4.0 • Здравствена технологија • Аутономни системи • FinTech • Потрошачка електроника

Пројекти за портфолио: Мулти-агентски системи • Production RAG апликације • Крос-платформ распоређивање • Оптимизација перформанси

Структура репозиторијума

edgeai-for-beginners/
├── 📖 introduction.md  # Foundation: EdgeAI Overview & Learning Framework
├── 📚 Module01-04/     # Fundamentals → SLMs → Deployment → Optimization  
├── 🔧 Module05-06/     # SLMOps → AI Agents → Function Calling
├── 💻 Module07/        # Platform Samples (VS Code, Windows, Jetson, Mobile)
├── 🏭 Module08/        # Foundry Local Toolkit + 10 Comprehensive Samples
│   ├── samples/01-06/  # Foundation: REST, SDK, RAG, Agents, Routing
│   └── samples/07-10/  # Advanced: API Client, Windows App, Enterprise Agents, Tools
├── 🌐 translations/    # Multi-language support (8+ languages)
└── 📋 STUDY_GUIDE.md   # Structured learning paths & time allocation

Главне карактеристике курса

✅ Прогресивно учење: Теорија → Практика → Продукција
✅ Стварни студији случаја: Microsoft, Japan Airlines, ентерпрајз имплементације
✅ Практични примери: 50+ примера, 10 свеобухватних Foundry Local демо апликација
✅ Фокус на перформансама: 85% побољшања брзине, 75% смањења величине
✅ Мулти-платформски: Windows, мобилни, уграђени, cloud-edge хибрид
✅ Спремно за продукцију: Мониторинг, скалирање, безбедност, оквири за комплајанс

📖 Доступан студијски водич: Структурирана 20-сатна путања учења са смерницама за расподелу времена и алатима за самооцењивање.

---

EdgeAI представља будућност распоређивања AI: локално-прво, очување приватности и ефикасно. Савладајте ове вештине да бисте изградили следећу генерацију интелигентних апликација.

Други курсеви

Наш тим производи и друге курсеве! Погледајте:

LangChain

Azure / Edge / MCP / Agents

---

Генеративни AI серија

---

Основно учење

---

Copilot серија

Како добити помоћ

Ако заглавите или имате било каквих питања о прављењу апликација заснованих на вештачкој интелигенцији (AI), придружите се:

Ако имате повратне информације о производу или наиђете на грешке током развоја, посетите:

---

Одрицање одговорности: Овај документ је преведен помоћу сервиса за аутоматско превођење на бази вештачке интелигенције Co-op Translator. Иако настојимо да превод буде тачан, имајте у виду да аутоматски преводи могу садржати грешке или нетачности. Оригинални документ на његовом изворном језику треба сматрати ауторитетним извором. За критичне информације препоручује се професионалан превод који обавља стручни преводилац. Не сносимо одговорност за било каква неразумевања или погрешна тумачења која произилазе из употребе овог превода.