README.md

EdgeAI для початківців

Дотримуйтесь цих кроків, щоб розпочати використання цих ресурсів:

1. Форкніть репозиторій: Натисніть
2. Клонування репозиторію: git clone https://github.com/microsoft/edgeai-for-beginners.git
3. Приєднайтеся до Azure AI Foundry Discord і зустріньтеся з експертами та іншими розробниками

🌐 Підтримка багатомовності

Підтримується через GitHub Action (автоматично та завжди актуально)

Арабська | Бенгальська | Болгарська | Бірманська (М'янма) | Китайська (спрощена) | Китайська (традиційна, Гонконг) | Китайська (традиційна, Макао) | Китайська (традиційна, Тайвань) | Хорватська | Чеська | Данська | Нідерландська | Естонська | Фінська | Французька | Німецька | Грецька | Іврит | Гінді | Угорська | Індонезійська | Італійська | Японська | Корейська | Литовська | Малайська | Маратхі | Непальська | Норвезька | Перська (фарсі) | Польська | Португальська (Бразилія) | Португальська (Португалія) | Панджабі (Гурмухі) | Румунська | Російська | Сербська (кирилиця) | Словацька | Словенська | Іспанська | Суахілі | Шведська | Тагальська (Філіппіни) | Тамільська | Тайська | Турецька | Українська | Урду | В'єтнамська

Якщо ви бажаєте додати додаткові переклади, підтримувані мови наведені тут

Вступ

Ласкаво просимо до EdgeAI для початківців – вашої всебічної подорожі у світ Edge штучного інтелекту. Цей курс об'єднує потужні можливості AI з практичним розгортанням на пристроях, дозволяючи використовувати потенціал AI безпосередньо там, де генерується дані та приймаються рішення.

Що ви опануєте

Цей курс охоплює все – від основних концепцій до готових до виробництва реалізацій:

• Малі мовні моделі (SLM), оптимізовані для розгортання на пристроях
• Оптимізація з урахуванням апаратного забезпечення для різних платформ
• Інференція в реальному часі з функціями збереження конфіденційності
• Стратегії розгортання у виробництві для корпоративних застосувань

Чому EdgeAI важливий

Edge AI змінює правила гри, вирішуючи сучасні виклики:

• Конфіденційність і безпека: Обробка чутливих даних локально без передачі в хмару
• Продуктивність у реальному часі: Усунення затримок мережі для критичних додатків
• Економічна ефективність: Зменшення витрат на пропускну здатність і хмарні обчислення
• Стійкість роботи: Збереження функціональності під час перебоїв у мережі
• Відповідність регуляторним вимогам: Дотримання вимог щодо суверенітету даних

Edge AI

Edge AI означає виконання алгоритмів AI та мовних моделей локально на апаратному забезпеченні, близько до місця генерації даних, без залежності від хмарних ресурсів для інференції. Це зменшує затримку, покращує конфіденційність і дозволяє приймати рішення в реальному часі.

Основні принципи:

• Інференція на пристрої: Моделі AI працюють на пристроях (телефонах, маршрутизаторах, мікроконтролерах, промислових ПК)
• Офлайн-можливості: Функціонування без постійного підключення до інтернету
• Низька затримка: Миттєва реакція, що підходить для систем реального часу
• Суверенітет даних: Зберігання чутливих даних локально, покращуючи безпеку та відповідність

Малі мовні моделі (SLM)

SLM, такі як Phi-4, Mistral-7B і Gemma, є оптимізованими версіями великих LLM, які були навчені або скорочені для:

• Зменшення обсягу пам'яті: Ефективне використання обмеженої пам'яті пристроїв
• Менше навантаження на обчислення: Оптимізація для продуктивності CPU та GPU на пристроях
• Швидший запуск: Швидка ініціалізація для оперативних додатків

Вони забезпечують потужні можливості NLP, відповідаючи обмеженням:

• Вбудовані системи: IoT-пристрої та промислові контролери
• Мобільні пристрої: Смартфони та планшети з офлайн-можливостями
• IoT-пристрої: Датчики та розумні пристрої з обмеженими ресурсами
• Сервери на краю: Локальні обчислювальні одиниці з обмеженими ресурсами GPU
• Персональні комп'ютери: Сценарії розгортання на настільних і портативних комп'ютерах

Модулі курсу та навігація

Модуль	Тема	Область фокусу	Основний зміст	Рівень	Тривалість
📖 00	Вступ до EdgeAI	Основи та контекст	Огляд EdgeAI • Застосування в індустрії • Вступ до SLM • Цілі навчання	Початківець	1-2 год
📚 01	Основи EdgeAI	Порівняння хмари та Edge AI	Основи EdgeAI • Реальні приклади • Посібник з реалізації • Розгортання на краю	Початківець	3-4 год
🧠 02	Основи моделі SLM	Сімейства моделей та архітектура	Сімейство Phi • Сімейство Qwen • Сімейство Gemma • BitNET • μModel • Phi-Silica	Початківець	4-5 год
🚀 03	Практика розгортання SLM	Локальне та хмарне розгортання	Розширене навчання • Локальне середовище • Хмарне розгортання	Середній	4-5 год
⚙️ 04	Інструментарій оптимізації моделі	Оптимізація для різних платформ	Вступ • Llama.cpp • Microsoft Olive • OpenVINO • Apple MLX • Синтез робочого процесу	Середній	5-6 год
🔧 05	SLMOps у виробництві	Операції у виробництві	Вступ до SLMOps • Дистиляція моделі • Тонке налаштування • Розгортання у виробництві	Просунутий	5-6 год
🤖 06	AI-агенти та виклик функцій	Фреймворки агентів та MCP	Вступ до агентів • Виклик функцій • Протокол контексту моделі	Просунутий	4-5 год
💻 07	Реалізація платформи	Зразки для різних платформ	Інструментарій AI • Foundry Local • Розробка для Windows	Просунутий	3-4 год
🏭 08	Інструментарій Foundry Local	Зразки, готові до виробництва	Зразкові додатки (див. деталі нижче)	Експерт	8-10 год

🏭 Модуль 08: Зразкові додатки

• 01: Швидкий старт REST Chat
• 02: Інтеграція OpenAI SDK
• 03: Відкриття та тестування моделей
• 04: Застосунок Chainlit RAG
• 05: Оркестрація мультиагентів
• 06: Маршрутизатор моделей як інструментів
• 07: Прямий клієнт API
• 08: Чат-додаток для Windows 11
• 09: Розширена система мультиагентів
• 10: Фреймворк інструментів Foundry

🎓 Майстерня: Практичний навчальний шлях

Комплексні матеріали для практичної майстерні з реалізаціями, готовими до виробництва:

• Посібник з майстерні - Повні цілі навчання, результати та навігація по ресурсах
• Зразки Python (6 сесій) - Оновлені з найкращими практиками, обробкою помилок та детальною документацією
• Jupyter Notebooks (8 інтерактивних) - Покрокові навчальні посібники з тестами продуктивності та моніторингом
• Посібники сесій - Детальні посібники у форматі markdown для кожної сесії майстерні
• Інструменти перевірки - Скрипти для перевірки якості коду та запуску тестів

Що ви створите:

• Локальні AI-додатки для чату зі підтримкою потокової передачі
• RAG-пайплайни з оцінкою якості (RAGAS)
• Інструменти для тестування та порівняння моделей
• Системи оркестрації мультиагентів
• Інтелектуальний маршрутизатор моделей з вибором завдань

📊 Резюме навчального шляху

• Загальна тривалість: 36-45 годин
• Шлях початківця: Модулі 01-02 (7-9 годин)
• Середній шлях: Модулі 03-04 (9-11 годин)
• Просунутий шлях: Модулі 05-07 (12-15 годин)
• Експертний шлях: Модуль 08 (8-10 годин)

Що ви створите

🎯 Основні компетенції

• Архітектура Edge AI: Проектування локальних AI-систем з інтеграцією хмари
• Оптимізація моделі: Квантування та стиснення моделей для розгортання на пристроях (прискорення на 85%, зменшення розміру на 75%)
• Розгортання на різних платформах: Windows, мобільні пристрої, вбудовані системи та гібридні хмарно-крайові системи
• Операції у виробництві: Моніторинг, масштабування та підтримка Edge AI у виробничому середовищі

🏗️ Практичні проєкти

• Foundry Local Chat Apps: Нативний додаток для Windows 11 із перемиканням моделей
• Системи з багатьма агентами: Координатор зі спеціалізованими агентами для складних робочих процесів
• RAG-додатки: Обробка локальних документів із пошуком за векторами
• Маршрутизатори моделей: Інтелектуальний вибір між моделями на основі аналізу завдань
• Фреймворки API: Клієнти, готові до виробництва, зі стрімінгом і моніторингом стану
• Кросплатформні інструменти: Шаблони інтеграції LangChain/Semantic Kernel

🏢 Галузеві застосування

Виробництво • Охорона здоров'я • Автономні транспортні засоби • Розумні міста • Мобільні додатки

Швидкий старт

Рекомендований навчальний шлях (загалом 20-30 годин):

0. 📖 Вступ (Introduction.md): Основи EdgeAI + контекст галузі + навчальна структура
1. 📚 Основи (Модулі 01-02): Концепції EdgeAI + сімейства моделей SLM
2. ⚙️ Оптимізація (Модулі 03-04): Розгортання + фреймворки квантування
3. 🚀 Виробництво (Модулі 05-06): SLMOps + AI-агенти + виклик функцій
4. 💻 Реалізація (Модулі 07-08): Зразки платформ + інструментарій Foundry Local

Кожен модуль включає теорію, практичні вправи та зразки коду, готові до використання у виробництві.

Вплив на кар'єру

Технічні ролі: Архітектор рішень EdgeAI • Інженер ML (Edge) • Розробник IoT AI • Розробник мобільного AI

Галузі: Виробництво 4.0 • Технології охорони здоров'я • Автономні системи • FinTech • Споживча електроніка

Проєкти для портфоліо: Системи з багатьма агентами • Виробничі RAG-додатки • Кросплатформне розгортання • Оптимізація продуктивності

Структура репозиторію

edgeai-for-beginners/
├── 📖 introduction.md  # Foundation: EdgeAI Overview & Learning Framework
├── 📚 Module01-04/     # Fundamentals → SLMs → Deployment → Optimization  
├── 🔧 Module05-06/     # SLMOps → AI Agents → Function Calling
├── 💻 Module07/        # Platform Samples (VS Code, Windows, Jetson, Mobile)
├── 🏭 Module08/        # Foundry Local Toolkit + 10 Comprehensive Samples
│   ├── samples/01-06/  # Foundation: REST, SDK, RAG, Agents, Routing
│   └── samples/07-10/  # Advanced: API Client, Windows App, Enterprise Agents, Tools
├── 🌐 translations/    # Multi-language support (8+ languages)
└── 📋 STUDY_GUIDE.md   # Structured learning paths & time allocation

Основні моменти курсу

✅ Прогресивне навчання: Теорія → Практика → Розгортання у виробництві
✅ Реальні кейси: Microsoft, Japan Airlines, корпоративні впровадження
✅ Практичні приклади: 50+ прикладів, 10 комплексних демонстрацій Foundry Local
✅ Фокус на продуктивності: Покращення швидкості на 85%, зменшення розміру на 75%
✅ Багатоплатформність: Windows, мобільні пристрої, вбудовані системи, гібридні хмарно-периферійні рішення
✅ Готовність до виробництва: Моніторинг, масштабування, безпека, фреймворки відповідності

📖 Доступний навчальний посібник: Структурований навчальний шлях на 20 годин із рекомендаціями щодо розподілу часу та інструментами самооцінки.

---

EdgeAI представляє майбутнє розгортання AI: локально-орієнтоване, збереження конфіденційності та ефективність. Опановуйте ці навички, щоб створювати наступне покоління інтелектуальних додатків.

Інші курси

Наша команда створює й інші курси! Ознайомтеся:

Azure / Edge / MCP / Agents

---

Серія Generative AI

---

Основне навчання

---

Серія Copilot

Отримання допомоги

Якщо ви застрягли або маєте запитання щодо створення AI-додатків, приєднуйтесь:

Якщо у вас є відгуки про продукт або виникають помилки під час розробки, відвідайте:

---

Відмова від відповідальності:
Цей документ був перекладений за допомогою сервісу автоматичного перекладу Co-op Translator. Хоча ми прагнемо до точності, будь ласка, майте на увазі, що автоматичні переклади можуть містити помилки або неточності. Оригінальний документ на його рідній мові слід вважати авторитетним джерелом. Для критичної інформації рекомендується професійний людський переклад. Ми не несемо відповідальності за будь-які непорозуміння або неправильні тлумачення, що виникають внаслідок використання цього перекладу.