README.md

EdgeAI за начинаещи

Следвайте тези стъпки, за да започнете да използвате ресурсите:

1. Fork на хранилището: Кликнете
2. Клониране на хранилището: git clone https://github.com/microsoft/edgeai-for-beginners.git
3. Присъединете се към Azure AI Foundry Discord и се свържете с експерти и други разработчици

🌐 Поддръжка на много езици

Поддържани чрез GitHub Action (Автоматизирано и винаги актуално)

Арабски | Бенгалски | Български | Бирмански (Мианмар) | Китайски (опростен) | Китайски (традиционен, Хонконг) | Китайски (традиционен, Макао) | Китайски (традиционен, Тайван) | Хърватски | Чешки | Датски | Холандски | Естонски | Фински | Френски | Немски | Гръцки | Иврит | Хинди | Унгарски | Индонезийски | Италиански | Японски | Корейски | Литовски | Малайски | Маратхи | Непалски | Норвежки | Персийски (фарси) | Полски | Португалски (Бразилия) | Португалски (Португалия) | Панджаби (Гурмуки) | Румънски | Руски | Сръбски (кирилица) | Словашки | Словенски | Испански | Суахили | Шведски | Тагалог (Филипински) | Тамилски | Тайландски | Турски | Украински | Урду | Виетнамски

Ако желаете да бъдат добавени допълнителни преводи, списъкът с поддържани езици е тук

Въведение

Добре дошли в EdgeAI за начинаещи – вашето пълно ръководство за трансформиращия свят на Edge изкуствения интелект. Този курс свързва мощните възможности на AI с практическото му приложение на крайни устройства, позволявайки ви да използвате потенциала на AI директно там, където се генерират данни и се вземат решения.

Какво ще научите

Този курс ви води от основни концепции до готови за производство реализации, обхващайки:

• Малки езикови модели (SLMs), оптимизирани за крайни устройства
• Оптимизация, съобразена с хардуера за различни платформи
• Инференция в реално време с възможности за запазване на поверителността
• Стратегии за внедряване за корпоративни приложения

Защо EdgeAI е важен

Edge AI представлява промяна в парадигмата, която решава съвременни предизвикателства:

• Поверителност и сигурност: Обработвайте чувствителни данни локално, без да ги изпращате в облака
• Производителност в реално време: Елиминирайте мрежовата латентност за приложения, изискващи бързи реакции
• Икономичност: Намалете разходите за честотна лента и облачни изчисления
• Устойчивост: Поддържайте функционалност при прекъсвания на мрежата
• Съответствие с регулации: Спазвайте изискванията за суверенитет на данните

Edge AI

Edge AI се отнася до изпълнението на AI алгоритми и езикови модели локално на хардуер, близо до мястото, където се генерират данни, без да се разчита на облачни ресурси за инференция. Това намалява латентността, подобрява поверителността и позволява вземане на решения в реално време.

Основни принципи:

• Инференция на устройството: AI модели се изпълняват на крайни устройства (телефони, рутери, микроконтролери, индустриални компютри)
• Офлайн възможности: Функционира без постоянна интернет връзка
• Ниска латентност: Незабавни отговори, подходящи за системи в реално време
• Суверенитет на данните: Запазва чувствителните данни локално, подобрявайки сигурността и съответствието

Малки езикови модели (SLMs)

SLMs като Phi-4, Mistral-7B и Gemma са оптимизирани версии на по-големи LLMs – обучени или дистилирани за:

• Намалена памет: Ефективно използване на ограничената памет на крайни устройства
• По-ниски изчислителни изисквания: Оптимизирани за производителност на CPU и крайни GPU
• По-бързо стартиране: Бърза инициализация за отзивчиви приложения

Те отключват мощни NLP възможности, като същевременно отговарят на ограниченията на:

• Вградени системи: IoT устройства и индустриални контролери
• Мобилни устройства: Смартфони и таблети с офлайн възможности
• IoT устройства: Сензори и умни устройства с ограничени ресурси
• Крайни сървъри: Локални процесорни единици с ограничени GPU ресурси
• Персонални компютри: Сценарии за внедряване на настолни и лаптоп устройства

Модули на курса и навигация

Модул	Тема	Фокусна област	Основно съдържание	Ниво	Продължителност
📖 00	Въведение в EdgeAI	Основи и контекст	Преглед на EdgeAI • Приложения в индустрията • Въведение в SLM • Цели на обучението	Начинаещ	1-2 часа
📚 01	Основи на EdgeAI	Сравнение между облачен и Edge AI	Основи на EdgeAI • Примери от реалния свят • Ръководство за внедряване • Крайно внедряване	Начинаещ	3-4 часа
🧠 02	Основи на SLM моделите	Семейства модели и архитектура	Семейство Phi • Семейство Qwen • Семейство Gemma • BitNET • μModel • Phi-Silica	Начинаещ	4-5 часа
🚀 03	Практика за внедряване на SLM	Локално и облачно внедряване	Разширено обучение • Локална среда • Облачно внедряване	Средно	4-5 часа
⚙️ 04	Инструментариум за оптимизация на модели	Оптимизация за различни платформи	Въведение • Llama.cpp • Microsoft Olive • OpenVINO • Apple MLX • Синтез на работни потоци	Средно	5-6 часа
🔧 05	SLMOps за производство	Операции за производство	Въведение в SLMOps • Дистилация на модели • Фина настройка • Производствено внедряване	Напреднало	5-6 часа
🤖 06	AI агенти и извикване на функции	Рамки за агенти и MCP	Въведение в агенти • Извикване на функции • Протокол за контекст на модела	Напреднало	4-5 часа
💻 07	Платформено внедряване	Примери за различни платформи	AI инструментариум • Foundry Local • Разработка за Windows	Напреднало	3-4 часа
🏭 08	Инструментариум Foundry Local	Примери, готови за производство	Примерни приложения (вижте подробности по-долу)	Експерт	8-10 часа

🏭 Модул 08: Примерни приложения

• 01: REST Chat Quickstart
• 02: OpenAI SDK Integration
• 03: Model Discovery & Benchmarking
• 04: Chainlit RAG Application
• 05: Multi-Agent Orchestration
• 06: Models-as-Tools Router
• 07: Direct API Client
• 08: Windows 11 Chat App
• 09: Advanced Multi-Agent System
• 10: Foundry Tools Framework

🎓 Работилница: Практически учебен път

Изчерпателни материали за практическа работилница с реализации, готови за производство:

• Ръководство за работилницата - Пълни цели на обучението, резултати и навигация по ресурсите
• Python примери (6 сесии) - Актуализирани с най-добри практики, обработка на грешки и изчерпателна документация
• Jupyter Notebooks (8 интерактивни) - Стъпка по стъпка уроци с бенчмаркове и мониторинг на производителността
• Ръководства за сесии - Подробни markdown ръководства за всяка сесия от работилницата
• Инструменти за валидиране - Скриптове за проверка на качеството на кода и изпълнение на тестове

Какво ще изградите:

• Локални AI чат приложения с поддръжка на стрийминг
• RAG тръбопроводи с оценка на качеството (RAGAS)
• Инструменти за бенчмаркинг и сравнение на многомоделни системи
• Системи за оркестрация на множество агенти
• Интелигентно маршрутизиране на модели с избор, базиран на задачи

📊 Обобщение на учебния път

• Обща продължителност: 36-45 часа
• Път за начинаещи: Модули 01-02 (7-9 часа)
• Среден път: Модули 03-04 (9-11 часа)
• Напреднал път: Модули 05-07 (12-15 часа)
• Експертен път: Модул 08 (8-10 часа)

Какво ще изградите

🎯 Основни компетенции

• Архитектура на Edge AI: Проектирайте AI системи с локален приоритет и облачна интеграция
• Оптимизация на модели: Квантизация и компресия на модели за крайно внедряване (85% ускорение, 75% намаление на размера)
• Многоплатформено внедряване: Windows, мобилни, вградени и хибридни облачно-крайни системи
• Операции в продукция: Наблюдение, мащабиране и поддръжка на Edge AI в продукционна среда

🏗️ Практически проекти

• Foundry Local Chat Apps: Нативно приложение за Windows 11 с превключване на модели
• Системи с множество агенти: Координатор със специализирани агенти за сложни работни процеси
• RAG приложения: Обработка на локални документи с векторно търсене
• Рутери за модели: Интелигентен избор между модели въз основа на анализ на задачите
• API рамки: Клиенти, готови за продукция, със стрийминг и мониторинг на състоянието
• Инструменти за различни платформи: Интеграционни модели за LangChain/Semantic Kernel

🏢 Приложения в индустрията

Производство • Здравеопазване • Автономни превозни средства • Умни градове • Мобилни приложения

Бърз старт

Препоръчителен учебен път (общо 20-30 часа):

0. 📖 Въведение (Introduction.md): Основи на EdgeAI + контекст в индустрията + учебна рамка
1. 📚 Основи (Модули 01-02): Концепции на EdgeAI + семейства модели SLM
2. ⚙️ Оптимизация (Модули 03-04): Деплоймънт + рамки за квантизация
3. 🚀 Продукция (Модули 05-06): SLMOps + AI агенти + извикване на функции
4. 💻 Имплементация (Модули 07-08): Примерни платформи + инструментариум Foundry Local

Всеки модул включва теория, практически упражнения и примери за код, готов за продукция.

Въздействие върху кариерата

Технически роли: Архитект на EdgeAI решения • ML инженер (Edge) • IoT AI разработчик • AI разработчик за мобилни устройства

Сектори в индустрията: Производство 4.0 • Технологии за здравеопазване • Автономни системи • ФинТех • Потребителска електроника

Проекти за портфолио: Системи с множество агенти • RAG приложения за продукция • Деплоймънт на различни платформи • Оптимизация на производителността

Структура на хранилището

edgeai-for-beginners/
├── 📖 introduction.md  # Foundation: EdgeAI Overview & Learning Framework
├── 📚 Module01-04/     # Fundamentals → SLMs → Deployment → Optimization  
├── 🔧 Module05-06/     # SLMOps → AI Agents → Function Calling
├── 💻 Module07/        # Platform Samples (VS Code, Windows, Jetson, Mobile)
├── 🏭 Module08/        # Foundry Local Toolkit + 10 Comprehensive Samples
│   ├── samples/01-06/  # Foundation: REST, SDK, RAG, Agents, Routing
│   └── samples/07-10/  # Advanced: API Client, Windows App, Enterprise Agents, Tools
├── 🌐 translations/    # Multi-language support (8+ languages)
└── 📋 STUDY_GUIDE.md   # Structured learning paths & time allocation

Акценти на курса

✅ Прогресивно обучение: Теория → Практика → Деплоймънт в продукция
✅ Реални казуси: Microsoft, Japan Airlines, корпоративни имплементации
✅ Практически примери: Над 50 примера, 10 изчерпателни демонстрации на Foundry Local
✅ Фокус върху производителността: 85% подобрения в скоростта, 75% намаления в размера
✅ Мултиплатформен подход: Windows, мобилни устройства, вградени системи, хибридни облачно-крайни решения
✅ Готовност за продукция: Рамки за наблюдение, мащабиране, сигурност и съответствие

📖 Наличен учебен наръчник: Структуриран учебен път за 20 часа с насоки за разпределение на времето и инструменти за самооценка.

---

EdgeAI представлява бъдещето на AI внедряването: локално ориентирано, запазващо поверителността и ефективно. Усвоете тези умения, за да създадете следващото поколение интелигентни приложения.

Други курсове

Нашият екип създава и други курсове! Вижте:

• MCP за начинаещи
• AI агенти за начинаещи
• Генеративен AI за начинаещи с .NET
• Генеративен AI за начинаещи с JavaScript
• Генеративен AI за начинаещи
• ML за начинаещи
• Наука за данни за начинаещи
• AI за начинаещи
• Киберсигурност за начинаещи
• Уеб разработка за начинаещи
• IoT за начинаещи
• XR разработка за начинаещи
• Овладяване на GitHub Copilot за AI програмиране в двойка
• Овладяване на GitHub Copilot за C#/.NET разработчици
• Избери своето приключение с Copilot

Получаване на помощ

Ако срещнете затруднения или имате въпроси относно създаването на AI приложения, присъединете се:

Ако имате обратна връзка за продукта или грешки при разработката, посетете:

---

Отказ от отговорност:
Този документ е преведен с помощта на AI услуга за превод Co-op Translator. Въпреки че се стремим към точност, моля, имайте предвид, че автоматичните преводи може да съдържат грешки или неточности. Оригиналният документ на неговия изходен език трябва да се счита за авторитетен източник. За критична информация се препоръчва професионален човешки превод. Не носим отговорност за каквито и да е недоразумения или погрешни интерпретации, произтичащи от използването на този превод.