Skip to content

README.md

Latest commit

 

History

History
239 lines (179 loc) · 26 KB

README.md

File metadata and controls

239 lines (179 loc) · 26 KB

EdgeAI для начинающих

Изображение курса

Участники GitHub Проблемы GitHub Запросы на GitHub PRs Welcome

Наблюдатели GitHub Форки GitHub Звезды GitHub

Microsoft Azure AI Foundry Discord

Следуйте этим шагам, чтобы начать использовать ресурсы:

  1. Сделайте форк репозитория: Нажмите Форки GitHub
  2. Клонируйте репозиторий: git clone https://github.com/microsoft/edgeai-for-beginners.git
  3. Присоединяйтесь к Azure AI Foundry Discord, чтобы встретиться с экспертами и разработчиками

🌐 Поддержка нескольких языков

Поддерживается через GitHub Action (автоматически и всегда актуально)

Арабский | Бенгальский | Болгарский | Бирманский (Мьянма) | Китайский (упрощенный) | Китайский (традиционный, Гонконг) | Китайский (традиционный, Макао) | Китайский (традиционный, Тайвань) | Хорватский | Чешский | Датский | Голландский | Эстонский | Финский | Французский | Немецкий | Греческий | Иврит | Хинди | Венгерский | Индонезийский | Итальянский | Японский | Корейский | Литовский | Малайский | Маратхи | Непальский | Норвежский | Персидский (фарси) | Польский | Португальский (Бразилия) | Португальский (Португалия) | Панджаби (Гурмукхи) | Румынский | Русский | Сербский (кириллица) | Словацкий | Словенский | Испанский | Суахили | Шведский | Тагальский (Филиппины) | Тамильский | Тайский | Турецкий | Украинский | Урду | Вьетнамский

Если вы хотите добавить поддержку дополнительных языков, список доступных языков находится здесь

Введение

Добро пожаловать в EdgeAI для начинающих – ваш полный путь в мир передовых технологий Edge искусственного интеллекта. Этот курс соединяет мощные возможности ИИ с практическим применением на устройствах, позволяя использовать потенциал ИИ там, где генерируются данные и принимаются решения.

Чему вы научитесь

Курс охватывает все этапы – от базовых концепций до готовых к производству решений:

  • Малые языковые модели (SLM), оптимизированные для работы на устройствах
  • Оптимизация с учетом оборудования для различных платформ
  • Инференс в реальном времени с сохранением конфиденциальности
  • Стратегии развертывания для корпоративных приложений

Почему EdgeAI важен

Edge AI меняет подход к решению современных задач:

  • Конфиденциальность и безопасность: обработка данных локально, без передачи в облако
  • Производительность в реальном времени: устранение задержек сети для критически важных приложений
  • Экономия затрат: снижение расходов на пропускную способность и облачные вычисления
  • Устойчивость работы: поддержание функциональности при сбоях сети
  • Соответствие нормативным требованиям: соблюдение правил суверенитета данных

Edge AI

Edge AI – это выполнение алгоритмов ИИ и языковых моделей локально на оборудовании, рядом с местом генерации данных, без использования облачных ресурсов для инференса. Это снижает задержки, повышает конфиденциальность и позволяет принимать решения в реальном времени.

Основные принципы:

  • Инференс на устройстве: модели ИИ работают на устройствах (телефонах, маршрутизаторах, микроконтроллерах, промышленных ПК)
  • Работа без подключения к интернету: функционирование без постоянного подключения к сети
  • Низкая задержка: мгновенные ответы для систем реального времени
  • Суверенитет данных: хранение конфиденциальных данных локально для повышения безопасности и соответствия требованиям

Малые языковые модели (SLM)

SLM, такие как Phi-4, Mistral-7B и Gemma, представляют собой оптимизированные версии больших языковых моделей, обученные или дистиллированные для:

  • Снижения объема памяти: эффективное использование ограниченной памяти устройств
  • Снижения вычислительных требований: оптимизация для работы на CPU и edge GPU
  • Быстрого запуска: быстрое инициализирование для отзывчивых приложений

Они предоставляют мощные возможности обработки естественного языка, соответствуя ограничениям:

  • Встроенных систем: IoT-устройств и промышленных контроллеров
  • Мобильных устройств: смартфонов и планшетов с возможностью работы офлайн
  • IoT-устройств: датчиков и умных устройств с ограниченными ресурсами
  • Edge-серверов: локальных вычислительных узлов с ограниченными ресурсами GPU
  • Персональных компьютеров: сценарии развертывания на настольных и портативных ПК

Модули курса и навигация

Модуль Тема Область фокуса Основное содержание Уровень Длительность
📖 00 Введение в EdgeAI Основы и контекст Обзор EdgeAI • Применение в индустрии • Введение в SLM • Цели обучения Начальный 1-2 часа
📚 01 Основы EdgeAI Сравнение облачного и Edge AI Основы EdgeAI • Примеры из реального мира • Руководство по реализации • Развертывание на Edge Начальный 3-4 часа
🧠 02 Основы моделей SLM Семейства моделей и архитектура Семейство Phi • Семейство Qwen • Семейство Gemma • BitNET • μModel • Phi-Silica Начальный 4-5 часов
🚀 03 Практика развертывания SLM Локальное и облачное развертывание Углубленное обучение • Локальная среда • Облачное развертывание Средний 4-5 часов
⚙️ 04 Инструменты оптимизации моделей Кроссплатформенная оптимизация Введение • Llama.cpp • Microsoft Olive • OpenVINO • Apple MLX • Синтез рабочих процессов Средний 5-6 часов
🔧 05 SLMOps в производстве Операции в производстве Введение в SLMOps • Дистилляция моделей • Тонкая настройка • Производственное развертывание Продвинутый 5-6 часов
🤖 06 AI-агенты и вызов функций Фреймворки агентов и MCP Введение в агентов • Вызов функций • Протокол контекста модели Продвинутый 4-5 часов
💻 07 Реализация платформы Примеры для разных платформ Инструментарий ИИ • Foundry Local • Разработка для Windows Продвинутый 3-4 часа
🏭 08 Инструментарий Foundry Local Примеры, готовые к производству Примерные приложения (см. детали ниже) Эксперт 8-10 часов

🏭 Модуль 08: Примерные приложения

🎓 Мастерская: Практический путь обучения

Полные материалы для практической мастерской с готовыми к производству реализациями:

  • Руководство по мастерской - Полные цели обучения, результаты и навигация по ресурсам
  • Примеры на Python (6 сессий) - Обновлены с учетом лучших практик, обработки ошибок и полной документации
  • Jupyter Notebooks (8 интерактивных) - Пошаговые руководства с тестами производительности и мониторингом
  • Руководства по сессиям - Подробные инструкции в формате markdown для каждой сессии мастерской
  • Инструменты проверки - Скрипты для проверки качества кода и тестирования

Что вы создадите:

  • Локальные приложения для чата с поддержкой потоковой передачи
  • RAG-пайплайны с оценкой качества (RAGAS)
  • Инструменты для тестирования и сравнения нескольких моделей
  • Системы оркестрации нескольких агентов
  • Интеллектуальный маршрутизатор моделей с выбором задач

📊 Резюме пути обучения

  • Общая длительность: 36-45 часов
  • Начальный уровень: Модули 01-02 (7-9 часов)
  • Средний уровень: Модули 03-04 (9-11 часов)
  • Продвинутый уровень: Модули 05-07 (12-15 часов)
  • Экспертный уровень: Модуль 08 (8-10 часов)

Что вы создадите

🎯 Основные компетенции

  • Архитектура Edge AI: Проектирование систем ИИ с локальным приоритетом и облачной интеграцией
  • Оптимизация моделей: Квантование и сжатие моделей для развертывания на Edge (ускорение на 85%, уменьшение размера на 75%)
  • Кроссплатформенное развертывание: Windows, мобильные устройства, встроенные системы и гибридные облачно-Edge системы
  • Производственные операции: Мониторинг, масштабирование и поддержка Edge AI в продакшене

🏗️ Практические проекты

  • Foundry Local Chat Apps: Нативное приложение для Windows 11 с переключением моделей
  • Мультиагентные системы: Координатор со специализированными агентами для сложных рабочих процессов
  • RAG-приложения: Обработка локальных документов с использованием векторного поиска
  • Маршрутизаторы моделей: Интеллектуальный выбор моделей на основе анализа задач
  • API-фреймворки: Клиенты, готовые к продакшену, с потоковой передачей данных и мониторингом состояния
  • Кроссплатформенные инструменты: Шаблоны интеграции LangChain/Semantic Kernel

🏢 Применение в индустрии

Производство • Здравоохранение • Автономные транспортные средства • Умные города • Мобильные приложения

Быстрый старт

Рекомендуемый путь обучения (всего 20-30 часов):

  1. 📖 Введение (Introduction.md): Основы EdgeAI + контекст индустрии + структура обучения
  2. 📚 Основы (Модули 01-02): Концепции EdgeAI + семейства моделей SLM
  3. ⚙️ Оптимизация (Модули 03-04): Развертывание + фреймворки квантования
  4. 🚀 Продакшен (Модули 05-06): SLMOps + AI-агенты + вызов функций
  5. 💻 Реализация (Модули 07-08): Примеры платформ + инструментарий Foundry Local

Каждый модуль включает теорию, практические упражнения и примеры кода, готовые к продакшену.

Влияние на карьеру

Технические роли: Архитектор решений EdgeAI • ML-инженер (Edge) • Разработчик IoT AI • Разработчик мобильного AI

Секторы индустрии: Производство 4.0 • Технологии здравоохранения • Автономные системы • Финтех • Потребительская электроника

Проекты для портфолио: Мультиагентные системы • RAG-приложения для продакшена • Кроссплатформенное развертывание • Оптимизация производительности

Структура репозитория

edgeai-for-beginners/
├── 📖 introduction.md  # Foundation: EdgeAI Overview & Learning Framework
├── 📚 Module01-04/     # Fundamentals → SLMs → Deployment → Optimization  
├── 🔧 Module05-06/     # SLMOps → AI Agents → Function Calling
├── 💻 Module07/        # Platform Samples (VS Code, Windows, Jetson, Mobile)
├── 🏭 Module08/        # Foundry Local Toolkit + 10 Comprehensive Samples
│   ├── samples/01-06/  # Foundation: REST, SDK, RAG, Agents, Routing
│   └── samples/07-10/  # Advanced: API Client, Windows App, Enterprise Agents, Tools
├── 🌐 translations/    # Multi-language support (8+ languages)
└── 📋 STUDY_GUIDE.md   # Structured learning paths & time allocation

Основные моменты курса

✅ Постепенное обучение: Теория → Практика → Развертывание в продакшене
✅ Реальные кейсы: Microsoft, Japan Airlines, корпоративные внедрения
✅ Практические примеры: Более 50 примеров, 10 комплексных Foundry Local демонстраций
✅ Фокус на производительности: Ускорение на 85%, уменьшение размера на 75%
✅ Мультиплатформенность: Windows, мобильные устройства, встроенные системы, гибрид облако-Edge
✅ Готовность к продакшену: Мониторинг, масштабирование, безопасность, соответствие требованиям

📖 Доступно руководство по обучению: Структурированный 20-часовой учебный план с рекомендациями по распределению времени и инструментами для самооценки.

EdgeAI — это будущее развертывания AI: локально-ориентированное, сохраняющее конфиденциальность и эффективное. Освойте эти навыки, чтобы создавать приложения нового поколения.

Другие курсы

Наша команда создает и другие курсы! Ознакомьтесь:

Получение помощи

Если вы столкнулись с трудностями или у вас есть вопросы о создании AI-приложений, присоединяйтесь:

Azure AI Foundry Discord

Если у вас есть отзывы о продукте или ошибки при разработке, посетите:

Azure AI Foundry Developer Forum

Отказ от ответственности:
Этот документ был переведен с помощью сервиса автоматического перевода Co-op Translator. Несмотря на наши усилия обеспечить точность, автоматические переводы могут содержать ошибки или неточности. Оригинальный документ на его родном языке следует считать авторитетным источником. Для получения критически важной информации рекомендуется профессиональный перевод человеком. Мы не несем ответственности за любые недоразумения или неправильные интерпретации, возникшие в результате использования данного перевода.