EdgeAI 初学者指南

按照以下步骤开始使用这些资源：

Fork 仓库：点击
克隆仓库：git clone https://github.com/microsoft/edgeai-for-beginners.git
加入 Azure AI Foundry Discord，结识专家和开发者

🌐 多语言支持

通过 GitHub Action 支持（自动且始终保持最新）

如果您希望支持更多翻译语言，列表见这里

介绍

欢迎来到 EdgeAI 初学者指南 —— 您通往边缘人工智能变革世界的全面旅程。本课程架起了强大 AI 能力与边缘设备实际部署之间的桥梁，使您能够直接在数据生成和决策发生的地方发挥 AI 的潜力。

您将掌握的内容

本课程带您从基础概念到生产级实现，涵盖：

小型语言模型（SLMs），针对边缘部署优化
硬件感知优化，适配多样平台
实时推理，具备隐私保护能力
生产部署，面向企业应用的策略

为什么 EdgeAI 重要

Edge AI 代表了一种范式转变，解决了现代关键挑战：

隐私与安全：本地处理敏感数据，无需云端暴露
实时性能：消除网络延迟，适用于时间关键应用
成本效益：降低带宽和云计算开销
弹性操作：网络中断时仍能保持功能
合规要求：满足数据主权法规

Edge AI

Edge AI 指的是在硬件本地运行 AI 算法和语言模型，靠近数据生成源，无需依赖云资源进行推理。它降低延迟，增强隐私，并支持实时决策。

核心原则：

设备端推理：AI 模型在边缘设备（手机、路由器、微控制器、工业 PC）上运行
离线能力：无需持续互联网连接即可工作
低延迟：即时响应，适合实时系统
数据主权：敏感数据保留本地，提升安全和合规性

小型语言模型（SLMs）

SLMs 如 Phi-4、Mistral-7B 和 Gemma 是大型 LLM 的优化版本——经过训练或蒸馏以实现：

内存占用减少：高效利用边缘设备有限内存
计算需求降低：针对 CPU 和边缘 GPU 性能优化
启动速度更快：快速初始化，提升响应速度

它们在满足以下限制的同时释放强大 NLP 能力：

嵌入式系统：物联网设备和工业控制器
移动设备：支持离线功能的智能手机和平板
物联网设备：资源有限的传感器和智能设备
边缘服务器：有限 GPU 资源的本地处理单元
个人电脑：桌面和笔记本部署场景

课程模块与导航

模块	主题	重点领域	关键内容	级别	时长
📖 00	EdgeAI 介绍	基础与背景	EdgeAI 概述 • 行业应用 • SLM 介绍 • 学习目标	初学者	1-2 小时
📚 01	EdgeAI 基础	云端与边缘 AI 对比	EdgeAI 基础 • 真实案例研究 • 实施指南 • 边缘部署	初学者	3-4 小时
🧠 02	SLM 模型基础	模型家族与架构	Phi 家族 • Qwen 家族 • Gemma 家族 • BitNET • μModel • Phi-Silica	初学者	4-5 小时
🚀 03	SLM 部署实践	本地与云端部署	高级学习 • 本地环境 • 云端部署	中级	4-5 小时
⚙️ 04	模型优化工具包	跨平台优化	介绍 • Llama.cpp • Microsoft Olive • OpenVINO • Apple MLX • 工作流综合	中级	5-6 小时
🔧 05	SLMOps 生产	生产运维	SLMOps 介绍 • 模型蒸馏 • 微调 • 生产部署	高级	5-6 小时
🤖 06	AI 代理与函数调用	代理框架与 MCP	代理介绍 • 函数调用 • 模型上下文协议	高级	4-5 小时
💻 07	平台实现	跨平台示例	AI 工具包 • Foundry Local • Windows 开发	高级	3-4 小时
🏭 08	Foundry Local 工具包	生产级示例	示例应用（见下文详情）	专家	8-10 小时

🏭 模块 08：示例应用

🎓 工作坊：动手学习路径

全面的动手工作坊材料，包含生产级实现：

工作坊指南 - 完整学习目标、成果及资源导航
Python 示例（6 课时）- 更新最佳实践、错误处理及全面文档
Jupyter 笔记本（8 个交互式）- 逐步教程，含基准测试和性能监控
课程指南 - 每个工作坊课时的详细 markdown 指南
验证工具 - 验证代码质量和运行冒烟测试的脚本

您将构建：

支持流式传输的本地 AI 聊天应用
带质量评估的 RAG 流水线（RAGAS）
多模型基准测试与比较工具
多代理编排系统
基于任务选择的智能模型路由

📊 学习路径总结

总时长：36-45 小时
初学者路径：模块 01-02（7-9 小时）
中级路径：模块 03-04（9-11 小时）
高级路径：模块 05-07（12-15 小时）
专家路径：模块 08（8-10 小时）

您将构建的内容

🎯 核心能力

边缘 AI 架构：设计以本地优先、云端集成的 AI 系统
模型优化：量化和压缩模型以实现边缘部署（提升85%速度，减少75%体积）
多平台部署：Windows、移动端、嵌入式及云边混合系统
生产运维：监控、扩展及维护生产环境中的边缘AI

🏗️ 实践项目

Foundry本地聊天应用：Windows 11原生应用，支持模型切换
多智能体系统：协调者与专家智能体协作处理复杂工作流
RAG应用：本地文档处理与向量搜索
模型路由器：基于任务分析智能选择模型
API框架：具备流式传输和健康监控的生产级客户端
跨平台工具：LangChain/Semantic Kernel集成模式

🏢 行业应用

制造业 • 医疗健康 • 自动驾驶 • 智慧城市 • 移动应用

快速入门

推荐学习路径（共20-30小时）：

📖 介绍 (Introduction.md)：EdgeAI基础 + 行业背景 + 学习框架
📚 基础（模块01-02）：EdgeAI概念 + SLM模型家族
⚙️ 优化（模块03-04）：部署 + 量化框架
🚀 生产（模块05-06）：SLMOps + AI智能体 + 函数调用
💻 实现（模块07-08）：平台示例 + Foundry本地工具包

每个模块包含理论、动手练习和生产级代码示例。

职业影响

技术岗位：EdgeAI解决方案架构师 • 边缘机器学习工程师 • 物联网AI开发者 • 移动AI开发者

行业领域：制造4.0 • 医疗技术 • 自动系统 • 金融科技 • 消费电子

作品集项目：多智能体系统 • 生产级RAG应用 • 跨平台部署 • 性能优化

仓库结构

edgeai-for-beginners/
├── 📖 introduction.md  # Foundation: EdgeAI Overview & Learning Framework
├── 📚 Module01-04/     # Fundamentals → SLMs → Deployment → Optimization  
├── 🔧 Module05-06/     # SLMOps → AI Agents → Function Calling
├── 💻 Module07/        # Platform Samples (VS Code, Windows, Jetson, Mobile)
├── 🏭 Module08/        # Foundry Local Toolkit + 10 Comprehensive Samples
│   ├── samples/01-06/  # Foundation: REST, SDK, RAG, Agents, Routing
│   └── samples/07-10/  # Advanced: API Client, Windows App, Enterprise Agents, Tools
├── 🌐 translations/    # Multi-language support (8+ languages)
└── 📋 STUDY_GUIDE.md   # Structured learning paths & time allocation

课程亮点

✅ 渐进式学习：理论 → 实践 → 生产部署
✅ 真实案例：微软、日本航空、企业级实施
✅ 动手示例：50+示例，10个完整Foundry本地演示
✅ 性能聚焦：提升85%速度，减少75%体积
✅ 多平台支持：Windows、移动、嵌入式、云边混合
✅ 生产就绪：监控、扩展、安全、合规框架

📖 学习指南：结构化20小时学习路径，含时间分配指导和自我评估工具。

EdgeAI代表AI部署的未来：本地优先、隐私保护、高效。掌握这些技能，构建下一代智能应用。