Hãy làm theo các bước sau để bắt đầu sử dụng tài nguyên này:
- Fork Repository: Nhấn vào
- Clone Repository:
git clone https://github.com/microsoft/edgeai-for-beginners.git - Tham gia Discord Azure AI Foundry và gặp gỡ các chuyên gia cùng các nhà phát triển khác
Arabic | Bengali | Bulgarian | Burmese (Myanmar) | Chinese (Simplified) | Chinese (Traditional, Hong Kong) | Chinese (Traditional, Macau) | Chinese (Traditional, Taiwan) | Croatian | Czech | Danish | Dutch | Estonian | Finnish | French | German | Greek | Hebrew | Hindi | Hungarian | Indonesian | Italian | Japanese | Korean | Lithuanian | Malay | Marathi | Nepali | Norwegian | Persian (Farsi) | Polish | Portuguese (Brazil) | Portuguese (Portugal) | Punjabi (Gurmukhi) | Romanian | Russian | Serbian (Cyrillic) | Slovak | Slovenian | Spanish | Swahili | Swedish | Tagalog (Filipino) | Tamil | Thai | Turkish | Ukrainian | Urdu | Vietnamese
Nếu bạn muốn hỗ trợ thêm các ngôn ngữ khác, danh sách các ngôn ngữ được hỗ trợ có thể xem tại đây
Chào mừng bạn đến với EdgeAI cho Người Mới Bắt Đầu – hành trình toàn diện của bạn vào thế giới đầy biến đổi của Trí Tuệ Nhân Tạo tại Edge. Khóa học này kết nối khả năng AI mạnh mẽ với việc triển khai thực tế trên các thiết bị edge, giúp bạn khai thác tiềm năng của AI ngay tại nơi dữ liệu được tạo ra và quyết định cần được thực hiện.
Khóa học này sẽ đưa bạn từ các khái niệm cơ bản đến các triển khai sẵn sàng sản xuất, bao gồm:
- Mô hình ngôn ngữ nhỏ (SLMs) được tối ưu hóa cho triển khai edge
- Tối ưu hóa phần cứng trên các nền tảng đa dạng
- Suy luận thời gian thực với khả năng bảo vệ quyền riêng tư
- Chiến lược triển khai sản xuất cho các ứng dụng doanh nghiệp
Edge AI đại diện cho một sự thay đổi mô hình giải quyết các thách thức hiện đại quan trọng:
- Quyền riêng tư & Bảo mật: Xử lý dữ liệu nhạy cảm tại chỗ mà không cần đưa lên cloud
- Hiệu suất thời gian thực: Loại bỏ độ trễ mạng cho các ứng dụng quan trọng về thời gian
- Hiệu quả chi phí: Giảm chi phí băng thông và điện toán đám mây
- Hoạt động bền vững: Duy trì chức năng trong trường hợp mất kết nối mạng
- Tuân thủ quy định: Đáp ứng các yêu cầu về chủ quyền dữ liệu
Edge AI là việc chạy các thuật toán AI và mô hình ngôn ngữ trực tiếp trên phần cứng, gần nơi dữ liệu được tạo ra mà không cần dựa vào tài nguyên cloud để suy luận. Điều này giảm độ trễ, tăng cường quyền riêng tư và cho phép ra quyết định thời gian thực.
- Suy luận trên thiết bị: Các mô hình AI chạy trên các thiết bị edge (điện thoại, router, vi điều khiển, PC công nghiệp)
- Khả năng hoạt động offline: Hoạt động mà không cần kết nối internet liên tục
- Độ trễ thấp: Phản hồi ngay lập tức phù hợp với các hệ thống thời gian thực
- Chủ quyền dữ liệu: Giữ dữ liệu nhạy cảm tại chỗ, cải thiện bảo mật và tuân thủ
Các SLM như Phi-4, Mistral-7B, và Gemma là các phiên bản tối ưu hóa của các LLM lớn hơn—được huấn luyện hoặc chắt lọc để:
- Giảm dung lượng bộ nhớ: Sử dụng hiệu quả bộ nhớ hạn chế của thiết bị edge
- Yêu cầu tính toán thấp hơn: Tối ưu hóa cho hiệu suất CPU và GPU edge
- Thời gian khởi động nhanh hơn: Khởi tạo nhanh cho các ứng dụng phản hồi nhanh
Chúng mở khóa các khả năng NLP mạnh mẽ trong khi đáp ứng các hạn chế của:
- Hệ thống nhúng: Các thiết bị IoT và bộ điều khiển công nghiệp
- Thiết bị di động: Điện thoại thông minh và máy tính bảng với khả năng offline
- Thiết bị IoT: Cảm biến và thiết bị thông minh với tài nguyên hạn chế
- Máy chủ edge: Các đơn vị xử lý cục bộ với tài nguyên GPU hạn chế
- Máy tính cá nhân: Các kịch bản triển khai trên máy tính để bàn và laptop
| Module | Chủ đề | Khu vực trọng tâm | Nội dung chính | Cấp độ | Thời lượng |
|---|---|---|---|---|---|
| 📖 00 | Giới thiệu về EdgeAI | Nền tảng & Bối cảnh | Tổng quan EdgeAI • Ứng dụng ngành • Giới thiệu SLM • Mục tiêu học tập | Người mới bắt đầu | 1-2 giờ |
| 📚 01 | Cơ bản về EdgeAI | So sánh Cloud vs Edge AI | Cơ bản về EdgeAI • Các nghiên cứu thực tế • Hướng dẫn triển khai • Triển khai Edge | Người mới bắt đầu | 3-4 giờ |
| 🧠 02 | Nền tảng Mô hình SLM | Các họ mô hình & kiến trúc | Họ Phi • Họ Qwen • Họ Gemma • BitNET • μModel • Phi-Silica | Người mới bắt đầu | 4-5 giờ |
| 🚀 03 | Thực hành Triển khai SLM | Triển khai cục bộ & cloud | Học nâng cao • Môi trường cục bộ • Triển khai cloud | Trung cấp | 4-5 giờ |
| ⚙️ 04 | Bộ Công Cụ Tối Ưu Mô Hình | Tối ưu hóa đa nền tảng | Giới thiệu • Llama.cpp • Microsoft Olive • OpenVINO • Apple MLX • Tổng hợp quy trình | Trung cấp | 5-6 giờ |
| 🔧 05 | SLMOps Sản Xuất | Hoạt động sản xuất | Giới thiệu SLMOps • Chắt lọc mô hình • Tinh chỉnh • Triển khai sản xuất | Nâng cao | 5-6 giờ |
| 🤖 06 | AI Agents & Gọi Hàm | Framework agent & MCP | Giới thiệu Agent • Gọi hàm • Giao thức ngữ cảnh mô hình | Nâng cao | 4-5 giờ |
| 💻 07 | Triển khai Nền Tảng | Mẫu đa nền tảng | Bộ công cụ AI • Foundry Local • Phát triển Windows | Nâng cao | 3-4 giờ |
| 🏭 08 | Bộ Công Cụ Foundry Local | Mẫu sẵn sàng sản xuất | Ứng dụng mẫu (xem chi tiết bên dưới) | Chuyên gia | 8-10 giờ |
- 01: REST Chat Quickstart
- 02: Tích hợp OpenAI SDK
- 03: Khám phá & Đánh giá Mô hình
- 04: Ứng dụng Chainlit RAG
- 05: Điều phối Đa-Agent
- 06: Router Mô hình-như-Công cụ
- 07: API Client Trực tiếp
- 08: Ứng dụng Chat Windows 11
- 09: Hệ thống Đa-Agent Nâng cao
- 10: Framework Công Cụ Foundry
Tài liệu workshop thực hành toàn diện với các triển khai sẵn sàng sản xuất:
- Hướng dẫn Workshop - Mục tiêu học tập, kết quả, và điều hướng tài nguyên đầy đủ
- Mẫu Python (6 buổi) - Cập nhật với các thực hành tốt nhất, xử lý lỗi, và tài liệu chi tiết
- Jupyter Notebooks (8 tương tác) - Hướng dẫn từng bước với đánh giá hiệu suất và giám sát
- Hướng dẫn Buổi Học - Hướng dẫn chi tiết bằng markdown cho từng buổi workshop
- Công cụ Xác Thực - Script để kiểm tra chất lượng mã và chạy kiểm tra nhanh
Những Gì Bạn Sẽ Xây Dựng:
- Ứng dụng chat AI cục bộ với hỗ trợ streaming
- Pipeline RAG với đánh giá chất lượng (RAGAS)
- Công cụ đánh giá và so sánh đa mô hình
- Hệ thống điều phối đa-agent
- Định tuyến mô hình thông minh với lựa chọn dựa trên nhiệm vụ
- Tổng Thời Lượng: 36-45 giờ
- Lộ Trình Người Mới Bắt Đầu: Module 01-02 (7-9 giờ)
- Lộ Trình Trung Cấp: Module 03-04 (9-11 giờ)
- Lộ Trình Nâng Cao: Module 05-07 (12-15 giờ)
- Lộ Trình Chuyên Gia: Module 08 (8-10 giờ)
- Kiến Trúc Edge AI: Thiết kế hệ thống AI ưu tiên cục bộ với tích hợp cloud
- Tối Ưu Mô Hình: Lượng hóa và nén mô hình cho triển khai edge (tăng tốc 85%, giảm kích thước 75%)
- Triển Khai Đa Nền Tảng: Windows, di động, nhúng, và hệ thống hybrid cloud-edge
- Hoạt động sản xuất: Giám sát, mở rộng quy mô và duy trì AI biên trong môi trường sản xuất
- Ứng dụng trò chuyện Foundry Local: Ứng dụng gốc Windows 11 với khả năng chuyển đổi mô hình
- Hệ thống đa tác nhân: Bộ điều phối với các tác nhân chuyên biệt cho quy trình làm việc phức tạp
- Ứng dụng RAG: Xử lý tài liệu cục bộ với tìm kiếm vector
- Bộ định tuyến mô hình: Lựa chọn thông minh giữa các mô hình dựa trên phân tích nhiệm vụ
- Khung API: Khách hàng sẵn sàng sản xuất với tính năng streaming và giám sát sức khỏe
- Công cụ đa nền tảng: Mẫu tích hợp LangChain/Semantic Kernel
Sản xuất • Chăm sóc sức khỏe • Phương tiện tự hành • Thành phố thông minh • Ứng dụng di động
Lộ trình học tập đề xuất (tổng cộng 20-30 giờ):
- 📖 Giới thiệu (Introduction.md): Nền tảng EdgeAI + bối cảnh ngành + khung học tập
- 📚 Nền tảng (Modules 01-02): Khái niệm EdgeAI + các họ mô hình SLM
- ⚙️ Tối ưu hóa (Modules 03-04): Triển khai + khung lượng hóa
- 🚀 Sản xuất (Modules 05-06): SLMOps + tác nhân AI + gọi hàm
- 💻 Triển khai (Modules 07-08): Mẫu nền tảng + bộ công cụ Foundry Local
Mỗi module bao gồm lý thuyết, bài tập thực hành và mẫu mã sẵn sàng sản xuất.
Vai trò kỹ thuật: Kiến trúc sư giải pháp EdgeAI • Kỹ sư ML (Edge) • Nhà phát triển IoT AI • Nhà phát triển AI di động
Lĩnh vực ngành: Sản xuất 4.0 • Công nghệ chăm sóc sức khỏe • Hệ thống tự hành • FinTech • Điện tử tiêu dùng
Dự án danh mục đầu tư: Hệ thống đa tác nhân • Ứng dụng RAG sản xuất • Triển khai đa nền tảng • Tối ưu hóa hiệu suất
edgeai-for-beginners/
├── 📖 introduction.md # Foundation: EdgeAI Overview & Learning Framework
├── 📚 Module01-04/ # Fundamentals → SLMs → Deployment → Optimization
├── 🔧 Module05-06/ # SLMOps → AI Agents → Function Calling
├── 💻 Module07/ # Platform Samples (VS Code, Windows, Jetson, Mobile)
├── 🏭 Module08/ # Foundry Local Toolkit + 10 Comprehensive Samples
│ ├── samples/01-06/ # Foundation: REST, SDK, RAG, Agents, Routing
│ └── samples/07-10/ # Advanced: API Client, Windows App, Enterprise Agents, Tools
├── 🌐 translations/ # Multi-language support (8+ languages)
└── 📋 STUDY_GUIDE.md # Structured learning paths & time allocation
✅ Học tập tiến bộ: Lý thuyết → Thực hành → Triển khai sản xuất
✅ Nghiên cứu trường hợp thực tế: Microsoft, Japan Airlines, triển khai doanh nghiệp
✅ Mẫu thực hành: Hơn 50 ví dụ, 10 bản demo Foundry Local toàn diện
✅ Tập trung vào hiệu suất: Cải thiện tốc độ 85%, giảm kích thước 75%
✅ Đa nền tảng: Windows, di động, nhúng, kết hợp đám mây-biên
✅ Sẵn sàng sản xuất: Khung giám sát, mở rộng quy mô, bảo mật, tuân thủ
📖 Hướng dẫn học tập có sẵn: Lộ trình học tập 20 giờ có cấu trúc với hướng dẫn phân bổ thời gian và công cụ tự đánh giá.
EdgeAI đại diện cho tương lai của triển khai AI: ưu tiên cục bộ, bảo vệ quyền riêng tư và hiệu quả. Nắm vững các kỹ năng này để xây dựng thế hệ ứng dụng thông minh tiếp theo.
Nhóm của chúng tôi sản xuất các khóa học khác! Xem thêm:
- MCP cho người mới bắt đầu
- Tác nhân AI cho người mới bắt đầu
- Generative AI cho người mới bắt đầu sử dụng .NET
- Generative AI cho người mới bắt đầu sử dụng JavaScript
- Generative AI cho người mới bắt đầu
- ML cho người mới bắt đầu
- Khoa học dữ liệu cho người mới bắt đầu
- AI cho người mới bắt đầu
- An ninh mạng cho người mới bắt đầu
- Phát triển web cho người mới bắt đầu
- IoT cho người mới bắt đầu
- Phát triển XR cho người mới bắt đầu
- Làm chủ GitHub Copilot cho lập trình cặp AI
- Làm chủ GitHub Copilot cho nhà phát triển C#/.NET
- Chọn cuộc phiêu lưu Copilot của bạn
Nếu bạn gặp khó khăn hoặc có bất kỳ câu hỏi nào về việc xây dựng ứng dụng AI, tham gia:
Nếu bạn có phản hồi sản phẩm hoặc gặp lỗi khi xây dựng, hãy truy cập:
Tuyên bố miễn trừ trách nhiệm:
Tài liệu này đã được dịch bằng dịch vụ dịch thuật AI Co-op Translator. Mặc dù chúng tôi cố gắng đảm bảo độ chính xác, xin lưu ý rằng các bản dịch tự động có thể chứa lỗi hoặc không chính xác. Tài liệu gốc bằng ngôn ngữ bản địa nên được coi là nguồn thông tin chính thức. Đối với các thông tin quan trọng, khuyến nghị sử dụng dịch vụ dịch thuật chuyên nghiệp bởi con người. Chúng tôi không chịu trách nhiệm cho bất kỳ sự hiểu lầm hoặc diễn giải sai nào phát sinh từ việc sử dụng bản dịch này.