課程	重點領域	範例	時間	複雜度
1	設置及基礎	01, 02, 03	2-3 小時	初學者
2	AI 解決方案	04	2-3 小時	中級
3	開源	05	2-3 小時	中級
4	進階模型	06	3-4 小時	進階
5	AI 代理	05, 09	3-4 小時	進階
6	企業工具	06, 10	3-4 小時	專家
7	直接 API 整合	07	2-3 小時	中級
8	Windows 11 聊天應用	08	3-4 小時	進階
9	進階多代理	09	4-5 小時	專家
10	工具框架	10	4-5 小時	專家

核心資源

官方文件：

Microsoft Foundry Local GitHub - 原始碼及官方範例
Azure AI Foundry 文件 - 完整設置及使用指南
Model Mondays 系列 - 每週模型亮點及教程

社群及支援：

Foundry Local 討論區 - 社群問答及功能請求
Microsoft AI 開發者社群 - 最新消息及最佳實踐

學習成果

完成本模組後，您將具備以下能力：

技術掌握

部署及管理：在開發及生產環境中安裝及管理 Foundry Local
整合模型：無縫使用 Microsoft、Hugging Face 及社群來源的多樣化模型
建構應用：創建具備進階功能及優化的生產級 AI 應用
開發代理：實作具備基礎、推理及工具整合的複雜 AI 代理

策略理解

架構決策：在本地與雲端部署間做出明智選擇
性能優化：在不同硬體配置間優化推理性能
企業擴展：設計從本地原型到企業部署的可擴展應用
隱私及安全：實施隱私保護的 AI 解決方案，使用本地推理

創新能力

快速原型：快速建構及測試 AI 應用概念，涵蓋所有 10 個範例模式
社群整合：利用開源模型並為生態系統做出貢獻
進階模式：實作尖端 AI 模式，包括 RAG、代理及工具整合
框架掌握：專家級整合 LangChain、Semantic Kernel、Chainlit 及 Electron
生產部署：從本地原型到企業系統部署可擴展 AI 解決方案
未來準備開發：建構適應新興 AI 技術及模式的應用

開始使用

環境設置：確保使用 Windows 11 並符合建議硬體要求（見先決條件）
安裝 Foundry Local：按照課程 1 完成完整安裝及配置
運行範例 01：從基本 REST API 整合開始驗證設置
完成範例：完成範例 01-10 以全面掌握

成功指標

通過所有 10 個全面範例追蹤您的進度：

基礎級別（範例 01-03）

成功安裝及配置 Foundry Local
完成 REST API 整合（範例 01）
實作 OpenAI SDK 相容性（範例 02）
執行模型探索及基準測試（範例 03）

應用級別（範例 04-06）

部署並運行至少 4 種不同模型系列
建構功能性 RAG 聊天應用（範例 04）
創建多代理編排系統（範例 05）
實作智能模型路由（範例 06）

進階整合級別（範例 07-10）

建構生產級 API 客戶端（範例 07）
開發 Windows 11 原生聊天應用（範例 08）
實作進階多代理系統（範例 09）
創建全面工具框架（範例 10）

掌握指標

成功運行所有 10 個範例且無錯誤
為特定使用案例自訂至少 3 個範例
在類生產環境中部署 2+ 範例
為範例代碼貢獻改進或擴展
將 Foundry Local 模式整合到個人/專業項目中

快速入門指南 - 所有 10 個範例

環境設置（所有範例必需）

# 1. Clone and navigate to Module08
cd Module08

# 2. Create Python virtual environment
py -m venv .venv
.\.venv\Scripts\activate

# 3. Install base dependencies
pip install -r requirements.txt

# 4. Install Foundry Local (if not already installed)
winget install Microsoft.FoundryLocal

# 5. Verify Foundry Local installation
foundry --version
foundry model list

核心基礎範例（01-06）

範例 01：REST 聊天快速入門

# Start Foundry Local service
foundry model run phi-4-mini

# Run REST chat demo
python samples/01/chat_quickstart.py

範例 02：OpenAI SDK 整合

# Ensure model is running
foundry status

# Run SDK demo
python samples/02/sdk_quickstart.py

範例 03：模型探索及基準測試

# Run comprehensive model testing
samples/03/list_and_bench.cmd

# Or run individual components
foundry model list --available
foundry model download qwen2.5-0.5b
foundry model benchmark phi-4-mini

範例 04：Chainlit RAG 應用

# Install Chainlit dependencies
pip install chainlit langchain chromadb

# Start RAG chat application
chainlit run samples/04/app.py -w
# Opens browser at http://localhost:8000

範例 05：多代理編排

# Run agent coordinator demo
python -m samples.05.agents.coordinator

# Run specific agent examples
python samples/05/examples/specialists_demo.py

範例 06：工具化模型路由器

# Configure environment
set BASE_URL=http://localhost:8000
set GENERAL_MODEL=phi-4-mini
set CODE_MODEL=qwen2.5-7b

# Run intelligent router
python samples/06/router.py "Analyze this Python code for performance issues"

進階整合範例（07-10）

範例 07：直接 API 客戶端

# Navigate to sample directory
cd samples/07

# Install additional dependencies
pip install -r requirements.txt

# Run basic API examples
python examples/basic_usage.py

# Try streaming responses
python examples/streaming.py

# Test production patterns
python examples/production.py

範例 08：Windows 11 聊天應用

# Navigate to sample directory
cd samples/08

# Install Node.js dependencies
npm install

# Start Electron application
npm start

# Or build for production
npm run build

範例 09：進階多代理系統

# Navigate to sample directory
cd samples/09

# Install agent system dependencies
pip install -r requirements.txt

# Run basic coordination example
python examples/basic_coordination.py

# Try complex workflow
python examples/complex_workflow.py

# Interactive agent demo
python examples/interactive_demo.py

範例 10：Foundry 工具框架

# Navigate to sample directory
cd samples/10

# Install framework dependencies
pip install -r requirements.txt

# Run basic tools demo
python examples/basic_tools.py

# Start REST API server
python examples/rest_api_server.py
# API available at http://localhost:8080

# Try CLI application
python examples/cli_application.py --help

# Launch Jupyter notebook
jupyter notebook examples/jupyter_notebook.ipynb

# Test LangChain integration
python examples/langchain_demo.py

常見問題排查

Foundry Local 連接錯誤

# Check service status
foundry status

# Restart if needed
foundry restart

# Verify endpoint accessibility
curl http://localhost:5273/v1/models

模型加載問題

# Check available models
foundry model list --cached

# Download missing models
foundry model download phi-4-mini
foundry model download qwen2.5-0.5b

# Force reload if needed
foundry model unload --all
foundry model run phi-4-mini

依賴問題

# Upgrade pip and reinstall
python -m pip install --upgrade pip
pip install -r requirements.txt --force-reinstall

# For Node.js samples
npm cache clean --force
npm install

總結

此模組代表了邊緣人工智能開發的最前沿，結合了微軟企業級工具與開源生態系統的靈活性和創新性。通過掌握 Foundry Local 的全部 10 個綜合範例，您將站在人工智能應用開發的最前線。

完整學習路徑：

基礎（範例 01-03）：API 整合與模型管理
應用（範例 04-06）：RAG、代理和智能路由
進階（範例 07-10）：生產框架與企業整合

有關 Azure OpenAI 整合（第二節），請參閱各範例的 README 文件以了解所需的環境變數和 API 版本設置。

免責聲明：
本文件已使用人工智能翻譯服務 Co-op Translator 進行翻譯。雖然我們致力於提供準確的翻譯，但請注意，自動翻譯可能包含錯誤或不準確之處。原始文件的母語版本應被視為權威來源。對於重要信息，建議使用專業人工翻譯。我們對因使用此翻譯而引起的任何誤解或錯誤解釋概不負責。

FilesExpand file tree

README.md

Latest commit

History

README.md

File metadata and controls

模組 08：Microsoft Foundry Local 實作 - 完整開發者工具包

概述

學習目標

課程結構

先決條件

系統需求

開發環境

知識需求

模組時間表