English | 中文 | Español | 日本語 | Deutsch | Русский | Português | Français | 한국어
Pocket Flow 是一个 100行 的极简 LLM 框架
-
轻量级: 仅100行代码。零冗余，零依赖，零供应商锁定。
-
智能体编码: 让AI智能体(如Cursor AI)构建智能体—10倍生产力提升！
开始使用 Pocket Flow:
- 安装:
pip install pocketflow或直接复制源代码(仅100行)。 - 了解更多: 查看文档。了解动机，请阅读故事。
- 有问题？查看这个AI助手，或创建issue!
- 🎉 加入我们的Discord与其他使用Pocket Flow的开发者交流！
- 🎉 Pocket Flow最初是Python版本，但现在我们还有Typescript、Java、C++和Go版本！
当前的 LLM 框架过于臃肿... 你的 LLM 框架只需要100行代码！
| 抽象 | 应用特定封装 | 供应商特定封装 | 代码行数 | 大小 | |
|---|---|---|---|---|---|
| LangChain | Agent, Chain | 多 (例如，问答，摘要) |
多 (例如，OpenAI，Pinecone等) |
405K | +166MB |
| CrewAI | Agent, Chain | 多 (例如，FileReadTool，SerperDevTool) |
多 (例如，OpenAI，Anthropic，Pinecone等) |
18K | +173MB |
| SmolAgent | Agent | 一些 (例如，CodeAgent，VisitWebTool) |
一些 (例如，DuckDuckGo，Hugging Face等) |
8K | +198MB |
| LangGraph | Agent, Graph | 一些 (例如，语义搜索) |
一些 (例如，PostgresStore，SqliteSaver等) |
37K | +51MB |
| AutoGen | Agent | 一些 (例如，工具代理，聊天代理) |
多 [可选] (例如，OpenAI，Pinecone等) |
7K (仅核心) |
+26MB (仅核心) |
| PocketFlow | 图 | 无 | 无 | 100 | +56KB |
这 100行 代码捕捉了 LLM 框架的核心抽象：图！
在此基础上，可以轻松实现流行的设计模式，如 (多)智能体、工作流、RAG 等。
✨ 以下是基本教程：
| 名称 | 难度 | 描述 |
|---|---|---|
| 聊天 | ☆☆☆ 入门 | 一个带有对话历史的基本聊天机器人 |
| 结构化输出 | ☆☆☆ 入门 | 通过提示从简历中提取结构化数据 |
| 工作流 | ☆☆☆ 入门 | 一个写作工作流，包括大纲、内容撰写和样式应用 |
| 智能体 | ☆☆☆ 入门 | 一个可以搜索网页并回答问题的研究智能体 |
| RAG | ☆☆☆ 入门 | 一个简单的检索增强生成过程 |
| 批处理 | ☆☆☆ 入门 | 一个将 Markdown 翻译成多种语言的批处理器 |
| 流式传输 | ☆☆☆ 入门 | 一个具有用户中断功能的实时 LLM 流式传输演示 |
| 聊天护栏 | ☆☆☆ 入门 | 一个只处理旅行相关查询的旅行顾问聊天机器人 |
| 多数投票 | ☆☆☆ 入门 | 通过聚合多个解决方案尝试来提高推理准确性 |
| Map-Reduce | ☆☆☆ 入门 | 使用 Map-Reduce 模式进行批量简历筛选 |
| CLI HITL | ☆☆☆ 入门 | 一个带有人工反馈的命令行笑话生成器 |
| 多智能体 | ★☆☆ 初级 | 一个用于两个智能体之间异步通信的禁忌词游戏 |
| 监督器 | ★☆☆ 初级 | 研究智能体变得不可靠... 让我们构建一个监督过程 |
| 并行 | ★☆☆ 初级 | 一个展示3倍加速的并行执行演示 |
| 并行流 | ★☆☆ 初级 | 一个展示8倍加速的并行图像处理 |
| 思考 | ★☆☆ 初级 | 通过思维链解决复杂的推理问题 |
| 记忆 | ★☆☆ 初级 | 一个具有短期和长期记忆的聊天机器人 |
| Text2SQL | ★☆☆ 初级 | 通过自动调试循环将自然语言转换为 SQL 查询 |
| 代码生成器 | ★☆☆ 初级 | 生成测试用例，实现解决方案，并迭代改进代码 |
| MCP | ★☆☆ 初级 | 使用模型上下文协议进行数值运算的智能体 |
| A2A | ★☆☆ 初级 | 使用 A2A 协议封装的智能体，用于智能体间通信 |
| Streamlit FSM | ★☆☆ 初级 | 带有有限状态机的 Streamlit 应用，用于 HITL 图像生成 |
| FastAPI WebSocket | ★☆☆ 初级 | 通过 WebSocket 实现的实时聊天界面，带有流式 LLM 响应 |
| FastAPI 后台 | ★☆☆ 初级 | 带有后台任务和通过 SSE 实现实时进度的 FastAPI 应用 |
| 语音聊天 | ★☆☆ 初级 | 一个带有 VAD、STT、LLM 和 TTS 的交互式语音聊天应用 |
👀 想看更多面向初学者的教程？创建一个 issue！
🚀 Through Agentic Coding—the fastest LLM App development paradigm-where humans design and agents code!
✨ Below are examples of more complex LLM Apps:
| App Name | Difficulty | Topics | Human Design | Agent Code |
|---|---|---|---|---|
| Website Chatbot Turn your website into a 24/7 customer support genius |
★★☆ Medium |
Agent RAG |
Design Doc | Flow Code |
| Danganronpa Simulator Forget the Turing test. Danganronpa, the ultimate AI experiment! |
★★★ Advanced |
Workflow Agent |
Design Doc | Flow Code |
| Codebase Knowledge Builder Life's too short to stare at others' code in confusion |
★★☆ Medium |
Workflow | Design Doc | Flow Code |
| Build Cursor with Cursor We'll reach the singularity soon ... |
★★★ Advanced |
Agent | Design Doc | Flow Code |
| Ask AI Paul Graham Ask AI Paul Graham, in case you don't get in |
★★☆ Medium |
RAG Map Reduce TTS |
Design Doc | Flow Code |
| Youtube Summarizer Explain YouTube Videos to you like you're 5 |
★☆☆ Beginner |
Map Reduce | Design Doc | Flow Code |
| Cold Opener Generator Instant icebreakers that turn cold leads hot |
★☆☆ Beginner |
Map Reduce Web Search |
Design Doc | Flow Code |
-
Want to learn Agentic Coding?
-
Check out my YouTube for video tutorial on how some apps above are made!
-
Want to build your own LLM App? Read this post! Start with this template!
-