mirror of
https://github.com/xinnan-tech/xiaozhi-esp32-server.git
synced 2026-07-21 22:53:56 +08:00
7.7 KiB
7.7 KiB
PowerMem 记忆组件集成指南
简介
PowerMem 是由 OceanBase 开源的 Agent 记忆组件,通过本地 LLM 进行记忆总结和智能检索,为 AI 代理提供高效的记忆管理功能。
费用说明:PowerMem 本身开源免费,实际费用取决于您选择的 LLM 和数据库:
- 使用 SQLite + 免费 LLM(如智谱 glm-4-flash)= 完全免费
- 使用云端 LLM 或云端数据库 = 按对应服务收费
💡 最佳性能提示:PowerMem 配合 OceanBase 使用可实现最大性能释放,SQLite 仅建议在资源不足的情况下使用。
- GitHub: https://github.com/oceanbase/powermem
- 官网: https://www.powermem.ai/
- 使用示例: https://github.com/oceanbase/powermem/tree/main/examples
功能特性
- 本地总结:通过 LLM 在本地进行记忆总结和提取
- 多种存储后端:支持 OceanBase(推荐,最佳性能)、SeekDB(推荐,AI应用存储一体)、PostgreSQL、SQLite(轻量备选)
- 多种 LLM 支持:通义千问、智谱(glm-4-flash 免费)、OpenAI 等
- 智能检索:基于向量搜索的语义检索能力
- 私有部署:完全支持本地私有化部署
- 异步操作:高效的异步记忆管理
安装
PowerMem 已添加到项目依赖中,如果需要手动安装:
pip install powermem
配置说明
基础配置
在 config.yaml 中配置 PowerMem:
selected_module:
Memory: powermem
Memory:
powermem:
type: powermem
# 数据库提供者: oceanbase(推荐,最佳性能), seekdb, postgres, sqlite(轻量备选)
database_provider: sqlite # 资源充足时建议使用 oceanbase 或 seekdb
# LLM提供者: qwen(默认), openai, 等
llm_provider: qwen
# 嵌入模型提供者: qwen(默认), openai, 等
embedding_provider: qwen
# LLM配置
llm_api_key: 你的LLM API密钥
llm_model: qwen-plus
# 嵌入模型配置
embedding_api_key: 你的嵌入模型API密钥
embedding_model: text-embedding-v3
配置参数详解
| 参数 | 说明 | 默认值 | 可选值 |
|---|---|---|---|
database_provider |
存储后端类型 | sqlite |
oceanbase(推荐), seekdb, postgres, sqlite(轻量) |
llm_provider |
LLM 提供商 | qwen |
qwen, zhipu(免费), openai, 等 |
embedding_provider |
嵌入模型提供商 | qwen |
qwen, zhipu, openai, 等 |
llm_api_key |
LLM API 密钥 | - | - |
llm_model |
LLM 模型名称 | - | 根据提供商选择 |
llm_base_url |
LLM API 地址(可选) | - | - |
embedding_api_key |
嵌入模型 API 密钥 | - | - |
embedding_model |
嵌入模型名称 | - | 根据提供商选择 |
embedding_base_url |
嵌入模型 API 地址(可选) | - | - |
使用通义千问(推荐)
- 访问 阿里云百炼平台 注册账号
- 在 API Key 管理 页面获取 API 密钥
- 配置如下:
Memory:
powermem:
type: powermem
database_provider: sqlite
llm_provider: qwen
embedding_provider: qwen
llm_api_key: sk-xxxxxxxxxxxxxxxx
llm_model: qwen-plus
embedding_api_key: sk-xxxxxxxxxxxxxxxx
embedding_model: text-embedding-v3
使用智谱免费 LLM(完全免费方案)
智谱提供免费的 glm-4-flash 模型,配合 SQLite 可实现完全免费使用:
Memory:
powermem:
type: powermem
database_provider: sqlite
llm_provider: zhipu
embedding_provider: zhipu
llm_api_key: xxxxxxxxxxxxxxxx.xxxxxxxxxxxxxxxx
llm_model: glm-4-flash
llm_base_url: https://open.bigmodel.cn/api/paas/v4/
embedding_api_key: xxxxxxxxxxxxxxxx.xxxxxxxxxxxxxxxx
embedding_model: embedding-3
embedding_base_url: https://open.bigmodel.cn/api/paas/v4/
使用 OpenAI
Memory:
powermem:
type: powermem
database_provider: sqlite
llm_provider: openai
embedding_provider: openai
llm_api_key: sk-xxxxxxxxxxxxxxxx
llm_model: gpt-4o-mini
llm_base_url: https://api.openai.com/v1
embedding_api_key: sk-xxxxxxxxxxxxxxxx
embedding_model: text-embedding-3-small
embedding_base_url: https://api.openai.com/v1
使用 OceanBase(最佳性能方案)
OceanBase 是 PowerMem 的最佳搭档,可实现最大性能释放:
- 部署 OceanBase 数据库(支持开源本地部署或使用云服务)
- 配置如下:
Memory:
powermem:
type: powermem
database_provider: oceanbase
llm_provider: qwen
embedding_provider: qwen
llm_api_key: sk-xxxxxxxxxxxxxxxx
llm_model: qwen-plus
embedding_api_key: sk-xxxxxxxxxxxxxxxx
embedding_model: text-embedding-v3
# OceanBase 数据库连接配置
vector_store:
provider: oceanbase
config:
host: 127.0.0.1
port: 2881
user: root@test
password: your_password
database: powermem
高级配置
如果需要更精细的控制,可以使用完整的配置结构:
Memory:
powermem:
type: powermem
# 向量存储配置
vector_store:
provider: sqlite
config:
path: ./data/powermem.db
# LLM 配置
llm:
provider: qwen
config:
api_key: sk-xxxxxxxxxxxxxxxx
model: qwen-plus
# 嵌入模型配置
embedder:
provider: qwen
config:
api_key: sk-xxxxxxxxxxxxxxxx
model: text-embedding-v3
设备记忆隔离
PowerMem 会自动使用设备 ID(device_id)作为 user_id 进行记忆隔离。这意味着:
- 每个设备拥有独立的记忆空间
- 不同设备之间的记忆完全隔离
- 同一设备的多次对话可以共享记忆上下文
与其他记忆组件的对比
| 特性 | PowerMem | mem0ai | mem_local_short |
|---|---|---|---|
| 工作方式 | 本地总结 | 云端接口 | 本地总结 |
| 存储位置 | 本地/云端DB | 云端 | 本地YAML |
| 费用 | 取决于LLM和DB | 1000次/月免费 | 完全免费 |
| 智能检索 | ✅ 向量搜索 | ✅ 向量搜索 | ❌ 全量返回 |
| 私有部署 | ✅ 支持 | ❌ 仅云端 | ✅ 支持 |
| 数据库支持 | OceanBase(推荐)/SeekDB/PostgreSQL/SQLite | - | YAML 文件 |
常见问题
1. API 密钥错误
如果出现 API key is required 错误,请检查:
llm_api_key和embedding_api_key是否正确填写- API 密钥是否有效
2. 模型不存在
如果出现模型不存在的错误,请确认:
llm_model和embedding_model名称是否正确- 对应的模型服务是否已开通
3. 连接超时
如果出现连接超时,可以尝试:
- 检查网络连接
- 如果使用代理,配置
llm_base_url和embedding_base_url
测试验证
可以在虚拟环境中测试 PowerMem 是否正常工作:
# 激活虚拟环境
source .venv/bin/activate
# 测试 PowerMem 导入
python -c "from powermem import AsyncMemory; print('PowerMem 导入成功')"