xMem

什么是 xMem？

xMem 是 LLM（大型语言模型）的内存编排器，它结合了长期知识和实时上下文，以创建更智能、更相关的 AI 应用程序。

如何使用 xMem？

使用 API 或仪表板将 xMem 集成到您的 LLM 应用程序中。 xMem 自动为每次 LLM 调用组装最佳上下文，无需手动调整。

const orchestrator = new xmem({
  vectorStore: chromadb,
  sessionStore: in-memory,
  llmProvider: mistral
});

const response = await orchestrator.query({
  input: "Tell me about our previous discussion"
});

为什么 xMem 很重要？

LLM 经常忘记会话之间的信息，导致不良的用户体验。 xMem 通过为每个用户提供持久内存来解决这个问题，确保 AI 始终是相关的、准确的和最新的。

主要特点：

• 长期记忆： 使用向量搜索存储和检索知识、笔记和文档。
• 会话记忆： 跟踪最近的聊天、指令和上下文以进行最近和个性化。
• RAG 编排： 自动为每次 LLM 调用组装最佳上下文。 无需手动调整。
• 知识图谱： 实时可视化概念、事实和用户上下文之间的连接。

好处：

• 永远不会丢失会话之间的知识或上下文。
• 通过编排的上下文提高 LLM 准确性。
• 适用于任何开源 LLM 和向量数据库。
• 简单的 API 和仪表板，可实现无缝集成和监控。