有,最近Knox 实验室发布一个 “无限上下文记忆系统”,本质是用 Rust 的高性能 + 内存安全,结合 “切片 - 索引 - 召回” 的非全量上下文架构,突破传统系统的上下文窗口限制。
Knox Memory System (knox-ms) 是一个革命性的自定义 AI 模型,它通过一个智能的内存管理系统,克服了传统大型语言模型(LLMs)的固定上下文窗口限制,实现了无限的上下文长度。
knox-ms 的核心突破在于其内存系统,它能够像大脑一样维护持久化、组织化的内存,并且能够动态地创建、读取、更新和删除内存条目。
此外,knox-ms 的内存系统与 LLM 的上下文缓存和向量嵌入式的信息检索工具相结合,形成了一个高效的架构。
这种架构允许 knox-ms 处理从简单查询到多月开发项目的任何规模的对话和项目,而不会丢失上下文或达到令牌限制。knox-ms 模型的内存系统、任务 / 待办事项系统、向量嵌入和重新排名系统,以及其核心组件,共同构成了一个能够提供无限上下文的强大 AI 模型。
参考https://docs.knox.chat/blog/knox-memory-system/
网友回复


