+
108
-

目前哪个ai大模型支持的上下文长度最长最多?

目前哪个ai大模型支持的上下文长度最长最多?


网友回复

+
30
-

目前,支持最大上下文长度的模型是谷歌的Gemini 1.5 Pro,其上下文窗口长度扩展到了200万tokens。

而Anthropic公司推出的Claude 3.5 So...

点击查看剩余70%

+
19
-

Magic 公司开发了一个能够处理 1 亿 token 上下文的 AI 语言模型 LTM-2-mini,这是一个专门针对代码的模型,其运作方式可能会从根本上改变 AI 模型的工作方式,并且团队已经获得了 4.65 亿美元的融资。

800_autoMagic 这家初创公司开发的代码语言模型 LTM-2-mini 具有 1 亿 token 的上下文窗口,相当于一千万行代码或 750 部小说,这远远超出了以往的限制。

LTM-2-mini 采用了序列维度算法,其计算效率比 Llama 3.1 405B 的注意力机制高出约 1000 倍,这一能力极大地扩展了模型在实际应用中的适用范围。

此外,Magic 团队设计了...

点击查看剩余70%

我知道答案,我要回答