01 详细解释
技术上是靠稀疏注意力、位置编码外推、分层记忆等手段把窗口撑大。但「能塞进去」和「能用好」是两件事:中段信息召回率下降,成本随长度线性上涨。
务实的做法是把长上下文当「兜底」:先用检索把范围缩到几万字,再让模型通读。整本手册直接丢进去,通常又贵又不如检索准。
把几十万甚至上百万 token 一次性塞进窗口的能力。
本词条最后核验 2026-11-21 · 由本站编辑整理,欢迎指正
技术上是靠稀疏注意力、位置编码外推、分层记忆等手段把窗口撑大。但「能塞进去」和「能用好」是两件事:中段信息召回率下降,成本随长度线性上涨。
务实的做法是把长上下文当「兜底」:先用检索把范围缩到几万字,再让模型通读。整本手册直接丢进去,通常又贵又不如检索准。
这些词几乎出现在每一篇入门材料里:token 决定成本,上下文窗口决定能塞多少,幻觉决定你敢不敢直接信。先把它们认全,后面读选型、读架构才不卡壳。
下面这些站点来自 AI 导航(nav.ppv9.com)的同一份工具清单,按本词条的相关度挑选。