✏️ AI 术语图鉴

上下文窗口 · Context Window

英文:context window/ˈkɑːntekst ˈwɪndoʊ/(两个词,重音都在前面)

AI 基础难度:入门 ★

🗣️一句话大白话

AI 的「工作记忆」容量:一场对话里它能同时记住的内容上限。超了就会开始「忘」——最常见的是忘了你开头定的规矩,或者直接报错说内容太长。

上下文窗口:AI 一次能「看到」多少像舞台聚光灯:灯光范围里看得清,范围外就「忘了」早前的对话超出窗口 → 记不住当前窗口(能看到的)最近几轮对话当前问题 + 资料AI 只按窗口内的内容回答💡 为什么聊久了 AI 会「忘」:长对话把早前内容挤出了窗口,不是它故意超长文档也一样:塞不进窗口的部分,AI 看不到——这是 RAG 存在的原因之一
「上下文窗口」示意图

🎬真实场景

你让 AI 改一篇 2 万字的文章,聊到第五轮,它把你最初说的「口语化一点」忘得一干二净。不是它不听话,是这场对话累计的内容快把它的工作记忆撑满了。

📮你可以这样说

「重要约定别只说一遍,隔几轮让它复述确认:「先把你目前记住的要求列一遍,我们再继续」。长任务宁可多开几场新对话,每场重新交代背景。」

通过 AI绘图 工作台生成(模型 API 额度由此消耗);未配置模型密钥时会提示失败原因。

⚠️边界与常见误解

  • ▸窗口按 Token 算,比如 128K Token 大约是一本中等厚度的书
  • ▸窗口大 ≠ 记得牢:塞得越满,AI 对中间部分的注意力越弱,关键信息放开头或结尾更稳
  • ▸新开一场对话 = 记忆清零,它不记得上一场聊了什么

🕸️知识关系图

这个词条与相关术语、AI绘图 知识的连接关系

相关术语相关术语
Token
token
幻觉
hallucination
上下文窗口
context window

🔗相关术语

📚深入阅读

魔搭紫皮书 · ModelScope Cookbook ↗教程 / 书籍 · 开发者

魔搭官方开源的开源模型实战指南,34 章从模型选型、推理到微调、RAG、Agent 全链路,每章带可复现代码。想搞懂『RAG 到底怎么搭』『微调怎么跑』,它是目前中文里最体系化的答案。

Ollama ↗在线工具 · 进阶

在本地电脑上一行命令跑开源大模型(Llama、Qwen 等),离线可用、数据不出本机。想『在自己电脑上跑个模型玩玩』,从它开始。

r/LocalLLaMA ↗社区内容 · 开发者

Reddit 上最大的本地大模型讨论区,量化、显存、推理速度的一手经验都在这。英文为主。

llama.cpp ↗开源项目 · 开发者

把大模型跑在普通 CPU/GPU 上的开源推理引擎,本地跑模型的主力之一,『量化』这个词在这里最常见。

想找更多?去 资源库 看全清单。