提示词越长越好？先算清你的上下文预算
很多人用 AI 的方式，是把能想到的背景、要求、参考资料一股脑塞进提示词，觉得信息越多模型越懂自己。结果往往相反：回答变得迟钝、重点模糊，甚至把无关的旧信息当成主要依据。原因在于——上下文窗口是有限资源，不是越长越好。
长上下文不等于有效上下文
上下文窗口指的是模型一次能看到的文本总量。它确实在快速变大，但从“能装下”到“用得对”之间有一条很宽的鸿沟：
- 成本与延迟：上下文越长，计算成本越高（注意力计算大致呈平方增长），响应也越慢。把一份十页文档放进百万级窗口和放进三万级窗口，前者的开销可能高几十倍。
- 注意力稀释：无关信息过多时，模型需要在更大的信息空间里寻找相关部分，准确率反而下降。研究表明，有选择地提供最相关的信息，效果常常好于一次性输入全部内容。
- 多跳推理的局限：即便模型“看到”了全部信息，它把分散在不同位置的信息串起来推理的能力依然有限。上下文变长不会自动带来更深的推理。
上下文预算怎么分配
把上下文当成一份预算来管理，比把它当成一个仓库更有效。一个可操作的分配思路：
- 指令区：你的任务、角色、输出格式、硬性约束。这部分必须清晰、无歧义、放在显眼位置。
- 证据区：真正与任务相关的资料。遵循“少而准”的原则，宁可选三段最相关的，也不要塞十段沾边的。
- 示例区：一到两个输入输出样例，对稳定性的帮助极大，比多写三段解释有效得多。
- 问题区：把具体问题放在所有材料之后。实践发现，上下文较长时，把问题放在末尾，模型表现通常更好。
还有一个被忽视的技巧：冗余消除。对话历史里大量重复和过时的信息累积起来会挤占真正重要的空间。定期做一次压缩或摘要，比不断追加更能提升质量。
一个对比案例
一位做数据分析的从业者，最初把整个业务文档（一万多字）连同问题一起发给模型，回答常常抓不住重点，还引用了早已废弃的旧口径。后来他改成：先自己判断问题涉及哪几个指标，只截取相关的三段定义和一份样例表格放进上下文，问题放在最后。同一个模型，回答的准确率和稳定性都有明显提升，响应也快了不少。改变的不是模型能力，而是信息密度。
常见误区
把窗口当记忆。上下文窗口是单次推理的工作区，不是长期记忆。期待它“记住”所有历史对话，只会让每次都变得更慢更乱。
一次塞满再说。“信息越全越好”是一种直觉，但在模型这里恰恰相反。相关性和密度才决定质量。
忽略位置的影响。关键指令被埋在几千字材料中间，很容易被忽略。重要的内容要么放开头，要么放结尾。
不做历史压缩。长对话不做摘要，最终会变成噪声的堆积，而不是知识积累。
行动建议
下一次给模型下任务前，先花一分钟做三件事：删掉与当前问题无关的材料；把任务要求、相关证据、具体问题分成三段；检查关键约束有没有被放在开头或结尾。同样的问题，用更少的字往往能得到更好的答案——这可能是提升 AI 输出质量性价比最高的一招。