提示词时灵时不灵？理解上下文机制才能用好大模型
很多人学了一堆提示词技巧：设定角色、分步骤提问、给示例……可实际用起来却发现，同一个技巧今天灵、明天不灵，换个模型就失效，于是感叹“提示词就是玄学”。其实提示词不是玄学，只是大多数人只学了“招式”，没理解背后的“内功”——上下文机制。大模型的所有行为，都是“基于当前上下文预测下一个词”的结果。理解了这一点，你就能解释为什么提示词时灵时不灵，也知道该怎么写才稳定。
模型的“思考”方式：每次生成都重读全部上下文
大模型的本质是“下一个词预测器”：它根据你输入的所有文字，计算词表中每个词出现的概率，挑最合适的接下去。Transformer 架构的自注意力机制，会让模型在生成每个词时“重新扫一遍”整个上下文，并给不同部分分配不同权重。这意味着两件事：第一，你提供的上下文质量，直接决定输出的质量——模型不是从数据库里“查答案”，而是被上下文“引导”着生成答案；第二，上下文里的信息会互相竞争权重。百度千帆举过一个生动的例子：只说“午饭吃了什么”，模型只能瞎猜；加上“在西安出差”，它立刻倾向“面条”；再加一句“时间紧去了汉堡王”，预测又瞬间反转——同一个模型，上下文不同，输出完全不同。技巧层面同样如此：为什么“你是资深律师”比“请用专业严谨的语气回答”有效？因为角色是一个“背景压缩包”，三个字就能激活一大片相关的语言模式和知识关联。
规律一：上下文是工作记忆，关键信息要“突出”
上下文窗口就像模型的工作记忆，容量有限（以 token 计，注意 token 不是“字”，一个英文单词可能拆成多个 token）。窗口里装了什么、怎么排列，比窗口多大更重要。三个实操要点：第一，核心指令放在开头和结尾——开头奠定基调，结尾是“临门一脚”，中间段落容易被稀释；第二，关键要求要显眼——用“要求：”分条列出、适当加粗或用分隔符框起来，相当于帮模型的注意力划重点；第三，别让无关内容占据窗口——闲聊、寒暄、反复修正的旧对话都会挤占注意力。Micron 的技术博客直言：随着窗口内容变长，模型的注意力会“稀释”，响应精度下降，甚至出现前后矛盾与幻觉——更多上下文，并不等于更好的答案。
规律二：示例是最好的指令，但会“饱和”
想让模型稳定输出某种格式或风格，最有效的不是描述，而是给两三个输入输出样例——这被称为上下文学习（In-Context Learning）：模型不更新任何参数，仅凭提示里的示范就能“照猫画虎”地学会新任务，机制上类似人类的类比学习。写提示词时，先给一句任务说明，再给一组“输入→期望输出”的例子，最后丢出真实问题，效果通常远超空泛的要求。但注意两个边界：一是示例不是越多越好，研究显示超过十几个后性能趋于饱和，精选三五个高质量样例即可；二是模型对上下文极其敏感，微小的措辞变化可能带来很大的输出差异——这就是“同一个提示词两次结果不同”的根源，加上采样随机性（temperature 参数），复现性差是常态而非故障。
规律三：复杂任务要“拆步”，而不是一口气硬问
面对多步推理的复杂问题，直接问往往得到似是而非的答案。更可靠的做法是让模型先展示推理过程再给结论（思维链）：在提示里写明“请先列出解题步骤，再逐步推导，最后给出结论”。把任务拆成串行的小步也有效：先让它总结资料，再基于总结提方案，每一步都在干净的上下文上进行，避免一次塞太多任务互相干扰。这与“上下文工程”的理念一致：与其追求一句“神级提示词”，不如把交互设计成一系列精心组织上下文的步骤——每次决定“把什么放进上下文”，比背任何模板都重要。
案例：同一句话，两种上下文，两种结果
一位客服主管想让 AI 帮忙写用户回复，第一次的提示是“帮我写一条客服回复”，输出是教科书式的官腔，根本没法用。她把提示改成：角色（“你是有十年经验的电商客服主管”）、背景（“用户因物流延迟三天投诉，客服已道歉过一次，用户仍不满”）、要求（“先共情再给补偿方案，语气真诚不卑不亢，控制在 80 字内”）、示例（附一条她手写的风格范例）。同样的模型，输出立刻从“塑料客服”变成“可以直接发出去的回复”。技巧一个没加，变的是上下文的具体程度。反例同样常见：有人把几百页资料全部粘进对话，指望模型“记住全部”，结果回答又慢又差——窗口塞满后注意力稀释，计算成本还随输入长度近似平方增长。喂给模型的不是越多越好，而是越“有用”越好。
常见误区
- 误区一：把提示词当咒语，满世界找“万能模板”。没有万能模板，只有适配任务的上下文设计。
- 误区二：上下文塞得越多越好。注意力会稀释，无关信息越多，关键指令越容易被淹没。
- 误区三：长对话不清理。对话超过十几轮或已切换主题，模型“忘了”开头的要求是正常的——开个新会话，把关键要求重新写一遍。
- 误区四：忽略输出设置。temperature 越高越有“创造力”也越不稳定，需要稳定输出时把它调低。
行动建议
下次写提示词前，先按五个要素填空：角色（你是谁）、任务（要做什么）、背景（关键信息与约束）、要求（格式、语气、字数）、示例（期望的样子）。把最关键的一句话放在开头，复杂任务让模型先列步骤，长对话及时开新会话。当你不再把提示词当成“咒语”，而是当成“给模型搭一个高质量的工作台”时，你会发现：不是技巧时灵时不灵，而是上下文给得够不够具体。