我最近把 Anthropic 的 “AI 能力与限制” 课程 做完了,10 道题全对。但让我真正学到东西的不是那 10 道题,而是背后 4 个性质构成的”心智模型”。

把这 4 个性质装在脑子里,以后用任何 AI(包括 ChatGPT、Gemini、本地模型)都能少踩 80% 的坑。

4 个性质速记表

性质一句话强项危险区
Next Token Prediction“一个字一个字接龙,看哪个概率最高”写作、总结、格式转换自信地编
Knowledge(知识)“训练数据里有的,且越常见越牢”通用常识、流行话题小众/最新/争议
Working Memory(工作记忆)“能同时看进去的上下文有上限”短文对话长文档”中间易忘”
Steerability(可操控性)“你给指令的清晰度 = 拿到的输出”具体、给示例、给格式模糊指令

1. Next Token Prediction:NTP 决定一切

AI 不是”想明白了再答”,而是”一个字一个字地接,看哪个接下去最像真的”。

这个机制解释了 AI 几乎所有行为:

  • ✅ 为什么格式写得好(因为训练数据里格式好 = 接得顺)
  • ✅ 为什么看起来很懂(因为高频内容它接得准)
  • ❌ 为什么自信地编(幻觉)— 因为它不关心”什么真”,只关心”什么像”
  • ❌ 为什么格式好但事实错(因为格式是套路,事实是判断)
  • ❌ 为什么你指出错误后 AI 会立刻”改正”(迎合 — 它顺着你说,不较真)

实操经验:

  • 看到 AI 写出”据某某 2019 年研究表明…”→ 90% 是编的,自己查
  • 看到 AI 自信地编引用 / 数字 / URL → 心里拉响警报
  • 让 AI 重说”更准确” 没用,让它带上引用 / 承认不知道 / 说”我不确定” 才有约束

2. Knowledge(知识):不是”AI 不知道什么”,是”AI 不知道什么什么”

AI 的知识有几个非常具体的”形状”:

  • ✅ 高频 + 主流 + 长期 → 可靠(常见编程语言、热门话题)
  • ❌ 小众 / 最新 / 争议 → 危险(冷门工具、新出的论文、有争议的事件)
  • 📅 有截止日期 — 训练数据收集到哪一天为止,之后的事不知道(除非联网 / RAG)
  • 🎭 过度自信 — 在不知道时,AI 不会主动说”我不知道”,而是给一个看起来确定的答案

实操经验:

  • 写邮件、总结、写常见代码 → 放心
  • 查最新事件、查小众领域、写争议话题 → 必须自己核查
  • 关键决策(医疗 / 法律 / 投资)→ 永远不要直接信,AI 当辅助

3. Working Memory(工作记忆):这是 4 个性质里唯一一个断崖式的

其他 3 个性质的限制是渐进式的(越接近边缘越差,还有梯度)。

工作记忆是断崖式的 — 超过上下文窗口,直接整个看不见,不是”模糊一点”。

具体表现:

  • 长文档”中间容易忘,两头记得清”(primacy / recency 效应)
  • 聊久了早期指令会”丢”
  • 喂 200K token 的文档,后半段细节会失忆

实操经验:

  • 关键信息放开头或结尾
  • 长对话定期开新窗口
  • 大文档分块喂 + 让 AI 自己提取结构化笔记
  • 别指望 AI 一次读完一本 500 页的书然后回答具体细节

4. Steerability(可操控性):“AI 听不懂你”几乎都是你的问题

“AI 没懂我意思”这句话,90% 的情况不是 AI 笨,是你没说清楚什么叫”好”。

  • ❌ “写好一点” → AI 不知道”好”长啥样
  • ❌ “简短一点” → AI 写 200 字但满满都是细节
  • ❌ “专业一点” → AI 加一堆术语但没新信息
  • ✅ “用 3 段、每段 100 字、不用术语、给个例子” → AI 立刻上手

实操经验(让 AI 听话的 4 个工具):

  1. 给示例 — “像这样写”,贴一段参考
  2. 给反例 — “不要像 X 那样”,贴一段不要的
  3. 给评判标准 — “我会按这 3 条打分”
  4. 让 AI 自己重写 — “用更口语化的方式重说一遍”比”说口语化点”有效

一句话总结

AI 是”接龙机器”,不是”思考机器” — 看到惊艳的输出是接得准,看到离谱的输出是接出幻觉。

学会区分”现在该让 AI 接,还是该自己接”,比”学会写 prompt”重要 10 倍。

进一步阅读