重写设计:Transformer 直觉章节 - 注意力机制部分
背景
当前 docs/01-llm_basics/04-transformer-intuition.md 的注意力机制部分使用了"图书馆查资料"的比喻来解释 Query/Key/Value,但读者反馈仍然偏抽象。需要用更具体、更有画面感的方式重写仅注意力机制这一部分,其余概念(因果 Mask、位置编码、Decoder-only、回顾)保持原样。
改动范围
只改"注意力机制:每个词都在'看'其他词"这一节,包括:
- 开场引入
- 查资料的比喻(QKV 解释)
- 从比喻回到句子示例的过渡
不改:
- 因果 Mask 部分
- 位置编码部分
- Decoder-only 部分
- 回顾部分
具体设计
开场
用小明写蓝鲸报告的完整小故事引入,取代当前直接抛出抽象描述的写法。
对比展示
先展示"没有注意力"的笨办法(每本书花同样时间),再展示"有注意力"的聪明办法(看标签、挑相关、重点读),形成强烈反差。
QKV 具体化
Query = 小明手里的小纸条(写着"蓝鲸的体型数据")
Key = 每本书脊背上的标签("海洋生物""烘焙教程""世界历史")
Value = 翻开书后看到的正文内容映射回句子
用原文的例子"一只蓝色的怪兽走进了森林",展示每个词如何像小明一样拿着自己的问题去对比其他词的标签。附上注意力权重表格。
整体节奏
- 小明去图书馆(引入故事)
- 笨办法 vs 聪明办法(对比)
- 小纸条/标签/正文 对应 QKV(具体化)
- 回到句子:每个词都是小明(映射)
- 其余章节保持原样