主题
附:本册新词
- 预训练(Pre-training):出厂第一课,万亿次"猜下一个词",能力与毛病共同的源头。
- 基座模型(Base Model):只会补全、还不会当助手的原始形态。
- 后训练 / SFT / 强化学习(RLHF):出厂第二课,示范教学给格式,打分教学给性格。
- 讨好(Sycophancy):"你说得对"的出厂原因,赞同在打分中拿高分。
- Token:它读写与计费的最小单位。
- 上下文窗口(Context Window):搭档的全部工作记忆;不在窗口里的等于不存在。
- 知识截止(Knowledge Cutoff):训练数据停止的日期,之后的世界它没读过。
- 蒸馏(Distillation):大模型当老师教小模型,又快又便宜的小号的来历。
- LoRA:冻结原模型、只训一小片补丁的微调法,"某某微调版"的本体。
- 开放权重(Open Weights):可下载到自己机器上跑的模型(最小的树莓派也跑得动)。
- Embedding(嵌入向量):把"意思"变成坐标,意思相近,坐标相邻。
- RAG(检索增强生成):先查资料再开口,"递材料胜过考记忆"的制度化。
- 提示注入(Prompt Injection):藏在外部内容里、写给 AI 看的恶意指令,防它的口诀是"永远不要相信进入上下文的外部内容"。
- 规格(Spec)/ 非目标 / 验收标准:先于代码的正式文件 / 明确不做什么 / 可判定的"怎么算过"。
- 单元测试 / 回归:给功能上笼子 / "改 A 坏 B"的鬼,测试是捉鬼的灯。
- CI/CD / 门禁:每次 push 自动检查 / 红灯挡路绿灯放行,规矩从文字毕业成机制。
- 威胁建模:三问,值得偷的是什么,谁会来(扫描器),从哪进。
- 测试网(Testnet):链上世界的 Preview,一切代价为零的彩排场。
- 双人规则:不可逆动作必须第二双眼睛看过;一个人时,隔了一晚、对着操作单复核的自己也算。
- 许可证单向门:从严可以放宽,从宽永远收不回。
第五册《跟 AI 搭档》v1.1 · 完全系列 · 完。书架上见,books.stickmancharles.com