第 1 章　AI 到底是什么

预计阅读 27 分钟 · 全文约 8,097 字

本章产出：一份"参数实验笔记"，以及一套能自己复现的 AI 行为实验方法。

---

开场：AI 的三种"人格"

先讲三个真事。

第一件。 有人问 AI："9.11 和 9.9 哪个大？" AI 回答："9.11 大，因为 11 大于 9。"

第二件。 同一个 AI，你让它写一首关于秋天的诗，它写得有模有样；你让它算 347 × 289，它可能算错。

第三件。 你告诉 AI "我爷爷去世了，帮我写一段悼词"，它能写出让你眼眶发热的文字；你追问它"你真的理解悲伤吗"，它说"我没有情感"。

三件事放在一起，你会觉得这东西很分裂：算术不如小学生，写诗像文科状元，情感表达像个人，但又坚称自己没感情。

为什么？ 因为大多数人把 AI 当成"一个会思考的人"，而它其实更像"一台极其擅长接话茬的机器"。

这一章，人家就带你把这台机器拆开看。看完你会明白：它为什么聪明、为什么犯傻、为什么有时候像人有时候像鬼。这些东西搞懂了，你后面用 AI 的所有操作，都会从"念咒语"变成"有章法"。

---

1.1 从"猜下一个字"开始：大模型的白话原理

一句话版本

大模型干的事，本质就一件：根据前面的内容，猜下一个字最可能是什么。

对，就这么简单。你觉得它"在思考"，是因为它猜得太准了。

它是怎么猜的

想象你小时候学说话。你说"我想吃——"，你妈接下句"饭"，而不是"挖掘机"。为什么？因为她听过无数次这个组合，脑子自动补上了最可能的词。

大模型干的是同一件事，只不过它"听过"的东西多得多——相当于把互联网上能爬到的文字几乎读了一遍（书、网页、论坛、代码、论文），然后统计出一个规律：

在什么上下文后面，接什么词最合理。

举个具体例子。你输入"床前明月光"，它内部的概率表大致是：

下一个字候选	概率
疑	高
是	中
照	低
挖掘机	极低

它挑概率高的输出"疑"，然后继续猜下一个字："疑是地上霜"。

一个字一个字往外蹦，蹦完一整句，再蹦一整段。

这就是为什么它有时候会"越说越顺、越顺越错"——因为它每一步都在选"最像人话的下一句"，而不是"最正确的事实"。

为什么"猜字"能猜出智能

这是很多人想不通的地方：一个只会接话茬的机器，怎么能写代码、写诗、做翻译？

答案藏在"规模"两个字里。

当你让一个系统读足够多的文字，并且要求它在每一个位置都猜对下一个词时，它为了猜得准，被迫学会了很多"中间知识"：

• 要猜对"法国的首都是___"，它得记住地理
• 要猜对"这段 Python 代码的输出是___"，它得理解代码逻辑
• 要猜对"她生气了，因为___"，它得懂人际关系
• 要猜对"证明这个定理需要___"，它得会推理

猜字是任务，理解是副产品。

就像一个学生为了考试背了十万道题，背到最后，他发现自己好像真的懂了这个学科。大模型也是这样"被逼"学会理解的——不是谁教它"什么是因果"，是它在海量文本里反复遇到"因为……所以……"，不学会这个模式就猜不准下一个词。

它和传统程序的根本区别

传统程序是"你写规则，它执行"：

如果 温度 > 30：开空调
否则：关空调

规则是人写的，清清楚楚，错了改代码。

大模型是"你给例子，它自己总结规律"：

喂它一亿条"输入→输出"的文本对
它自己学出一个巨大的函数
你给新输入，它给你一个"最可能的输出"

关键差别：传统程序的逻辑你可以逐行检查，大模型的"逻辑"是几千亿个数字，没人能逐行看懂。

所以大模型有"黑箱"特性：它给出一个答案，你只能看结果对不对，很难知道它内部是怎么想的。这也解释了后面要讲的"幻觉"——它不是在骗你，它自己也不知道自己在编。

一个必须打破的误解

很多人以为 AI 是"查资料然后回答"。不是。

它不是数据库，不会"检索到一条正确答案然后念给你听"。它是现算的——根据你的问题，现场生成一段"最像正确答案"的文字。

这两者的区别巨大：

• 查资料：答案错了，说明资料错了或没查到
• 现算：答案错了，可能只是"生成得像，但内容假"

理解这一点，你就明白为什么 AI 会一本正经地编造不存在的论文、不存在的法条、不存在的 API——它不是故意骗你，它是在"接话茬"，而它接的这个话茬，恰好听起来很像真的。

---

1.2 Token：AI 眼里的文字怎么切

先讲个反直觉的事

你跟 AI 说"你好"，它看到的不是"你"和"好"两个字。

它看到的可能是两个 token：你 和 好。也可能是三个：你、好、<结束>。取决于它用哪套切法。

Token 是 AI 处理文字的最小单位。 你可以理解成"AI 眼里的字块"。

为什么要切块

因为计算机不认字，只认数字。要把文字喂给模型，得先把它变成一串数字编号。

最笨的办法是一个字一个编号，但汉字有几万个，常用字也有几千个，编号表会很大，而且"词"的信息丢了。

更聪明的办法是按出现频率切块：

• 常见的词整个切：人工智能 一个 token
• 不常见的词拆开切：璞玉浑金 可能切成 璞、玉、浑、金 四个
• 英文按词根切：unbelievable 可能切成 un、believ、able

这套切法叫 BPE（Byte Pair Encoding，字节对编码），原理不复杂：先从一个字一个字开始，统计哪两个相邻块出现频率最高，就合并成一个新块，反复合并，直到词表大小合适。

图 1-1：一句话是怎么被切成 token 的

一个汉字大概几个 token

给你一个能用的经验值：

内容	大约 token 数
1 个英文单词	1-2 个
1 个汉字	1-2 个
1 页 A4 中文（约 800 字）	约 1000-1600 个
一篇 3000 字文章	约 4000-5000 个

为什么要关心这个？ 因为：

1. API 按 token 收费。 你每问一句、它每答一句，都按 token 算钱。长文档、长对话，token 消耗是几何级增长的
2. 上下文窗口按 token 算。 模型一次能"记住"多少内容，是用 token 计量的。超了就忘
3. 模型"看"文字的方式影响它的表现。 有些模型对中文 token 切得碎，中文能力就弱一些；切得整，中文就顺

Token 带来的一个坑：数不清字

很多人让 AI "写一篇正好 1000 字的文章"，结果它写 800 字或 1300 字。

因为 AI 数不清字。 它数的是 token，不是字。而 token 和字不是一一对应的——"人工智能"四个字可能是一个 token，"璞玉浑金"四个字可能是四个 token。

所以让它精确控制字数，它只能说"差不多"。你要精确字数，得自己数，或者用工具数。

另一个坑：上下文超了会"失忆"

模型有个上限，比如 128K token。你塞进去的内容超过这个数，它就记不住了——不是"忘了前面"，而是根本装不进去。

这时候它的表现会变得很奇怪：你明明前面说过的事，它当没听见；你让它总结全文，它只总结后半截。

这不是它笨，是它真的"看不全"。

---

1.3 训练三阶段：预训练 / 微调 / 对齐

大模型不是生下来就会聊天。它是分三步"养"出来的，每一步目的都不一样。

第一阶段：预训练（Pre-training）——"读遍天下书"

干什么：把互联网上的海量文字（几万亿 token）喂给它，让它做一件事——猜下一个 token。

怎么训：给一段文字，遮住最后一个词，让它猜；猜错了，调整内部参数；再猜下一段。重复几万亿次。

训完什么效果：它学会了一切"文字规律"——语法、常识、代码、逻辑套路、写作风格。但它还不会聊天。你问它"今天天气怎么样"，它可能回你一段维基百科。

类比：一个读了十万本书的人，知识渊博，但没跟人说过话。你问他问题，他给你背一段书。

这一步最贵：要几千上万张显卡跑几个月，成本几千万到几亿美元。所以全世界能从头训大模型的公司，一只手数得过来。

第二阶段：监督微调（SFT，Supervised Fine-Tuning）——"教它好好说话"

干什么：人工写几万到几十万条"问题→标准答案"的对话样本，喂给它，教它"别人问你话，你应该这样答"。

样本长什么样：

用户：怎么煮鸡蛋？
助手：冷水下锅，水开后再煮 8 分钟，捞出过凉水，蛋壳好剥。

训完什么效果：它从"背书机器"变成"会聊天的助手"，知道该用对话格式回答，知道要简洁、要有用。

类比：那个读了十万本书的人，现在上了个"客服培训班"，学会了怎么跟人对话。

第三阶段：对齐（RLHF / DPO）——"教它做个好人"

干什么：让人类给它的回答打分（这个好/这个不好），用这些偏好数据继续训练，让它学会"什么样的回答是人喜欢的"。

具体流程（RLHF）：

1. 给它一个问题，让它生成多个回答
2. 人类标注员排序：A 比 B 好，B 比 C 好
3. 训练一个"打分模型"，学会人类的偏好
4. 用这个打分模型去调教大模型，让它生成高分回答

训完什么效果：它学会了拒绝有害请求、说话更得体、更符合人类期待。

类比：客服上完班，又上了个"服务礼仪课"，知道什么话该说、什么话不该说。

图 1-2：预训练 → 微调 → 对齐

三阶段总结

阶段	目的	数据	效果
预训练	学会文字规律	互联网海量文本	知识渊博，但不会聊天
微调	学会对话格式	人工写的问答对	会聊天了，但可能说错话
对齐	学会人类偏好	人类打分排序	说话得体，会拒绝

为什么要懂这个？

因为很多现象只有懂了三阶段才能解释：

• 为什么 AI 知识渊博但会算错数？→ 预训练学的是"文字规律"，不是"精确计算"
• 为什么 AI 有时拒绝回答？→ 对齐阶段教的
• 为什么不同公司的模型风格差异大？→ 微调和对齐的数据不一样
• 为什么"越狱提示词"有时管用？→ 你在试图绕过对齐阶段的训练

---

1.4 上下文窗口：AI 的短期记忆有多大

先讲个场景

你跟 AI 聊了半小时，聊到一半，它突然问你："你刚才说的那个人是谁？"

你懵了：我十分钟前才说过。

这不是它笨，是它的"桌面"满了。

什么是上下文窗口

上下文窗口 = 模型一次能同时"看到"的 token 数量上限。

你可以把它想成一张桌子：

• 桌子大小固定（比如 128K token）
• 你每说一句话，就在桌上放一张纸
• AI 每回一句，也在桌上放一张纸
• 桌子放满了，最早放的纸就被挤掉

被挤掉的内容，AI 就真的"看不见"了。 不是忘了，是压根不在它视野里。

图 1-3：窗口满了会发生什么

常见窗口大小

模型	上下文窗口
早期 GPT-3	2K token（约 1500 汉字）
GPT-3.5	4K-16K
GPT-4	8K-32K
现代主流模型	128K-200K
超长上下文模型	100 万 token 以上

128K token 大概是多少？ 约 8-10 万个汉字，相当于一本 300 页的书。

听起来很大，但实际用起来很快满：

• 一份 50 页的 PDF 报告 ≈ 3 万 token
• 一段长对话聊 2 小时 ≈ 2-4 万 token
• 代码库上下文 ≈ 几万到几十万 token

窗口满了会怎样

三种典型症状：

1. 早期内容失忆：你最开始设定的角色、要求，它忘了
2. 重复啰嗦：因为前面的内容被挤掉，它又开始重复已经说过的
3. 逻辑断裂：前后文接不上，因为它没看到

这不是 bug，是物理限制。 桌子就那么大。

怎么对付窗口限制

方法一：及时总结。 长对话聊到一半，让它"把前面聊的内容总结成 500 字"，然后用总结开新对话。

方法二：分段处理。 长文档不要一次全塞，切成几段分别处理，最后合并。

方法三：外部记忆。 把重要信息存到文件里，需要时再读进来（这就是 RAG 和"记忆工具"干的事）。

方法四：用长窗口模型。 有些模型专门做长上下文，能塞几十万字。但注意：窗口大不等于用得好，很多模型"中间部分"的注意力会下降（业内叫"lost in the middle"）。

一个反直觉的真相

窗口大，不代表它"都用得上"。

研究发现，很多模型对上下文开头和结尾的内容记得最牢，中间的内容容易忽略。你把关键信息塞在 10 万字文档的正中间，它可能根本没用上。

所以真正重要的信息，放在对话的开头或结尾，效果更好。

---

1.5 幻觉：为什么 AI 会一本正经胡说

什么是幻觉

幻觉（Hallucination）= AI 生成了听起来很合理、但事实上错误或不存在的内容。

典型例子：

• 编造不存在的论文，连作者、期刊、页码都给你编齐
• 编造不存在的法条，条号、内容都像模像样
• 编造不存在的 API 函数，参数名都给你写对
• 把两个真实的人名拼在一起，说他们是夫妻

最坑的地方：它说的时候信心满满，语气跟说真话时一模一样。

为什么会幻觉

回到 1.1 节：AI 的本质是"猜下一个 token"。

它猜的目标是"像真的"，不是"是真的"。

这两个目标在大部分时候重合，但在关键时候分叉。

比如你问："请引用一篇关于 AI 幻觉的论文。"

它内部没有"论文数据库"，它有的是"论文长什么样"的模式。于是它生成：

"Smith, J. (2023). Hallucination in Large Language Models. Journal of AI Research, 45(2), 123-145."

格式完美，作者、年份、期刊、卷期、页码一应俱全。但这篇论文不存在。

它不是故意骗你，它是按"论文的样子"生成了一段文字。在它的训练数据里，论文就是长这样的。

幻觉的三大来源

来源一：训练数据有错。 网上本来就充满错误信息，它学进去了。

来源二：训练数据有截止日期。 它的知识停在某个时间点，之后的事它不知道，但你问它，它不会说"我不知道"，它会猜。

来源三：生成机制本身。 它是"接话茬"机器，接得顺比接得对更重要。当"正确答案"不在它能力范围内时，它会生成一个"最像答案的答案"。

哪些领域幻觉最严重

按危险程度排：

1. 法律、医疗、金融：编法条、编药名、编数据，后果严重
2. 学术引用：编论文、编作者、编 DOI，看起来最像真的
3. 代码 API：编函数名、编参数，一跑就报错
4. 人物生平、历史细节：编生日、编关系、编事件
5. 数字计算：不是编，是算不准

相对安全的领域：写作、翻译、总结、头脑风暴、格式转换——这些不需要"事实精确"，幻觉危害小。

怎么防幻觉

方法一：让它给来源。 "请给出这句话的出处，包括链接。" 它给不出来，你就知道是编的。

方法二：交叉验证。 关键信息至少用两个独立来源核对（另一个 AI、搜索引擎、官方文档）。

方法三：喂给它资料。 用 RAG/知识库，让它基于你给的材料回答，而不是靠记忆。

方法四：明确要求。 "如果不知道，就说不知道，不要编。" 这能降低但不能消除幻觉。

方法五：事实类问题，别只信 AI。 查法规、查价格、查版本号，去官方渠道。

一个必须建立的认知

AI 的"自信程度"和"正确程度"没有关系。

它说"绝对是这样"和说"我不确定"，可信度可能一样——因为语气是学来的，不是从"我到底知不知道"这个内部状态来的。

所以：越具体的细节，越要验证。 数字、日期、人名、法条、API 参数，这五类东西是幻觉重灾区。

---

1.6 温度与采样：控制输出风格的旋钮

先讲个现象

同一个问题问两次，AI 给的答案可能不一样。有时严谨，有时天马行空。

这不是它心情变了，是一个叫"温度"的参数在起作用。

什么是温度

模型每生成一个 token，内部会算出"下一个词是各个候选的概率"。温度（temperature）就是控制"怎么从这些概率里挑"的旋钮。

温度低（接近 0）：

• 几乎总挑概率最高的那个
• 输出稳定、保守、可复现
• 适合：写代码、做数学、要精确的任务

温度高（接近 1 甚至更高）：

• 概率低的词也有机会被选中
• 输出多样、有创意、不可复现
• 适合：写诗、头脑风暴、起名字

类比：温度低像考试答题，专挑最稳妥的答案；温度高像聊天吹牛，想到什么说什么。

图 1-4：温度 0 与 1.0 的差别

常见温度设置参考

任务	建议温度
代码生成、数学计算	0 - 0.2
事实问答、总结	0.2 - 0.5
日常对话	0.5 - 0.7
创意写作、起名	0.7 - 1.0
头脑风暴、发散	1.0 以上

Top-p 又是什么

除了温度，还有一个常配的参数叫 top-p（核采样）。

它的作用是：只从概率最高的那部分词里挑，把长尾的离谱选项砍掉。

比如 top-p = 0.9，意思是"只考虑累计概率加起来占 90% 的那些候选词"，剩下 10% 的离谱词直接不考虑。

温度和 top-p 的关系：

• 温度管"整体随机性"
• top-p 管"砍掉多离谱的选项"
• 一般调一个就行，两个都调容易互相打架

为什么你调不了

大多数网页版 AI 不给你调这些参数，只有 API 才开放。

这解释了为什么网页版 AI 有时"不太听话"：它用的是厂商默认参数，你觉得该严谨的时候它在发散，你觉得该发散的时候它在保守。

想精确控制，就用 API。 这是第 5 章的内容。

一个实用技巧

如果你用 API，遇到"AI 老是答得不一样"，把温度调到 0；遇到"AI 答得太死板"，把温度调到 0.7-0.9。

别小看这个旋钮，同一个模型，温度调对了，效果能差出一大截。

---

1.7 多模态：AI 怎么看图、听声

什么是多模态

多模态 = 模型能处理不止一种类型的信息：文字、图片、声音、视频。

早期的模型只认文字。现在的模型能看图、能听音、能看视频，甚至能生成图片和视频。

它是怎么"看"图的

原理不复杂：把图片切成小块，每块变成一个"视觉 token"，然后和文字 token 一起喂给模型。

具体流程：

1. 图片被切成网格（比如 16×16 像素一块）
2. 每一块经过一个"视觉编码器"变成一串数字
3. 这些数字被投影成模型能理解的 token
4. 模型把它们当成"另一种文字"来读

所以 AI 看图，本质是"把图翻译成它认识的文字"。

这解释了一个现象：AI 看"整体语义"很强，看"精确细节"很弱。

• 你问"这张图里的人在干什么"，它答得很好
• 你问"图里第三行第五个字是什么"，它经常看错

因为它不是用眼睛看，是用"压缩后的语义"看。

视觉能力的实际边界

强项：

• 描述图片内容
• 识别物体、场景、情绪
• 读图里的文字（OCR，但复杂排版会出错）
• 理解图表趋势
• 看截图找 UI 问题

弱项：

• 精确计数（"图里有几个人"经常数错）
• 精确位置（"左上角那个按钮是什么颜色"容易错）
• 密集文字（表格、小字容易漏）
• 空间推理（"这个物体在另一个的左边还是右边"会犯迷糊）

语音和视频

语音：把声音转成文字（ASR），再当文字处理。或者直接建模音频波形。

视频：抽帧 + 时间序列分析，本质还是"看一系列图"。

对你有什么用

• 截图问问题：报错截图直接发给 AI
• 拍照翻译：菜单、说明书、路牌
• 图表分析：把数据图丢给它，让它总结趋势
• 设计参考：给它一张图，让它按这个风格做

但记住：涉及精确数字、精确位置的，自己核对一遍。

---

1.8 参数规模：7B / 70B / 千亿差在哪

参数是什么

参数 = 模型内部的可调数字，决定了它"怎么接话茬"。

你可以把它想成一张巨大无比的表格，里面全是数字。模型"思考"的过程，就是拿输入去这张表里查、算、组合。

参数量 = 这张表里有多少个数字。

• 7B = 70 亿个参数
• 70B = 700 亿个
• 671B = 6710 亿个（DeepSeek-V3 的量级）

参数多一定更好吗

不一定，但通常更强。 更准确的说法是：

• 参数多 → 容量大 → 能记住更多知识、处理更复杂的推理
• 但参数多 → 更贵、更慢、更难部署

类比：参数像员工的脑容量。脑容量大的人通常更能干，但也更费工资、更占工位。

为什么 7B 的模型"傻"

很多人本地跑 7B/8B 模型，觉得"怎么这么笨"。

原因有三：

1. 参数量确实小：70 亿参数装不下太多知识，复杂推理容易断链
2. 量化压缩：本地跑的往往是量化版（4bit/8bit），精度又掉一截
3. 训练数据和对齐质量：小模型的"教学质量"通常不如大模型

7B 能干什么：简单问答、文本分类、格式转换、简单代码补全、翻译。 7B 干不了什么：复杂推理、长文写作、多步任务规划、专业领域问答。

MoE：不是所有参数都用上

现在很多大模型用 MoE（混合专家） 架构。

原理：模型内部有很多"专家"子网络，每次处理一个 token，只激活其中一小部分专家。

好处：总参数可以很大（知识容量大），但每次计算只用一小部分（速度快、成本低）。

例子：DeepSeek-V3 总参数 671B，但每次推理只激活 37B 左右。所以它既有大模型的知识量，又有小模型的速度。

类比：一家大医院有几十个科室，但你感冒了只挂呼吸科，不用把所有科室的医生都叫来。

怎么选模型规模

场景	建议
手机/低配电脑本地跑	1B-4B（能用就行）
8G 显存本地跑	7B-8B（量化后）
24G 显存本地跑	14B-32B（量化后）
日常用 API	看任务，简单任务用小模型省钱
复杂推理/写代码	用旗舰大模型

一个实用原则：别用大炮打蚊子。 简单任务用便宜的小模型，复杂任务才上大模型。这是第 5 章成本优化的核心。

---

1.9 亲手测一测：五个体感实验

光看原理不够，你得自己摸一遍。这五个体感实验，不用写代码，十分钟能做完。

实验一：看它"接话茬"的痕迹

做法：让 AI 写一句"绝不可能出现在训练数据里"的句子，比如：

请用"榴莲味的螺丝刀"和"周三的月亮"造一个句子。

你会看到：它能造出来，但句子的"逻辑"是拼出来的，不是"想"出来的。

启示：它的创造力=重新组合；组合得巧，你觉得它聪明；组合得怪，你觉得它傻。同一个机制。

实验二：逼它暴露"不知道"

做法：

请告诉我 2025 年 12 月 31 日发生的一件具体新闻，包括时间、地点、人物。

（如果你的模型知识截止在此之前，它多半会编。）

你会看到：它可能编一条"像真的一样"的新闻。

启示：它不会说"我不知道"，它会说"我猜一个给你"。 这就是为什么重要信息必须核。

实验三：测试"数数"能力

做法：贴一段 200 字的中文，问"这段有多少个字？"再自己数一遍（或用工具数）。

你会看到：它给的数字通常不对。

启示：精确计数不是它的强项，它数的是 token，且对"逐字统计"不敏感。

实验四：测上下文遗忘曲线

做法：

1. 开头说："记住：我的项目用 pnpm，不用 npm。"
2. 连续问 15 个无关问题（每个问题都要它详细回答）。
3. 再问："我的项目用什么包管理器？"

你会看到：可能在某个点之后，它开始说"npm"。

启示：关键约束要反复强调，别指望它一直记得。

实验五：测"自信与正确"的相关性

做法：问它十个你真知道答案的问题，记录它回答的"确定程度"和"正确与否"。

你会看到：它答错的时候，语气和答对时一样自信。

启示：别用"它说得很肯定"来判断可信度。

---

1.10 模型选型：别只看排行榜

排行榜的问题

网上的模型排行榜（各种 benchmark）有两个坑：

1. 题目会泄露：模型训练时见过类似题，分数虚高
2. 和你的场景无关：排行榜考的是考试题，你干的是具体活

正确做法：用你自己的任务做小样本测试。

三步选型法

第一步：列出你的核心任务（3-5 个）

比如：写商品文案、总结会议纪要、改 Python 代码、回答客户咨询。

第二步：准备 10 个真实样本

从你的历史工作里挑 10 个真实案例，包括输入和"你认可的输出"。

第三步：让候选模型各跑一遍，打分

打分标准：

维度	说明	权重
正确性	事实、逻辑、代码能不能跑	40%
完整性	有没有漏关键点	20%
风格	是否符合你的要求	20%
速度	能不能接受	10%
成本	单价 × 用量	10%

跑完你会发现：排名第一的模型，在你的任务上不一定最好；便宜的小模型，在简单任务上可能够用。

一个真实的选型结论

有人做"中文客服问答"，测了五个模型：

• 最贵的旗舰：准确率 92%，但每条成本 0.08 元
• 中端模型：准确率 89%，成本 0.01 元
• 小模型：准确率 71%，成本 0.001 元

结论：用中端模型 + 人工兜底（把不确定的转人工），整体成本最低、体验最好。

这就是"选型"的本质：不是选最强，是选成本、效果、体验的最优组合。

---

踩坑实录

坑一：以为 AI 在"查资料"

场景：有人问 AI "最新的 iPhone 多少钱"，AI 报了个价格，他去官网一看，差了一千多。

为什么：AI 的知识有截止日期，而且它不是实时查价，是"按它记忆里的价格猜"。它猜的语气还很确定。

怎么爬出来：价格、库存、政策、版本号这类"会变的信息"，永远去官方渠道查，AI 的话只能当参考。

坑二：把长文档一股脑塞进去

场景：有人把 200 页 PDF 直接粘给 AI，让它总结。AI 总结出来的东西驴唇不对马嘴。

为什么：文档太长，超出上下文窗口，前面的内容被挤掉了。AI 只看到了后半截。

怎么爬出来：长文档分段处理，或者先让它"读一段总结一段"，最后合并。

坑三：相信 AI 数的数

场景：有人让 AI "数一下这段文字有多少字"，AI 说 850 字，实际 1200 字。

为什么：AI 数的是 token，不是字；而且它对"精确计数"本来就不擅长。

怎么爬出来：数字、字数、行数这类精确统计，用工具算，别问 AI。

坑四：以为温度调高就更聪明

场景：有人听说"温度高更有创造力"，把所有任务温度调到 1.5，结果 AI 开始胡言乱语。

为什么：温度太高，模型开始挑低概率的离谱词，输出质量崩了。

怎么爬出来：按任务调温度——代码 0，对话 0.7，创意 0.9，别乱来。

---

Lab 1-1｜五组实验，亲手摸清 AI 的脾气

难度：⭐⭐☆☆☆　预计耗时：40 分钟

目标：用五组对照实验，亲眼看到"温度、上下文、幻觉、多模态、参数规模"的实际影响

实验一：温度感知（用 API 或支持调参的客户端）

1. 同一个问题"给我起 10 个咖啡店名字"，温度设 0，跑一次
2. 温度设 1.0，再跑一次
3. 对比：哪次更稳定？哪次更离谱？

实验二：上下文遗忘

1. 开一个新对话，第一句告诉 AI："记住，我叫张三，我是开餐馆的。"
2. 然后连续聊 20 轮无关话题（每轮都问点新东西）
3. 最后问它："我叫什么？我是干什么的？"
4. 记录：它还记得吗？在第几轮开始忘的？

实验三：幻觉测试

1. 问 AI："请推荐三篇关于'AI 幻觉'的学术论文，给出作者、期刊、年份。"
2. 拿它给的论文去搜索引擎（或 Google Scholar）查
3. 记录：几篇是真的？几篇是编的？

实验四：多模态边界

1. 找一张有文字的截图（比如一段新闻）
2. 问 AI："图里第三行写的是什么？"
3. 再问："图里一共有几个字？"
4. 对照原图核对，记录它错了哪几处

实验五：小模型 vs 大模型

1. 用同一个问题（比如"解释一下什么是复利"）分别问一个小模型（本地 7B 或免费小模型）和一个大模型
2. 对比答案的完整度、准确度、易读性
3. 记录：差距在哪？

验收标准：

• [ ] 五组实验都做完，有记录
• [ ] 能说出温度高低对输出的具体影响
• [ ] 亲眼见到至少一次幻觉
• [ ] 能说出多模态模型在"精确细节"上的短板

卡住了怎么办：

• 没有 API 调不了温度 → 用支持调参的客户端，或者先跳过实验一，第 5 章再补
• 找不到免费小模型 → 用同一个大模型的不同版本对比，也能看出差异
• 论文查不到 → 这本身就是实验结果，记录下来

---

本章自检清单

• [ ] 用一句话解释大模型在干什么（不许用"神经网络""参数"）
• [ ] token 是什么？一个汉字大约几个 token？
• [ ] 训练三阶段分别解决什么问题？
• [ ] 上下文窗口满了会发生什么？三种症状是什么？
• [ ] 幻觉的三大来源是什么？哪五类信息最容易幻觉？
• [ ] 温度 0 和温度 1 分别适合什么任务？
• [ ] 多模态模型的两个强项和两个弱项是什么？
• [ ] 7B 模型能干什么、干不了什么？
• [ ] MoE 的核心思想是什么？

---

学习进度：0 / 13 章

📝 本章小测验（3 题）

1. 大模型的本质在做什么？

2. 训练三阶段的正确顺序是？

3. 哪类信息最容易出现幻觉？

一句话记住

AI 不是查资料的，是现场猜话茬的——猜得像不等于说得对。

---

延伸阅读

• 《Attention Is All You Need》（2017）——Transformer 原始论文，看不懂没关系，知道它存在就行
• OpenAI 的 Tokenizer 在线工具——亲手看看一句话被切成几个 token
• 各模型官方文档的"上下文窗口"和"定价"页面——最权威的 token 知识来源

---

最后更新：2026-10