第2课 AI 怎么学会东西

大家好，欢迎来到AI生活课第二课，AI怎么学会东西。上一课我们认识了AI、机器学习和模型，今天继续追问：模型的能力从哪里来，为什么看过一些材料，就可能处理新的问题？我们用水果照片、煎蛋练习和音响旋钮来解释。你不用记公式，只要一路分清三件事：学习用的材料是什么，学习时改变了什么，实际使用时又发生了什么。比如厨师练习煎蛋和接单做一份煎蛋，虽然都在厨房，目的并不相同。尤其是在聊天里纠正一句话，不要直接理解成整个模型都被你重新教了一遍。今天我们把这个常见误会讲透。

这一课先分清数据、训练和运行模型，再认识预训练、微调、参数与神经网络。可以先给这些词安排位置：数据集是材料，训练是利用材料调整模型的过程，参数是训练中会调整的内部数值。预训练和微调描述不同阶段的训练，推理在这里指使用训练好的模型产生输出，神经网络则是一种模型结构。它们不是七个互相替代的功能按钮。看到工具正在回答问题，则先理解为正在运行模型。带着材料、调整、使用这条线，后面的几个生活故事就能连成一件完整的事。

现在准备一套教孩子认水果的照片。只拍超市里摆得整齐的红苹果，可能不够。你还会收集果园里的苹果、不同角度和光线下的苹果，以及容易混淆的其他水果，再按照教学目的整理。这套有组织的材料，就是理解数据集的入口。想一想，整理类别这一步依靠什么？要依靠对水果的已有认识，贴错类别就可能给后面的学习带来错误。另一方面，并不是所有数据都必须由人逐张标注，具体材料和组织方式取决于任务。把文件堆在一起还不等于准备好了好材料，数据要服务于一个明确目的。

数据集，是围绕特定目的收集和组织的一组数据。这页的顺序是收集样本，整理与划分，再用于学习或评估。划分很重要，就像练习题与考试题要分开，才能看出是否真的能处理新情况。如果测试题提前混进训练材料，成绩就可能显得特别好，却不能代表实际能力。重复、错误和偏向都值得检查。比如想服务不同年龄的顾客，却只收集某一类顾客的表达，模型在其他人群上可能表现不好。理解检查：样本增加了，是否就能保证更可靠？不能，还要看质量、覆盖范围和评估是否合理。

接下来用煎蛋理解训练。第一次火太大，蛋边焦了；第二次减小火，又发现里面太生，于是调整时间。你不断尝试，观察结果与目标的差别，再改下一次的做法。这里真正重要的不是重复动作，而是根据反馈作调整。请想想，哪一步用到了前面的经验？正是决定下一次怎么调整的时候。模型训练也有数据、目标、比较和调整，不过它依靠算法计算，不会像人一样品尝煎蛋，也不会感到沮丧。用这个比喻，我们只借用反复调整这条线索。下一页把实际改变的东西叫作模型参数。

训练，是利用数据和学习算法调整模型参数，使它更好完成目标任务的过程。看这页的三个步骤，先有数据与目标，再计算误差并调整参数，最后得到训练后的模型。这里的误差可以理解为当前结果与训练目标之间的差距，不必把它想成每次都由老师逐题批改。具体怎样比较和调整，要看所采用的方法。聊天时模型生成回答，通常是在使用已经训练好的参数。你说这句话有错，请改一下，它可以根据当前对话修改答案，但这与一次正式训练不是同一件事。先记住训练会调整内部参数，后面我们还会用推理这个词描述实际使用。

想学烹饪，可以先练切菜、控火和调味。有了这些基础，再学川菜或烘焙，会有可以利用的已有能力。这里的先打基础，帮助我们理解预训练。所谓基础并不等于简单，一位厨师掌握的通用技巧本身就可能很丰富。请检查这个比喻：会切菜，能不能保证第一次做任何菜都成功？不能，新食材、新设备和具体配方仍然可能带来困难。同样，模型学习了较广泛的模式，不表示覆盖所有知识或能解决任何任务。接下来我们说明，预训练为什么能形成基础能力，又为什么不能把它当作无所不知的保证。

预训练，是模型在适应具体任务之前，通过较大范围的数据学习基础模式的训练阶段。流程是广泛数据、基础训练，再适应具体任务。以语言为例，训练可以利用文本中的关系来学习语言模式，并不意味着每一段文字都需要人工贴好一个答案标签。这一阶段可能形成很强的能力，所以基础这个词不是能力弱的意思。但材料有范围，也有时间与质量限制，不能推导出它知道所有事实，或者掌握了今天刚发布的信息。假如你要它解释一份刚修改的内部规定，更稳妥的做法是提供当前规定，而不是只相信它接受过大量训练。广泛学习之后，还可以围绕特定用途继续训练，这就引出微调。

一位会做家常菜的厨师来到新餐厅，要学习这里的出品风格。比如同一道菜希望少油，摆盘有统一要求，他需要反复练习并调整原有做法。这个专项练习与今天给他一张菜单，是两件事。菜单告诉他这一次做什么，专项练习则试图改变以后怎么做。请用这个区别想想，把一份写作范例放进聊天，让AI照着写，是否就一定完成了微调？不是，当前材料可以影响这次回答，却不代表模型内部参数因此改变。下一页会用是否继续训练、是否调整参数，给微调划出更清楚的边界。

微调，是在已有模型基础上继续训练，调整参数以适应特定用途的方法。这页从已有模型出发，加入专项数据与继续训练，得到调整后的模型。重点是训练过程真的发生了，而不是仅仅把要求写得更长。微调不是把文件存进一个永远准确的资料柜。经常变化的产品价格或内部制度，可能更适合在使用时检索最新材料，再提供给模型。具体选哪种办法，要看需求和条件。理解检查：给模型上传最新制度，它读完回答，就能断定发生了微调吗？不能，上传材料可能只是加入当前任务。

厨师已经练好了煎蛋，现在收到订单，按学到的方法做出一份成品。这一次的目的，是服务眼前这位顾客，而不是专门改变做菜方法。我们借这个场景理解训练之后实际使用模型的过程。前面练习形成的能力参与了现在的处理，订单又规定这一次要什么。假如顾客要求全熟，厨师会结合要求做这份蛋，不必先重新学习整套烹饪。模型也是接收新的输入，利用训练得到的参数来计算输出。下一页的术语推理，容易让人联想到逻辑证明，我们要把技术含义与日常词义分开。

机器学习里的推理，英文是inference，指使用训练好的模型处理输入并产生输出。三个步骤是已有模型、接收新输入、计算输出。它不表示模型这一次一定进行了复杂逻辑推导。识别照片是不是苹果、生成一句问候、起草一段通知，都可以属于这个技术意义的推理。对使用者而言，区分训练和推理有一个实用问题：这一步是在调整模型参数，还是在用已有参数处理当前材料？普通聊天通常属于后者。多轮对话可以让答案随背景改变，但变化本身不是重新训练的证据。接下来我们看，刚才反复提到的参数究竟是什么。

看一套音响，调高低音，声音会更厚重；调整高音，听感又会变化。多个旋钮一起作用，最终效果由它们的组合决定。这个比喻帮助理解，模型内部有许多数值，共同影响输入怎样变成输出。请想一想，能不能说一个旋钮专门存着一首歌，另一个旋钮存着一句歌词？不能，旋钮影响处理方式，不是分别装着一段内容的小抽屉。模型参数也不宜想成一个参数对应一个事实。我们只借用许多数值共同决定结果这一点。下一页正式解释参数，并说明为什么参数更多不等于一切任务都更聪明。

模型参数，是模型内部通过训练学习、用来影响计算结果的数值。这页按时间展示初始内部数值、训练时更新、运行时参与计算。你可以把它理解为训练改变的一部分内部设置，随后模型用这些数值处理新输入。参数不是一个个独立事实，所以不能像翻通讯录那样，找到某个参数就读出一个人的电话号码。参数数量也不能直接当成聪明程度，数据、模型结构、训练方法以及要做的具体任务都会影响能力。请检查：这次回答比上次好，是否说明参数增加了？不一定，可能只是提示更清楚、提供的背景更充分。接下来我们看看这些数值所参与的一种计算结构。

准备一次聚餐，有人洗菜，有人切菜，有人烹饪和摆盘，前一步的结果会交给后一步。整个过程依靠多个环节连接，不能只看最后端出来的盘子。这帮助我们想象，信息可以经过许多相连的计算单元，再得到结果。理解检查：如果切菜的人处理错了食材，最后摆盘漂亮，就能消除前面的影响吗？不一定，流程之间有依赖。不过，人工神经网络里的计算单元并不是会商量、会负责的小人，也不一定对应洗菜切菜这样的明确岗位。我们只借助协作和传递，理解连接起来的计算结构。下一页把这个结构称为神经网络。

神经网络，是由相互连接的计算单元组成、能够通过训练调整参数的模型结构。输入进入网络，经过连接的计算单元处理，再输出结果。这里每个单元执行数学计算，连接及相关参数共同影响信息怎样传递和变换。神经这个名称受到生物的启发，但人工神经网络不是复制出来的人脑，图里的小圆点也没有想法、情绪或个人判断。上一课我们说深度学习使用多层神经网络，现在两课就连起来了：网络描述结构，训练描述怎样调整其中的参数，推理描述怎样用训练后的网络处理输入。把结构、学习和使用分开，就不会因为名字像人的大脑，而误以为模型以人的方式思考。

现在请想想，你在聊天里说刚才写错了，请修改，这是否等于重新训练了模型？先想清楚，变化发生在当前回答，还是有证据显示内部参数经过了训练更新。通常答案是否定的。模型可以参考你的纠正，把这轮对话当成上下文，重新生成更合适的内容。这个过程通常是运行已有模型，不是当场完成一次重新训练。即使下次还记得某个偏好，也可能是应用保存了信息，再提供给模型，不能只凭记得就认定参数变化。至于产品是否另有数据使用安排，需要看具体说明，不能从一次聊天表现推断。你可以用厨师的例子复述：今天修改订单，与安排一段专项训练，是两个不同过程。

回顾这一课，数据集提供学习和评估的材料，材料要看质量与覆盖范围，不能只数多少。训练利用数据和算法调整模型内部参数；预训练学习较广泛的基础模式，微调在已有模型上继续训练，适应特定用途。推理在技术语境中指运行训练好的模型，简单问候也算，不必包含复杂逻辑推导。参数是参与计算的数值，神经网络是连接计算单元的一种结构。现在请用一句话检查自己：模型这次回答改变了，可能因为输入和上下文改变，不能直接说它重新训练了。今后遇到模型会学习这样的宣传，先问说的是哪个过程，就更容易理解真实能力。下一课回到购物清单和奶茶店，看看怎样把要求、材料和前后关系交代给AI。