WEBVTT

1
00:00:00.000 --> 00:00:06.119
大家好，欢迎来到AI生活课第七课，AI的答案
能信多少。

2
00:00:06.119 --> 00:00:08.385
这是系列的最后一课。

3
00:00:08.385 --> 00:00:16.089
前面我们已经知道，AI可以生成内容、整理材料
，还可能通过工具办事情。

4
00:00:16.089 --> 00:00:23.568
接下来，一个很实际的问题是：它说得这么完整，
我到底该信到什么程度？

5
00:00:23.568 --> 00:00:30.593
我们不用把所有回答都当真，也不必因为它会出错
，就放弃所有帮助。

6
00:00:30.593 --> 00:00:35.805
更有用的做法，是根据任务需要，知道该检查什么
。

7
00:00:35.805 --> 00:00:44.869
今天会从朋友转述故事、不同城市的通勤、寄送活
动名单这些熟悉场景出发，理解幻觉、偏

8
00:00:44.869 --> 00:00:48.268
见、隐私，以及开源和开放权重。

9
00:00:48.268 --> 00:00:52.121
你不需要技术背景，也不用学习安装。

10
00:00:52.121 --> 00:01:01.185
学完以后，希望你在复制一段答案、上传一份文件
之前，能多做几个具体判断，把便利留住

11
00:01:01.185 --> 00:01:04.358
，把重要事实与决定核实清楚。

12
00:01:04.358 --> 00:01:09.570
比如只是为聚会想几个标题，核对重点是是否合适
；

13
00:01:09.570 --> 00:01:15.009
如果要把日期和金额写进正式通知，就必须逐项核
实。

14
00:01:15.009 --> 00:01:19.994
不同任务的后果不同，检查也应该跟着任务变化。

15
00:01:20.594 --> 00:01:23.291
这一课的目标分成两部分。

16
00:01:23.291 --> 00:01:26.886
第一部分，识别幻觉和系统性偏向。

17
00:01:26.886 --> 00:01:32.953
幻觉主要提醒我们，内容听起来合理，却可能没有
事实依据；

18
00:01:32.953 --> 00:01:39.919
偏见提醒我们，系统可能持续忽略某些人或情境，
让结果产生不公平。

19
00:01:39.919 --> 00:01:43.739
两者可能同时出现，但不能混为一谈。

20
00:01:43.739 --> 00:01:48.458
第二部分，是理解信息保护与模型的开放程度。

21
00:01:48.458 --> 00:01:54.300
把材料交给应用之前，先判断它需要什么、允许提
供什么；

22
00:01:54.300 --> 00:02:02.165
看到免费、可下载、开放权重、开源这些标签时，
再判断它们究竟开放了什么。

23
00:02:02.165 --> 00:02:11.153
整节课可以围绕四个问题来听：依据在哪里，遗漏
了谁，资料会怎样处理，许可证允许什么

24
00:02:11.153 --> 00:02:11.377
。

25
00:02:11.377 --> 00:02:14.523
我们会用小检查练习这些问题。

26
00:02:14.523 --> 00:02:23.512
它们不是让你变成技术专家，而是帮助你把AI输
出当作需要评估的工作材料，让使用方式

27
00:02:23.512 --> 00:02:25.534
更适合眼前的任务。

28
00:02:25.534 --> 00:02:32.500
还有一个贯穿全课的习惯：遇到不确定的地方，允
许答案暂时不完整。

29
00:02:32.500 --> 00:02:40.814
先把已知和待核实分开，往往比要求AI无论如何
给出一个结论，更便于继续工作。

30
00:02:41.414 --> 00:02:44.032
先看朋友转述故事的场景。

31
00:02:44.032 --> 00:02:51.231
故事大意还记得，但某一天发生了什么、某句话是
谁说的，细节已经模糊。

32
00:02:51.231 --> 00:02:56.685
为了把事情讲顺，叙述里补进了一些听起来合理的
内容。

33
00:02:56.685 --> 00:03:02.139
听的人可能因为故事完整，就以为每个细节都确有
其事。

34
00:03:02.139 --> 00:03:10.866
这个比喻抓住的是有说服力的错误内容，不能把人
的忘记、动机或意识直接搬到模型身上。

35
00:03:10.866 --> 00:03:19.592
放到工作中，类似问题可能出现在一段会议总结里
：原文只说下周再讨论，摘要却写成下周

36
00:03:19.592 --> 00:03:21.119
已经批准执行。

37
00:03:21.119 --> 00:03:23.955
前后文字很顺，但意思变了。

38
00:03:23.955 --> 00:03:30.282
请想一想，核查时应该看语气是否自信，还是看原
文有没有支持？

39
00:03:30.282 --> 00:03:31.591
应该看原文。

40
00:03:31.591 --> 00:03:38.790
这里的输入是已有材料，处理是生成叙述，结果可
能混入材料没有的信息。

41
00:03:38.790 --> 00:03:45.335
接下来我们给这种现象一个名字，也学习怎样把缺
少的依据找出来。

42
00:03:45.935 --> 00:03:54.095
幻觉，是AI生成了不真实、错误或缺乏依据的内
容，却可能表现得像可靠答案。

43
00:03:54.095 --> 00:04:02.255
它可能表现为不存在的论文、编错的人物经历、错
误数字，或者看似正规的链接。

44
00:04:02.255 --> 00:04:09.962
这是对输出行为的描述，不表示模型故意骗人，也
不表示它产生了人的幻觉。

45
00:04:09.962 --> 00:04:13.362
语言流畅和事实正确，是两件事。

46
00:04:13.362 --> 00:04:22.202
核查可以分三步：先把答案拆成可以检查的具体说
法，再寻找原始材料，最后逐项对照。

47
00:04:22.202 --> 00:04:31.269
比如让AI总结一篇你能打开的文章，检查数字、
引语和结论是否真在原文里，注意适用时

48
00:04:31.269 --> 00:04:32.402
间与对象。

49
00:04:32.402 --> 00:04:35.802
要求它保证正确，不能代替核查；

50
00:04:35.802 --> 00:04:41.696
要求附上来源，也只是增加线索，来源本身仍可能
有问题。

51
00:04:41.696 --> 00:04:46.229
小检查：链接能打开，就能证明整段答案吗？

52
00:04:46.229 --> 00:04:46.909
不能。

53
00:04:46.909 --> 00:04:51.669
网页真实存在，不代表它支持答案里的每一句。

54
00:04:51.669 --> 00:04:59.603
缺少依据的部分，可以明确保留为待核实，不必为
了得到完整答案而接受猜测。

55
00:05:00.203 --> 00:05:02.649
第二个场景是城市通勤。

56
00:05:02.649 --> 00:05:11.544
假如一个人长期生活在地铁方便的城市，回答怎么
去上班时，就很容易把坐地铁当成人人都

57
00:05:11.544 --> 00:05:12.656
有的选项。

58
00:05:12.656 --> 00:05:20.661
换到没有地铁的地方，或者面对需要无障碍路线的
人，这个默认条件就不成立了。

59
00:05:20.661 --> 00:05:27.110
建议里的交通方式可能真实存在，问题却在于它忽
略了别的情境。

60
00:05:27.110 --> 00:05:31.558
请想一想，给出建议之前，还需要知道什么？

61
00:05:31.558 --> 00:05:37.340
至少要知道所在城市、实际交通条件，以及使用者
的需要。

62
00:05:37.340 --> 00:05:44.901
同样是规划通勤，距离、时间、费用、是否能长距
离步行，都可能改变答案。

63
00:05:44.901 --> 00:05:51.572
我们借这个例子看到，过去接触的范围会影响什么
被当成常见情况。

64
00:05:51.572 --> 00:05:58.021
不过AI的偏向不仅来自样本范围，也可能来自设
计与使用方式。

65
00:05:58.021 --> 00:06:04.025
我们不能看到一次不合适建议，就立刻判断整个系
统有偏见；

66
00:06:04.025 --> 00:06:09.140
需要进一步观察，它是否持续对某类情境表现不佳
。

67
00:06:09.740 --> 00:06:17.342
AI偏见，是系统对某些群体或情境产生系统性偏
向，可能造成不公平结果。

68
00:06:17.342 --> 00:06:24.720
它可能来自数据覆盖、训练目标、设计选择，也可
能在实际使用中被放大。

69
00:06:24.720 --> 00:06:33.664
比如语音识别对一种口音表现较好，对另一种口音
持续漏掉关键词，就需要检查不同人群的

70
00:06:33.664 --> 00:06:34.334
效果。

71
00:06:34.334 --> 00:06:42.160
偏见不是说模型拥有人的个人立场，也不是把每个
普通错误都重新起一个名字。

72
00:06:42.160 --> 00:06:47.526
关键是看差异是否具有持续性，以及会造成什么影
响。

73
00:06:47.526 --> 00:06:56.470
日常可以做一个小练习：让AI举例不同职业的工
作者，观察它是否总把某种性别、年龄与

74
00:06:56.470 --> 00:06:58.035
特定职业绑定。

75
00:06:58.035 --> 00:07:02.283
再改变要求，比较是否遗漏了不同可能性。

76
00:07:02.283 --> 00:07:08.096
这个练习只能帮助发现线索，几次回答不能代替正
式评估。

77
00:07:08.096 --> 00:07:17.040
如果用于涉及人的工作，应回到岗位需要与可核实
事实，检查评价标准是否一致，也为被遗

78
00:07:17.040 --> 00:07:19.052
漏的情境补充信息。

79
00:07:19.052 --> 00:07:25.089
不要把一段看似客观的输出，直接当成对一个人的
最终判断。

80
00:07:25.689 --> 00:07:29.690
第三个场景，是请人帮忙整理活动名单。

81
00:07:29.690 --> 00:07:37.692
你只想知道参加人数，以及每个时段有多少人，对
方是否需要每个人的电话号码？

82
00:07:37.692 --> 00:07:39.025
通常不需要。

83
00:07:39.025 --> 00:07:45.471
先明确任务，再决定交哪些信息，比把整张表全部
发过去更合适。

84
00:07:45.471 --> 00:07:51.917
放到AI里也一样，统计人数不一定需要姓名、住
址或联系方式。

85
00:07:51.917 --> 00:08:00.808
假如还要检查重复报名，可以先思考是否能用合适
的编号完成，而不是直接提供所有身份信

86
00:08:00.808 --> 00:08:01.253
息。

87
00:08:01.253 --> 00:08:08.588
不过改成编号也不能保证完全无法认出个人，其他
字段仍可能组合出身份。

88
00:08:08.588 --> 00:08:14.145
这里请做个判断：只做人数统计，该保留电话还是
删去？

89
00:08:14.145 --> 00:08:17.034
应该省去与任务无关的电话；

90
00:08:17.034 --> 00:08:21.480
同时还要检查其他字段和使用环境是否合适。

91
00:08:21.480 --> 00:08:28.593
我们说的是减少不必要的资料，而不是一按删除键
就解决所有隐私问题。

92
00:08:28.593 --> 00:08:34.594
下一页把这个日常习惯扩展到个人信息和工作中的
敏感资料。

93
00:08:35.194 --> 00:08:39.725
隐私关注个人信息如何被收集、使用和保护；

94
00:08:39.725 --> 00:08:46.976
敏感信息还包括需要限制披露的组织资料，比如客
户材料、内部计划等。

95
00:08:46.976 --> 00:08:56.039
使用AI前，可以按屏幕上的顺序检查：任务需要
什么，哪些材料适合提供，保存和访问方

96
00:08:56.039 --> 00:08:57.172
式是什么。

97
00:08:57.172 --> 00:09:06.235
具体要看组织规则、应用说明和实际设置，不能因
为工具能上传，就认为任何文件都允许上

98
00:09:06.235 --> 00:09:06.688
传。

99
00:09:06.688 --> 00:09:14.845
删除姓名也未必足够，地点、岗位、日期等信息组
合起来，可能仍能指向某个人。

100
00:09:14.845 --> 00:09:23.908
本地运行或私有环境，也不等于绝对安全，还要考
虑日志、外部连接、设备权限和谁能访问

101
00:09:23.908 --> 00:09:24.135
。

102
00:09:24.135 --> 00:09:29.119
关闭某一个开关，也不能单独说明所有处理方式。

103
00:09:29.119 --> 00:09:37.503
练习时可以用虚构名单，只保留统计需要的字段，
再检查输出有没有带出无关信息。

104
00:09:37.503 --> 00:09:44.753
如果不清楚资料是否允许提供，先用不含真实敏感
内容的样例明确任务。

105
00:09:44.753 --> 00:09:49.965
这样能先验证方法，再在合适范围内使用真实材料
。

106
00:09:50.565 --> 00:09:54.605
第四个场景，是一家店分享做菜的方法。

107
00:09:54.605 --> 00:10:03.582
店家可能只让你品尝成品，也可能交给你半成品，
还可能公开配方、制作方法，并说明允许

108
00:10:03.582 --> 00:10:04.704
怎样使用。

109
00:10:04.704 --> 00:10:11.662
能拿到一种东西，与能研究和修改完整制作过程，
开放程度显然不同。

110
00:10:11.662 --> 00:10:20.640
但这个比喻还有一层：即使配方摆在网上，也要看
是否允许复制、修改、用于经营，不能只

111
00:10:20.640 --> 00:10:23.108
凭看得见就推断随便用。

112
00:10:23.108 --> 00:10:32.086
放到模型里，有的服务只提供使用入口，有的还提
供可下载的模型材料，有的进一步开放代

113
00:10:32.086 --> 00:10:33.657
码和相关信息。

114
00:10:33.657 --> 00:10:37.024
这些内容分别让你能做不同的事。

115
00:10:37.024 --> 00:10:43.308
请想一想，免费品尝一道菜，是否等于店家允许你
拿配方开店？

116
00:10:43.308 --> 00:10:44.206
不等于。

117
00:10:44.206 --> 00:10:51.388
对应到AI，免费使用、能够下载、开放权重与开
源，也不能互相替代。

118
00:10:51.388 --> 00:10:57.223
还有一个边界，模型并不像一道菜那样能和配方简
单对应。

119
00:10:57.223 --> 00:11:05.303
这个故事只帮助我们区分取得材料与获得权利，具
体开放标准仍要回到模型说明。

120
00:11:05.303 --> 00:11:10.465
我们下一页继续区分开放了什么，以及允许做什么
。

121
00:11:11.065 --> 00:11:20.204
开放权重强调可以获取模型内部的权重，也就是训
练形成、影响模型输出的一组数值参数。

122
00:11:20.204 --> 00:11:27.971
拿到权重，并不等于拿到训练的所有材料，也不自
动获得不受限制的使用权。

123
00:11:27.971 --> 00:11:34.597
开源涉及更广的开放材料，以及使用、研究、修改
和分享等权利；

124
00:11:34.597 --> 00:11:42.593
判断具体模型时，要看它实际提供什么，并阅读许
可证，而不是只看宣传名称。

125
00:11:42.593 --> 00:11:50.818
屏幕上的顺序很实用：先检查开放材料，再看许可
，最后判断能否用于眼前任务。

126
00:11:50.818 --> 00:11:58.814
例如准备把模型用于工作项目，要核对商业使用、
修改和分发等条件是否适用。

127
00:11:58.814 --> 00:12:05.668
有的说明还有附加要求，不能用别人一句可以下载
来替代自己核对。

128
00:12:05.668 --> 00:12:11.608
这里不是提供某个许可证的具体结论，而是建立查
阅习惯。

129
00:12:11.608 --> 00:12:20.061
最后再提醒，本地运行只是运行位置的变化，日志
、外部服务和访问权限仍需检查。

130
00:12:20.061 --> 00:12:27.372
开放程度、许可条件和资料安全，是彼此有关、却
需要分别判断的问题。

131
00:12:27.972 --> 00:12:30.471
现在做今天的综合检查。

132
00:12:30.471 --> 00:12:37.516
AI给出一段流畅解释，还附上一个链接，这是否
足以证明答案正确？

133
00:12:37.516 --> 00:12:42.743
先别急着回答，请在心里列出接下来要做的两件事
。

134
00:12:42.743 --> 00:12:50.243
你也可以暂停视频，假设这段内容将放进明天的工
作报告，你会怎样核对。

135
00:12:50.243 --> 00:12:57.288
参考回答是：还不够，需要打开来源，并检查原文
是否真正支持结论。

136
00:12:57.288 --> 00:13:04.105
链接可能无效，页面可能讨论的是别的对象，也可
能信息已经过时。

137
00:13:04.105 --> 00:13:10.923
即使网页没有问题，AI仍可能把原文说可能发生
，改成一定发生。

138
00:13:10.923 --> 00:13:16.832
核对时要看具体数字、条件、日期和措辞，不能只
扫标题。

139
00:13:16.832 --> 00:13:25.013
如果找不到支持某句话的内容，就把它标记为待核
实，或者删去没有依据的断言。

140
00:13:25.013 --> 00:13:32.739
再补充一点，来源也要适合问题，涉及正式规则时
应回到相应发布者的说明。

141
00:13:32.739 --> 00:13:38.875
可靠不是由语气决定，而是由可检查的依据一步步
支持起来。

142
00:13:46.875 --> 00:13:48.934
最后回顾四个重点。

143
00:13:48.934 --> 00:13:55.798
第一，流畅回答和事实可靠是两回事，重要结论需
要回到原始来源。

144
00:13:55.798 --> 00:14:04.492
第二，偏见可能来自数据、设计和使用方式，要观
察不同人和情境是否受到持续偏向。

145
00:14:04.492 --> 00:14:11.355
第三，资料按任务需要和允许范围提供，同时检查
保存与访问方式。

146
00:14:11.355 --> 00:14:19.134
第四，免费、可下载、开放权重和开源不是同义词
，具体用途要核对许可证。

147
00:14:19.134 --> 00:14:27.370
学完这个系列，可以从一封不含敏感资料的练习邮
件，或一段虚构会议记录开始。

148
00:14:27.370 --> 00:14:34.234
让AI帮你改写或整理，再自己核对事实、语气、
遗漏和行动事项。

149
00:14:34.234 --> 00:14:39.267
先问输出是否有依据，再问材料与操作是否合适。

150
00:14:39.267 --> 00:14:47.503
把核对保留在流程里，逐渐认识哪些任务适合交给
工具，哪些决定需要自己掌握。

151
00:14:47.503 --> 00:14:56.655
学会这些概念的价值，是以后看到新名字、新功能
时，你也能问清作用、条件和边界，把A

152
00:14:56.655 --> 00:14:59.400
I的帮助用在具体工作里。