隐私保护的 三道防线
隐私保护不是单点技术：先减少直接暴露
给技术 系上安全带
AI基础 · 第七章
AI 越能影响现实，越要理解隐私、偏见、幻觉、伪造与物理安全背后的验证责任。
99% 与 70% 暴露了什么
总体指标好看不够
应对幻觉的 五步验证
降低幻觉的关键不是盲信模型自检
当 AI 有了身体 错误会碰到现实
具身风险从“说错话”变成“做错事”
AI 出错时 谁来负责
AI 不是法律责任主体
SECTION 01 / 阅读地图
小节一 · 隐私保护的 三道防线
小节一 · 隐私保护的 三道防线
从“隐私保护的 三道防线”出发，逐页推进到“99% 与 70% 暴露了什么”；每张卡都写明本页应抓住的机制或边界。
隐私保护的 三道防线
隐私保护不是单点技术：先减少直接暴露，再限制数据流动与可推断性。
机制线索数据脱敏联邦学习差分隐私
偏见如何被 自动放大
算法偏见通常不是 AI 自发产生，而是从不完整或带偏见的数据中学来并放大。
机制线索历史偏见采样偏差标注偏见模型固化
99% 与 70% 暴露了什么
总体指标好看不够：必须分别检查不同子类数据与不同场景的表现。
机制线索高分来自偏斜样本模型学到的捷径换个颜色就掉分
阅读顺序：隐私保护的 三道防线 → 偏见如何被 自动放大 → 99% 与 70%…
本节按“隐私保护的 三道防线 → 偏见如何被 自动放大 → 99% 与 70%…”推进：先定位问题，再读机制，最后用页面结论校验理解。
VISUAL RECAP
本节场景补充
READ THE SCENE
隐私保护的 三道防线
数据、权限与审查一起构成隐私保护的边界。
读图顺序：先看对象和环境，再看它们之间的关系，最后回到本节结论。
图片只用于帮助观察本页关系；课程结论仍以正文和逐字稿为准。
隐私保护的
三道防线
降低个人可识别性同一目标，三种不同机制
数据脱敏
训练前去除姓名、身份证号等直接身份信息。
联邦学习
数据不出本地，只上传模型更新。
差分隐私
加入适度噪声，降低反推个人信息的风险。
偏见如何被
自动放大
历史偏见
过去的制度与选择已经写进训练数据。
采样偏差
某类样本太少，模型看不见真实分布。
标注偏见
人工判断把单一视角带进标签。
模型固化
既有倾向被自动化，并在更大规模上放大。
BIAS × AUTOMATION
99% 与 70%
暴露了什么
训练集：红色占 90%
99%红色路障
识别率
识别率
高分来自偏斜样本
训练场里几乎都是红色路障，模型很少看见其他颜色。
样本偏斜
模型学到的捷径
特定形状 + 反光条
路障 = 红色物体而不是特定形状 + 反光条
遇到蓝色
蓝色样本：严重不足
70%蓝色路障
识别率
识别率
换个颜色就掉分
模型识别的是训练集里的颜色捷径，不是路障本身的稳定特征。
总体准确率 ≠ 每个子类都可靠｜必须分组审计
SECTION 02 / 阅读地图
小节二 · 流畅不等于 真实
小节二 · 流畅不等于 真实
从“流畅不等于 真实”出发，逐页推进到“看起来像真的 也要验来源”；每张卡都写明本页应抓住的机制或边界。
流畅不等于 真实
大模型预测下一个词，不等于查询事实库；重要信息必须回到可验证的证据。
机制线索模型生成：预测下一个词事实核验：回到证据链
应对幻觉的 五步验证
降低幻觉的关键不是盲信模型自检，而是建立来源、逻辑与人工的交叉验证链。
看起来像真的 也要验来源
深度伪造可同时篡改图像、音频和视频；比盯住单一细节更重要的是来源验证。
机制线索内容内部线索传播链外部证据
阅读顺序：流畅不等于 真实 → 应对幻觉的 五步验证 → 看起来像真的 也要…
本节按“流畅不等于 真实 → 应对幻觉的 五步验证 → 看起来像真的 也要…”推进：先定位问题，再读机制，最后用页面结论校验理解。
VISUAL RECAP
本节场景补充
READ THE SCENE
流畅不等于 真实
流畅的表述仍需回到证据与来源进行核验。
读图顺序：先看对象和环境，再看它们之间的关系，最后回到本节结论。
图片只用于帮助观察本页关系；课程结论仍以正文和逐字稿为准。
流畅不等于
真实
模型生成：预测下一个词
流畅自信有逻辑
仍可能编造事实、引用、推理前提或计算结果。
≠
事实核验：回到证据链
可靠来源、交叉验证和可复查推理，才让重要信息可信。
应对幻觉的
五步验证
重要信息
先别急着信
先别急着信
看起来像真的
也要验来源
内容内部线索
看细节｜面部边缘、眨眼、光影听音质｜呼吸、语调、背景噪声查背景｜变形、扭曲、不自然边缘
这些异常能提示风险，但单一细节不能独立定案。
VERIFY
传播链外部证据
验来源｜追溯原始出处与转发链用工具｜检测结果只作辅助三问验证｜来源、独立证实、传播目的
来源核实与独立渠道，比“看起来像不像”更可靠。
SECTION 03 / 阅读地图
小节三 · 当 AI 有了身体 错误会碰到现实
小节三 · 当 AI 有了身体 错误会碰到现实
从“当 AI 有了身体 错误会碰到现实”出发，逐页推进到“AI 出错时 谁来负责”；每张卡都写明本页应抓住的机制或边界。
当 AI 有了身体 错误会碰到现实
具身风险从“说错话”变成“做错事”，必须在软件之外预留物理与流程保护。
机制线索感知错误策略失误硬件失控对抗攻击
安全不是一层 是三层防线
真正的安全要让一层失效时仍有下一层接住风险，急停按钮属于硬件安全层。
AI 出错时 谁来负责
AI 不是法律责任主体；责任要回到开发、使用与恶意攻击等具体人的行为。
阅读顺序：当 AI 有了身体… → 安全不是一层 是三… → AI 出错时 谁来…
本节按“当 AI 有了身体… → 安全不是一层 是三… → AI 出错时 谁来…”推进：先定位问题，再读机制，最后用页面结论校验理解。
VISUAL RECAP
本节场景补充
READ THE SCENE
当 AI 有了身体 错误会碰到现实
当系统进入物理世界，错误会转化为真实的安全与责任问题。
读图顺序：先看对象和环境，再看它们之间的关系，最后回到本节结论。
图片只用于帮助观察本页关系；课程结论仍以正文和逐字稿为准。
当 AI 有了身体
错误会碰到现实
AI 有了身体
风险进入现实
风险进入现实
感知错误
传感器误判对象，动作目标随之出错。
策略失误
危险路径被当作可行动作。
硬件失控
故障或断连后设备无法及时停止。
对抗攻击
恶意输入诱导系统误判。
安全不是一层
是三层防线
03 / 流程安全层
双人确认 · 模拟 100 次 · 渐进部署 · 日志追溯
02 / 硬件安全层
急停按钮 · 碰撞检测 · 安全围栏 · 声光报警
01 / 软件安全层
阈值 · 动作限制 · 异常检测
AI 出错时
谁来负责
AI 不是
法律主体先判断具体场景，再把责任落回人的行为。
法律主体先判断具体场景，再把责任落回人的行为。
共同守护：开发者 × 使用者 × 监管者
10 // RECAP
把安全带 扣在全过程
隐私保护的 三道防线
隐私保护不是单点技术：先减少直接暴露
99% 与 70% 暴露了什么
总体指标好看不够
应对幻觉的 五步验证
降低幻觉的关键不是盲信模型自检
当 AI 有了身体 错误会碰到现实
具身风险从“说错话”变成“做错事”
AI 出错时 谁来负责
AI 不是法律责任主体
AI 越强大，越要把验证、约束和责任嵌入从数据到部署的每一个环节。
单选题
8 题
答对 0/8
判断题
5 题
案例：招聘系统
偏见事件
案例：AI 招聘系统的偏见事件
某大型制造企业引入了一套 AI 招聘系统，用于自动筛选技术岗位的求职简历。该系统基于过去 10 年该企业成功员工的简历数据进行训练。系统上线半年后，HR 部门发现：
- 通过 AI 筛选的候选人中，毕业于某几所特定院校的比例高达 85%
- 来自非传统工程背景（如自学转行、职业培训）的候选人通过率极低，仅 3%
- 虽然 AI 筛选的候选人在面试中表现良好，但新员工入职后 6 个月内的离职率反而比之前上升了 12%
经调查发现：该企业过去 10 年招聘的技术岗位员工，确实主要来自那几所特定院校（因为 HR 之前就是优先从这些院校招聘的）。AI 从历史数据中学到了"这些院校 = 好员工"的规律，并自动将其变成了筛选标准。
请回答以下问题：
（1）这个案例中，AI 招聘系统出现了什么问题？问题的根源在哪里？（4 分）
（2）如果你是该企业的 AI 伦理顾问，你会提出哪些改进建议？（至少 3 条，6 分）
参考答案：
AI 招聘系统出现了算法偏见问题。具体表现为：系统过度依赖候选人的毕业院校作为筛选标准，对非传统背景的候选人产生了系统性歧视。
问题的根源在于训练数据中的历史偏见——该企业过去 10 年本身就偏好从特定院校招聘，历史数据已经暗含了这种偏好。AI 不是"发明"了偏见，而是从历史数据中"学会"并"放大"了这种偏见，将其自动化成了筛选规则。
评分要点：准确识别问题为"算法偏见"（2 分），能指出根源是"训练数据中的历史偏见"（2 分）。
参考答案：
- 数据审计与重新平衡：对训练数据进行审计，统计各类背景候选人的分布。如果发现严重不均衡，应补充更多样化的样本数据。
- 引入公平性指标：在模型评估时，不仅看"总体准确率"，还要看"各子类通过率"，发现某类候选人通过率显著偏低需排查原因。
- 去除敏感特征：审查模型使用的特征，将与公平性无关但可能导致偏见的特征从模型中移除或降低权重。
- 建立人工复审机制：AI 筛选作为"初筛"，所有被淘汰的候选人随机抽取 10% 进入人工复审。
- 定期监控与反馈闭环：每月统计 AI 筛选的候选人分布，对比人工筛选的分布，建立偏差预警机制。
评分要点：每条合理建议 2 分，共 6 分。建议需具体可操作，避免空泛。