隐私保护的 三道防线
隐私保护不是单点技术：先减少直接暴露
给技术 系上安全带
AI基础 · 第七章
AI 越能影响现实，越要理解隐私、偏见、幻觉、伪造与物理安全背后的验证责任。
99% 与 70% 暴露了什么
总体指标好看不够
应对幻觉的 五步验证
降低幻觉的关键不是盲信模型自检
当 AI 有了身体 错误会碰到现实
具身风险从“说错话”变成“做错事”
AI 出错时 谁来负责
AI 不是法律责任主体
SECTION 01 / 阅读地图
小节一 · 隐私保护的三道防线
AI 系统如何同时保护隐私、识别数据偏见，并避免被漂亮的总体指标误导？
隐私保护的三道防线
隐私保护不是单点技术：先减少直接暴露，再限制数据流动与可推断性。
关键线索数据脱敏联邦学习差分隐私
偏见如何被自动放大
历史偏见、采样偏差与标注偏见进入训练后，会被模型固化并放大。
关键线索历史偏见采样与标注偏差训练后固化放大
99% 与 70% 暴露了什么
总体 99% 可能掩盖某类场景仅 70%；必须按子类和环境分别检查。
关键线索总体指标 99%子场景仅 70%分群体与场景检查
隐私与公平都不能只看总指标：要检查数据如何进入、流动，以及在不同群体和场景中的结果。
VISUAL RECAP
本节场景补充
READ THE SCENE
隐私保护的三道防线
数据、权限与审查一起构成隐私保护的边界。
读图顺序：先看对象和环境，再看它们之间的关系，最后回到本节结论。
图片只用于帮助观察本页关系；课程结论仍以正文和逐字稿为准。
隐私保护的
三道防线
降低个人可识别性同一目标，三种不同机制
数据脱敏
训练前去除姓名、身份证号等直接身份信息。
联邦学习
数据不出本地，只上传模型更新。
差分隐私
加入适度噪声，降低反推个人信息的风险。
偏见如何被
自动放大
历史偏见
过去的制度与选择已经写进训练数据。
采样偏差
某类样本太少，模型看不见真实分布。
标注偏见
人工判断把单一视角带进标签。
模型固化
既有倾向被自动化，并在更大规模上放大。
BIAS × AUTOMATION
99% 与 70%
暴露了什么
训练集：红色占 90%
99%红色路障
识别率
识别率
高分来自偏斜样本
训练场里几乎都是红色路障，模型很少看见其他颜色。
样本偏斜
模型学到的捷径
特定形状 + 反光条
路障 = 红色物体而不是特定形状 + 反光条
遇到蓝色
蓝色样本：严重不足
70%蓝色路障
识别率
识别率
换个颜色就掉分
模型识别的是训练集里的颜色捷径，不是路障本身的稳定特征。
总体准确率 ≠ 每个子类都可靠｜必须分组审计
SECTION 02 / 阅读地图
小节二 · 流畅不等于真实
按编号进入后续页面，逐项核对核心主张、工作机制与应用边界。
流畅不等于真实
大模型预测下一个词，不等于查询事实库；重要信息必须回到可验证的证据。
关键线索模型生成：预测下一个词事实核验：回到证据链
应对幻觉的五步验证
降低幻觉的关键不是盲信模型自检，而是建立来源、逻辑与人工的交叉验证链。
看起来像真的也要验来源
深度伪造可同时篡改图像、音频和视频；比盯住单一细节更重要的是来源验证。
关键线索内容内部线索传播链外部证据
先看主张，再沿编号核对机制、证据与应用边界。
VISUAL RECAP
本节场景补充
READ THE SCENE
流畅不等于真实
流畅的表述仍需回到证据与来源进行核验。
读图顺序：先看对象和环境，再看它们之间的关系，最后回到本节结论。
图片只用于帮助观察本页关系；课程结论仍以正文和逐字稿为准。
流畅不等于
真实
模型生成：预测下一个词
流畅自信有逻辑
仍可能编造事实、引用、推理前提或计算结果。
≠
事实核验：回到证据链
可靠来源、交叉验证和可复查推理，才让重要信息可信。
应对幻觉的
五步验证
重要信息
先别急着信
先别急着信
看起来像真的
也要验来源
内容内部线索
看细节｜面部边缘、眨眼、光影听音质｜呼吸、语调、背景噪声查背景｜变形、扭曲、不自然边缘
这些异常能提示风险，但单一细节不能独立定案。
VERIFY
传播链外部证据
验来源｜追溯原始出处与转发链用工具｜检测结果只作辅助三问验证｜来源、独立证实、传播目的
来源核实与独立渠道，比“看起来像不像”更可靠。
SECTION 03 / 阅读地图
小节三 · 当 AI 有了身体错误会碰到现实
按编号进入后续页面，逐项核对核心主张、工作机制与应用边界。
当 AI 有了身体错误会碰到现实
具身风险从“说错话”变成“做错事”，必须在软件之外预留物理与流程保护。
关键线索感知错误策略失误硬件失控对抗攻击
安全不是一层是三层防线
真正的安全要让一层失效时仍有下一层接住风险，急停按钮属于硬件安全层。
AI 出错时谁来负责
AI 不是法律责任主体；责任要回到开发、使用与恶意攻击等具体人的行为。
先看主张，再沿编号核对机制、证据与应用边界。
VISUAL RECAP
本节场景补充
READ THE SCENE
当 AI 有了身体错误会碰到现实
当系统进入物理世界，错误会转化为真实的安全与责任问题。
读图顺序：先看对象和环境，再看它们之间的关系，最后回到本节结论。
图片只用于帮助观察本页关系；课程结论仍以正文和逐字稿为准。
当 AI 有了身体
错误会碰到现实
AI 有了身体
风险进入现实
风险进入现实
感知错误
传感器误判对象，动作目标随之出错。
策略失误
危险路径被当作可行动作。
硬件失控
故障或断连后设备无法及时停止。
对抗攻击
恶意输入诱导系统误判。
安全不是一层
是三层防线
03 / 流程安全层
双人确认 · 模拟 100 次 · 渐进部署 · 日志追溯
02 / 硬件安全层
急停按钮 · 碰撞检测 · 安全围栏 · 声光报警
01 / 软件安全层
阈值 · 动作限制 · 异常检测
AI 出错时
谁来负责
AI 不是
法律主体先判断具体场景，再把责任落回人的行为。
法律主体先判断具体场景，再把责任落回人的行为。
共同守护：开发者 × 使用者 × 监管者
10 // RECAP
把安全带 扣在全过程
隐私保护的 三道防线
隐私保护不是单点技术：先减少直接暴露
99% 与 70% 暴露了什么
总体指标好看不够
应对幻觉的 五步验证
降低幻觉的关键不是盲信模型自检
当 AI 有了身体 错误会碰到现实
具身风险从“说错话”变成“做错事”
AI 出错时 谁来负责
AI 不是法律责任主体
AI 越强大，越要把验证、约束和责任嵌入从数据到部署的每一个环节。
单选题
8 题
答对 0/8
判断题
5 题
案例：招聘系统
偏见事件
案例：AI 招聘系统的偏见事件
某大型制造企业引入了一套 AI 招聘系统，用于自动筛选技术岗位的求职简历。该系统基于过去 10 年该企业成功员工的简历数据进行训练。系统上线半年后，HR 部门发现：
- 通过 AI 筛选的候选人中，毕业于某几所特定院校的比例高达 85%
- 来自非传统工程背景（如自学转行、职业培训）的候选人通过率极低，仅 3%
- 虽然 AI 筛选的候选人在面试中表现良好，但新员工入职后 6 个月内的离职率反而比之前上升了 12%
经调查发现：该企业过去 10 年招聘的技术岗位员工，确实主要来自那几所特定院校（因为 HR 之前就是优先从这些院校招聘的）。AI 从历史数据中学到了"这些院校 = 好员工"的规律，并自动将其变成了筛选标准。
请回答以下问题：
（1）这个案例中，AI 招聘系统出现了什么问题？问题的根源在哪里？（4 分）
（2）如果你是该企业的 AI 伦理顾问，你会提出哪些改进建议？（至少 3 条，6 分）
参考答案：
AI 招聘系统出现了算法偏见问题。具体表现为：系统过度依赖候选人的毕业院校作为筛选标准，对非传统背景的候选人产生了系统性歧视。
问题的根源在于训练数据中的历史偏见——该企业过去 10 年本身就偏好从特定院校招聘，历史数据已经暗含了这种偏好。AI 不是"发明"了偏见，而是从历史数据中"学会"并"放大"了这种偏见，将其自动化成了筛选规则。
评分要点：准确识别问题为"算法偏见"（2 分），能指出根源是"训练数据中的历史偏见"（2 分）。
参考答案：
- 数据审计与重新平衡：对训练数据进行审计，统计各类背景候选人的分布。如果发现严重不均衡，应补充更多样化的样本数据。
- 引入公平性指标：在模型评估时，不仅看"总体准确率"，还要看"各子类通过率"，发现某类候选人通过率显著偏低需排查原因。
- 去除敏感特征：审查模型使用的特征，将与公平性无关但可能导致偏见的特征从模型中移除或降低权重。
- 建立人工复审机制：AI 筛选作为"初筛"，所有被淘汰的候选人随机抽取 10% 进入人工复审。
- 定期监控与反馈闭环：每月统计 AI 筛选的候选人分布，对比人工筛选的分布，建立偏差预警机制。
评分要点：每条合理建议 2 分，共 6 分。建议需具体可操作，避免空泛。