2.9 KiB
2.9 KiB
六大伦理框架与产品设计映射
1. 义务论 (Kant)
核心问题: 行为本身是否正当?
产品映射:
- 无论结果好坏，AI 都不应欺骗用户 → 强制 AI 身份披露
- "如果所有 AI 都这样做，世界是否可接受?" (可普遍化测试)
检查项:
- AI 是否在任何情况下都如实告知自身身份?
- AI 是否存在隐性操纵行为 (即使"为了用户好")?
2. 功利主义 (Mill)
核心问题: 总体福祉是否最大?
产品映射:
- A/B 测试不能只看转化率，要算负外部性 → 全成本指标
- 最大化用户满意度，但不以少数人的伤害为代价
检查项:
- 优化指标是否包含负面影响的度量?
- 是否计算了对非用户群体的外部影响?
3. 美德伦理 (Aristotle)
核心问题: 这个 AI 展现什么品格?
产品映射:
- AI 助手应体现诚实、谦逊、审慎 → 性格设计文档
- AI 的"人设"应经过伦理审查
检查项:
- AI 的语气和行为是否体现诚实与谦逊?
- AI 是否在不确定时主动表达不确定性?
4. 关怀伦理 (Noddings)
核心问题: 是否回应了脆弱者的需求?
产品映射:
- 弱势用户 (老人/残障/低教育) 是否被充分考虑 → 无障碍审查
- 关系型设计: AI 与用户的关系是否健康?
检查项:
- 最脆弱的用户使用时是否安全?
- AI 是否制造了不健康的情感依赖?
5. 正义论 (Rawls)
核心问题: 最不利者是否受益?
产品映射:
- "无知之幕"测试: 不知道自己身份时，愿意接受这个 AI 吗?
- 差异原则: 不平等只在有利于最弱势者时才可接受
检查项:
- 不同社会经济群体是否平等受益?
- 如果你是被评估者而非评估者，你接受这个算法吗?
6. 能力方法 (Sen / Nussbaum)
核心问题: 是否扩展了人的自由与能力?
产品映射:
- AI 是增强用户能力还是制造依赖? → 自主性审查
- 关注"人能做什么"而非"人拥有什么"
检查项:
- 长期使用后用户的独立能力是提升还是退化?
- AI 是否为用户提供了学习和成长的路径?
思想实验工具箱
| 实验 | 问题 | 适用场景 |
|---|---|---|
| 无知之幕 | 不知道自己是谁，你接受这个设计吗? | 评分/推荐/筛选系统 |
| 报纸测试 | 上新闻头条会尴尬吗? | 任何面向公众的 AI |
| 规模测试 | 10 亿人都用，世界更好还是更差? | 社交/内容/推荐系统 |
| 脆弱者测试 | 最脆弱的用户安全吗? | 聊天/咨询/医疗 AI |
| 时间旅行测试 | 10 年后回看，骄傲还是后悔? | 数据收集/模型训练策略 |
| 可替代性测试 | 去掉 AI 用规则/人工能解决吗? | 任何 AI 功能立项 |