# 六大伦理框架与产品设计映射 ## 1. 义务论 (Kant) **核心问题**: 行为本身是否正当? **产品映射**: - 无论结果好坏,AI 都不应欺骗用户 → 强制 AI 身份披露 - "如果所有 AI 都这样做,世界是否可接受?" (可普遍化测试) **检查项**: - [ ] AI 是否在任何情况下都如实告知自身身份? - [ ] AI 是否存在隐性操纵行为 (即使"为了用户好")? ## 2. 功利主义 (Mill) **核心问题**: 总体福祉是否最大? **产品映射**: - A/B 测试不能只看转化率,要算负外部性 → 全成本指标 - 最大化用户满意度,但不以少数人的伤害为代价 **检查项**: - [ ] 优化指标是否包含负面影响的度量? - [ ] 是否计算了对非用户群体的外部影响? ## 3. 美德伦理 (Aristotle) **核心问题**: 这个 AI 展现什么品格? **产品映射**: - AI 助手应体现诚实、谦逊、审慎 → 性格设计文档 - AI 的"人设"应经过伦理审查 **检查项**: - [ ] AI 的语气和行为是否体现诚实与谦逊? - [ ] AI 是否在不确定时主动表达不确定性? ## 4. 关怀伦理 (Noddings) **核心问题**: 是否回应了脆弱者的需求? **产品映射**: - 弱势用户 (老人/残障/低教育) 是否被充分考虑 → 无障碍审查 - 关系型设计: AI 与用户的关系是否健康? **检查项**: - [ ] 最脆弱的用户使用时是否安全? - [ ] AI 是否制造了不健康的情感依赖? ## 5. 正义论 (Rawls) **核心问题**: 最不利者是否受益? **产品映射**: - "无知之幕"测试: 不知道自己身份时,愿意接受这个 AI 吗? - 差异原则: 不平等只在有利于最弱势者时才可接受 **检查项**: - [ ] 不同社会经济群体是否平等受益? - [ ] 如果你是被评估者而非评估者,你接受这个算法吗? ## 6. 能力方法 (Sen / Nussbaum) **核心问题**: 是否扩展了人的自由与能力? **产品映射**: - AI 是增强用户能力还是制造依赖? → 自主性审查 - 关注"人能做什么"而非"人拥有什么" **检查项**: - [ ] 长期使用后用户的独立能力是提升还是退化? - [ ] AI 是否为用户提供了学习和成长的路径? --- ## 思想实验工具箱 | 实验 | 问题 | 适用场景 | |------|------|----------| | **无知之幕** | 不知道自己是谁,你接受这个设计吗? | 评分/推荐/筛选系统 | | **报纸测试** | 上新闻头条会尴尬吗? | 任何面向公众的 AI | | **规模测试** | 10 亿人都用,世界更好还是更差? | 社交/内容/推荐系统 | | **脆弱者测试** | 最脆弱的用户安全吗? | 聊天/咨询/医疗 AI | | **时间旅行测试** | 10 年后回看,骄傲还是后悔? | 数据收集/模型训练策略 | | **可替代性测试** | 去掉 AI 用规则/人工能解决吗? | 任何 AI 功能立项 |