87 lines
2.9 KiB
Markdown
87 lines
2.9 KiB
Markdown
# 六大伦理框架与产品设计映射
|
||
|
||
## 1. 义务论 (Kant)
|
||
|
||
**核心问题**: 行为本身是否正当?
|
||
|
||
**产品映射**:
|
||
- 无论结果好坏，AI 都不应欺骗用户 → 强制 AI 身份披露
|
||
- "如果所有 AI 都这样做，世界是否可接受?" (可普遍化测试)
|
||
|
||
**检查项**:
|
||
- [ ] AI 是否在任何情况下都如实告知自身身份?
|
||
- [ ] AI 是否存在隐性操纵行为 (即使"为了用户好")?
|
||
|
||
## 2. 功利主义 (Mill)
|
||
|
||
**核心问题**: 总体福祉是否最大?
|
||
|
||
**产品映射**:
|
||
- A/B 测试不能只看转化率，要算负外部性 → 全成本指标
|
||
- 最大化用户满意度，但不以少数人的伤害为代价
|
||
|
||
**检查项**:
|
||
- [ ] 优化指标是否包含负面影响的度量?
|
||
- [ ] 是否计算了对非用户群体的外部影响?
|
||
|
||
## 3. 美德伦理 (Aristotle)
|
||
|
||
**核心问题**: 这个 AI 展现什么品格?
|
||
|
||
**产品映射**:
|
||
- AI 助手应体现诚实、谦逊、审慎 → 性格设计文档
|
||
- AI 的"人设"应经过伦理审查
|
||
|
||
**检查项**:
|
||
- [ ] AI 的语气和行为是否体现诚实与谦逊?
|
||
- [ ] AI 是否在不确定时主动表达不确定性?
|
||
|
||
## 4. 关怀伦理 (Noddings)
|
||
|
||
**核心问题**: 是否回应了脆弱者的需求?
|
||
|
||
**产品映射**:
|
||
- 弱势用户 (老人/残障/低教育) 是否被充分考虑 → 无障碍审查
|
||
- 关系型设计: AI 与用户的关系是否健康?
|
||
|
||
**检查项**:
|
||
- [ ] 最脆弱的用户使用时是否安全?
|
||
- [ ] AI 是否制造了不健康的情感依赖?
|
||
|
||
## 5. 正义论 (Rawls)
|
||
|
||
**核心问题**: 最不利者是否受益?
|
||
|
||
**产品映射**:
|
||
- "无知之幕"测试: 不知道自己身份时，愿意接受这个 AI 吗?
|
||
- 差异原则: 不平等只在有利于最弱势者时才可接受
|
||
|
||
**检查项**:
|
||
- [ ] 不同社会经济群体是否平等受益?
|
||
- [ ] 如果你是被评估者而非评估者，你接受这个算法吗?
|
||
|
||
## 6. 能力方法 (Sen / Nussbaum)
|
||
|
||
**核心问题**: 是否扩展了人的自由与能力?
|
||
|
||
**产品映射**:
|
||
- AI 是增强用户能力还是制造依赖? → 自主性审查
|
||
- 关注"人能做什么"而非"人拥有什么"
|
||
|
||
**检查项**:
|
||
- [ ] 长期使用后用户的独立能力是提升还是退化?
|
||
- [ ] AI 是否为用户提供了学习和成长的路径?
|
||
|
||
---
|
||
|
||
## 思想实验工具箱
|
||
|
||
| 实验 | 问题 | 适用场景 |
|
||
|------|------|----------|
|
||
| **无知之幕** | 不知道自己是谁，你接受这个设计吗? | 评分/推荐/筛选系统 |
|
||
| **报纸测试** | 上新闻头条会尴尬吗? | 任何面向公众的 AI |
|
||
| **规模测试** | 10 亿人都用，世界更好还是更差? | 社交/内容/推荐系统 |
|
||
| **脆弱者测试** | 最脆弱的用户安全吗? | 聊天/咨询/医疗 AI |
|
||
| **时间旅行测试** | 10 年后回看，骄傲还是后悔? | 数据收集/模型训练策略 |
|
||
| **可替代性测试** | 去掉 AI 用规则/人工能解决吗? | 任何 AI 功能立项 |
|