AI招聘：机遇与风险并存，EEOC委员警示数据偏见
2021/10/29 07:18阅读量 8
AI在招聘中的应用日益广泛，但若未谨慎实施，可能引发大规模歧视。美国平等就业机会委员会（EEOC）委员Keith Sonderling在AI World Government会议上强调，必须防范算法因训练数据偏见而复制或放大历史上的就业歧视，并呼吁企业采用公平性审查工具。
事件概述
AI技术已广泛用于撰写职位描述、筛选简历和自动化面试流程。但EEOC委员Keith Sonderling指出，如果缺乏对数据偏见的严格控制，这些系统可能加剧歧视，违反就业平等法规。
核心信息
- 歧视风险来源：AI模型通常基于历史招聘数据训练，若历史数据包含性别、种族等偏见（例如男性候选人占优），模型会学习并固化这些偏见。Sonderling引用亚马逊曾因算法歧视女性而废弃招聘工具为例。
- 责任与监管：EEOC已发布指导原则，要求雇主对AI招聘工具进行独立审计，确保其不会对受保护群体产生差异影响。企业不能仅依赖供应商声称的“公平性”，需主动测试并验证模型在不同人群中的表现。
- 补救措施：建议采用“差异化影响”分析方法（disparate impact analysis），定期检查候选人的通过率是否因种族、性别等存在统计显著差异。若发现偏差，必须重新训练模型或调整权重。
值得关注
Sonderling特别提醒：即便AI系统设计初衷是“盲目”不可见敏感属性，但其他替代变量（如邮政编码、教育背景）仍可能间接关联到种族或性别，导致隐性歧视。法律要求雇主对所有招聘决策（包括AI做出的）承担最终责任。