加拿大移民局因AI虚构工作描述拒签科学家移民申请
加拿大移民局在审核一名拥有衰老免疫学博士学位的科学家移民申请时，其使用的生成式AI系统产生了“幻觉”，将申请人的实际科研工作错误描述为电路组装和机器人编程等职责。基于这一虚构的工作内容，移民局以申请人实际职责与声称经验不符为由拒绝了申请。尽管律师对此表示震惊，移民局方面坚称最终决定仍由人类官员做出，AI仅作为辅助工具。
事件概述
加拿大移民局在处理移民申请过程中，利用生成式人工智能（AI）进行辅助审查，却因AI系统的“幻觉”问题导致了一起错误的拒签案例。
核心事实
- 申请人背景：一位在加拿大从事医疗健康领域科研工作的科学家，持有衰老免疫学博士学位。
- AI错误描述：系统生成的工作描述将申请人的科研职责错误地表述为“连接和组装控制电路、装配控制和机器人面板、编程和故障排除”。
- 拒签理由：移民局依据上述虚构的职责描述，认定申请人的实际工作职责与其声称的加拿大工作经验不符，从而拒绝申请。
- 官方回应：加拿大移民局表示，生成式AI并未直接参与最终决策，该决定是由人类官员在审查后做出的。
值得关注
此事件凸显了生成式AI在关键行政决策辅助应用中存在的风险，即模型可能编造不存在的细节（幻觉），进而导致对事实的误判。尽管官方强调人类官员拥有最终裁量权，但AI提供的错误信息显然影响了审查过程。