算法或可帮助解决系统性偏见问题
2024年06月19日 15:39 来源:《中国社会科学报》2024年6月19日第2915期 作者:赵倩

  本报综合外媒报道 近日,美国哈佛大学艺术与科学学院经济学系专家阿什什·兰巴坎(Ashesh Rambachan)在《经济学季刊》上发表最新研究称,用算法取代某些司法决策功能可以消除法官在审理案件中可能存在的系统性偏见,从而推动司法公正。

  文章指出,当前,在很多情况下,决策者需要根据对未知结果的预测做出重要选择。尤其是法官,他们要决定被告人是否可以获得保释,或者如何对被定罪的人进行判决。一些公司已经在高风险决策中使用基于机器学习的模型。在部署这些学习模型时,存在着对人类行为的各种假设。曾有其他研究对这些假设行为进行过统计检验,即决策者是否会犯系统性的预测错误,并开发出了一种评估他们的预测是否存在系统性偏差的方法。

  兰巴坎受到上述研究启发开始对美国纽约市审前制度进行深入分析。他发现,由于被告人的种族、年龄和前科行为等特征的披露,有相当一部分法官对被告人审前不当行为风险的系统性预测存在错误。

  兰巴坎在研究中使用了美国纽约市法官公开信息,这些法官被随机分配到轮班指定法庭的案件审理中,对被告人在未出庭的情况下做出释放决定进行分析。涉及的案件有1460462个,其中有758027个案件的被告人被提前释放。兰巴坎看到,在给定被告人特征的情况下,至少有20%的法官对被告人不当行为风险的系统性预测存在错误。至少有32%的法官的判决与被告人交付指定保释金的实际能力不一致。

  兰巴坎说,虽然用算法决策规则取代法官决策所产生的影响还未得到准确评估,但是它确实可以提高审判效率,出现系统性偏见的概率也会大幅减少。未来是否完全使用算法取代人类决策者,取决于人类是否会根据算法观察到自己所犯的系统性预测错误,以及算法在设计时是否对人类行为有深入的理解。(赵倩/编译)

责任编辑:崔博涵
二维码图标2.jpg
重点推荐
最新文章
图  片
视  频

友情链接: 中国社会科学院官方网站 | 中国社会科学网

网站备案号:京公网安备11010502030146号 工信部:京ICP备11013869号

中国社会科学杂志社版权所有 未经允许不得转载使用

总编辑邮箱:zzszbj@126.com 本网联系方式:010-85886809 地址:北京市朝阳区光华路15号院1号楼11-12层 邮编:100026