避免对算法的过度依赖
2021年04月19日 10:23 来源:《中国社会科学报》2021年4月19日第2149期 作者:

  本报综合外媒报道 一项研究显示,随着任务难度的增加,人们更倾向于信任算法而非其他人的建议。

  美国佐治亚大学官网近日报道称,《科学报告》期刊4月13日刊发了美国佐治亚大学特里商学院教授瑞克·沃森(Rick Watson)、助理教授艾伦·谢克特(Aaron Schecter)等人合著的论文《任务难度上升时人们依赖算法多于依赖社会影响》。研究人员通过三个实验,初步考察了人们在哪些情况下作决策会更依赖算法而非社会影响。

  产生于人际网络、社交媒体、线上评价的社会影响对个人决策影响巨大。然而近年来,人们在日常作决策时越来越依赖算法给出的建议。算法能够执行的任务快速增加,甚至开始涉足传统意义上需要人类判断的任务。

  在一个实验里,研究人员要求参与者数出一张照片中出现的人数,同时提供给他们另一组人和算法的建议。随着照片中的人数越来越多,任务变得越来越难,参与者越来越倾向于听取算法的建议,而非亲自数或听取其他人的建议。另外两个实验则显示,即使在控制建议质量、参与者的算术能力、参与者可用的建议来源是否唯一这些因素后,参与者对算法的依赖性也会随着任务难度增加而上升。

  研究人员表示,数人数是人们认为计算机擅长的任务,这类任务或许不含有偏见风险,但对于信用卡或贷款申请审核、求职者筛选等任务而言,由于算法在设计过程中对社会性因素考虑不足,算法决策的结果很可能具有歧视性。因此,了解人们何时依赖算法作决策、如何使人和算法“相互信任”很重要。

  (王悠然/编译)

责任编辑:崔岑
二维码图标2.jpg
重点推荐
最新文章
图  片
视  频

友情链接: 中国社会科学院官方网站 | 中国社会科学网

网站备案号:京公网安备11010502030146号 工信部:京ICP备11013869号

中国社会科学杂志社版权所有 未经允许不得转载使用

总编辑邮箱:zzszbj@126.com 本网联系方式:010-85886809 地址:北京市朝阳区光华路15号院1号楼11-12层 邮编:100026