用算法筛选审稿人可靠吗?
2024年05月22日 09:18 来源:《中国社会科学报》2024年5月22日第2896期 作者:练志闲/编译

  本报综合外媒报道 《自然》杂志官网近日发文称,按照声誉对同行评议审稿人进行排序的算法可用于寻找和筛选审稿人,但也有人质疑该工具是否会存在偏见,对缺乏经验的审稿人或某些地区的审稿人不利。这种算法根据审稿人所评议研究的引用次数来判断审稿人的声望,并进行排名。该工具的设计者表示,它可以在同行评议期间辅助确定哪些论文可能成为高影响力论文,作者也能通过这个工具判断哪些审稿人的建议和反馈需要重视。

  研究人员从美国物理学会期刊1990年至2010年间发表的308243篇论文中提取了引用数据。由于无法获得这些论文的审稿人信息,研究人员使用算法创建了假想审稿人,这些假想审稿人根据算法对论文进行假想评分,研究人员比较了假想评分与论文实际得分的相关性。为了给假想审稿人排名,研究人员追踪了这些论文的被引次数,并检查了它们获得的假想评分。如果假想审稿人给论文打了很高的分数,而这些论文后来又获得了大量的引用,那么这些假想审稿人就会获得较高排名。随后,作者测试了相同假想审稿人评议的论文在第二个十年被引数量方面的结果,结果显示,假想审稿人的评价与这些论文在第二个十年的实际被引次数相符,这表明该算法能够预测高影响力论文。

  这个工具由于过于依赖引用指标而广受批评,批评者认为,引用指标加剧了学术界本就存在的偏见。研究人员承认关注引用指标有局限性,但他们表示评估审稿人的工作也很重要。扎实的研究有时会因为审稿人的负面评论而被拒绝,但人们很少关注审稿人的专业性和可靠性。如果这种算法能识别出可靠的审稿人,那么就会降低不专业审稿人的权重。期刊编辑通常需要手动确定审稿人选,如果对审稿人的声誉进行量化和排名,期刊编辑就能更容易地做出选择。

  加州大学圣地亚哥分校信息科学家阿妮塔·班德罗夫斯基(Anita Bandrowski)说,根据审稿人的声誉进行排名很可能会加剧同行评议中存在的不公平和偏见。科学领域同行评议过程的大部分责任都落在了一小部分审稿人身上,他们通常是高收入国家的高级职位男性,在地理位置上与大多数期刊编辑更加靠近。班德罗夫斯基认为,这种算法还可能会偏向于那些审稿经验丰富的审稿人,因为他们从事这项工作的时间较长,有更多的时间来积累评议论文的被引次数。她说,按照这个标准,最年长的审稿人就会是最好的审稿人。

  不过,研究人员并不认同这种方法会使审稿人的选择比现在更为不公,因为实施声誉排名后,编辑可能会发现一些不经常受邀的审稿人声誉得分很高,在某些情况下甚至比那些被大量评议请求淹没的审稿人声誉得分更高。

  英国物理学会出版社评议参与部经理劳拉·费瑟姆-沃克(Laura Feetham-Walker)担心这种算法可能没有考虑到增量研究、负面研究结果和重复性研究,尽管这类研究的引用率不高,但是对科学至关重要。她说,在这种排行体系中,如果审稿人对增量研究给予了积极的推荐,那么该审稿人声誉排名就会下降,原因很简单,因为该稿件发表后不太可能获得大量引用。该排名也不考虑从未审过稿的研究人员,或者从未为特定出版商审过稿的研究人员。费瑟姆-沃克表示,审稿人能否提供有效的审稿意见不仅取决于专业知识,还要看他们是否有时间、是否对主题感兴趣,算法需要更为精细,尽可能考虑到所有因素,帮助期刊增加新的审稿人选、丰富审稿人数据库。

  (练志闲/编译)

责任编辑:张晶
二维码图标2.jpg
重点推荐
最新文章
图  片
视  频

友情链接: 中国社会科学院官方网站 | 中国社会科学网

网站备案号:京公网安备11010502030146号 工信部:京ICP备11013869号

中国社会科学杂志社版权所有 未经允许不得转载使用

总编辑邮箱:zzszbj@126.com 本网联系方式:010-85886809 地址:北京市朝阳区光华路15号院1号楼11-12层 邮编:100026