为人工智能制定道德准则
2018年12月17日 08:31 来源:《中国社会科学报》2018年12月17日第1597期 作者:本报记者 李玉洁

  在人类未来的生活中,人工智能将扮演何种角色一直是各界讨论的焦点。乐观派认为,人工智能正深刻改变着人类的生活,人类社会将朝着一个美好的“智能时代”发展。悲观派却对人工智能是否可控、会否最终主导人类事务,以及该如何为人工智能制定伦理法则等问题忧虑重重。12月10日,美国民调机构皮尤研究中心发布《人工智能与人类未来》报告。这份针对979名技术开发人员、企业高管、政策领袖、学者进行调查后得出的分析报告引发了多方关注。

  期待与担忧交织

  尽管受访者对人工智能的不利方面表现出担忧,但报告显示有63%的受访者相信在2030年大多数人会因人工智能而生活得更好,仅有37%的受访者持相反观点。人们预测,人工智能可以提升人类的工作效率,应用于交通、建筑等领域的智能系统将为人们节约时间和金钱,并为人们在未来打造一种更加定制化的生活方式。很多对人工智能持乐观态度的受访者关注医疗行业,希望利用人工智能来诊治疾病或看护老人。同时,他们也热衷于讨论在更广泛的公众健康项目中如何发挥人工智能的作用。未来,这些基于海量数据而建立的项目可以收集每个人的所有健康信息,包括基因、营养状况等。此外,一些专家也预测人工智能将改变未来教育。

  另一方面,受访者对于人工智能的担忧则主要集中于以下几点:一是人们可能会失去对自己生活的控制。数字工具对人类决策行为的影响越来越大,人们在利用这些工具的同时,往往牺牲了独立、隐私和做选择的权利。二是数据被滥用的风险剧增。大多数人工智能相关数据的使用权和监管权都掌握在以营利为目的的企业手中,社会价值和道德伦理常常遭到企业有意或无意的忽视。三是人工智能将扩大经济鸿沟,导致失业问题,甚至引发社会动乱。四是人们过度依赖人工智能,独立思考的能力将受到侵蚀,认知、社交和生存能力也会降低。五是自主武器、网络犯罪和武器化信息将破坏人类社会的稳定,传统社会的政治结构受到冲击,并可能由此导致巨大的生命损失。

  技术发展必须符合人类价值观

  对于应该如何看待人工智能的快速发展这一问题,“人类与人类价值观”是受访者谈论较多的词汇。当面临失控风险的人工智能和技术革命开始威胁到人类自身生存之时,如何反思自我、提升自我和重建自我是人类必须正视的问题。

  美国麻省理工学院数字经济计划主任埃里克·布莱恩约弗森(Erik Brynjolfsson)称,人工智能及相关技术在过去数年中发展迅速,并很可能在2030年前就出现相当显著的飞跃。人工智能应被用来消除全球贫困、减少疾病、为所有人提供更好的教育。但人工智能也可能加速财富和权力的集中,甚至制造出更可怕的武器。既然这两种结果都是不可避免的,那么正确的问题不是“将会发生什么”,而是“我们将选择做什么”。因此,人类必须积极努力,以确保技术符合我们的价值观。这需要政府、企业界、学术界、公众个体都积极行动起来。

  美国圣母大学管理系教授詹姆斯·奥罗克(James O’Rourke)说:“自有历史记载以来,技术基本上都是一个中立概念,其价值总是取决于如何应用。人工智能和其他先进技术将被用于何种目的?从火药、内燃机引擎到核裂变,所有技术都被用作建设性或破坏性目的,因此答案完全取决于我们或者我们的子孙。”

  美国华盛顿大学信息学院计算机科学教授巴蒂亚·弗里德曼(Batya Friedman)表示,在未来,科技有可能逾越人类的道德底线。比如在自动化战争中,遥控使用自动化武器杀死敌人,会导致人们缺乏责任感。因此,当前至关紧要的问题并不是人类想生活在什么样的社会,而是如何在未来社会体现我们的人性。

  合理应用人工智能

  在报告中,受访者除了表达对人工智能的担忧,也提出了三种合理应用人工智能的方案。

  一是加强跨国界的、利益攸关方团体的合作。推进数字合作为人类带来最佳效益是最应优先考虑的事项,全世界必须达成共识来寻求解决方案。人们应该联合起来,推动那些被广泛接受的创新,并让复杂的数字网络始终处于可控状态。

  二是制定政策帮助人类确保技术符合社会和道德责任,确保人工智能由人类掌控并造福人类。在这个过程中,引入一些新的法规和认证程序十分必要。

  三是改善经济和政治体制,以扩展人类的能力,提升人类的境界,让人类在与人工智能的竞争中保持独特优势。

  究竟该如何面对人工智能,目前人类还处于摸索阶段。正如美国弗吉尼亚理工大学IT安全实验室主任兼首席信息安全官兰迪·马辰尼(Randy Marchany)所言,到2030年,在与人类的互动中,人工智能还将处在“婴儿期”。人工智能需要像人类一样去“上学”。虽然人工智能积累了各类海量数据,但还需要通过“道德操守培训”才能做出好的决策,就像儿童需要学习各类道德准则一样。

责任编辑:刘远舰
二维码图标2.jpg
重点推荐
最新文章
图  片
视  频

友情链接: 中国社会科学院官方网站 | 中国社会科学网

网站备案号:京公网安备11010502030146号 工信部:京ICP备11013869号

中国社会科学杂志社版权所有 未经允许不得转载使用

总编辑邮箱:zzszbj@126.com 本网联系方式:010-85886809 地址:北京市朝阳区光华路15号院1号楼11-12层 邮编:100026