“电车难题”的“道德物化”解法
2020年09月01日 09:46 来源:《中国社会科学报》2020年9月1日第2001期 作者:王前

  近些年来,“电车难题”引发了学术界的各种讨论。作为一个思想实验,其内容大致是:一个疯子把五个无辜的人绑在电车轨道上,一辆失控的电车朝他们驶来,很快就要碾压到他们,但是你可以拉一个拉杆(扳道岔),让电车开到另一条轨道上。问题在于,那个疯子在另一个电车轨道上也绑了一个无辜的人。考虑以上状况,你应该怎样做?“电车难题”是英国哲学家福特(Philippa Foot)于1967年在一篇论文中提出的,用以质疑功利主义伦理学。因为功利主义伦理学的原则是“为最多的人提供最大的利益”,这样就需要牺牲一个人的生命来挽救五个人的生命。可是,义务论伦理学主张人是目的,而不是工具,不能简单地认为五个人的生命比一个人的生命更重要。如果一个可以控制拉杆(扳道岔)的人,因为自己的行为导致无辜的人死亡,无论死五个人还是一个人,都是有道德缺陷的。甚至他无所作为也不道德,因为这等于他放任这些人面临死亡。“电车难题”提出后,又出现了不少类似版本,都创设了无论选择怎样做都存在道德缺陷的情景。

  随着人工智能无人驾驶技术的发展,“电车难题”重新引起热议。如果在这种情况下,无人驾驶的电车应走哪一条轨道,事先需要如何设定程序?再进一步设想,如果无人驾驶汽车行驶途中出现意外情况,不能兼顾乘客安全和车外行人安全时,人工智能系统应如何进行决策?人工智能背景下的“电车难题”又增加了一些新的变数,问题似乎更难解决。

  “电车难题”的关键在于面临的是“非此即彼”的选择,这是典型的“二元对立”的思维方式的产物。如果能够创造出第三种选择的可能性,事情就可能存在转机。但这第三种选择,需要将处理“人”的问题转换成处理“物”的问题。这也可以视为一种“道德物化”的选择,即对“某物”进行特定设计或安排,使人们可以通过操作该物来实施道德行为。当然,这种理解要比维贝克(P. P. Verbeek)等学者的“道德物化”观念更宽泛些,但本质是一样的。

  在初始版本的“电车难题”中,那个可以控制拉杆(扳道岔)的人,如果不是将拉杆推拉到底(使电车可以通过道岔驶入某一条轨道),而是拉到某种中间状态(只扳开一部分道岔),使电车的轮子会被卡在这里不能行进,同时又不至于造成侧翻,就不会压死轨道上的任何人,也不会伤到电车里的人。这样做实际上相当于在轨道转弯处制造了一个“温和”的路障,使电车无法过去,避免了危险的发生。“电车难题”的这样一种解法,关键在于通过反向改变“物”的功能以达到救人的目的。“电车难题”中设定的拉杆显然是手动道岔,正常情况下推拉不到位是故障,但在特殊情况下恰好要制造出故障才能够控制电车的行进,这就是“反其道而行之”。“电车难题”中设计了一个可控环节(扳道岔),这就为从“道德物化”的角度解决问题留下了余地。

  人工智能背景下的“电车难题”已取消了最初的手动道岔的情节,变成了人工智能系统如何进行道德决策的问题,但仍具有“二元对立”的思维方式的特征。在设计人工智能决策系统时,如果面临“非此即彼”的两种选择都存在道德缺陷时,需要保留进行第三种选择即“道德物化”的可能性。这就意味着人工智能系统的设计要考虑“三值逻辑”,在“非此即彼”之外能够选择第三种方案。无人驾驶汽车如果遇到突发情况时处理不当,比如在前面突然有行人出现时径直撞上去,或是为避让行人而伤害到车里的乘客,都存在道德缺陷,都是不可行的。那么第三种选择在哪里?这就是通过引进一些新的人工智能机制、机能、方法,避免这些情况发生。比如,通过物联网的监控系统提前发现前方的异常情况,在出现类似“电车难题”的情形时自动停车或自动关闭前方道岔(当然,这需要一个适应无人驾驶汽车路况的高度智能化的物联网系统);在快速行驶过程中如果突发紧急情况,可以考虑对车外行人和车内乘客都采用自动弹出类似“气囊”原理的装置(用弹性气体缓冲)减轻损害程度等。无人驾驶汽车在设计时就应考虑包含适合道德选择的装置,通过人工智能实现“道德物化”。总之,要创造第三种方案,才能够超出“二元对立”模式,找到新的解决思路。

  从“道德物化”的角度来解决“电车难题”,比如用拉开一半道岔的办法,用引进新的人工智能装置的办法,意在体现从有机联系、灵活变通的方面思考解决伦理问题的必要性和可能性。在现实生活中,像“电车难题”设定的“非此即彼”的道德选择是罕见的,绝大多数情况下都存在第三种或者更多解决问题的办法,需要运用实践智慧,进行创造性的思考和决断。中国传统文化讲“中庸之道”,亚里士多德讲“中道”,都是要避免走极端。但是这里的“中”不是数量上的中点,而是第三种更合适的灵活选择。“电车难题”的“道德物化”解法,就是这样一种思路。

  (作者单位:大连理工大学人文与社会科学学部)

责任编辑:张晶
二维码图标2.jpg
重点推荐
最新文章
图  片
视  频

友情链接: 中国社会科学院官方网站 | 中国社会科学网

网站备案号:京公网安备11010502030146号 工信部:京ICP备11013869号

中国社会科学杂志社版权所有 未经允许不得转载使用

总编辑邮箱:zzszbj@126.com 本网联系方式:010-85886809 地址:北京市朝阳区光华路15号院1号楼11-12层 邮编:100026