本报综合外媒报道 一项最新研究显示，值得信任的自主系统设计需在社会各界利益相关方的意见指导下进行。

　　美国得克萨斯大学奥斯汀分校官网近日发布报道称，该校航空航天工程与工程力学系助理教授乌夫克·托普丘（Ufuk Topcu）与美国亚利桑那州立大学全球安全倡议执行主任娜迪亚·布利斯（Nadya Bliss）等学者在报告《确保的自主：与我们可以信任的自主系统共生的道路》中提出，自主系统的技术缺陷不容小觑，因为它有违反法律或道德的潜在风险。未来自主系统的设计和管理应处在科学、技术、社会、政策和治理的交叉地带。

　　娜迪亚·布利斯谈到，从航天器、医疗、汽车到城市规划，自主系统正影响着社会的方方面面，但自主系统的安全性、稳定性以及对自主系统的监管尚未引起足够的重视。人们应采取措施，促进人类与人工智能的和谐共处。自主系统对个人、群体甚至整个文化都具有重要影响，包括人文科学、社会科学、行为科学在内多个学科的专家应共同努力，避免新技术造成不良后果。

　　报告建议，创建一个研究网络以使研究人员能够方便地分享想法，并最终建立一个监管和质量保障框架，作为未来自主系统研发的基础。报告呼吁制定旨在确保自主系统可信赖的国家性研究战略，使得政府、学术界、产业界和其他利益相关方都参与其中。得克萨斯大学奥斯汀分校学者艾莉森·R.普雷斯顿（Alison R. Preston）认为，应在自主技术、人工智能技术的设计阶段关注新技术的潜在价值，降低技术投入应用后产生意外负面后果的可能性。

　　（李遇/编译）