强化生成式AI新闻的把关治理
2024年03月06日 10:53 来源:《中国社会科学报》2024年3月6日第2846期 作者:张慧娟

  新技术的诞生和应用在一定程度上为新闻生产与传播打开新的想象空间,自从新闻业融入人工智能技术后,这种变化尤为明显。“生成式人工智能”(即生成式AI)已深刻影响社会生活的各个方面。在新闻传播领域,它已经逐渐改变着新闻的生产、传播与消费方式,进而作用于人们的社会交往行为。

  近两年,生成式AI进一步突破以往人工智能技术的运用形式,全面超越原有的数据分析能力,基于现有的文字、图像、音视频等基础数据,通过构建复杂的算法、规则、模型进行深度学习,可以创造出全新的原创内容。鉴于其所具备的流畅的文字语言表达能力和自洽的逻辑思维能力,生成式AI驱动形成新的新闻业态。同时,它也使得新闻业需要直面新挑战。

  引发内容供给侧变革

  生成式AI问世之前,人工智能技术虽然已经在社会经济工作的多个领域得以广泛应用,但此前的AI模型大多基于既有的程序设定完成单一任务指令。而生成式AI以生成式预训练转换器为基础来构建AI数据模型,通过大规模数据加以训练,使用深度学习技术创作出模仿式、缝合式的全新内容。这种大模型在海量通用数据上进行训练,能够大幅提升AI适用场景的普遍性和实用性。借助强大的算力和精确的算法设计,生成式AI能够将文字、图像、音视频等信息内容进行快速编辑、处理并生成新的内容,也就是人工智能生成内容(AIGC)。除此之外,以人工智能研究公司Open AI推出的ChatGPT为代表的聊天机器人模型还能够与用户展开交互式对话,使得用户通过“人机对话”获取交互式新闻成为现实。

  在生成式AI快速渗透下,新闻生产与传播过程再次面临转向。一方面,经过大量数据训练的生成式AI具备较强的信息收集和整理能力,能够帮助新闻媒体和记者及时捕捉新闻线索并快速生成符合新闻写作规范的消息类稿件。通过在互联网上读取数据并进行语义理解,生成式AI能够在一定程度上识别新近发生的事件的新闻价值,并快速形成一篇完整的新闻报道。这一过程可以取代过去全部由新闻记者完成的“发现线索—核实线索—采访/编辑—写作成稿”的生产过程,短时间内生成丰富的新闻信息,新闻生产效率得以大幅提高,新闻信息的时效性大为增强。例如,专注财经新闻报道的媒体《每日经济新闻》研发的“雨燕智宣”就是基于垂类大模型训练后实现输出文本、短视频合成、多平台分发等功能的AI短视频生成平台,目前已实现在多个细分场景下每日生产视频2000条以上。另一方面,具有对话功能的大语言模型使得用户在获取新闻信息过程中充分发挥主动权,无论是对新闻事件基本要素的全面认知,还是对事件某一角度的具体细节展开详细了解,都可以通过“用户提问—大模型回答”的交互方式展开,“人机对话新闻”的生产过程赋予用户前所未有的交互体验。用户可以就其所撰写的新闻稿相关的细节提出新的问题,大模型经过数据搜索、分析、自动生成回答内容,进一步丰富完善信息文本。这些作答内容都指向用户提出的精准需求,相当于向用户提供更具个性化的定制新闻,从而使新闻报道从过去的“千人一面”转向“千人千面”。

  亟待解决的现实问题

  目前,生成式AI正在不断迭代,在正确把握其技术优势的同时,也要充分认识到技术日益进步与功能日臻完善并不能掩盖其缺陷。随着生成式AI在新闻业被更广泛应用,由其带来的风险也成为行业不得不面对的问题。其中,新闻失实乃至虚假新闻将对社会运行带来严重影响。

  真实性是新闻的生命。新闻真实既包括宏观的整体的真实,也包括微观的局部的真实。新闻工作者对新闻真实性的追求应先于时效性、重要性、贴近性等其他新闻价值。确保新闻真实,必须要通过事实核查,进行严格审慎把关,新闻记者开展的调查采访是确保新闻报道真实性的最有效途径之一。

  而生成式AI新闻经由大语言模型抓取互联网数据自动化生成,其底层数据来源难以详尽追溯,一旦数据精度不足,将可能导致新闻失真。面对真假杂糅、虚实结合的新闻信息,即使客观真实的内容也很难获得受众信任。同时,一些大模型具备较强的模仿能力,从思维方式到表达方式都表现出较高的拟真度,应用在新闻生产中,能够生成与官方公文、新闻通稿极其相似的稿件,加之经过深度学习的大语言模型具备一定的逻辑思维能力,在真实数据缺失的情况下,仍有能力创作出合乎情理的虚构的“真实”。因为底层数据信息的严重不对等,公众很难辨别个中虚实,对虚构的“真实”信以为真,将使公众对客观世界的认识变得模糊或产生偏差。此外,生成式AI尚不具备对所生成内容校验真伪的能力、当“人机协作”进行新闻生产时,非专业人员进行事实核查与内容把关的意识不强、能力不足将使得虚假新闻产生的可能性不断加大。特别是假新闻制造者将近几年的社会热点新闻中的要素信息修改编辑后,形成了一篇看上去具有较高可信度的“报道”,更容易混淆公众视听。

  随着越来越多的大模型在新闻生产中的使用和普及,网络空间充斥大量生成式AI新闻,将在客观上对经过严密事实核查的真实新闻传播带来一定影响。

  强化审核把关机制

  新闻传播领域的“把关人”理论强调对信息的采集、加工与控制。在数字化与智能化的驱动下,新闻信息从过去仅由专业机构生产传播转变为“人人手握麦克风”、全员皆可参与生产传播。融入生成式人工智能技术后,人类与机器协作共创的合作关系越发突出,新闻生产的门槛进一步降低,公众的参与度和创作自由度有所提高。而新闻生产环节专业性的部分消解,意味着亟待强化对内容的把关与审查,以此加强对虚假新闻生产传播的治理。

  一是有必要构建事实核查大模型,善用技术力量治理技术难题。当前,新闻媒体进行新闻事实核查主要依靠记者对当事人开展深入调查采访以及对多个信源进行交叉验证,确保新闻信息的真实客观。但这种方式需要投入大量人力并消耗大量时间,种种弊端凸显。面对生成式AI带来的网络空间过载的信息,以传统方式进行事实核查显现出新闻媒体等专业组织的力有不逮。因此,有必要利用权威数据与智能技术建立事实核查的智能模型,对虚假新闻进行探测和甄别,以此提高事实核查的效率,并尽力提升结果的客观性。

  二是需要强化行业自律,让新闻从业人员时刻绷紧“把关人”这根弦。信息在网络空间进行超链接传播的时代,对点击率数据的片面追求、对流量变现的狂热追逐导致新闻失实甚至虚假新闻在经济利益的驱使下频频出现。面对生成式AI新闻在时效性、交互性等方面表现出的竞争优势以及生成式AI新闻提供的宽泛的信息线索,专业化的新闻媒体及从业人员更需要秉持新闻真实性原则,在使用生成式AI辅助生产信息之前务必进行更加高效透明的核查,从而牢固树立新闻媒体的权威性和公信力。同时,专业化的新闻媒体更应当充分发挥自身固有优势,提升新闻报道的内容价值,以此扩大影响力。

  三是应当倡导社会公约,引导专业新闻从业人员和公众对新闻信息生产形成“共同负责制”。由于数字技术的赋权,互联网用户如今能够比较深入地介入新闻生产,而这种生产模式的开放性特征可能会进一步增加信息质量把控的难度,需要新闻媒体、专业从业人员和参与信息生产的公众共同承担确保新闻质量的使命。因此,有必要通过倡导推动社会公约的形成,重塑多元生产者的主体意识,既倡导信息生产遵循真实、客观的原则,也促进网络用户积极参与对失实新闻信息的纠错。新闻机构应加强与用户的联系并鼓励用户对信息进行反馈,同时加强平台管理。

  面对生成式AI的蓬勃发展,新闻行业在合理运用之余应充分认识其中的风险并建立起有效的应对机制。新闻媒体从业人员更应当坚持求真求实的职业操守,真正遵循“澄清谬误、明辨是非”的使命要求。

  (作者系中央广播电视总台财经节目中心主任编辑、中国人民大学新闻学院博士研究生)

责任编辑:崔博涵
二维码图标2.jpg
重点推荐
最新文章
图  片
视  频

友情链接: 中国社会科学院官方网站 | 中国社会科学网

网站备案号:京公网安备11010502030146号 工信部:京ICP备11013869号

中国社会科学杂志社版权所有 未经允许不得转载使用

总编辑邮箱:zzszbj@126.com 本网联系方式:010-85886809 地址:北京市朝阳区光华路15号院1号楼11-12层 邮编:100026