剖析认知操纵的运作机理及应对
2022年12月08日 09:39 来源:《中国社会科学报》2022年12月8日总第2547期  作者:徐明华 魏子瑶

  网络媒体作为当下思想文化碰撞、意识形态交锋的主战场,容易被以文化扩张为意图的认知操纵所裹挟。认知操纵,即操纵者依循目标受众的认知特点,利用各类手法对目标受众的认知过程施加影响,使其思想、心理和行为朝着操纵者预期的方向发展变化。一项针对推特110万条涉华政治推文的分析表明,30%的推文由发文量前100的账号集中发布,这些账号中,非但无一支持中国,甚至半数持明显反华立场;至少有71个账号依托自动化平台发布,使国际民众难以对中国形成客观认知。而在国内,各类社交平台出现了越来越多披着“理中客”论调外衣的谣言和假新闻,隐秘而持续地影响着民众的思想和态度。随着数智融合的转型升级,认知操纵发展出一套颇为典型的运作逻辑和实践手法。剖析解构认知操纵的作用机理,有助于切实应对舆论危机,对健全国家安全能力建设具有重要意义。

  制造信息迷雾 攻击认知黑洞 

  个体基于现实体验构建的社会认知通常具有局限性,作为重要补充来源的媒体叙事,也难以客观反映现实全貌,这其中的认知偏差便给了操纵者可乘之机。操纵者通常利用个性化数据分析,锁定不同受众的认知“黑洞”,再按预设方向和受众偏好生产操纵性信息,以此精准塑造受众在特定议题上的态度立场,最终借助算法分发快速完成价值观植入。探究这一操作的底层逻辑可以发现,攻击认知黑洞的操纵手法包括“双标叙事”和“以假乱真”,由此制造出的信息“迷雾”将对目标受众的态度和行为产生深远影响。

  惯用双标叙事。一些西方媒体为了宣扬自身文化和制度的优越性,习惯运用“双重标准”,选择性地报道不同国家的事件。在以负面报道低矮化、污名化竞争对手的同时,着力宣传本国的正面事件,避而不谈“阴暗面”。尤其是个别媒体鼓吹“疫情结束”而批判我国的“动态清零”政策。以美国推特平台为例,其故意限制我国的正面宣传而屏蔽美国的负面新闻,是“双标叙事”的典型实例。当地受众在屡次接触与其认知不符的操纵信息后,既有的价值信念会在自我质疑的循环中被逐渐颠覆。由此引发的政治信任撕裂和群众基础动摇成为社会安定的潜在威胁。

  制造以假乱真的信息。误导信息是有意扭曲隐瞒、强化偏见的真假混杂的信息。操纵者违背真实性原则炮制出的报道通常保留局部合理性,在受众的认知短板领域混淆视听,加大受众认知与社会事实之间的偏差。如一些国外媒体平台篡改中国史实、诋毁民族英雄的历史虚无主义论调,运用镜头语言和恶意剪辑扭曲真相的行为,利用深度伪造技术篡改合成音视频的事件,都是以假乱真的应用实例。误导信息一旦被接收,受众的错误认知将在推荐算法营造的“过滤气泡”中不断被固化。至此,认知与真相的割裂使民众的政治信念难以维系,极易引发其对本国制度道路的疑惑认知。

  渗透心理隔隙 击溃情感堤防 

  在有用信息稀缺和认知资源有限的当下,情境模糊性成为常态。特别是在社会危机出现、可靠信息闭塞时,认知上的不确定性将引发民众的情感焦虑。当社会情绪急需一个宣泄堤口时,操纵者便趁虚而入,运用“建构对立”“煽动情绪”等手法,挑拨人民内部以及人民与政府的关系。通过热点议题的情绪监测追踪,操纵者能够预估民众负面情绪爆发的临界点,借机传播夸大危害、移花接木的谣言。这些“莫须有”的负面认知极易引发恐惧、愤怒等情绪的共振循环,加大民众与政府之间的心理隔隙,不断动摇社会共识与价值认同。

  一是建构对立。一些报道和言论经过操纵,强化了非此即彼的二元叙事。这类话语将问题归咎于社会精英的同时,强调平民与精英的身份对立,激发民粹主义。民众的心理落差和被剥夺感在社会比较中被唤醒,在操纵逻辑下,弱者身份的自我认知也不断被强化。民粹主义驱动的非理性抗争话语不断挤压网络空间的正能量传播,消解社会包容与共识凝聚。

  二是煽动情绪。在缺乏理性思考的情况下,受众极易因受到情绪性信息的感染而产生情绪共鸣,却忽略了对信息真实性和情绪合理性的评判。操纵者抓住这一弱点,炮制并散布耸人听闻或令人义愤填膺的报道。这类风险话语煽动的负面情绪恰能迎合不确定性带来的焦虑。在西方策动的颜色革命中,情绪化的假新闻是集结暴力行动的重要导火索。操纵者以负面情绪牵引民众的注意力,通过质疑批判政府的执政能力,不断消磨着民众对政府的认同与信任。

  深潜信念系统 干扰解释框架 

  除了误导认知和调动情感,操纵者也会以特定的解释框架“侵蚀”受众既有的信念系统,在重塑思维逻辑的基础上施加影响。干预解释框架的典型手法包括“强加因果”和“从众诱导”。一些伪命题和错误逻辑经过叙事包装可能变得自洽,引导受众进行解释归因,即操纵者对受众“怎么想”进行框定。为了维持受众对解释框架的笃定,操纵者会配套释放立场一致的信息,以看似共识性的意见气候驱使受众确信“应该这么想”。操纵者形塑的框架一旦形成,民众便难以察觉和破解后续的逻辑陷阱,反而会坚信操纵内容的合理性。

  一是强加因果。面对纷繁复杂的社会问题,碎片化的信息接触使个体难以运用完整连贯的思维逻辑对事物作出评判。偏激观点或独到见解能将复杂的问题简单化,操纵者便利用这种认知惰性,将解释框架内隐于操纵信息中,使目标受众依循操纵者的思维逻辑进行信息加工。诸如将多个政策断章取义再关联起来进行片面曲解、伪造灾难性事件的复杂线索等做法,都是该手法的典型应用。经过操纵者的思维逻辑驯化,民众原有的意识形态建构将消融瓦解,社会共识难以凝聚。

  二是从众诱导。以社交机器人为代表的网络水军能够利用大规模并发行动,营造出一种虚假的集体认同。受从众心理驱使,目标受众会更加信服这些共识逻辑的合理性,向“多数意见”靠拢并更新认知基模。人机用户的互动群集化促使虚假共识规模发生进一步跃迁,提升了抵御“从众诱导”的认知门槛。虚假共识的氛围渲染会加剧非理性意见的极化趋势,由此引发的反智言论肆虐将对主流价值形成挑战。

  加快战略部署 抵御认知操纵 

  在现实场景中,不同的操纵手法往往被组合使用,由浅入深地扰动目标受众的认知、情感和思维。为了全面抵御认知操纵引发的价值共识消融,我国亟须开展认知防线的战略部署,多措并举,协同联动,统筹维护国家安全与社会稳定。

  强化通信保障。遍布互联网的数字足迹为认知操纵的目标定位和精准实施提供了支持。操纵者利用网络通信优势,调取各国民众的数据记录,构建用户画像,并个性化地生产推送操纵性信息,达到“精准打击”的目的。当下,我国在网络主权方面还处于被动局面,亟须通过网络信息基础设施的自主化建设,维护民众的通信数据安全。通过从源头上切断敌对势力的数据输入,有效削弱精准化认知操纵的“杀伤力”。

  制胜技术对抗。假新闻与谣言是操纵势力隐蔽伪装的“保护伞”,加之社交机器人的“类人化”声势辅助,致使现有的审核过滤机制失察,辟谣信息效能下降。通过挖掘底层技术逻辑,充分发挥智能技术算法在识别伪造信息、社交机器人等方面的优势,有望形成强有力的技术反制措施。同时,运用算法模型的可解释性,以更具说服力的论据揭露操纵思路,增强民众的防范意识。

  升级舆情监测。认知操纵的隐秘化与专业化运作趋势凸显,聚焦话题和情感的舆情监测已然无法满足认知操纵危机的预警功能。基于个体的意见表达特征,构建立场研判模型,有助于回溯认知操纵的传播路径并定位信息源。在风险预案的针对性和前瞻性提升方面,可通过开发攻防演练系统,模拟认知操纵的敌我博弈过程,借此总结切实有效的反操纵策略,在认知框架竞争中占优取胜。

  落实素养教育。开放互联的网络媒介环境使得民众与操纵性信息的偶遇渐趋频繁,由此激发的转发点赞行为也会扩大操纵性信息的传播影响力。为了守卫最后一道防线,亟须围绕认知操纵有所侧重地开展信息素养教育。通过普及认知操纵的信息特征和典型手法,以“获得性免疫”机制,切实提升民众的甄别能力与批判思维。同时,鼓励民众举报投诉可疑的操纵信息,汇集广大民众的智慧和力量,全面抵御认知操纵对主流价值共识的侵扰。

  (作者单位:华中科技大学新闻与信息传播学院) 

责任编辑:陈静
二维码图标2.jpg
重点推荐
最新文章
图  片
视  频

友情链接: 中国社会科学院官方网站 | 中国社会科学网

网站备案号:京公网安备11010502030146号 工信部:京ICP备11013869号

中国社会科学杂志社版权所有 未经允许不得转载使用

总编辑邮箱:zzszbj@126.com 本网联系方式:010-85886809 地址:北京市朝阳区光华路15号院1号楼11-12层 邮编:100026