依法规制算法背后的数字权力
2023年12月21日 14:16 来源:《中国社会科学报》2023年12月21日第2799期 作者:王崟屾

  算法是包含一系列数学运算并将其转换为计算机代码的完整指令,系互联网技术的具体呈现之一。算法以数字平台为载体,产生了数字社会建设运行中的支配性权力,潜移默化地塑造着数字时代人们的行为规范和生活方式。

  数字权力的运行逻辑 

  当今,数字平台依托其技术能力和对数据的占有,在社会基础设施的权力发生机制下,已获得了一种对社会生活的支配力。在算法技术属性与社会属性的互构中,数字平台正以数字权力的方式支配和控制着社会实践。基于算法对海量数据的整合和支配,数字权力嵌入社会运行诸领域,对数字时代的社会主体行为产生重要影响。

  基于此种认知,可从三个维度诠释数字权力的运行逻辑。在经济层面,数字平台依托“信息决定权力分配”的数据优势,向平台内不同主体提供差异化产品与服务,衔接、整合、重塑各类主体间的资源和关系,从而创造价值,实现资金流、物资流等融通,使各类主体利益最大化。在技术层面,数字平台依托其技术优势,充分发挥算法的精准分发、特征挖掘等作用,以个人终端(如手机等)为中心点与整个数字社会进行信息互动,从而重塑信息流并实现数字化控制。在法律层面,一方面,数字平台作为行使数字权力的主体,与政府监管权之间有着合作与博弈的关系(如反垄断等)。另一方面,数字平台依托其对要素资源的控制力,实际上拥有制定规则、监督管理等权力。此时,算法背后的数字权力突破了“权力即公权力”的传统认识,是具有监管性质的私主体权力。

  数字权力的规制模式 

  经济层面的运行逻辑,使数字权力主体具有追求自身利益最大化的便利条件;技术层面的运行逻辑,使其具有对人类社会、物理世界、信息空间的数字化控制能力;法律层面的运行逻辑,使其具有对平台内各方主体事实上的“规制权”。因此,数字权力的膨胀往往难以遏制,有必要依法对其进行规制。从现有制度和实践来看,主要存在以下两种规制模式。

  第一种是针对数字平台构建的要素治理模式。根据《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等规定,尽管算法治理的触角已向技术研发者等延伸,但其规制对象仍然主要是数字平台,并围绕“数据、算法、场景”等要素展开。规制这三项要素的逻辑在于,数据是基础,算法是数据的整合(输入与输出),场景是数据与算法的具体应用。

  首先是数据保护。当前,《网络安全法》《数据安全法》《个人信息保护法》《电子商务法》等均有数据保护条款,构建起了数据安全保障与个人信息保护的双重框架。其次是算法规制。以《关于加强互联网信息服务算法综合治理的指导意见》《互联网信息服务算法推荐管理规定》等为支撑,我国已初步形成以国信办为规制主体,以“算法安全”“算法公平”“算法向善”为价值导向的规制体系。最后是场景应用。《数字中国建设整体布局规划》系统划分了数字权力规制的各类场景,如网络销售、生活服务、社交娱乐、信息资讯、金融服务等,重点在于进一步制度化、规范化数字平台作为治理枢纽的主体责任,要求其既尽到相应的安全保障义务,又要履行好对服务使用者的管理义务。

  第二种是按权力运行轨迹构建的全过程治理模式。以2021年《互联网信息服务算法推荐管理规定》为标志,我国对于数字权力的监管逐渐从20世纪90年代的物理层、21世纪初的内容层,延展至代码层,并初步形成了全过程治理模式。

  其一是事前约束。这意味着对数字权力治理关口前移,并将规制对象指向数据与算法。在算法推荐、短视频、网络直播、社交网络等领域中,运用算法备案、新技术新应用安全评估等方式,坚持技术治网、精准施策。其二是事中监管。一方面,要求数字平台落实主体责任,努力实现“预防式治理”,确保算法“弘扬社会主义核心价值观,维护国家安全和社会公共利益,保护公民、法人和其他组织的合法权益”。另一方面,政府作为监管主体,统筹好发展与安全,运用指导、约谈等方式为数字权力运行提供合理预期。其三是事后处罚。主要遵循“主体—行为—责任”的思路,利用行政权力对数字权力滥用或“逃逸”追责。在内容上,主要体现为网络安全、数据安全、个人信息保护、知识产权保护以及相应的人机交互关系等方面;在责任上,主要体现为责令整改、处置账号、移动应用程序下架、暂停功能或更新、关闭网站、罚款等责任形式。

  习近平总书记指出,“我们要用历史映照现实、远观未来”。依法规制算法背后的数字权力,是当今数字社会面临的一项新课题、新挑战,需要我们总结既有的制度成果和历史经验,深入分析数字权力的运行机理,立足于数字法治建设的实践探索,不断完善我国依法规制数字权力的治理体系。

  (作者系浙江省社会科学院法学所所长、研究员) 

责任编辑:崔博涵
二维码图标2.jpg
重点推荐
最新文章
图  片
视  频

友情链接: 中国社会科学院官方网站 | 中国社会科学网

网站备案号:京公网安备11010502030146号 工信部:京ICP备11013869号

中国社会科学杂志社版权所有 未经允许不得转载使用

总编辑邮箱:zzszbj@126.com 本网联系方式:010-85886809 地址:北京市朝阳区光华路15号院1号楼11-12层 邮编:100026