如今,我们步入了“以算法为依据、以数据为中心”的“灰暗”时代。“灰暗”并非“黑暗”:我们置身阴影,但仍能看见光明。我们依然拥有选择去向哪里的权利。
在“数据即资源”“数据即权力”“数据即一切”的时代,传统意义上作为社会主体的“人”,也不可避免地被全面数据化。我们正在被“算法权力”(algorithmic power)全面支配。“代码就是法律,它可以限制自由,或者使自由成为可能。”在这里,我们不准备过度区分“代码”与“算法”,尽管二者之间还是稍有一些细微的差别;在一般意义上,这样的处理已经足够了。进一步地,在这样一种以算法为依据、以数据为中心的灰暗时代,所有人都将成为片面单薄的人,所有人都将受到算法的支配,算法顺势成为一种“超级权力”。
就内在而言,每一个生命都是鲜活的个体,每一个个体都有着生动、多维的日常呈现。然而,在“数据即一切”的灰暗时代,每一个人都被压缩、投影到特定的平面上(往往是“利益的平面”),变得面目模糊,却“数据清晰”起来。在这种超级权力面前,人的主体性面临被取消的危险。人被压缩成一堆离散的特征值。G君=男性、杭州居住、健康、稍瘦、高频飞机出行、阳光……问题在于,哪怕所有这些离散的特征值重新组合,也重构不了一个活生生的G君。但糟糕的是,这些离散的特征值可以有效“识别”出G君。于是,在算法权力面前,G君就等同于这些离散值。在“一堆离散的特征值”面前,其实并不需要所有的特征值都具有对于特定主体的“识别特征”,而只要求算法提取出来的特征值满足主体的特定要求即可。例如,商业机构可以通过“用户画像”提取对实现其盈利、增收有益的对象特征。比如,“美团外卖”会根据消费者的一些特征定义出“高频消费者”等标签,从而实现如下目标:(1)提升用户的单均价和消费频次,进而提升用户的LTV(life time value);(2)解决好用户的留存问题。目标(1)的具体手段包括:交叉销售(新品类的推荐)、向上销售(优质高价供给的推荐)以及重复购买(优惠、红包刺激重复下单以及优质供给的推荐带来下单频次的提升);目标(2)的具体手段包括:通过提升用户总体体验以及在用户有流失倾向时通过促销和优惠将用户留在外卖平台。总之,围绕赚更多钱的目的,在算法和大数据面前,其实不需要个体的“阳光”这一类特征,除非它有利于盈利。比如,在一些互联网交友平台上,“阳光”成为一个值得重视的摹状词。
“算法权力这种新兴的权力并不把我们当成‘主体’来对待,而是作为可计算、可预测、可控制的客体。”因为实在没有必要将普通公众视为“主体”,仅仅将其视为“对象”甚至视为“活动的数据集”,对算法拥有者、算法的主体而言就够了。如郑戈所指出的,“无形的智能算法已经改变了我们生产方式、消费方式和生产关系、社会关系”,同时也使得公民权利面对更隐微、更无所不在、更多元化的权力技术的侵蚀。作为主体的人类被迫虚拟、数据化。
“被迫暴露”是当代人类的生活现实。大数据时代,我们并没有真正的隐私。哪怕是一堆“去个人化”的数据,经过适当的算法推理演算,最终也可能精准地个人化。实际上,诸多数据维度都对特定的目标有一定权重的贡献,几乎没有哪一个数据标签是“完全独立”的,这一方面导致网站或商品排行等“自然数据”难以真的“自然”(经常受到其他数据的影响),另一方面也决定了敏感的隐私数据经常会因一些非敏感的数据而“暴露”。算法的当代现实就是:“对个人身份的已识别或可识别状态往往是数据分析的结果而不是起点”,对于这样的结果,无论公民个人还是监管者,其实都无能为力。因为,隐私不是被“侵犯”了,而是被“发现”了——他们并没有“侵犯”公众的隐私,只是符合逻辑地“发现”了公众的隐私。我们对自我隐私的暴露报以无可奈何的羞赧。
对此,我们不能无动于衷。人工智能的野马需要套上理智的羁笼,算法的野蛮需要法律的规制。算法是有价值观的,不能让“效率”成为算法唯一的价值导向,而应当将人类的价值理性灌注入各类算法体系内部。当前,算法的主流逻辑是“效率说了算”,而这是成问题的。不过,要让法律进入算法其实困难重重。同一种流行的误解相反,法律绝非“清晰明了的规定的集合”,而是包含着大量的模糊、混沌与暧昧的文本,有赖法律共同体的成员以各种各样的方式进行具体阐释。这种阐释不仅包括对法律未明地带的必要扩展,也包括对其文本含义的具体注解。这意味着,单纯的法律文本对于算法专家而言不啻另一种“天书”。正如许多研究者都已指出、已成常识的一个共识:法律算法化需要法律人和人工智能技术专家的协同努力。法律算法化这一步是必要的,只有形式化才能避免后续的重复劳动。郑戈认为,法律算法化其实是在“倒逼”法律人更加精准和体系化地表述法律知识。尽管这种“更加精准和体系化”对人类的法律体系而言,其实并没有什么价值。正如“高精度地图”对于人类驾驶员的导航来说完全不必要而且多余一样(人类日常使用的电子导航地图通常为“有向图”结构,把道路、河流抽象成一条条的线,各线连通关系构成整体上的有向图,有向图上重要的是表达地理元素之间的相互关系和通达性;而供自动驾驶导航所用的“高精度地图”则需要描述车道、车道的边界线、道路上各种交通设施和人行横道)。以一种机器能理解的方式体系化现有的法律知识,其全部的目标也就在于“让机器利用知识以便利用机器”,具体来说就是“让算法理解法律以便利用算法”。此种规制有助于防止算法权力的阴影过度扩大。
“法律算法化”是“用技术化方案解决技术化问题”的一种良好尝试。可以认为,“以代码为法律”是一种“以毒攻毒”的思路,未来即使不普遍采用这一思路作为总体规制人工智能的法律策略,局部的实际使用也是不可避免的。因为,最能有效说服暴力的其实是更强大的暴力,最能直接制约代码的其实是更有力的代码。当然,这并不意味着要放弃理性的指引、规则的制约,而是说在具体工具的选择上,“让代码对抗代码”是一种符合技术理性、更有效率的正确选择。
(作者单位:浙江大学科技与法律研究中心)
友情链接: 中国社会科学院官方网站 | 中国社会科学网
网站备案号:京公网安备11010502030146号 工信部:京ICP备11013869号
中国社会科学杂志社版权所有 未经允许不得转载使用
总编辑邮箱:zzszbj@126.com 本网联系方式:010-85886809 地址:北京市朝阳区光华路15号院1号楼11-12层 邮编:100026
>