算法监管促进数字平台市场力量合理运用
2024年06月14日 09:15 来源:《中国社会科学报》2024年6月14日第2912期 作者:刘雨微/编译

  本报综合外媒报道 尽管科学家和技术专家也无法准确预测技术的发展趋势,但人工智能领域存在一种风险是可以被预见并加以防范的。近日,欧莱礼媒体公司创始人、CEO兼董事长,伦敦大学学院创新与公共目的研究所客座教授提姆·奥莱利(Tim O’Reilly)在“对话”网发表文章指出,这种风险源于科技公司寻求从自己的人工智能模型中获利的经济动机,与公众对这些人工智能模型应该如何被货币化和部署的期望不匹配。

  奥莱利表示,社交媒体、搜索引擎和推荐算法所引发的争议并非单纯的技术挑战,而是财务激励与算法的安全性、有效性及公平性之间的矛盾。奥莱利与团队围绕“算法注意力租金”这一课题开展了一系列研究,分析了数字平台如何使用算法来决定哪些内容、产品或服务能够获得更多的曝光和用户关注。同时,研究还着眼于这些平台如何通过洞察用户行为和控制供应商与广告商来增加自身的收益份额,如通过从用户和产品供应商那里获取“经济租金”。

  在经济理论中,经济租金指的是“超正常利润”,也就是超出在竞争市场中所能获得的利润的那一部分利润,代表了企业对某些稀缺资源的控制。数字平台往往以牺牲信息质量为代价,通过控制大量客户访问权来获取数字租金。奥莱利等人研究发现,亚马逊用户更倾向于点击页面顶部的产品列表,哪怕这些产品并非最优选项,而是付费广告。平均来看,点击率最高的赞助产品在亚马逊基于产品质量、价格和受欢迎程度的优化算法推荐中比非赞助产品排名低33%,价格却高出17%。同时,产品供应商不得不为原本依靠产品质量和声誉获得的排名付费,这导致他们的利润减少,而亚马逊的利润增加,部分成本还转嫁给了消费者。

  奥莱利认为,平台迫使企业生态系统支付高昂费用而未能提供相应价值,可能是其市场力量过度集中的信号,会导致平台通过不正当手段获取经济租金。不过,算法技术带来的经济风险是可以预见的,因此,加强算法监管并且更透明地披露平台如何将其算法货币化,对于防止平台滥用市场力量至关重要。算法已然成为市场的守门人和价值分配者,并且正在成为知识的生产者和仲裁者。

  奥莱利指出,社会有能力管理由技术创新引发的经济风险。这些风险并非固定不变,而是受经济环境的动态影响,而经济环境又是由监管机构和平台算法共同塑造的。信息披露和开放技术标准是社会确保人工智能带来的红利惠及更广泛人群的关键途径。信息披露也是塑造市场的关键工具,监管机构可以要求科技公司公开其产品和盈利策略的详细信息。例如,强制性披露广告投放量和其他运营指标,有利于防止科技公司滥用用户隐私以最大化广告收益。

  随着企业竞争所依赖的技术基础不断演进,市场的竞争规则和资源分配也发生改变。奥莱利建议,社会监管的重点应从预测特定技术发展可能带来的风险,转向重新构建支持当代创新的经济激励机制。这一机制应有效地避免人工智能技术被不当应用于风险领域,同时引导其朝着开放、负责、公平分配价值的方向发展。(刘雨微/编译)

责任编辑:张晶
二维码图标2.jpg
重点推荐
最新文章
图  片
视  频

友情链接: 中国社会科学院官方网站 | 中国社会科学网

网站备案号:京公网安备11010502030146号 工信部:京ICP备11013869号

中国社会科学杂志社版权所有 未经允许不得转载使用

总编辑邮箱:zzszbj@126.com 本网联系方式:010-85886809 地址:北京市朝阳区光华路15号院1号楼11-12层 邮编:100026