影响网络舆论、大数据“杀熟”、诱导沉迷……伴随着科技的发展,互联网算法的阴暗面开始暴露。如今,这些问题将迎来严苛的监管。1月4日,国家网信办等多部门联合修订的《互联网信息服务算法推荐管理规定》(以下简称《规定》)发布,提出不得利用算法推荐影响网络舆论,不得利用算法杀熟等要求。

“杀熟”或成过去式

从内容来看,对比征求意见稿,正式发布的《规定》共35条,增加了5条内容,涉及信息服务规范、用户权益保护等方面。今年3月1日,《规定》将正式施行。这是我国首个互联网信息服务领域具有针对性的算法推荐规章制度。

何为算法推荐?《规定》首先给出定义,是指利用生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法技术向用户提供信息。

其中,算法推荐信息服务提供者扮演了重要角色。《规定》明确,利用生成合成、个性化推送、排序精选、检索过滤、调度决策等技术,向用户提供信息服务的平台,都归为算法推荐信息服务商。

一直以来,算法是效率的代名词。算法根据用户的年龄职业、兴趣习惯、消费水平等特征绘制不同的画像,从而在海量信息中精准甄别,把用户一心想看的信息、接受需求的服务直接推到用户面前。出行、网购、娱乐,这些渗透进日常生活中的算法推荐应用让用户感受到了便捷。

但不知何时起,算法的发展开始变味了。与精心推荐随之而来的,是价格垄断、大数据“杀熟”等用户最常吐槽的问题。

“打车软件上同样的起始地,不同设备价格却显示不一。”“根本不感兴趣的商品,不小心误点进去,之后却频繁出现在推荐界面,甚至出现了‘贴心’的跨平台广告。”网友吐槽的经历看似五花八门,却又大同小异。

“几乎所有的网络公司都是由算法操纵的,区别只在于算法的先进程度。”北京高勤律师事务所合伙人王源告诉北京商报记者,简单而言,算法推荐能够通过一系列专业的数据计算产生内容,进而影响人的思维乃至行为。

针对上述问题,《规定》要求,不得根据消费者的偏好、交易习惯等特征,利用算法在交易价格等交易条件上实施不合理的差别待遇。这也意味着,利用大数据“杀熟”或将成为过去式。

不得影响网络舆论

大数据“杀熟”是看得见的操控,而算法推荐失控带来的问题远不止如此。

“不得利用算法实施影响网络舆论、规避监督管理以及垄断和不正当竞争行为。”《规定》明确的一系列细节中,“不得影响网络舆论”格外显眼。

算法控制下的榜单就是舆论被算法影响的典例之一。北京商报记者了解到,当前在诸多资讯信息及短视频平台,引流限流、操纵榜单已成为内容呈现的常规操作。

对此,《规定》指出,算法推荐服务提供者不得利用算法屏蔽信息、过度推荐、操纵榜单或者检索结果排序、控制热搜或者精选等干预信息呈现,实施影响网络舆论或者规避监督管理行为。

“针对算法推荐信息服务提供者进行管制还是很有必要的,要明晰哪些是国家规定范围内的单位,哪些不是,防止别有用心的人狐假虎威,利用公共资源达成私人目的。”自媒体从业者姚女士坦言。

除了不经意间通过榜单等形式诱导思维、通过大数据“杀熟”影响行为,对于互联网弱势人群,诸如未成年人、老年人群体,算法的影响也更直接深入,比如短视频平台利用算法接连不断推送令人上瘾的视频,而不法分子则钻空子诱导老年人落入消费陷阱。

对此,《规定》也作出了明确规定,不得利用算法推荐服务诱导未成年人沉迷网络,应当便利老年人安全使用算法推荐服务。应当建立完善平台订单分配、报酬构成及支付、工作时间、奖惩等相关算法。

扩展到所有群体,《规定》在用户权益保护方面明确了相关要求,具体包括保障用户算法知情权及选择权,告知用户其提供算法推荐服务的情况,向用户提供不针对其个人特征的选项,或者便捷地关闭算法推荐服务的选项。

落地仍需多方发力

《规定》实施在即,但具体落地仍需要多方协同,让监管渗透全流程、更公正透明。

王源对北京商报记者表示,“算法推荐是一项新技术,针对这项技术相关部门出台的相关法律法规也很严格,但目前苦于没有落地抓手。就信息提供服务平台而言,如何分类、分级尚且缺乏标准指引”。行业实践往往走在前头,相对而言,监管则呈现一定的滞后性,但“野蛮生长”之后,算法推荐正在呼唤规制。

根据《规定》,提供互联网新闻信息服务的算法推荐平台,应当依法取得服务许可,这或许为算法推荐规制提供了一剂解药。

除此之外,“备案手续”也成为一道有力枷锁。《规定》明确,具有舆论属性或者社会动员能力的算法推荐服务提供者,应当在提供服务之日起十个工作日内履行备案手续,并按照国家有关规定开展安全评估。同时,应当依法留存网络日志,配合网信部门和电信、公安、市场监管等有关部门开展安全评估和监督检查工作,并提供必要的技术、数据等支持和协助。

“算法推荐服务治理需要政府、企业、社会、网民等多方主体共同参与,推动算法推荐服务公正公平、规范透明,促进算法推荐服务向上向善,营造更加清朗的网络空间。”国家网信办有关负责人表示,当前,国家和地方网信办正牵头统筹协调全国算法推荐服务治理和相关监督管理工作。

国家法律也提供了强有力的支撑。记者了解到,2021年11月1日起正式施行的个人信息保护法,对于公众所关注的过度收集个人信息、大数据“杀熟”、敏感个人信息的处理等问题作出系统规制。

“在行政监管之外,检察院及消协都可以代表个人向侵权行为提起诉讼。总体来看,权力是越来越集中的,在国家网信办的统筹作用下,各行业各司其职。”王源说。

(北京商报记者杨月涵实习记者韦璐)

推荐内容