《互联网信息服务算法推荐管理规定》：把算法权利交还给用户

不知道还有没有小伙伴记得，老DC在几个月前的一篇文章《算法的天平要向用户倾斜了吗？》里提到，国家互联网信息办公室于8月27日发布了一个《互联网信息服务算法推荐管理规定（征求意见稿）》。

在2022年1月3日，国家互联网信息办公室、工业和信息化部、公安部和国家市场监督管理总局联合发布了《互联网信息服务算法推荐管理规定》（以下简称《规定》），自2022年3月1日起施行，这标志着我国第一个专门针对算法推荐的规章制度正式落地。

▲国家互联网信息办公室《互联网信息服务算法推荐管理规定》

从内容来看，《规定》的部分内容和《征求意见稿》略有不同；权责划分上，《规定》也有了比较明确的说明。

虽然距《规定》实施还有近两个月，但不妨先跟着老DC一起来看看，《规定》有哪些重点？

01

《规定》实行很有必要

我们先来明确出台《规定》的主要倾向，国家互联网信息办公室有关负责人表示，《规定》旨在规范互联网信息服务算法推荐活动，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益，促进互联网信息服务健康发展。

这段话可以说是奠定了整个《规范》的主要基调：算法推荐活动有乱象，不规范的算法推荐有害于国家安全和公共利益、算法推荐服务使用者的权益受到了侵犯。

算法歧视

这种算法的负面影响可能是我们生活中最难以注意到的。但这种算法歧视实际上可能是我们生活中时时刻刻都存在的。

例如波士顿大学的相关研究证实，当研究院向软件提问：“男性是程序员那么女性是？”软件的回答是“家庭主妇”。曾经在谷歌搜索引擎里，搜索黑人的名字时却出现了“被捕”的广告，甚至给黑人贴上“大猩猩”“动物”这类的标签。

特别是我们在网络中搜寻一些带有特定群体的内容，比如性别、人种、职业等等，通常会出现很多带有刻板印象的内容，长此以往，可能会造成对某一群体的偏见。

大数据杀熟

大数据杀熟在大家的生活中就比较常见了，甚至很多朋友也遭遇过。老DC也没能逃过……

按照通常的理解，老客户的价格通常应该会比新客户更为优惠，即使没有优惠，也得和新客户同等对待吧。甚至一些购买了优惠服务的客户，在单品消费上更贵！

但是大数据杀熟就抓准了老客户“反复下单”“刚需产品”的需求，居然以更贵的价格卖给老客户。

像是电商平台、旅游平台都出现过这种情况，商家们也是屡试不爽，看中的就是在互联网消费时，消费者基本上没办法用多个账号对比。

诱导沉迷

这种低成本的信息获取方式，再搭配上个性化的推荐机制，让你我不需要搜索、不需要思考，就能被APP首页推荐的信息吸引。

不停地一条又一条“合胃口”信息刷频，半个小时、一个小时就过去了。

人被下意识中喜好的信息所支配的时候，我们的眼中就只会看到我们有兴趣的信息。

老DC也算是抖音沉迷用户了，通常是在睡觉前刷刷抖音，本想着刷一会儿就睡觉，但是经常刷着刷着，两个小时就过去了。但实质上，这两个小时的信息获取是重复、同质化的，且仔细想想，真正的营养却没多少。（也许除了放肆的愉悦）

而且，大脑长时间的只获取感兴趣的信息，长久以往，便会将自身置于“信息茧房”里，容易上瘾不说，还可能会让人盲目走向极端、割裂对社会多元现象的清晰认知。

当然了，算法技术的市场化应用绝不仅仅只有上面这点问题，毕竟连最基本的算法推荐信息其实有时候做得也不算完美。

02

《规定》把算法权利还给用户

老DC在对比了《规定》和《征求意见稿》的内容之后发现，《规定》在整个算法推荐服务市场上建立了“企业-用户-政府”的三角权责关系，明确了算法推荐服务提供者应该承担的责任，用户拥有的算法权利和政府部门的监督义务。

在了解《规定》内容之前，我们先来明确一下算法推荐技术的定义：

应用算法推荐技术，是指利用生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法技术向用户提供信息。

这基本上是把市面上涉及算法技术的应用软件服务都囊括进去了，大家可以在《规定》实施后留意一下自己用的APP有没有什么变化。

算法推荐服务提供者要主动干预算法

算法的黑箱似乎玄之又玄，即便是那些亲手敲出算法模型的程序员们也很难彻底掌握它。

技术也许是中立的，但自由发展的后果就很难说了，也许目前的算法应用现象能够说明结果。

所以《规定》明确提出，算法推荐服务提供者应当主动干预促进算法机制优化、定期审核评估算法模型和数据、对算法推荐规则进行公开透明展示。

当然，除了要求主动干预算法去营造良好价值导向环境、遵守基本的法律规范外，算法推荐服务者也不得将违法和不良信息关键词记入用户兴趣点用以推送信息、不能操纵用户进行虚假评论、点赞、转发等行为，也不能设置诱导用户沉迷、过度消费的算法模型。

《规定》的“第二章 信息服务规范”将算法推荐服务的内容、边界彻底规范化和标准化，以防算法推荐服务者再借口“算法中立”来敛不义之财。

用户权益和算法权利更受保护

对用户权益的保护首要体现在算法权利的自主性上，《规定》要求算法推荐服务提供者向用户提供不针对其个人特征的选项或者用户能便捷关闭算法推荐服务的选项：

第十七条 算法推荐服务提供者应当向用户提供不针对其个人特征的选项，或者向用户提供便捷的关闭算法推荐服务的选项。用户选择关闭算法推荐服务的，算法推荐服务提供者应当立即停止提供相关服务。

算法推荐服务提供者应当向用户提供选择或者删除用于算法推荐服务的针对其个人特征的用户标签的功能。

算法推荐服务提供者应用算法对用户权益造成重大影响的，应当依法予以说明并承担相应责任。

第十七条还给用户赋予了调整各自算法模型的机会。我们作为使用者，可以通过对“标签”调整，更加自主地个性化定制对己有益的算法模型，而非当前的被动定制。

《规定》还特别针对未成年人、老年人、劳动者、消费者群体提出了服务规范，包括为未成年人提供有益身心健康的信息、为老年人提供智能化适老服务、保证劳动者的合法权益、为消费者提供公平交易的服务。

而网信部门、公安、市场监管等部门就要做好算法分级分类安全管理，并积极实施监督管理工作。

整篇《规定》看下来，老DC还发现了一个重点内容，与“舆论”“社会动员”有关：具有舆论属性或者社会动员能力的算法推荐服务者要单独履行备案手续并开展安全评估。

想必大家也能感受到现在在微博、小红书、抖音这些社交平台上的评论里能够感受到，网友在表达上有种更不理智、更偏激的倾向，“舆论”内容的提出也证实了算法在其中所带来的不良影响。

不稳定的舆论环境、激进的观点，会极大影响整个社会的稳定和发展，所以在涉及舆论和社会动员方面才会如此谨慎。

 

03

《规定》之后会更好吗？

在《规定》出台之后，一定有很多人想问：《规定》之后，会更好吗？

这个问题应该交给作为用户的每一个人。

《规定》把算法的权利交还给了用户。

如果让老DC来回答这个问题，老DC可能还是会选择算法服务，但我会去主动选择自己的内容偏好。在享受算法推荐服务带来的便利的同时，也要避免自己沉溺于简单、低级、重复的算法内容。

当然，这个问题最终还是只能交给时间来回答。