打破“信息茧房”，“算法推荐”正迎来强监管

国家互联网信息办公室近日发布《网络信息内容生态治理规定》（以下称《规定》），自2020年3月1日起施行。国家互联网信息办公室有关负责人表示，出台《规定》，旨在营造良好网络生态。

值得注意的一点是，《规定》还要求，网络信息内容服务平台应当优化信息推荐机制。针对当前网络信息内容服务平台采用个性化算法推荐技术推送信息所带来的问题，给出了全新解决方案。

随着人工智能和大数据的发展，防范技术滥用正成为一项课题，包括算法推荐在内的算法决策应用将迎来更加严格的监管。

01

何谓“算法推荐”与“信息茧房”？

算法推荐是一种生成机制和传播方式，是一个提取信息、匹配信息、推送信息的过程。结合算法推荐在网络中的实际应用来解释，算法推送机制是基于用户喜好与兴趣，利用大数据手段收集用户数据资源，通过为客户精准画像实现信息细分的个性化、订制化信息推送服务。

“信息茧房”概念由美国政治学者凯斯·桑斯坦在《信息乌托邦》中提出。它指的是人们的信息选择会习惯性地被自己的倾向所引导，从而将自身束缚于像蚕茧一般的“茧房”中。久而久之，用户会因为自身偏好及个性化推送而接受不到其他信息，只能被动接触到同质化的信息。

02

“算法推荐”加持下的“信息茧房”

在大数据时代，人不再是一个复杂的混合个体，而是被拆分出各种标签。例如：性别、年龄、地域、教育程度、收入水平等等。根据这些标签，人又被划归为不同的群体，甚至还要给这些划归后的群体再贴上一个新的标签。可以说，标签化的数据时代是“算法推荐”能够产生的土壤。通过这些被量化后的数据，“算法推荐”能描绘精确的用户画像，从而向个体推送其最有可能感兴趣的话题。

互联网环境的另一个特点是将内容“放大、突出”。因为在网络这海量的数据中，只有足够“放大、突出”，才能让你从无数的同质化信息中脱颖而出，从而获得用户的关注。比如多数人深恶痛绝的“标题党”与“节奏党”，正是“放大、突出”最为典型的代表。无论是一言不合就“震惊”的哗众取宠，还是非黑即白“南甜北咸”的选边站队，共同的作用都是放大信息对人的影响。决定“信息茧房”对人的束缚程度的一个重要因素就是信息的影响力度，信息的影响力度越大，“信息茧房”对人的束缚程度也越大。

当“算法推荐”的精确推送，叠加上网络环境的“放大、突出”的效应后，网络信息对人的影响可能远比我们想象中的要大得多。更重要的是，信息对人的影响程度也正是决定“信息茧房”对人束缚程度的一个重要因素，信息的影响力度越大，“信息茧房”对人的束缚程度也越大。

03

“信息茧房”对网络生态的影响

我们对网络生态环境是否良好的评判标准是对人的影响。良好的网络生态环境对人产生正面影响，反之则产生负面影响。以往我们一般认为，当网络生态环境充斥那些例如色情、暴力、谣言的，传统意义上的不良信息时，网络生态环境才会对人产生不良影响。但是“信息茧房”的出现告诉我们，时代变了。

互联网在我国已经发展了20余年，早已度过了那个没有监管、充斥不良信息的“蛮荒年代”，但是人们发现网络生态似乎并没有成为想象中那个美好的样子。有更多的矛盾被推到了网络的前台，增加的似乎只有网民的戾气，而不是有价值、有意义的探讨。而这正是“信息茧房”对网络生态的影响。

被困在“信息茧房”中的人，由于只能被动接触到由自身偏好决定的同质化的信息，而接受不到其他信息，所以会逐渐丧失敏锐的感受力，弱化对社会公共议题的关注。人们会渐渐脱离真实的、复杂的社会，而活在“信息茧房”为其构造的，主观的、片面的、“以我为准”的社会中。

在这样的环境中，人们的理性逐渐缩减，却又由于“信息茧房”中信息的“洗脑”，反倒认为自己是理性、客观、中立的。最终的结果，就是很多社会公共议题会失去在争议中达成共识的机会，争论双方固步自封，甚至演变为站队互喷。

04

防范技术滥用，“算法推荐”强化监管

“信息茧房”对人最大的负面影响在于使人短视，这与构成“信息茧房”的信息是否为不良信息并没有必然，这也是我们为什么常常忽视了其带来的负面影响。

正如上文所说，“算法推荐”能描绘精确的用户画像，向个体推送其最有可能感兴趣的话题，这就可能导致算法始终向个人推送迎合其观点的内容，形成一种“洗脑”，最终导致“信息茧房”的形成。所以治理网络生态还需要从“算法推荐”入手，打破“信息茧房”。

因此，优化信息推荐机制不能局限于对内容的审核、对不良信息的打击，更要警惕“算法推荐”对“信息茧房”产生的作用。

近年来，我国相关立法和标准开始关注算法推荐，维护健康的网络生态。例如，《电子商务法》《数据安全管理办法（征求意见稿）》以及国家标准《个人信息安全规范》最新修订草案等都作出了规定，要求标明“定推”字样，给用户提供“退出”选项并删除个人信息，禁止歧视、欺诈等。

此次《规定》进一步明确算法推荐与人工编辑相结合的信息分发方式，第12条要求建立体现主流价值导向的推荐模型，“建立健全人工干预机制，建立用户自主选择机制”。以算法推荐模型+人工干预+用户自主选择三者有机结合的解决方案，解决算法推荐带来的种种弊端。

顺应大数据时代趋势，如何规范算法、善用算法，共建良好的网络信息内容生态，需要监管部门、互联网平台和用户共同努力。

— The End —

稿件一经刊发，将根据文章质量，

提供千字200元-500元的稿酬。

其他合作、建议、新闻线索，

欢迎于微信公众号后台联系我们。