在技术与道德的天秤上,算法如何找到平衡点

随着大数据、人工智能的广泛应用,一些商业网站、移动新闻客户端,包括直播平台、浏览器、搜索引擎、影音软件等,都在运用算法这个“读心术”,为用户量身打造信息,创造出一种新的个性化阅读体验,信息获取已经从“大海捞针”进入“私人定制”模式。然而,技术往往是一把冷冰冰的双刃剑,在价值和利益的天平上,所谓的算法成为了利益的砝码,一切围着流量转,唯点击量、转发量马首是瞻,“标题党”泛滥,价值取向跑偏,内容沦为附庸。

头条的边界

2017年12月29日,北京市互联网信息办公室曾针对今日头条、凤凰新闻手机客户端持续传播色情低俗信息、违规提供互联网新闻信息服务等问题,分别约谈两家企业负责人,责令企业立即停止违法行为。

两天之后,今日头条平台宣布关闭社会频道,将新时代频道设置为默认频道。同时,今日头条集中清理了涉嫌违规的含低质内容的自媒体账号,共封禁、禁言账号1101个。同时,2017年 12月29日18时至12月30日18时,今日头条手机客户端的“推荐”、“热点”、“社会”、“ 图片 ”、“问答”、“财经”等六个频道还暂停更新24小时。

这一力度不可谓不大,也是聚合型新闻APP史上第一次遭到封禁。公开数据显示,截止到2016年7月,今日头条累计激活用户数达5.3亿,人均日使用时间超过70分钟。

技术创新如何与社会导向平衡

相比人工推荐,智能算法推荐投入产出比更高、覆盖面更广、个性化程度更高,但风险把控能力相对较低。

我国人工智能仍然处于初级应用阶段,以最为广泛的语音解析为例,在记录对话时,人工智能可能与人类一样准确,但它无法辨别出讽刺、笑话或理解上百万种其他文化背景,而即使是最普通的信息,理解文化背景也至关重要。

通过人工智能识别内容最大的难点在于攻克语义的复杂性,涉及到对逻辑推理和因果关系的上下文分析。人工智能可以鉴别色情内容,但在区别色情、性感、艺术等照片上还存在很大难度。

因此,作为新闻客户端起家的今日头条,在信息分发的同时,还涉及到价值体系和新闻把关。

纠正算法推荐,既要听其言,更要观其行

互联网公司唯“流量”是问已经是当前存在的普遍问题,企业技术创新的边界应该是承担起更多的社会责任。

企业想盈利无可厚非,可怎么盈利却有天壤之别。以优质文化产品取胜,这是健康的产业模式,而把低俗内容兜售给消费者,这是不负责任的行为。算法推荐赚取巨大流量红利的同时,是否应该反思这种创新能给社会带来怎样的进步。如果新的媒体平台,只是为了让低俗化、媚俗化、娱乐化的信息更加便捷传播,降低人的思考能力和审美水平,这样的媒介形态和产品创新必将在社会发展中被淘汰。

整改和处罚只是手段,按照中央要求,营造清朗、干净、健康的网络空间,才是管理者和经营者的共同责任和目标。纠正算法推荐的弊端,治理低俗内容倾向,从根本上改变不顾导向的所谓算法推荐,管理部门在关注,网民更有期待

本文信息来自人民日报、人民网、21财经,传播君整理。

  • 发表于:
  • 原文链接:http://kuaibao.qq.com/s/20180103A0WVGH00?refer=cp_1026

扫码关注云+社区