专栏首页罗超频道算法到底有没有价值观?快手给出了标准答案

算法到底有没有价值观?快手给出了标准答案

近日,因为“早孕网红”事件,快手、火山等短视频平台被央视点名批评进而被推到舆论的风口浪尖。对此,快手创始人兼CEO宿华第一时间发表题为《接受批评,重整前行》的文章,对批评进行了回应、道歉和反思。这个回应与一般外交辞令式的公关回应相比而言,十分诚恳,因而赢得行业赞誉。此事暴露出的问题也值得整个行业深思。

快手遇到的问题,也是整个内容分发行业共同面临的问题,此前因为算法被批评或者约谈的平台,不胜枚举。而伴随着舆论的批评、平台的反思、规则的优化,我们也发现行业对于算法的认知在不断进步,不再唯算法至上,对于算法是否应该有价值观这个问题也有了更清晰的答案。

算法的价值观由人决定

宿华在回应中坦言,快手社区发展在一定程度上偏离了原来的方向,并没有长成理想中的样子,平台上出现了不该有的内容,对社会造成了非常不好的影响:“十分感谢中央电视台等媒体对快手的批评,让我清醒地认识到自己的不足。”快手的举措是:

“重整社区运行规则,将正确的价值观贯穿到算法推荐的所有逻辑之中,坚决抵制和删除违法违规及色情低俗视频,建立专门的青少年保护体系,打造一个风清气朗、健康向上的负责任的互联网社区。”

宿华在回应中提到的一段话被许多媒体引用,就是:

“社区运行用到的算法是有价值观的,因为算法的背后是人,算法的价值观就是人的价值观,算法的缺陷是价值观上的缺陷。”

值得注意的是,宿华不是在这次舆论危机后才谈到关于算法与价值观的思考。去年在极客公园的Rebuild2017大会上,宿华与极客公园创始人张鹏有过一场深度对话,其中就曾谈到这个话题。“算法本身是没有价值观的,但是算法是人去定义、搭建的,做算法的工程师、团队是有价值观的,科学无国界,但是科学家有国籍,这是很相似的。”这一次宿华对算法有了价值观上的新认知。当然,本质还是在说一件事情:人的价值观,决定算法的价值观。出现的问题会改变一个人对事情的思维方式,宿华对算法的认知没变,但改变的是,对价值观的重视程度,以及如何将人的价值观、公司的价值观、平台的价值观与算法无缝结合起来。

算法是否拥有价值观,此前行业争议不断,一种流行的说法是,技术只是一个工具,它公平地对待平台所有内容,不会去区分内容的高低贵贱,因此没有价值观。然而现在诸多事件已经表明,不论是资讯、短视频、直播还是问答平台,都必须要让算法拥有价值观才能运转,原因如下:

1、内容平台有媒体属性,必须承担媒体责任。即便内容平台不做新闻,但只要具有信息分发的能力,就有媒体属性,别忘了搜索引擎都是媒体。而媒体作为社会的“看门狗”,就必须能够区分好人和坏人,必须将内容分出优劣好坏,如何区分就要靠价值观。传统媒体由总编、主编、编辑来传承价值观,算法分发的内容平台同样要有类似的制定和落地价值观的人。

2、算法技术还不够成熟,一定要有人协助。从技术层面看,虽然在如围棋等某些领域,人工智能可以战胜人类,然而在大多数领域,算法还不足以取代人类。新闻行业,机器写稿的新闻屡有出现,但人工智能却依然处于探索阶段,距离规模化应用很远。在内容平台上,算法可以提高分发效率,然而在判断内容的合法合规性、判断内容的优劣好坏上,却很难做到跟人一样准确,所以算法一定要有人协助。

3、算法只是一个工具,它可能被人教坏。工具在好人和坏人手中可以发挥不同作用,算法也是如此,它由人决定,同时会根据用户行为数据来学习进化。大家都喜欢的不一定就是好的,比如标题党。正是因为此,算法不能只依靠大众的数据来实现自我进化,否则很可能被教坏,在算法进化的过程中必须要有人工干预,监督算法进行学习进化。

可以说,在目前的技术水平下,算法一定要被人赋予对的价值观,才能正常运转,我想内容平台都要接受这个现实。

内容平台应该有的价值观

宿华说“我们将重整社区运行规则,将正确的价值观贯穿到算法推荐的所有逻辑之中,坚决抵制和删除违法违规及色情低俗视频,建立专门的青少年保护体系,打造一个风清气朗、健康向上的负责任的互联网社区。”那么,什么才是正确的价值观?

宿华在回应中关于整改措施,第一部分是说的是“用正确的价值观指导算法”,快手认为正确的价值观是“符合国家法律法规、遵循社会公序良俗的作品”、“所有的算法规则,必须服从健康积极、阳光向上的价值观”、“个性化的更符合用户兴趣的正能量作品”。

说到底,就是在遵纪守法的基础上,内容平台应该有更高的要求。低俗内容,负能量内容,消极内容,不违法不违规,却不符合普世价值观,不健康积极、不阳光向上、不正能量、不风清气朗,不遵循“公序良俗”。

为了利益最大化,企业行为往往在道德底线之下、法律红线之上,然而作为有着巨大社会影响力的内容平台,一定要将自己的底线抬高一尺,坚守道德底线,说到底就是要有正确的价值观。

快手面临的问题,是每一个以算法为核心的内容分发平台,都在面临的棘手难题。算法追求去中心化的公平分发,追求高效率加速信息流动、追求千人千面的个性化,然而前提都是要有对的价值观引导。正如我此前在一篇文章提到的观点:算法不只是效率、流量、变现,而是看门狗。

具体来说,我认为一个内容平台要有对的价值观,要做到几点:

1、人应该有对的价值观,才能给算法价值观。

算法的价值观不是一个人的价值观,而是一个团队的,从决策层到产品到技术到运营甚至商务。因此,企业要自上而下从决策层到基层员工灌输价值观,将其应用在业务的方方面面。比如快手的产品经理在设计产品时,就必须自始至终遵循一套价值观体系;再比如快手的运营在设计社区公约时,也要有对应的价值观体系。

2、平台的价值观,要与社会价值观吻合。

人的价值观不会轻易改变,一个企业也应该有自己的价值观,成为行动指南。中国企业都有“企业文化”,不应该只是标语,而是集体行动指南。内容平台自然也要有自己的价值观,且符合社会普世价值观,比如快手所提的公序良俗、风清气朗、正能量。

3、基础价值观上,平台要有独特的价值观。

除了大家都遵守的价值观外,平台应该有自己的价值观。快手独特的价值观体现对记录生活的理念以及对内容分发的公平性上。快手每天有大量用户自主上传的视频,弱化平台的存在感,不做过多运营,没有什么所谓顶部资源,不会有导流一说,它专注于做好用户记录生活的工具和分享生活的社区,用宿华的话说,快手是一个广场,而不是剧场,广场“环境嘈杂,但很自在。”

宿华在回应中也表示:“记录这个世界每个人平凡而美好的生活,让我们共同见证时间沉淀后的记录价值,是我永不改变的追求。”这就是快手独特的价值理念,在严格遵循大家都应该遵守的价值观的基础上,快手公平对待每一次记录。

算法的价值观如何完美落地?

这是最难的。算法与价值观的关系,其实宿化成立快手时就已经有许多思考了,然而百密一疏,快手上出现“早孕网红”表明将价值观无折扣、零偏移地落地到业务中不容易。

特别是作为一个有上千人的大公司,要让价值观传递到算法,传递到业务方方面面,更是一个难题。殊不知,就连谷歌、阿里这样的巨头,都要不断进行员工思想统一,才能确保价值观可以传递,只靠KPI不够的,一定要有精神文化层面的建树。快手正在努力,其做法也值得同行们借鉴。

1、不闭门造车,而是与社会力量携手。

宿华在文章中提到了一点,要“借助各方力量,共建清朗快手”,比如“积极接受政府有关部门管理和指导,改进优化审核规则和算法推荐。”再比如“邀请法律、传播、社会、伦理等领域学术专家,组建短视频内容合规性研究委员会,加大对视频内容合规性案例的分析研判。”

4月3日,快手和清华大学宣布成立未来媒体数据联合研究院,借助于清华大学软件学院、新闻与传播学院、社会学系等机构的学术资源,将技术与人文的结合起来,解决内容记录、管理、分发上的难题,也是对算法价值观如何落地到业务上的一种摸索。

一些内容平台可能会认为自己的价值观就是最好的是绝对正确的,然而在涉及到社会话题、大众议题时,究竟什么是对、什么对错,内容如何分级,却并无标准答案,只有集合众人智慧特别是专业力量,才能找到答案。此外学术机构在算法理论、AI技术等基础学科领域也有独特优势——事实上百度、搜狗、谷歌、腾讯等科技巨头都已采取校企联合模式来强化自己的技术实力。

2、不能止步不前,而是要不断审视自己。

价值观要与时俱进,不断进化,算法也要不断进化,不只是要变得越来越智能,也要不断迎合价值观的变化。甚至平台的规则都要不断优化,才能确保价值观可以完美地落地。宿华表示,快手将梳理完善社区运行规则,在产品功能、身份认证、引导教育、举报处置流程等方面完善规则,这种规则制度的优化要持续进行,才能确保价值观可以没有漏洞地落地到业务上。

中国最强调价值观的企业是阿里巴巴——员工的绩效考核,有一项是价值观,这个评价也会影响到员工晋升。而价值观的传递就是通过新员工培训、花名等企业文化来实现的。据说马云前几年将新员工入职培训时间延长了一倍,因为他觉得“阿里味儿”不够也就是价值观不够统一,这体现出马云对阿里的不断审视,值得学习。

3、必须人机结合,不能只依靠算法。

内容平台期待给算法被赋予正确价值观后,就将一切甩给机器,是不现实的。算法还不能完全取代人,许多时候需要人来处置判断。目前各个内容平台都在提倡人机结合,不只是要有算法,还要有编辑;不能靠算法监控内容,还要有用户举报机制;对于投诉举报的处理不要有人参与,技术可以提高效率;内容平台强化社交元素,本质也是增加了人作为筛选器的要素。快手在算法外也有许多道人工,比如内容审核、内容评级、投诉处置,实现人机结合,就在4月5日,快手还在拉勾网发布了招聘2000名内容审核员的需求。可以说,人机结合是未来互联网和AI行业的趋势。

任何技术走向成熟都有一个摸索的过程。算法改变内容分发路径的价值毋庸置疑,用户获得了前所未有的内容阅读体验,不论是获取资讯还是娱乐休闲,也都有了更丰富更个性化的选择,内容创作者生产的内容有机会被更多人看到,每个人都能够记录世界、记录生活,记录自己,也可以看到别人的记录。或许算法确实存在一些缺陷,不过相信在人类的智慧下,算法可以拥有对的价值观,最终会克服缺陷,成为我们生活中不可或缺的技术。

本文分享自微信公众号 - 罗超频道(luochaotmt),作者:罗超

原文出处及转载信息见文内详细说明,如有侵权,请联系 yunjia_community@tencent.com 删除。

原始发表时间:2018-04-07

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

我来说两句

0 条评论
登录 后参与评论

相关文章

  • 或将入怀阿里的豌豆荚,如何错失应用分发黄金时代?

    今天,互联网爆料平台“开八”爆料,阿里巴巴已正式收购豌豆荚,收购价格未知,确切消息将在今日公布,而豌豆荚创始人王俊煜对此的回应是“我并未听说”。在笔者看来,豌豆...

    罗超频道
  • 小牛电动M1重磅发布,特斯拉+小米=下一代电动车?

    4月21日,在贾跃亭泪洒五棵松揭幕超级汽车LeSee之后,牛电科技在北京发布了第二代小牛电动车:M1,距离小牛电动车初代产品N1面世已距离差不多一年。 过去一年...

    罗超频道
  • 我们不再需要3Q大战!!

    2010年11月3日,腾讯作出了一个“艰难的决定”:宣布在装有360软件的电脑上停止运行QQ软件,用户必须卸载360软件才可登录QQ,要求用户“二选一”。

    罗超频道
  • 「跳一跳」跳出千亿市场,微信将游戏产业带入寒冬还是春天?

    腾讯通过多个官方公众号公布了这个消息。同时,更新微信后,用户在登入时,微信通过开屏向用户推荐了小游戏「跳一跳」。

    知晓君
  • 微信“小游戏”今日重磅上线 H5手游将迎真正爆发点

    今日腾讯微信通过多个官方微信公众号正式公布了“小游戏”发布的消息,这昭示着腾讯微信正式拥抱H5手游市场,给多年来一直等待H5游戏机遇的开发者送上了终极新年大礼包...

    企鹅号小编
  • Git Push 提交报错

    程序手艺人
  • 十年机器学习结果不可靠?伯克利MIT研究质疑了30个经典模型

    新智元
  • 云计算的战争远没结束

    生活在城市里的人,有一些共同的愿景:“比方说道路能否更加畅通,等红绿灯的时间能否再缩短,又或是排队的人能不能更少一些”。解决此类问题,需要创建一个“城市大脑”,...

    刘旷
  • 动图学 JavaScript 之:原型继承

    你是否曾思考为什么我们能使用 JS 中的一些内置属性和方法,比如 .length,.split(),.join()?我们并没有显式地声明它们,那么究竟它们从哪里...

    savokiss
  • 现身说法:37岁老码农找工作

    https://www.cnblogs.com/freeflying/p/9950374.html

    纯洁的微笑

扫码关注云+社区

领取腾讯云代金券