360颜水成:AI没有完美算法,人类要处理技术之上的道德困境

“深度学习或是人工智能没有完美的算法,意味着人类本身一定要处理一些问题。比如自动驾驶领域,你到底是撞前面的人,还是把车右转到车道让自己产生伤亡,道德层面真的不知道该怎么做。”8月11日,奇虎360公司集团副总裁、首席科学家、人工智能研究院院长颜水成在由厚益控股和《财经》杂志联合主办主题为“共享全球智慧引领未来科技”的世界科技创新论坛上如此表示。

颜水成认为,在学术界和工业界,AI技术无外乎三种,一种是非常原创的,我们叫颠覆式创新,还有一种是微创新,第三则是没有创新。其中,学术界的研究成果跟数据、应用场景完全独立,这意味着学术界研究的原创性非常重要,如果没有原创性,就很容易被大家遗忘。

颜水成还表示,他个人认为,中国在机器学习理论上的优秀学者不超过10人,可见,在这一领域,中国人才储备堪忧。

对于技术的安全性,颜水成认为,AI软件的安全性,以及软硬结合的连接安全,都非常重要。除此以外,AI还涉及一些道德层面的问题。比如自动驾驶领域,你到底是撞前面的人,还是把车右转到车道让自己产生伤亡,道德层面实际上是两难。

以下为发言实录:

颜水成:我其实是属于跨界的,因为我本身原来在学术界当教授七年,后来在360已经待了近三年了,以前做计算机视觉。不得不肯定,在过去这些年人工智能发展的速度非常之快,特别是在学术界,大家可以看到每一年跟人工智能相关的学术会议发表的文章越来越多。去年我们做过一个粗略统计跟人工智能相关的会议每年发表的数量有4000多篇,带来一个很大的问题,我们到底到哪儿去寻找足够多的审稿人,能对文章进行正确的审核。今天我不想说人工智能多么红火,大家多看到了。今天我想分享两个人工智能比较长远的话题,原创性和安全性。

在学术界和工业界,AI技术无外乎三种,一种是非常原创的,我们叫颠覆式的技术创新;一种是微创新。三是没有创新,技术在一个领域取得了成功我照搬到另外一个领域来。学术界做人工智能的研究非常有意思,它的研究成果跟数据、应用场景是完全独立的,意味着在学术界做研究原创性变得非常重要,如果没有原创性就很容易被大家遗忘。

因为AI是一个非常大的话题,比如现在最火的深度学习,我们仔细去观察在深度学习领域最原创的,神经网络,再比如生成式对抗网络、深度学习的融合,还有不同的理论和应用。可以看到最初的点其实都不在中国,中国在这个领域更多的是说这个理论,这些出来之后大家觉得非常有意思,一窝蜂出来。比如像Gan,大家发现很有意思之后,计算机视觉领域的CTR,就能看到一堆一堆的文章全部干这样的事。但真正能被大家所记住的还是第一个人GoodFellow提出的Gan。

最近深度学习的发展,大家对理论的期望越来越高,也就是说我们不再只是去调调参数或者设计一个网络上稍微做一点调整。昨天晚上我有一个很有趣的事情,跟我一个好朋友,一个做的非常好的教授,我跟他做一个讨论,我说我们俩要不要把中国做理论的机器学习的做得比较好的研究者全部列出来,我们俩微信来微信去,最后有一个名单。我是比较保守一点的,我说大概有10个,但那个教授更加保守,他说其实只有5个。也就是在中国做这个领域,人才的储备是非常少的。

这也不要那么悲观,现在国家特别新一代人工智能的战略出来之后,对大家来说是一个很好的契机,尤其做的比较好的研究者可以留在学校慢慢在这方面做一些比较好的贡献。

工业界稍微会有一些不一样,工业界和学界很不一样,它就是要解决一个问题,我有一个数据,产生一个模型,应用到我的产品里,如果不工作就要去想办法,去侦查我的数据让我这个应用的场景,在我推广的范围之内。一个业务的成功取决的因素不只是技术,像技术、产品,最终用户,也包括我们的团队,意味着什么?即使你只做非常一般的研究,也是一个比较优秀的公司。如果这个公司能有足够的投入,比如你可以专注在这些比较原创的技术,而且把技术用在产品中的话意味着你最终不只是一个好公司,可能是一个great公司,《从优秀到卓越》,你更加在乎它的话可能会成为一个卓越的公司。中国卓越的公司还是比较少,但我们已经具备这个条件了,我们有好几个公司成为在世界范围内巨头的公司,他们有足够的财力去组建相应做技术研发的部门,瞄准的是三五年时间的产出,而不是一年,甚至更长时间的投入。所以我觉得机会还是非常有的。

另外一个维度,我想分享的是安全。可能大家现在思考的还不是非常多,但其实非常关键。360作为一家安全公司我们在这方面有非常多的探索,比如第一点软硬结合之后对智能硬件我们会用传感器,比如照相机,但其实是非常脆弱的,很容易被攻破的。比如一个摄像头拿激光笔对着它,那它很快就会自盲。还有一个领域可能大家思考非常少,就是会有老化的问题,那它获取到信息的精准度没有以前那么高了,现在人工智能的算法都是不停的调优调出来的,之后到底它产生什么样的影响,以前的模型到底是不是能工作,整个社会基本上没有做任何的探索,这是第一点。

第二点,AI软件的安全性。这一点360研究比较早,它多是建立在底层的SDK上的,这些SDK可能里面也有bug,比如我们做一个图象识别的算法部署到服务器上,黑客利用软件的漏洞可以在图片上加一些信息进去,这个图片就可以让我的服务系统,或者陷入死循环,或者没有办法获得系统的控制权限,这些也是我们平常想的非常少的。

第三点,软硬结合的时候,意味着连接变得不可或缺。连接之后意味着黑客就有机会渗透到你的智能硬件里面了,他想做什么样的事就他说了算。

另外可能还涉及到道德层面上的问题,比如说我们基本上有一个观点,深度学习或者人工智能是没有完美的算法,就意味着你一定要处理一些问题,比如你做自动驾驶,在这个上面就一定要控制,你到底是撞前面的人还是把车右转到车道让自己产生伤亡,这个从道理层面真的不知道该怎么做。总的来说我想说的是,原创性和安全性非常重要,如果想要您自己和您的AI公司能活的更长更久更优秀,这两个维度可能是大家真的要花时间去关注的点。

谢谢大家!

来源:

http://economy.caijing.com.cn/20180811/4499338.shtml

原文发布于微信公众号 - 专知(Quan_Zhuanzhi)

原文发表时间:2018-08-12

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏钱塘大数据

为什么说大数据是商业“利器”?

数据能根据我们已有的客户行为数据,判断客户的未来。告诉我们,每一个客户的消费倾向,他们想要什么,喜欢什么,每个人的需求有哪些区别,哪些又可以被集合到一起来进行分...

30260
来自专栏新智元

从吴恩达到LeCun,AI研究院到底需要哪种类型领军人?

编辑:裴七 张乾 【新智元导读】本周LeCun卸任FAIR负责人。Facebook公司发言人Ari Entin表示,LeCun的新职位反映了Facebook研究...

37060
来自专栏AI科技评论

干货 | 大数据分析工程师的求职攻略

随着互联网的兴起,人工智能和大数据成为了热门领域,越来越多的企业开始通过对数据的挖掘分析来为商业决策提供建议,在国内市场,人工智能和大数据领域人才出现巨大的缺口...

22950
来自专栏腾讯研究院的专栏

教育研究如何跟上大数据时代

大数据时代的来临,为高等教育研究的范式转变带来了机会。 如何能有效地将巨量的数据资源转化为丰硕的教育研究成果,应用于改善教育的决策与实践,对教育研究界来说...

49560
来自专栏数据的力量

谷歌百度脸书IBM,人工智能四巨头2014盘点

19950
来自专栏程序员笔记

凡选择必有代价

21920
来自专栏BestSDK

灵云推出情感语音SDK,男生瞬间拥有女神般魅惑声音!

虽然这个虚构出来的角色是由演员配音完成的,但却透露出一个真实的讯息——越接近真人说话水准和富有情感表现力的声音,越容易为大众所接受。

16040
来自专栏新智元

硅谷读心术:Facebook 的终极目标是脑对脑交流?

真正智能的技术,能感知到人们的想法,不再需要人们把自己的想法表达出来。 今年早些时候,Facebook 创始人马克·扎克伯格在自己的 Facebook 专页上...

28250
来自专栏人称T客

2017 年 IT 支出预计会增加

T客汇官网:tikehui.com 原作者:Marcia Savage 编译 | 徐婧欣 ? TEKsystems 研究发现,很多 IT 领导者对于 2017...

34360
来自专栏大数据文摘

大数据:第二次数据革命

40870

扫码关注云+社区

领取腾讯云代金券