李飞飞:机器智能应以人为本,考量其社会影响和赋能人类

在数字时代,我们怎么去应对科技产品迭代加速的挑战,政府有规制的责任,社会有选择的责任,科技公司则有技术的责任。一个产品,不管它在技术上有多先进、多前沿,它的核心还是要为大多数人谋利,为大多数人谋快乐。

从辩证的角度来看,科技既可以用来行善,也有可能拿来做恶。向善有大善、小善,最大限度地降低科技的负面影响是制度安排问题,可选择科技朝哪个方向走,却是道德问题。鼓励用户向正面后果发展,避免负面后果,这是科技公司应该承担的责任。

当一些新的科技出现的时候,既要让用户更好了解新科技,也要让用户明白可能的负面影响;其次是要引导、预防,并针对可能的负面后果提供解决方案。

——北京大学社会学教授邱泽奇

科技向善Weekly由腾讯研究院汇编,每周整理最新一周全网科技向善相关资讯、观点与实践产品,为科技向善的探索注入全新燃料。

本周,谁谈论了科技向善 ?

斯坦福大学计算机科学教授、Google Cloud首席科学家 李飞飞:致力于「让智能机器更加以人为本,怀有善意,帮助人类解决一些最有意义难题」的研究

近日,在UDACITY和极客公园推出一档视频对话节目中,斯坦福大学计算机科学教授、Google Cloud首席科学家李飞飞表示,人工智能的发展不会只展示利好的一面。机器无法为人类做出所有决策,因此在很多 AI 应用中,人类仍然是其中必不可少的一环。

所以从「以人为本」的初衷出发,她也强调了这项研究需要遵守的三个原则:发展 AI 的过程中必须考虑 AI 对人类社会的影响;AI 的应用是为了赋能人类,而非取代人类;AI必须尽可能像人类智慧一样敏感、细腻、有深度。

在未来,智能机器的普及将会给社会带来什么?会对文化造成怎样的影响?这些都是未知数。所以我们必须要投入时间、资源和广泛的专业知识来理解这项技术,预测它将带来的可能性并有责任地进行引导,「以人为本」的 AI 系统应该遵循如何让人们的生活变得更好的原则进行。

——《何为有「人性」的人工智能 | 大咖对话 001》来源:极客公园微信公众号

2019年世界人工智能大会腾讯论坛:「科技有道,择善而行」

8月31日,2019年世界人工智能大会腾讯论坛在上海顺利举办,腾讯论坛以「科技有道,择善而行」为主题,聚焦人工智能发展面临的机遇与挑战、趋势与未来,共同探讨科技向善的理念。

本次论坛上,腾讯正式推出了Light计划,其将在科技向善理念指引下,助力中国人工智能产业孵化新动能。腾讯希望能够为加入该计划的企业提供更多帮助,例如腾讯云将开放1-10万元免费云资源申领;腾讯众创空间将整合全网优质资源,提供全方位企业增值服务,以及创业孵化加速平台;微信AI则将向开发者开放AI能力;腾讯优图联合英特尔在会上正式宣布,为AI爱好者推出了AI视觉模组VisionSeed,并通过腾讯云与AI开放平台开放软硬件技术能力,惠及更多的AI爱好者们。

——《2019 WAIC腾讯论坛举行 多项「向善」AI成果集中亮相》来源:中新网

快手CEO宿华:「我相信从历史上看,每一次科技的进步,都是带动人类社会变得越来越好的。」

在新华社8月26日的采访中,快手CEO宿华表示,快手本身是人们通过短视频来表达、交流的社区。人们通过手机摄像头和快手APP来记录生活,快手则通过一系列技术手段帮助千千万万的「老铁」们分享自己的记录。在分享的过程中,人们消解了寂寞,找到了认同和归属感。快手不需要特意扶持签约的大V,快手上的大V就是在这个社区成长起来的普通人。

在人们通过分享生活记录带来快乐的同时,内容审核管理的需求越来越突显。宿华也一直在思考,如何在网络社区对现实社会影响越来越大的背景下,找准快手的合适定位。

他认为,历史上每一次科技的进步,都是带动人类社会变得越来越好的。但有时技术的应用本身,包括现在的人工智能,对社会也可能起到一些负面的效果。所有的互联网企业都要认真地思考,自身能给这个世界带来什么,怎样保证企业带来的变化能让世界变得更好。

——《快手宿华:记录世界,是为了让世界更美好》来源:新华网

腾讯公司高级副总裁马晓轶:今年不接入健康系统的腾讯游戏将下架

9月6日,腾讯公司高级副总裁马晓轶发布公开信,称包括《王者荣耀》《和平精英》在内的几乎全部移动游戏,目前都已经完成了健康系统的接入,而客户端游戏的接入目前也正在进行中,腾讯将在今年完成健康系统的全产品覆盖。

马晓轶明确称,为了确保所有未成年用户都可以受到保护,如果有游戏因为技术等硬性原因无法接入健康系统的——即便依然可以贡献营收——腾讯都会毫不犹豫地把它们停运和下架。同时,他还分享了腾讯关于未成年人保护的四个核心命题的观点,包括游戏时间管理、游戏消费管理、实名信息校验和适龄游戏尝试。

他表示,腾讯作为行业一员,责无旁贷,会去主动尝试未成年人保护的各项途径,并积极投身与主管部门、行业及公众的相关讨论,为后续统一标准的出台提供力所能及的支持。

——《不接入,就下架!》来源:腾讯 微信公众号

bilibili CEO 陈睿:我认为一个真正伟大的企业,考虑的应该是利他

9月5日,bilibiliCEO陈睿在《晚点Late Post》对其的采访中说道:「一个真正伟大的企业,考虑的应该是利他。」在之前就职的猎豹移动公司即将上市前夕,陈睿选择离职,而加入B站的初衷,是因为他认为自己成就感的来源不只是数量,而是希望用户能够真正地爱产品,为产品鼓掌。而想让用户能够永远站在自己产品这一边,企业必须是要把用户当成一个平等的人来看。

——《对话bilibili陈睿:在中国太少企业把用户当一个平等的人》来源:晚点Late Post微信公众号

本周,谁实践了科技向善 ?

Facebook尝试隐藏点赞数量

9月2日,Facebook用户Jane Manchun Wong发现自己和好友都只能看到“××和其他人”点赞,无法得知具体的点赞人数。该功能目前只在被选中的用户中进行内测,是否推而广之,Facebook并没有做出明确回应。但早前,Facebook 旗下的图片社交软件 Instagram 已经在七个国家推行隐藏点赞数量。

近年来,社交软件对用户心理影响的话题日益受到关注。其中,社交媒体上的点赞数被普遍认为可能引发用户的社交焦虑和自我怀疑,隐藏点赞数量是对这一假设的一种回应。

——《Now Facebook says it may remove Like counts》from:techcrunch

伦敦帝国理工学院:AI帮你在语音识别面前,假装成没有感情的机器人

语音识别和自然语言处理技术让各类语音服务逐渐渗透到人们的日常生活。根据用户的声音数据,科技公司能够获得基于自信、焦虑程度、身体状况、年龄、性别甚至个性等方面的用户信息,从而帮助其建立准确的用户画像,并对用户行为进行预测。

伦敦帝国理工学院于8月9日在网站Arxiv上发表论文《没有感情:基于隐私保护对语音软件的分析》,研究人员表示,为了减少对用户个人信息的过度采集,希望能够能利用人工智能来掩盖用户与 AI 语音助手交流时透露的非语言信息。所采用的方式是在用户和云端数据之间建立了一个过滤,用户的声音中的情感、健康状况等信息会被过滤,再转化为统一化语言后上传。这种方法能去掉96%的可识别情感信息,但语音识别准确率也会下降,单词错误率达35%。

——《「保护隐私」 的 AI 来了,它帮你在其他 AI 面前假装没有感情》来源:http://www.vice.cn

Vmware首席执行官Pat Gelsinger:VMware将推动Tech For Good计划

8月26日,戴尔科技旗下云与软件公司Vmware在美国旧金山举办第10届VMworld开发者大会,VMworld大会涵盖数据中心和云、网络和安全、人工智能等新兴领域的主题。

大会期间,Vmware首席执行官Pat Gelsinge宣布加入 TechSoup 启动一项 Tech For Good 计划。TechSoup 是一个成立于 1987 年的非盈利组织,其目标旨在为其它非盈利组织提供 IT 技术上的支撑。通过 TechSoup,Vmware 将能够为更多非营利组织优惠或免费提供其技术解决方案,帮助这些组织更高效地运转。

三星合作推出XTC:用技术解决更多问题,推动人类社会的进步

8月29日,三星电子公司总裁兼首席战略官扬·索恩Young Sohn在Viva Technology上表示,在Galaxy Unpacked活动上,三星与联合国开发计划署(UNDP)建立新伙伴关系,用技术让世界更接近实现可持续发展的目标。

作为此合作伙伴关系的一个组成部分,三星Galaxy智能手机推出的三星全球目标App,使更多人能够参与并帮助联合国开发计划署在2030年前实现全球可持续发展的目标。

为实现这一使命,三星与Arm,思科,硅谷银行,加州大学,Zoom和其他行业领导者合作推出终极科技挑战 (XTC)。通过该项挑战,三星及其合作者将选出能够推动实现联合国17大可持续发展目标的企业。并为这些能帮助解决重大问题的企业进行各方面的资助。XTC代表了三星致力于开放协作,利用数据和人工智能等尖端技术去解决更多问题,造福人类。

——《Tech for Good: A Global Movement toShape Our Future》from:https://news.samsung.com

IBM和美国退伍军人事务部:AI支持的精神健康App帮助军人回归日常生活

8月29日,IBM和美国退伍军人事务部合作推出了「改变结果」(Get Results in Transition,简称GRIT)App,该款App主要用于帮助退伍军人、预备役军人和其他公务人员更好地理解自己的心理和整体健康状况。普通用户也可使用。该App主要是利用数据和AI去「了解」用户的精神状态,并为其提供建议、工具和资源维护心理健康。

该App主要有四个特点:一是帮助用户进行精神力训练;其次是「小队」功能,主要是关注用户的人际关系;第三是提供与用户相匹配的就业信息;第四项也是由AI支持的聊天机器人,帮助解答常规问题,并为其具体需求提供相关的信息帮助。

另一支持该App的公司Total Brain CEO Louis Gagnon表示,该App预测用户精神状态的准确率达到70%-80%,并且会判断并建议用户是否需要寻求外部帮助。为IBM提供军人精神状况研究的首席咨询专家Gardner表示,她希望这款App能够帮助到使用它的人,并对其生活产生积极的影响。

——《VA, IBM Unveil AI-Powered MentalFitness App to Help Vets Transitioning to Civilian Life》from:https://www.nextgov.com

英科智能:利用AI能够在21天内完成药物的分子设计

9月2日,美国生物科技公司英科智能在发布的一项研究中表示,基于深度学习能够找到治疗纤维化的疗法。该深度学习系统GENTRL,在21天内找到了6种治疗方法,并有一种在对小白鼠进行实验的过程中获得可观效果。

另一家生物科技公司的研发团队用传统方法花费了上百万美元,历时8年多,研制出了能够抑制主要盘状受体DDR1(一种和纤维化有关的酶)的药物。而英科智能使用其深度学习系统只用了21天就完成了分子设计,从设计到合成,再到验证共用了46天的时间。

虽然没有能够证明由GENTRL研制的药剂比传统研发的效果更好,但其在花费时间和金额上的成本却大大降低,其在几周内花费15万美元就研制完成。要将候选药物用于临床治疗还需进一步地研究,但该项实验却表明了AI对帮助识别候选药物有着重要作用。

目前,这项研究已发表于《自然生物科技》(《自然》杂志的生物科技分册),并且模型代码已经在Github上公开。

——《This Startup Used AI To Design A DrugIn 21 Days》from:https://www.forbes.com

AI帮助提前约十年预测心脏病,准确率达90%

牛津大学研究者通过利用AI更加深入地分析常规CT扫描、追踪与引发心脏病相关的标记物、观测危险的脂肪组织物和扫描周围器官,来帮助人们提前十年预测心脏病,准确率达到85%—90%。

主持该项研究的牛津大学心血管学教授Charalambos Antoniades表示,现在的医生在观测心脏病时,只能看到「冰山一角」,而新技术能够为医生提供全面精确的信息,帮助医师对其有全方位的观察,并告知是否需要进行治疗。

过去,CT扫描每年被用于检查4万高发心脏病人群,而未来可以使用这项技术每年检测35万人,主要针对40—70岁之间,有胸痛、肥胖、吸烟、糖尿病等有高危因素的人群。

——《Scientists can predict risk of heartattack with 90 per cent accuracy》from:https://www.telegraph.co.uk

本周,哪些问题值得思考?

低龄触网:未成年人低龄触网,如何权衡利弊?

因网络环境本身的复杂、网络信息质量和安全等问题让未成年人在接触网络时,难免受到不良影响。

根据南方都市报大数据研究院发布的《未成年人移动互联网使用现状调研报告》显示,有21.25%的受访学生曾在使用手机时遇到过色情或暴力信息;一些小说阅读平台、游戏周边APP成为不良信息传播的新温床。另有12.47%的受访学生表示曾遭受网络欺凌。

移动互联网已经成为人们日常生活的一部分,随着低龄触网人数增加,人们希望利用信息技术为教育服务的同时,能够做到减少沉迷问题。除了从立法上最低限度地保护未成年人,如何规避互联网技术上的「恶」,而取其「善」,也成为各界热议的焦点。

——《未成年人低龄触网利弊几何?「科技向善」呼吁加强网络素养教育》来源:光明网

ZAO刷屏引发思考:技术的准则在哪里?

8月31日,2019世界人工智能大会论坛上,最近刷屏朋友圈的换脸应用程序ZAO成为关注焦点。ZAO采用的是始现于2016年的Deepfake,即深度学习(deep learning)和伪造(fake)的合成词,是一种基于人工智能的人体图像合成技术,可将已有的图像和影片叠加至目标图像或影片上。

腾讯优图实验室总经理吴运称,现在网上有换脸的技术,可以通过技术制造声音、视频,用技术模拟出摄像头的录制,比如人没有到这里,但技术可以让人出现在这里。这些都促使他去思考技术的准则在哪里,底线在哪里,科技向善是一个非常重要的价值观层面的事。

此外,引发热议的是ZAO的用户协议。根据ZAO的必要授权协议:用户上传发布内容后,意味着同意授予ZAO及其关联公司以及ZAO用户在「全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利」等条款,引发人们开始关注背后设计的隐私、肖像权和版权等问题。

9月3日,工信部网络安全管理局对北京陌陌科技有限公司相关负责人进行约谈(ZAO为陌陌旗下产品),要求组织进行自查整改,依法收集和使用用户个人信息,规范协议条款,强化网络数据和用户个人信息安全保护。ZAO官方也首次作出回应,发表道歉声明。

腾讯研究院助理院长程明霞提到这一应用程序的走红时表示,一方面可以看到人们对AI非常感兴趣,踊跃地上传自己的照片,查看效果;另一方面如果仔细查看用户条约也存在着潜在的风险。她认为应该确保AI的「可知」、「可控」、「可用」、「可靠」。科技公司应该追求长期价值,日活、月活、估值都是短期的,社会价值才是长期的。

——《ZAO刷屏 腾讯、英特尔等呼吁关注「换脸」技术可控性》来源:新浪财经

课堂里的AI摄像头:是保障学生安全还是「全景敞视监狱」?

9月2日,一张带有「MEGVII旷视」的视频监控图片在网络上引起热议。图片上显示AI对该名学生「听讲」、「阅读」、「举手」、「趴桌子」等行为次数的分析。技术提供方旷视科技主要是根据对学生的考勤、行为分析摄像机 MegEye-C3V-920所 获取的人脸、行为以及表情等数据,进行分析,并向校方反馈学生的行为、表情、专注度等数据,辅助教学评估。

网友们认为该课堂教学评价系统对学生人权和个人隐私的侵犯,将其形容为「全景敞视监狱」。而近日中国医药大学也采取类似举措,在两间教室「试水」安装了人脸识别系统,用于日常考勤和课堂纪律管理。对此,该校有关负责人称,学校之前已向公安部门和法务部门咨询,由于教室属于公开场所,因此不存在「侵犯隐私」的说法。

有业内人士解释说,给到云端供进一步分析的不是学生的照片,而是结构化的数据,是他/她在某个时间点上某种情感、行为概率,是一串数值。同时表示学校会跟家长签署数据授权协议,并对学校工作人员设定不同的使用权限,从而保护学生隐私。

近期,瑞典对人脸识别技术应用的一项判决则提供了一定借鉴。瑞典数据监管机构最终决定对一所应用人脸识别系统的高中处以20 万瑞典克朗(约合 145 万元人民币)的罚款。

因为在该高中,所有教师每年要花约 1.7 万个小时来对学生进行点名以及追踪学生活动,所以市政府准许个别学校实验,使用人脸识别技术改善这一状况。然而,瑞典数据监管机构指出,即使事先获得了学生和家长的同意,鉴于数据的持有者及数据的管理者之间,存在明显的信息不对称,因此校方和家长的协议不能构成有效的法律依据。同时,虽然学校的某些场合可以被视为「公开场合」,但学生何时进入教室,依旧是个人隐私。

当日,旷视科技方面发布公开声明表示,该图片为技术场景化概念演示。旷视在教育领域的产品专注于保护孩子在校园的安全。公司始终坚持技术向善,让人工智能造福所有人。

然而,对隐私的理解和界定、对技术效率与人权隐私之间的平衡、对AI商业化应用后法律对其的规范等仍需要各界进一步地探讨。

——《开学季摄像头潜入课堂,AI商业化后的隐私黑盒能关得住吗?》来源:机器之能微信公众号

科技向善是在腾讯创始人之一张志东先生指导下,于2018年初由腾讯研究院发起的一个多方共建的研究、对话与行动平台,这一理念在2019年升级为腾讯公司新使命。腾讯研究院希望在这一使命下与社会各界共同关注技术演进带来的重大问题,寻求共识与解决方案,引导科技为社会带来最大福祉。

--END--

我好看吗?

  • 发表于:
  • 原文链接https://kuaibao.qq.com/s/20190907A0IY4F00?refer=cp_1026
  • 腾讯「云+社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。

扫码关注云+社区

领取腾讯云代金券