全球首个AI协同及大数据安全标准正在制定,创新工场参与推进

雷刚 发自 凹非寺 量子位 报道 | 公众号 QbitAI

全球首个AI协同及大数据安全领域国际标准,有望明年出台。

2019年3月,创新工场南京国际人工智能研究院执行院长冯霁代表创新工场当选为IEEE联邦学习标准制定委员会副主席,着手推进制定AI协同及大数据安全领域首个国际标准。

创新工场高管当选IEEE联邦学习标准制定委员会副主席 IEEE,全称Institute of Electrical and Electronics Engineers,即国际电气与电子工程师协会,是目前全球最大的非营利性专业技术学会。

IEEE下设的标准协会是世界领先的标准制定机构,其标准制定内容涵盖人工智能等前沿信息科技,以及通信、电力和能源等多个科技领域,对全球科技发展具有举足轻重的影响。

目前,IEEE标准协会已经制定了900多个现行工业标准,包括众所周知的有线与无线网络通信标准等。

联邦学习(Federated Learning)是一种新兴的人工智能基础技术,其设计目标是在保障大数据交换时的信息安全、保护终端数据和个人数据隐私、保证合法合规的前提下,在多参与方或多计算结点之间开展高效率的机器学习。

联邦学习有望成为下一代人工智能协同算法和协作网络的基础。

图释:联邦学习系统架构图,图片来自微众银行2018年9月发布的《联邦学习白皮书 V1.0》

冯霁表示,IEEE联邦学习标准制定委员会将围绕联邦学习技术与相关的基础AI技术积极开展工作,大力推动AI时代下的隐私保护、数据安全、应用安全等领域的体系规范化和技术标准化,意义深远。

未来,创新工场基于人工智能工程院的研发平台,也将进一步开拓人工智能前沿科技与真实商业场景的结合,通过广泛的科研合作、商业合作、高端AI人才培养等扎实工作,迎接AI商业化时代的到来。

多巨头已参与

近年来,伴随人工智能技术的高速发展,数据安全和隐私保护问题成为业内关注的焦点。

大数据是AI时代的核心“能源”。如何在AI时代既保障用户的个人数据隐私,又促进大数据协作和交换的顺利发展?如何面对数据带来的伦理道德挑战?怎样避免数据垄断的出现、打破数据孤岛的困境?……这些都是各大学术及行业会议上,中外专家学者不断讨论的重要议题。

一个简单的例子是:今天我们每个人都在手机上使用输入法,而输入法为了做到尽量精准,就要基于用户个人的输入习惯训练人工智能模型。传统方案难免要将用户个人输入的原始信息上传到云端进行统一训练,这一做法过度收集了用户隐私,使用户隐私面临被滥用的风险。

而新兴的联邦学习技术可以在完成相同功能的情况下,做到只在用户的手机端访问用户个人输入信息,不上传任何隐私数据。手机端和服务端在保证隐私安全的情况下协同训练。

IEEE联邦学习标准项目是国际上首个针对人工智能协同技术框架订立标准的项目,由国际著名人工智能学者杨强教授领衔担任主席,对数字信任、科技向善的培育意义深远,为人工智能行业的进一步发展开辟了新的道路。

冯霁透露,按照正常进度,IEEE联邦学习标准将在两年内推出。

目前已有30余个互联网巨头公司、政府单位、企业和高校参与到标准制定工作中,仅国内参与方就包含中国电信、腾讯、京东、小米、微众银行、顺丰、平安一账通、招商金科、深圳市标准技术研究院、香港科技大学、香港理工大学等。未来也期待有更多的企业和单位参与 。

创新工场参与国际AI技术标准制定

创新工场人工智能工程院执行院长王咏刚表示,此次与IEEE标准制定委员会的合作只是创新工场积极参与国际科研与科技标准工作的一个缩影。

未来创新工场人工智能工程院还将与科研同行一起,积极推动前沿人工智能科技的标准化、规范化工作。

另外,创新工场董事长兼 CEO 李开复博士也曾在公开演讲中多次提及联邦学习技术的重要性,希望推进人工智能安全问题的治理达成国际共识,并利用技术手段及标准化方法克服潜在的灾难发生。

目前,创新工场人工智能工程院正在积极参与联邦学习技术的研究推进。创新工场人工智能工程院成立于2016年9月,以“科研+工程实验室”模式,规划研发方向,组建研发团队。目前已经设有医疗AI、教育AI、机器人、机器学习理论、计算金融等面向前沿科技与应用方向的实验室。其中,机器学习理论实验室将主要参与联邦学习算法和应用框架的研发。

事实上,这并不是创新工场第一次参与国际AI领域技术标准的制定。

今年1月,世界经济论坛宣布成立“AI Council人工智能委员会”,李开复博士出任联席主席,将致力于帮助人们面对人工智能时代带来的新挑战,包括个人数据保护、数据伦理道德等问题。

李开复博士表示,在是否需要制定规则、制定什么样的规则问题上,不同的国家和文化对此有不同的看法。他希望借助世界经济论坛的平台与 AI 委员会,帮助大家分享想法,让更多的公司和国家直接进行沟通与对话,减少对彼此的误解。

关于冯霁

冯霁,师从南京大学周志华教授,专注于新型深度学习算法和理论的研究。其参与的深度森林系列研究,在学术界和工业界获得了较为广泛的关注和影响。现担任IEEE联邦学习标准制定委员会副主席,以及多个人工智能顶级会议包括NeurIPS-19,AAAI-18, ICML-19的程序委员。他在数据驱动下的计算金融具备资深的研发和实战能力,对金融时间序列分析,全栈式人工智能系统的搭建和技术人员的培训上有着丰富的经验。 目前担任创新工场南京国际人工智能研究院执行院长,在鲁棒性和安全性人工智能以及计算金融领域,开展一系列的研究与落地工作,从整体上负责南京研究院的团队建设、科研拓展、应用研发、学术交流与合作等工作内容。

原文发布于微信公众号 - 量子位(QbitAI)

原文发表时间:2019-04-15

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

扫码关注云+社区

领取腾讯云代金券