如何防范人工智能失控？教育程序开发者，才可以防患于未然

时至今日,AI人工智能已到了飞速发展、指日可待的程度,而且一些初级的AI人工智能技术和设备已经投入了广泛的使用,与此同时,其引发的种种问题、以及潜在的隐患也越来越显著,让各界人士忧心不已。比如2015年6月,谷歌照片(Google Photos)采用的算法就出现了极为严重的错误——它把一位黑人归类为大猩猩——经一位名为杰基.艾斯恩(Jacky Alciné)的软件开发人员披露之后,引起了一场轩然大波。谷歌公司对于这一“乌龙事件”深表歉意,且试图处理这一漏洞,可处理的结果并不理想。2017年的一次会议上,谷歌公司的AI人工智能负责人约翰.詹南德瑞亚(John Giannandrea)表示,人类暂时不需要担心“终结者”机器人,可人类一定要警惕AI人工智能的种种偏见和歧视。

2018年6月,谷歌公司的首席执行官桑达.皮查依(Sundar Pichai)发布了Ai人工智能研发的七大准则,包括“有益于人类社会”、“避免制造和增强偏见”、“有义务满足公众的知情权”等等。为了防范谷歌照片的“乌龙事件”再次发生,谷歌公司还成立了专门的机器学习道德部门,对公司的产品和服务进行分析、测试和提出修改的意见,尽可能的避免AI人工智能作恶。中国的AI人工智能专家龚克认为,除了AI人工智能领域的从业者必须具备一定程度的价值追求和道德意识之外,教育机构也要承担相应的责任,若AI人工智能的相关教育较为完善、培养的人才较为优秀,才可以从根本上杜绝AI人工智能领域的种种乱象和隐患。

(人工智能)

所谓的“智能”是指一种自主性的认知、分析和决策的能力,经由教育的途径习得和培养,一个大脑机能完全、智力正常的孩子,如果他从未接受任何正规教育的话,就称不上拥有“智能”。而“人工智能”是指编程人员使用人工设计的算法,让计算机自主完成某些任务,这种具备了认知、分析和决策能力的算法就是AI人工智能。现今的AI人工智能并不具备自主性,它们基本上是完成一些人为规定的任务,一旦AI人工智能具备了自主性,那么“强人工智能”时代就会降临了。龚克认为,“弱人工智能”的广泛应用,正渐渐改变着教育方式,以前的教师们要求学生记忆和理解知识,而当代的学生要在记忆和理解的基础上,学会提问、查阅和辨别,这样的话,学习效率才可以大幅提高。

与此同时,AI人工智能技术的良性发展也需要教育的支持,其设计、编写、维护等等事项都需要一流人才,只有教育机构承担了相应的责任、源源不断的培养优秀人才,Ai人工智能技术才可以健康发展。龚克认为,AI人工智能这一学科的建设,需要“人工智能+X”的新教育模式,教育机构必须重视人工智能与数学、物理学和计算机等等学科的交融,而且,这些AI人工智能的开发者、编写者和应用者等等,必须提高价值追求和道德意识,否则,AI人工智能领域中的一些顽疾和隐患就无法消除。

(人工智能)

随着“弱人工智能”的进步、以及“强人工智能”的诞生和兴盛,人类会步入一个“最好”和“最坏”并存的奇异时代,如果AI人工智能技术受控于人类,则人类文明很可能会提升到更高的层次,一些天方夜谭一般的科技也会应运而生;如果Ai人工智能技术摆脱了人类的控制,那么,人类面临的局面就格外复杂了,上演《终结者》系列电影中的悲剧也不是全无可能的。

(人工智能)

小考题:你认为类似“天网”的AI人工智能会不会诞生?欢迎你留言讨论。

（本号专注于科技前沿、历史拾遗、奇闻异事和人物品鉴，还望你的关注和订阅，万分感谢！）