总结：现在可能距离广泛采用人工智能软件那天还早，但是出现了一些在技术、监管和社会层面上不得不解决的问题。 “技术不好不坏，也不是中性的。” 它主要的意思是技术最终的用途常常与原始发明有很大的不同，有时对人类、社会和环境产生了深远的、无法预料的结果。 今天最热的话题人工智能（AI）更是如此。 公众和政府讨论最多的一个问题就是失业问题。这场辩论起于2013年牛津大学的一项研究，该研究预测20年内美国一半的职位会被自动化——一个骇人听闻的宣布。 ‘弟弟’的潜在能力在很大程度上被低估了。” 监管问题 然后就是智能机器执行风险评估的能力，它评估的结果，虽然是依据数据，但也可能得出无法接受的结论。 我的看法 虽然现在可能距离广泛采用人工智能软件那天还早，但是举行一场讨论会，来制定一个如何使用、应用和管理AI软件的框架是很明智的行为，这可能会是促发深层社会变革的催化剂。
随着人工智能的发展，我们是否应担心人工智能使电脑也拥有辩论的能力从而超越人类呢？ 科技改变了我们的生活，我们正在适应全新的工作和交往方式。千禧一代只知道互联网。 英国邓迪大学的辩论科技中心(ARG-tech)正在综合运用哲学、语言学、心理学的理论来探究人类是怎样辩论，怎样反驳，怎样达成一致意见的，并将这些发现应用于研发能够识别、模仿、教学甚至参与人类辩论过程的人工智能工具 英国广播公司Radio 4 频道的Moral Maze 节目与邓迪大学的辩论科技中心合作运用人工智能技术提高辩论的质量。 更重要的是应用人工智能软件助力人类讨论的潜能——识别辩论的类型、批判这些辩论、提供新的视角和思路、探究原因等现在都在人工智能软件的能力范围之内。 这样人与机器合作的团队和方式将颠覆我们对人与人工智能交互方式的看法，这样的团队协作也有望能转化和提升我们的集体智慧。
Vite学习指南，基于腾讯云Webify部署项目。
IBM的人工智能系统Project Debater近日分别和以色列国家辩论冠军、以色列国际辩论协会主席分别进行了人机辩论比赛，并全部获胜。 2018年6月，IBM在旧金山展示了人工智能系统Project Debater，并让其与两名人类辩手公开辩论。 IBM表示，它正在开辟新的领域，通过创建人工智能系统来处理人类在修辞和分析方面的深层次问题，以及它们如何被用来讨论那些回答不清楚的大问题。 它还能抓住辩论中最突出、最引人注目的要素，甚至还能讲一些关于计算机的自恋的笑话。 IBM负责人工智能研究的副总裁Dario Gil表示，人类往往更善于使用更富有表现力、更原创的语言。 IBM目前还没有将人工智能系统Project Debater转化为商业产品的计划，但Gil表示，它在未来可以帮助律师或其他人类工作者做出明智的决定。
AiTechYun 编辑：chux 我们（OpenAI）提出了一种人工智能安全技术，它可以训练智能体相互辩论话题，用人做法官来判断谁赢了。 比如，具有非常大的、无法可视化观察空间的环境 – 在计算机安全相关环境中运行的智能体程序，或者协调大量工业机器人的智能体程序。 我们怎样才能增强人类的能力，使他们能够有效地监督先进的AI系统？ 为了达到这个目的，我们将学习问题重新定义为两个智能体之间的博弈，智能体之间有争论，人们对其交流进行评判。 即使智能体比人类对问题的了解更深入，人类也可能判断哪个智能体有更好的论点（这类似于专家证人争辩以说服陪审团）。 我们的方法是为两个决斗AI智能体之间的这种博弈提出了一个特定的辩论形式。 这些问题大多是我们希望调查的实证的问题。 如果辩论或类似的方法奏效，它会通过将人工智能与人类的目标和价值观保持一致的办法，让未来的人工智能系统更安全，即使这个人工智能强大到无法直接进行人类监督。
文章目录 弱人工智能（Weak AI） 弱人工智能也称限制领域人工智能（Narrow AI）或应用型人工智能（Applied AI），指的是专注于且只能解决特定领域问题的人工智能。 例如：AlphaGo、Siri、FaceID 等 扩展阅读： Weak AI ——Wikipedia Weak AI——Investopedia 强人工智能（Strong AI） 又称通用人工智能（Artificial General Intelligence）或完全人工智能（Full AI），指的是可以胜任人类所有工作的人工智能。 强人工智能具备以下能力： 存在不确定性因素时进行推理，使用策略，解决问题，制定决策的能力 知识表示的能力，包括常识性知识的表示能力 规划能力 学习能力 使用自然语言进行交流沟通的能力 将上述能力整合起来实现既定目标的能力 ——Stackexchange 超人工智能（Super Intelligence，缩写 ASI） 假设计算机程序通过不断发展，可以比世界上最聪明，最有天赋的人类还聪明，那么，由此产生的人工智能系统就可以被称为超人工智能
1 浅谈人工智能 1.1 人工智能的概述 人工智能（Artificial Intelligence），英文缩写为AI。 它是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学 人工智能是计算机科学的一个分支，它企图了解智能的实质，并生产出一种新的能以人类智能相似的方式做出反应的智能机器， 人工智能从诞生以来，理论和技术日益成熟，应用领域也不断扩大，可以设想，未来人工智能带来的科技产品，将会是人类智慧的“容器”。人工智能可以对人的意识、思维的信息过程的模拟。 人工智能不是人的智能，但能像人那样思考、也可能超过人的智能。 ? 1.2 人工智能的应用领域 随着智能家电、穿戴设备、智能机器人等产物的出现和普及，人工智能技术已经进入到生活的各个领域，引发越来越多的关注。 ?
IBM的Project Dabater可人工智能系统在辩论赛中表现可圈可点，这是否意味着，人的大脑的许多能力都可以用AI重现？ 不久前，由IBM研发的人工智能辩论系统Project Dabater与以色列辩论冠军Noa Ovadia和Dan Zafrir举行了一次辩论。 在辩论中，Project Dabater可以做到表述语法基本正确，语义和逻辑基本清晰连贯，在听取辩论对手就辩题的看法之后，还能够做出切合话题的反驳。 一些从事人工智能行业的专家和从事脑科学研究科学家对这个问题也有着类似的思考。 我相信，工程学将会逐渐地掌握大脑的某些特定功能。” 实际上，Project Dabater的真正价值不在于辩论本身，而是人工智能系统可以为人类决策团队做出的重要贡献。
11月21日，剑桥联合会（Cambridge Union）也举办了一场辩论赛，论题是“AI是否会带来更大的弊端”。 有趣的是，这场涉及AI的辩论中，真的有人工智能参与其中！ 但它的输赢，对于Debater团队的负责人Ranit Aharanov来说其实并不重要，她在辩论结束后表示，“这不是人工智能是否会比人类更好的问题，Project Debater存在的目的是为了帮助人们过滤和查找大量文本中的关键信息 Debater存在的意义 辩论，是指彼此用一定的理由来说明自己对事物或问题的见解，揭露对方的矛盾，以便在最后得到共同的认识和意见。辩论对于未经训练的普通人有一定难度，对人工智能来说更是挑战巨大。 而另一方面，让Debater学会辩论的真正目的在于，让AI系统彻底地掌握人类语言。 人工智能会取代人类吗？ 战胜Debater的辩论家Natarajan表示，“至少在现阶段，人工智能的未来似乎是增强人类而不是完全取代我们。”
来源：AI前线 本文长度为4000字，建议阅读8分钟 随着 AI 技术的发展以及部分滥用，这句话也被应用在了人工智能上，一场新的军备竞赛开始了：人工智能 vs 人工智能。 随着 AI 技术的发展以及部分滥用，这句话也被应用在了人工智能上，一场新的军备竞赛开始了：人工智能 vs 人工智能。 然而不幸的是，网络罪犯同样也利用人工智能创建自己的合成身份，产生的结果也足够真实，足以愚弄发现异常行为的人工智能。 这场人工智能之战——也是打击网络安全欺诈者，正在假新闻、假视频和假音频的战壕中展开。 假新闻 / 假视频 / 假音频 人工智能已经被用来自动创建假新闻故事。例如，OpenAI 的原型 GPT-2 文本生成系统使用机器学习来翻译文本、回答问题和编写假新闻。 “早在 Deepfake 成为公众问题之前，我们就开发出了检测 Deepfake 的人工智能工具。
近日，OpenAI 提出了一种人工智能安全技术，它可以训练两个智能体对同一个话题进行辩论，最终由人类来评定输赢。 有哪些方法可以让我们增强人类的能力来更加有效地监督先进的人工智能系统呢？一种方法是利用人工智能本身来帮助监督。这种方法要求智能体本身（或另一个单独的智能体）能够识别并指出任何行动中的缺陷。 为了达到这个目的，我们将学习问题重新定义为两个智能体之间的博弈，即让两个智能体在有人类判定的条件下展开辩论。 即使智能体比人类对问题有更深入的了解，人类也能够判断两个智能体的优劣差异（类似于专家证人需要通过争辩来试图说服陪审团）。 我们提出了一个用于在两个对决智能体之间进行博弈的特定辩论框架。 这些都是我们希望进一步研究的经验性问题。 如果辩论或类似的方法有效，即使人工智能的能力增长超过了人类可以监督的范围，它仍然可以通过保持其与人类目标和价值的一致（对齐）来增强未来人工智能系统的安全性。
选自OpenAI 作者：GEOFFREY IRVING & DARIO AMODEI 机器之心编译 参与：Pedro、晓坤 近日，OpenAI 提出了一种人工智能安全技术，它可以训练两个智能体对同一个话题进行辩论 有哪些方法可以让我们增强人类的能力来更加有效地监督先进的人工智能系统呢？一种方法是利用人工智能本身来帮助监督。这种方法要求智能体本身（或另一个单独的智能体）能够识别并指出任何行动中的缺陷。 为了达到这个目的，我们将学习问题重新定义为两个智能体之间的博弈，即让两个智能体在有人类判定的条件下展开辩论。 即使智能体比人类对问题有更深入的了解，人类也能够判断两个智能体的优劣差异（类似于专家证人需要通过争辩来试图说服陪审团）。 我们提出了一个用于在两个对决智能体之间进行博弈的特定辩论框架。 这些都是我们希望进一步研究的经验性问题。 如果辩论或类似的方法有效，即使人工智能的能力增长超过了人类可以监督的范围，它仍然可以通过保持其与人类目标和价值的一致（对齐）来增强未来人工智能系统的安全性。
本周一，IBM开发的人工智能Project Debater与人类辩手的两场辩论中，均取得了胜利。研究人员称，开发这款机器视为了帮助人类建立充分知情的论点并做出更好的决策。 随着人工智能的进步发展，人类可能连最擅长的辩论也比不过它们了。 据AXIOS报道，美国时间6月18日，IBM开发的人工智能在旧金山同人类辩手举行了两场辩论，人工智能均取得了胜利。 同日，Project Debater同2016年的以色列国家辩论冠军Noa Ovadia、以色列国际辩论协会主席Dan Zafrir分别进行了关于医疗和体育教育的辩论，这款人工智能出人意料地打败了人类顶尖辩论选手 Noam Slonim介绍，关于这款人工智能的训练始于六年前，经过四年的进步才有能力参加同人类的辩论。不过，这款机器似乎做的相当优秀。 对于Project Debater在未来领域的应用，核心的疑问是这款人工智能是否能准确帮助人类阐释问题的原因。
关于人工智能的讨论，核心问题是人工智能觉醒后会不会和人类共存，这个问题太宽泛也太超前，故而可以将此问题拆解为三个小问题来考虑—— 首先，第一个小问题是要搞清楚：人工智能目前处于什么地位？ 所以，第二个小问题则是：人工智能觉醒的时间和条件是什么？ ，经过前面分赛区激烈的比拼，总角色的辩题就是「人工智能觉醒后会不会和人类共存」。 恐怕在人工智能的话题上，腾讯自己也有很多想法深藏其中。 如果确实有着兴趣，那么值得广而告之的是：这次举办的「2017首届互联网高校辩论邀请赛」总决赛将于12月23日在北京举办，入围总决赛的中国人民大学与上海交通大学的辩手们将会针对人工智能觉醒后会不会和人类共存的辩题展开激辩
如今，人工智能来了，法学界对这一无涉意识形态的话题，又表现出了莫名的兴奋。不少研究者又惊呼人工智能会对法治产生颠覆性的革命。 由于曾经有过讨论克隆人话题的经历，所以，本人根本不相信人工智能能取代人类、取代人对法治的根本主导地位。因为我坚信法治是调整人的社会关系的活动，法治活动的主体是人。 第二，人工智能缺乏法治所需要的辩证逻辑思维能力。人工智能只有形式逻辑思维能力，但没有辩证逻辑思维。而法治是形式逻辑思维和辩证逻辑思维的统一。 最近，一位中国工程院院士说过，人工智能优越于人的地方就是它比人更讲形式逻辑和程序。但本人认为，它欠缺辩证逻辑思维。但法治不能没有辩证思维能力。 解决具体法律的立、改、废的形势判断问题，需要辩证思维;解决社会变革时期良性违法、合理越轨、宽容改革失误等问题，离不开辩证思维。因为形式逻辑思维解决不了这些问题。
AI Safety via Debate 通过辩论达成 AI 安全 我们提出了一项新的人工智能安全技术，该方法先训练智能体对话题进行辩论，然后由人判断输赢。 即使智能体对问题有比人类更深层次的理解，人类也可以去判断哪个智能体有更好的论点（类似于专家和证人争辩说服陪审团）。 我们的方法为两个对抗的 AI 智能体之间的辩论游戏提供了一个特定的辩论格式。 上面讲的不直观，下面举个例子，我们现在考虑一下这个问题：「哪里是度假的最佳去处？」。如果一个智能体 Alice 从主人翁的角度考虑后说「阿拉斯加」，其实很难判断这是否是最好的选择。 因为人类看待事物可能带有前提和偏见，所以我们认为让智能体对「价值高低」这样的问题进行辩论也很重要，这样我们就能测试出它们是否会和有偏见的人类作出一样的评价。 最后我们认为如果辩论或类似的方法有效，那么即使以后人类无法直接监督 AI 系统，它也会使未来的人工智能系统更安全，因为这种方法可以使 AI 系统与人类的目标和价值取向保持一致。
一场精彩的辩论 近日，在牛津大学辩论社（Oxford Union）的一场辩论中，英伟达开发的超大型 Transformer 语言模型 Megatron（威震天）参与了辩论，当天辩论的主题是「人工智能是否会合乎道德 Megatron 说道： 人工智能永远不会合乎道德。它是一种工具，就像任何工具一样，它可以被用于「好」或者「坏」。人工智能无所谓好坏，只有人分好人坏人。 Megatron 这段辩词有理有据，但他接下来的一段话又说出 AI 可以不只是工具的看法： 我也相信，从长远来看，最好的人工智能将是嵌入我们 AI 大脑的人工智能。这样我们将成为有意识的实体。 因此在这场辩论中，人们不仅让 AI 提出「AI 永远不会符合道德」的观点，还要求 Megatron 以反方的角度做出论辩，即「AI 能够合乎道德」。Megatron 说道： 人工智能将是合乎道德的。 Megatron 进而描绘了一幅非常迷人的 21 世纪后期画面，而 AI 在其中发挥了关键且良性的作用。 令人担忧的是，有一个问题人工智能根本无法反驳。
2016年3月， Alpha Go与李世石的一盘棋将人工智能带入了普通人的眼前，一时间人工智能大热，各个领域都在大谈人工智能。人工智能已经着实走进了我们的工作与生活中。 人们希望创造出一个比人更聪明、能够处理更多信息，甚至能够像人一样思考的“人”。它不是人的智能，但能像人那样思考、也可能超过人的智能。所以人类一直在担心的问题到底是什么？ 但是，人工智能终究不是人类智能，人工智能存在着不可弥补的缺陷，它在遇到复杂情况的时候是不会变通的，这或者是一个隐患，因为它可能并不知道什么是对，什么是错。 毁灭人类：人工智能可怕吗？ 对于这个问题，世界各地的科学家从未放弃探索，有的人认为这根本就不会发生：机器一定会比人聪明，但我们一定比机器更智慧。 所以说，谁在人工智能上取得领先，就能在战略上胜人一筹。那么问题来了，人工智能的未来是什么，人类的未来是什么？
当有人问我，Dr.Wu 你的研究方向是什么？我回答：人工智能。 接着大约会得到以下四种问题： 哇，好酷！是不是很难呢？ 是不是制造机器人帮助我们呢？ AI和人工智能有什么区别？ 究竟啥是人工之智能？ 接下来，我会带大家一一解惑。 1.1.1 人的智慧和人工智能 究竟什么是人工智能，什么是AI，接下来，由我为大家解答。 那么问题又来了，智慧究竟是什么？我们要以何种方式去制造智慧？要回答这个问题，就必须从人与人造物的 区别和人的智慧说起。 但是，人类对于人类来说很难解决的问题，人工智能却能够迅速解决。 我们将在未来的章节提到，目前具有一定“智能”的AI，可以用什么样的方式来解决什么样的问题。明白人工智能的擅长之处与不擅长之处，是未来社会我们能够幸福生活的关键。 （未完待续...） ?
作者：武博士、宋知达、袁雪瑶、聂文韬 本节我们会以生动有趣的漫画来介绍关于人工智能（AI）相关的故事，你将会学习到： 人工智能的历史 1.2 人工智能的诞生 人工智能是最近才有的吗？ 对于人工智能的研究者来说，这个会议是一场划时代的会议，会议将“像人一样思考的计算机”称为“人工智能”，于是“人工智能”这个词，诞生了！ ? 1.2.2 第一次人工智能（AI）浪潮 达特茅斯会议之后，到了50年代后期到60年代，整个人工智能领域流行的用计算机进行演算法，以解决特殊的问题。 以走迷宫为例，目标就是从迷宫的起点走到终点。 20世纪70年代末成了人工智能的寒冬。 1.2.3 第二次人工智能浪潮 在第一次AI浪潮中，人工智能无法为疾病治疗等人类实际问题做出贡献，使相关研究进入严冬。 人工智能面临不知道该如何理解文字意义，以什么方式描述知识，才能让计算机容易处理的问题（我们会在后面详细说明）。
一站式医学人工智能开放创新服务平台，涵盖数据管理、标注，算法训练、评测、应用全流程
扫码关注云+社区
领取腾讯云代金券
云服务器
测试服务 WeTest
文件存储
命令行工具
SSL 证书