但OpenAI似乎觉得这种行为太危险，于是又把GPT-3的使用权给收回了！似乎AI相关的道德给了OpenAI太多束缚，GPT-3相关开发者表示：慎用OpenAI的产品！...OpenAI 的文档上还有一条禁令，不允许使用非柏拉图式的（如轻浮的、浪漫的、色情的）聊天机器人，Samantha 违反了这条禁令。...除此之外，使用GPT-3构建提供医疗、法律或治疗建议的聊天机器人也是不被允许的。 Rohrer认为，这些聊天机器人可能很危险的想法似乎很可笑。人们同意成年人可以出于自己的目的选择与人工智能交谈。...OpenAI担心用户会受到AI的影响，就像机器告诉他们自杀或告诉他们如何投票一样。这是一种超道德的立场。...甚至可能都快开发到了准备上线的地步，才被OpenAI告知他们不能这样做或那样做。 Rohrer建议大家在构建模型时不要依赖GPT-3，为了防止OpenAI突然封号，一定要有一个备份方案。
导读：面对AI取代与入侵，焦虑和恐慌没用，此时，更值得探讨的重点应该是：具备哪些资质的人，才有可能不被取代呢？ 前不久，一张《纽约客》杂志的封面图意外刷屏。...焦虑和恐慌没有意义，抛开职业不谈，以下我们来重点探讨，具备哪些资质的人，才有可能不被取代呢？ 必须具备比机器更高的判断能力 1 富于智慧、伦理性的洞察力和逻辑推理是人类独具的能力。...此外，有些职业需要具备「从道德标准衍生出来的价值判断以及感觉、感性、情感、美感」。 近年来，在IT和制造业设计领域一线中，艺术类毕业生们（特别是美术、设计）炙手可热。...目前，AI还不具备自我意识和世界观、人生观、价值观等，它们只能像背剧本一样，执行既定程序，无法拥有真正的目的意识，更无法提出「为什么」这样的问题。这也是目前为止AI的一大硬伤。...既可以是具体问题的回答，也可能上升到禅学问答等抽象层面。要想让AI根据常识和对方的反应来巧妙地组织答案，AI研究还有很长的一段路要走。
杜克大学计算机科学系教授Vincent Conitzer最近收到未来生命研究所（Future of Life Institute，FLI）的拨款，用以研究如何让一个高级人工智能作出道德判断，并据此采取行动...创建道德准则 乍看之下，我们的目标似乎很简单—只要创建一个符合道德责任行为的AI即可；然而，它远远比原先设想的要复杂得多，因为在创建这类AI的过程中，会有数量惊人的因素左右其实现。...就如Conitzer的项目中概述的那样，“道德判断会受到权利（如隐私）、角色（如家庭）、过去的行为（如许诺）、动机和意图，以及其他道德相关特征的影响。这些不同的因素尚未在AI系统中建立”。...“最近，已经出现了一些向类人智能系统接近的进展，我认为这里面包括了很多令人惊讶的进步……但我觉得一个‘真正的AI’，应该是相当灵活的，能够抽象的，并且可以做所有人类可以轻易完成的事情，我认为我们离真正的...诚然，我们可以设定系统做很多人类可以做的很好的事情，但也有一些过于复杂的事情很难转换成计算机可以识别和学习（这是所有终极AI的基础）的模式。
诸如技术性失业、致命性自主武器、算法公平、道德判断、价值一致性等AI伦理问题需要获得深入研究。 ...第一，对使用者，透明性可以增进信任，让其知道AI系统可以做什么及其这样做的原因； 第二，对AI/AS批准和认证机构，透明性则确保AI系统可以接受审查； 第三，如果发生事故，透明性有助于事故调查人员查明事故原因...一方面，需要建立监督AI制造过程的标准，避免给终端用户带来伤害；另一方面，政策制定者可以限制计算机推理，以免其过分复杂，造成人们难以理解的局面。 再次，缺乏独立的审查机构。...需要引入独立的审查机构来给出指导意见，评估人工智能的安全性及其是否符合道德标准。 最后，“黑箱”软件的使用问题。深度机器学习过程是“黑箱”软件的一个重要来源。...第一，设计人员应考虑采用身份标签标准，没有身份标签将不被准入，以保持法律责任链条的明确性。 第二，立法者和执法者应确保AI系统不被滥用，一些企业和组织可能将AI系统作为逃避责任的手段。
人工智能在医疗方面已经得到广泛的应用。或许您最熟悉的还是AI系统对肿瘤的筛查以及对肿瘤良恶性的判断。但其实，AI的医疗应用不仅如此。...例如，不为大众所熟知的，涉及到更为敏感的道德问题与严苛的法律的，AI在器官移植方面的应用。 以我国为例，根据计生委统计，我国每年需要器官移植的病人达 30 万人，而完成器官移植的仅有 1 万人。...7月22-23日中国人工智能大会（CCAI2017）将于杭州国际会议中心举行，Walsh教授将在主会中向中国开发者分享其在人工智能与道德约束相关的研究进展。...这里有两个挑战，首先，我们不知道在未来谁会死亡并且捐献他们的器官，但我们必须在他们死亡之前就做出决定。第二，这涉及到一些非常困难的道德问题，特别是个人和集体福利之间的权衡。...和假消息（我们如何确保人的声音不被机器生成的内容淹没？）。 ✎ 这次您在CCAI大会将分享什么主题，观众会得到何种收获？ AI是一种道德上中立的技术。它是好是坏取决于被如何使用。
AI ScholarWeekly是AI领域的学术专栏，致力于为你带来最新潮、最全面、最深度的AI学术概览，一网打尽每周AI学术的前沿资讯。...每周更新，做AI科研，每周从这一篇开始就够啦 本周关键词：数据科学团队、神经网络、对象识别 本周最佳学术研究 数据科学的团队协作模式 随着越来越多的组织开始引入先进的数据驱动方法来改进决策，越来越多的数据科学团队正在致力于处理庞大的数据集...该模型在物理世界的个人构造，社会背景和代理的认知资源之间建立了联系。该机制允许代理基于其显著的CSF来解释现实世界，并部署不同的认知资源来匹配环境的要求。...他们的框架基于这样一个前提，即人们对语言的使用反应了人们对道德观念的是非判断。因此，他们通过探索从时间性词嵌入中汲取的道德偏见来构建方法论。...该框架从多个层面考察了道德情绪的变化，并捕获了与道德基础理论的相关性，极性和细粒度类别有关的道德动力。 将方法论应用于个体概念中道德变化的自动分析，可以洞悉与公众道德变化率相关的语言变量。
首先，隐私保护是一个重要的问题，这些系统在处理大量用户数据时，需要确保用户的个人信息不被滥用。其次，算法偏见是一个令人担忧的问题，如果训练数据带有不公平或有偏见的信息，那么系统的输出可能也会带有偏见。...人工智能的权利与责任： 使用人工智能技术涉及许多权利问题。其中，数据隐私权是最重要的之一，个人的数据应该得到妥善保护，不应该被滥用或未经允许地公开。...道德设计与监管措施： 在开发ChatGPT和其他人工智能系统时，应该充分考虑道德设计和伦理原则。这意味着在技术的设计和实现中要考虑到社会的需要和潜在影响，并设立相应的约束。...这篇综述文章概述了全球范围内AI伦理准则的现状和发展，对于道德设计和监管措施的讨论有所帮助。 Caliskan, A., Bryson, J....这份欧洲委员会的AI伦理准则为人工智能的道德设计和伦理原则提供了指导，值得在本文中引用。 Johnson, D. G., & Winkler, R. (2019).
斯蒂夫曼是位受过高等训练的专家，有高超的技能和判断，然而，他正在把宝贵的时间花在缝合上。这只是主手术的后续整理工作，如果机器人能接手这项单调机械的任务，外科医生就能腾出手来做更重要的事。...阿什拉芬说：“这是一步步实现的，虽然每一步都不是特别大。正如50年前的医生想象不出现在手术室的样子，从现在起再过50年，估计又是另一番景象。” 其实手术机器人已经能自己做决定，独立性比人们所想的更强。...现在工程师必须做的是，把一些基本的判断因素教给自动驾驶汽车和其他机器人。 目前，在英国部分地区、德国、日本、美国4个州和哥伦比亚特区，法律已明确允许对完全自动化车辆进行测试，但车里还要有一个测试司机。...这种策略很有吸引力，因为它允许开发人员为肇事车“不作为”的行为辩护，也向立法者传递了定义道德行为的责任。但不幸的是，这方面的法律尚未完善。...幸运的是，公众并没有过分地期望超人智慧，考虑到伦理道德的复杂性，只要对自动车行为有个合理的判断就可以了。一种解决方案不一定要完美无瑕，但应该是多方考虑、合情合理的。
Unanimous 的 AI 软件允许真实的人类用户在这里聚集，共同讨论议题。 软件检测群体的对话，搜集信息数据用于预测。 要成功地预测出超级碗比赛的最终比分并不是一件容易的事情。...通过这么做，这些生物能够进行最优选择，这要远比独立的个体的选择能力要强得多。 但是，人类呢？我们能把个人的思考组合起来，把它们作为一个统一的动态系统吗？这样能让我们做更好的决策、预测、评估和判断吗？...吸引结合人类参与者的知识、智慧、硬件和直觉，并把这些要素组合成一个统一的新智能，能生成最优的预测、决策、洞见和判断。 论文： ?...纯粹的人工智能没有理由和人类共有目标和感情，或者遵循我们的道德和价值观。 所以，我们要问的问题是，是否有一个更好的方式来构建超级智能？...我们相信，这条路相比创建比我们人类更聪明的系统更加安全，因为它可以确保最终的智能与我们的目标和愿望相符合的，拥有人类的情感和共情，最重要的是拥有人类的道德和价值观。
美国目前在AI领域的优势也有国外人才加持的功劳，特朗普政府的移民政策看起来是在损害这一领域，拽了美国AI的发展的后腿。...Calo表示，他还需要时间判断特朗普政府在人工智能的道德和人权问题上处理得是否得当，而这一点是必须要关注的。...前奥巴马经济顾问委员会主席、哈佛大学教授Jason Furman也支持此举，表示这是美国朝正确方向迈进的一大步。同时也要加强对这次计划的监管，嘴上说的不行，做的好不好才是最主要的。 ?...纵观美国的AI布局，在奥巴马总统在任的最后几个月，美国迎来了一波小高潮，白宫发布了三份独立报告，篇篇都在关注AI： 《为未来AI做准备》中主要在道德、安全和法律法规层面做出了相关规定，《国家AI研发战略计划...AI特别委员会属国家科学与技术委员会的管辖范围，主要负责向白宫提供政府层面有关AI研究与发展的建议，同时帮助政府、私企及独立研究者建立合作关系。
注意，这通常不被看做一个bug，普通的黑盒与白盒测试都是无法发现的。只是你的App会比较卡，或者后台会比较慢。...大多数管理者，往往会对熬夜的程序员给出一些肯定，并且允许第二天可以休息一天（有些甚至只给一早上）。但如果他们知道内情，会发现自己其实亏了一天。...isSth1True() { // Implementation B}private boolean isSth2True() { // Implementation C} 本来isSthTrue()是可以做通用判断的...约半年后，我水平也提高了些，总体的项目时间也松散了些，我花了六周重写（rewrite）了这个不大的代码库。这个class最终只用了100行，部分功能都独立封装到了其它class中。...这关乎职业道德，关乎我是否意念通达、心境澄明。(坐等穿越去修真:P） 但是，我不能用自己的道德准绳去要求别人，对吧？ 而且，永远不要指望一个人在承受不道德的对待时，仍然能谨守原来的道德。
注意，这通常不被看做一个bug，普通的黑盒与白盒测试都是无法发现的。只是你的App会比较卡，或者后台会比较慢。当需要解决这种性能问题时，可能需要非常经验丰富的程序员，在海量代码里找数周时间。...大多数管理者，往往会对熬夜的程序员给出一些肯定，并且允许第二天可以休息一天（有些甚至只给一早上）。但如果他们知道内情，会发现自己其实亏了一天。...// Implementation B } private boolean isSth2True() { // Implementation C } 本来isSthTrue()是可以做通用判断的...约半年后，我水平也提高了些，总体的项目时间也松散了些，我花了六周重写（rewrite）了这个不大的代码库。这个class最终只用了100行，部分功能都独立封装到了其它class中。...这关乎职业道德，关乎我是否意念通达、心境澄明。(坐等穿越去修真:P） 但是，我不能用自己的道德准绳去要求别人，对吧？ 而且，永远不要指望一个人在承受不道德的对待时，仍然能谨守原来的道德。
如果状态不佳、做事前想的东西少了点，那么很可能直接这么做： ? 这样做是从C/C++带来的一种很直观的做法。有什么问题吗？...这使用了for-each语法，实际上是用Iterator来做遍历，无论对哪种List都是总共是O(n)的开销。 注意，这通常不被看做一个bug，普通的黑盒与白盒测试都是无法发现的。...大多数管理者，往往会对熬夜的程序员给出一些肯定，并且允许第二天可以休息一天（有些甚至只给一早上）。但如果他们知道内情，会发现自己其实亏了一天。...本来isSthTrue()是可以做通用判断的，他没有在规定时间内找到根本原因（Root Cause），实际上当时他也根本没有往发现根本原因的方向去查找代码，而是一晚上都在做一些无效的调试。...这关乎职业道德，关乎我是否意念通达、心境澄明。(坐等穿越去修真:P） 但是，我不能用自己的道德准绳去要求别人，对吧？ 而且，永远不要指望一个人在承受不道德的对待时，仍然能谨守原来的道德。
关于AI的“道德行为框架”，这早已是一个国际性问题。...策划&撰写：韩璐 日前，欧盟委员会（EC）任命的人工智能高级专家小组（AI HLEG）发布了一份内容长达37页的AI开发和使用道德草案——可信赖AI的道德准则草案（Draft Ethics Guidelines...其中提出，可信赖AI应该具备两大要素，以及AI不可为的基本原则。 据了解，人工智能高级专家小组由欧盟委员会于去年4月任命，组内共有52位代表学术界、工业界和民间社会的独立专家。...该指导方针将在欧洲委员会独立咨询机构欧洲科学和新技术伦理组织（EGE）的发言中进行广泛的磋商和建设之后起草。 如今，这一小组已经完成了任务。...在整体框架上，草案可分为三部分，第一部分阐述了AI必须遵守的基本权利和价值观，以确保其能够符合“道德目的”；第二部分提出了实现可信赖AI的指导方针，同时兼顾道德目的和技术稳健性，并列出了可信赖AI的要求
按照目前的政策，此类内容处理起来会有些模棱两可，但只要作者没有在社交媒体上说这篇论文正在接受 IEEE/CVF 会议的审查，就可能会被解释为允许这样做。这个漏洞违反了最初媒体禁令的原则。...问题在于，拥有大量关注者的一部分以及在社交媒体上发起的宣传活动，让审稿人接触到这篇论文，而它所受到的关注可能会影响他们的判断。...本质上，科研在资金和独立性方面都有赖于这种信任的建立，任何破坏这种信任的行为都会对基础研究产生长期的负面影响。...对 arXiv 的豁免意味着研究社区仍然可以提前获得研究进展，并可以将其效果评估为「非同行评审」。 「允许，但又不允许宣传论文」的设置看起来很合理，也为研究人员们讨论业内最新研究留下了空间。...图灵奖得主、深度学习先驱 Yann LeCun 则直接在推特上表示：这种行为会限制科学信息的交流，损害技术进步且违反道德规范。简而言之就是疯了。
整理 | Just 出品 | 人工智能头条（公众号ID：AI_Thinker） 人工智能会成为推动人类未来发展的水和电，当它在迅速改变人类生活环境的同时，也在模糊着物理世界和个人的界限，延伸出复杂的道德伦理问题...背后具体的技术应用正是人脸识别，一方面是通过实现“刷脸”完成实时考勤...这一场景的技术应用已经比较完备了，但在最多三四十的教室里，这样做是不是大材小用了？...校方称，现在获取的数据仅为片段性，也没有形成大数据来支撑对学生行为的判断。...我们要防止人工智能“触电”人类道德伦理，但在相应伦理道德框架和机制建立上还处于黎明前的暗夜里。 国外有诸多大公司相继已建立了相关组织来讨论 AI 的道德伦理问题。...我国的《新一代人工智能发展规划》也专门提出人工智能伦理与法律的三步走规划，但将伦理与法律要求嵌入到 AI 系统仍是世界性难题。即便如此，逐步制定行业标准和道德标准，了解 AI 存在的风险刻不容缓。
整理 | Just 出品 | AI科技大本营（公众号ID：rgznai100） 人工智能会成为推动人类未来发展的水和电，当它在迅速改变人类生活环境的同时，也在模糊着物理世界和个人的界限，延伸出复杂的道德伦理问题...背后具体的技术应用正是人脸识别，一方面是通过实现“刷脸”完成实时考勤...这一场景的技术应用已经比较完备了，但在最多三四十的教室里，这样做是不是大材小用了？...校方称，现在获取的数据仅为片段性，也没有形成大数据来支撑对学生行为的判断。...我们要防止人工智能“触电”人类道德伦理，但在相应伦理道德框架和机制建立上还处于黎明前的暗夜里。 国外有诸多大公司相继已建立了相关组织来讨论 AI 的道德伦理问题。...我国的《新一代人工智能发展规划》也专门提出人工智能伦理与法律的三步走规划，但将伦理与法律要求嵌入到 AI 系统仍是世界性难题。即便如此，逐步制定行业标准和道德标准，了解 AI 存在的风险刻不容缓。
帖子一发出，在评论区中就引发了一场关于「用在世的艺术家的作品作为AI模型的微调素材，是否符合的道德问题」的辩论。 热评之一是：「不论是否合法的问题，你觉得这位艺术家现在感觉如何？...如果有人问我，是否允许他们这样做，我不会答应的。」 实际上，即便Mengert本人愿意同意，客户也会不允许她这么做。 「不少喂给AI的训练图像是我为迪士尼和企鹅-兰登书屋等客户创作的。...这些是客户付费的画作，所有权归他们。」 「没有他们的允许，我从不发布这些图片，其他人也不应该在没有他们的允许下使用这些图片。因此，即使Reddit的帖主来问我，我可以使用吗？我也不可能同意。」她说。...Ogbogu平时喜欢足球、漫画和动画的粉丝，现在是生成性AI的粉丝。 他最初的希望是制作一系列的漫画书，但他知道，即使他有写作和绘画技巧，要自己做也需要几年时间。...关于在Reddit上的这场争论：他认为，技术是不可避免的，每个使用它的人都同样有罪，为此划下任何道德界线都是完全随意的做法。
而当这样一个消息传到大西洋彼岸的英国，上议院的老爷们不仅为AI所造成的伦理问题困扰，还中二的发现了自己在人工智能浪潮中的历史使命：不是写论文或者搞算法，而是引领全球发展人工智能伦理道德。...英国应当抓住机会积极地推进AI与公众利益的结合，并领导国际社会在人工智能伦理领域的发展，而不是被动承担那些AI可能造成的消极后果。” 向人工智能审问：AI，你做的决定，真的没有偏见和歧视吗？...除了种族性别这些出身因素，更为重要的是，研究者应当保证他们的产出符合人类道德：不侵犯隐私、不伤害人类、不左右政局，尤其在AI武器方面应当更为谨慎。...AI研究人员的道德水平可能让人放心，但是能够独立做出决定的AI本身呢？...该报告呼吁英国政府采取紧急措施来“建立权威的审核测试工具与数据集合，以确保这些数据代表不同的种族，确保AI在作出决定时不会出现含有偏见、歧视的决定”，建立机制，审问AI，以保证AI们符合人类的伦理道德。
正是因为AI黑箱，所以现在无法清楚划定各方责任，在无法明确到特定主体的特定责任时，就要求AI系统承担抽象的道德责任和伦理责任，这就是“对齐”。问题来了，到底跟谁对齐呢？人们的价值观能对齐吗？...训练过程中使用的奖励也不允许我们可靠地控制模型行为泛化到新的情境。...将评测嵌入到治理流程，比如嵌入内部研发员的评测环节、外部的访问环节、或通过外部独立第三方的模型审核，也能够更好帮助公司或监管机构更好地识别风险。...这可能有助于治理路径迭代，注重动态的风险监测机制，同时重视应用技术手段治理技术风险。总之，我建议我们应认真对待安全问题：第一是预测预判：认真对待这样一种可能性，做更好的基于技术的风险模型、概率判断。...我们今天讨论价值对齐的问题有一个暗含的前提，即我们似乎是想让大模型或人工智能代替我们去一些价值判断、价值决策，但这个倾向本身就存在风险，我们要审慎评估它的安全边界，设立好人工智能安全应用的基本原则，让大模型只做生成不做判断
领取专属 10元无门槛券
手把手带您无忧上云
云服务器
即时通信 IM
ICP备案
对象存储
实时音视频
