机器之心发布 机器之心编辑部 在 2022 WAIC 世界人工智能大会 “亚洲科技伦理治理与可持续发展论坛” 上,商汤科技正式发布《“平衡发展”的人工智能治理白皮书——商汤人工智能伦理与治理年度报告(2022 年)》(以下简称“报告”,点击此处下载报告全文),深入探讨并分享了商汤在推动 AI 治理落地进程中的洞察、思考、目标与实践。商汤科技智能产业研究院院长田丰受邀出席并就白皮书的重点内容作了解读。 报告指出,当前,人工智能治理已经进入了以技术验证为主的落地实践阶段。今年以来,新加坡、欧盟、美国、中国等国家
作者 | 周剑铭 柳渝 李红萍 本文系投稿作品,仅代表作者观点 大数据文摘欢迎各类优质稿件 请联系tougao@bigdatadigest.cn 面对AI的咄咄逼人的发展,AI的伦理学问题成为了时代的焦点,本文重点在于强调“中西文化”和“科学与人文”的不同视角。 一、AI的伦理学问题成为了时代的焦点 今天的AI已经把过去一些认为是耸人听闻的话题变成了无法回避的严肃研究,不仅传统的科学理论与技术实践以及两者的关系正在重构,而且在“科学”与“人文”两大分别的领域之间产生了挑战性的融合问题,面对AI的咄咄逼人的
人工智能可谓是21世纪最有前景的新兴技术之一,其在自动驾驶、语音识别等方面已经取得了诸多重大突破,但在其商业化应用过程中也出现了不少意外的负面后果,其中浮现出的人工智能伦理风险,为技术健康持续发展和商业化落地带来了新的挑战。
读MBA时候的授业导师是周教授,周教授有一门颇受学生们欢迎的课程是“企业伦理学”。时隔多年,课本的内容已经还给了学校,但周老师课上的一些话还隐约记得。
人工智能技术的迅猛发展为社会带来了许多便利,其中ChatGPT作为自然语言处理领域的代表性技术,其功能与应用也日益广泛。然而,随着人工智能的普及,我们不得不面对一系列伦理挑战,这些挑战涉及人类的隐私保护、算法偏见、人类失业等问题。本文旨在探讨ChatGPT及其他人工智能系统所面临的伦理挑战,以及对应的权利与责任问题。通过道德设计与监管措施的引入,以及社会参与与教育的推动,我们希望能够为人工智能的合理使用和治理找到平衡点。
【概要】新美国安全中心的研究人员撰文分析了美国“国家防御授权法案”中有关人工智能的内容及影响,并比较了中美之间的相应战略。
2017年是人工智能迅猛发展的一年,技术在进步,不断取得突破,各行各业都在和人工智能技术相结合。2017年也是人工智能公共政策异常热闹的一年,各国的人工智能战略还在持续出台,自动驾驶、算法规制、人工智能伦理等细分领域的政策、立法、标准在政府、科研机构、行业公司等多层面逐步展开。 人工智能有望引领一场新技术革命,带来全新的或者更深层次的法律、伦理、经济等社会制度影响和问题,因此需要搭建起政策和技术之间交流沟通的桥梁和连接,及早让跨学科、多元化的参与者共同来推动普惠的人工智能发展,确保人工智能能够有益于人类
近日,世界领先的人工智能软件公司商汤科技联合上海交通大学清源研究院、AIII人工智能国际研究院,共同发布《平衡发展的AI伦理观——AI可持续发展报告2021-2022》(以下简称“报告”),倡导“发展”的伦理观,打造技术可控、以人为本、可持续发展的AI均衡伦理治理范式,推动发展负责任且可持续的AI技术。同期发布的,还有商汤与上海开源信息技术协会、AIII人工智能国际研究院共同倡议构建的《联合国可持续发展目标正面案例集》。
《人工智能伦理建议书》明确了规范人工智能技术的10大原则和11个行动领域,是迄今为止全世界在政府层面达成的最广泛的共识,是全球人工智能发展的共同纲领,并将为进一步形成人工智能有关的国际标准、国际法等提供强有力的参考。
“用三秒完成我一天的活。”ChatGPT为中国众多的小型、产业链分布绵长的跨境电商企业降低了获得定制化方案的成本。许多商家相信,ChatGPT还能处理大量的财务报表和数据分析模型,这也广大跨境电商不需要再花钱聘请外部开发机构,建个小程序、做个客服机器人等小型需求可以通过GPT-4的全场景应用来实现,跨境卖家有望通过ChatGPT降低人力和资本成本。
中国信息通信研究院与腾讯研究院AI联合课题组 作者:曹建峰 腾讯研究院法律研究中心研究员 各国纷纷关注人工智能伦理和法律问题 2016年以来,人工智能不仅受到科技公司热捧,人工智能在智力游戏、自动驾驶、语音和图像识别、翻译等诸多领域取得重大突破,谷歌、脸书、微软等科技巨头收购人工智能创业公司的速度已经快赶上这些公司的创立速度。而且,各国政府(比如美国、英国等)以及一些社会公共机构(比如UN、IEEE等)开始积极关注人工智能的法律、伦理、社会、经济等影响,密集出台战略文件和报告
随着人工智能技术的发展,人工智能技术被广泛运用在医疗、交通、金融、电子商务等各个领域。在带来巨大变革的同时,人工智能也引起了社会各界对人工智能在伦理和安全方面的担忧,构建人工智能伦理相关规范的紧迫性日益彰显。
在全球AI格局中,中国已发展成为一支不可忽视的力量。如今,人工智能的中国标准正式出炉。
科技公司或许很快会配备两个CEO:一个是Chief Executive Officer即首席执行官,另一个是Chief Ethical Officer即首席伦理官。
长久以来,日新月异的科技发展已经为人类社会带来了各种各样影响深远的技术创新和革新思潮。
我们可以很容易的想到很多的场景,其中人工智能给人类带来了灾难。让我们回到最本真的思考,回到当初人类为什么要创造出人工智能(in the first place)。
这篇综述探讨了生成式人工智能不断发展的前景,重点关注混合专家(MoE)、多模态学习的变革性影响,以及对通用人工智能(AGI)发展的猜测。它批判性地审视了生成式 AI 的现状和未来轨迹,探讨了谷歌的 Gemini 和预期的 OpenAI Q* 项目等创新如何重塑各个领域的研究重点和应用,包括对生成式 AI 研究分类法的影响分析。
人工智能(Artificial Intelligence,AI)技术在过去几年内取得了巨大的进展,对各个领域产生了深远的影响。然而,随着AI的广泛应用,人们开始越来越关注其伦理和社会影响。本论文旨在探讨人工智能技术的伦理问题,以及其在社会中可能带来的影响。我们将着重讨论数据隐私、工作岗位的未来、决策透明性以及AI的道德责任等议题,以期为更好地规划和引导人工智能的发展提供一些建议。
文章主要从五个方面分析了人工智能安全标准化的需求,包括人工智能安全标准化的现状、人工智能安全标准化需求、人工智能安全标准化框架、人工智能安全标准体系和人工智能应用安全标准。文章认为,人工智能安全标准化工作应从通用安全、应用安全和数据安全等方面入手,以保障人工智能技术的安全、可靠、可控。同时,文章还提出了人工智能安全标准化工作的建议,包括加强人工智能安全基础标准研究、深化人工智能应用安全标准工作、加强人工智能安全标准国际交流与合作等。
下面这些问题,可能在我们不久的将来(一年或者两年?)就会出现在我们身边: 1.目前人工智能正逐渐大规模地应用于医疗行业,许多疾病的诊断已经可以通过机器学习的方法来完成。但是我们设想,如果人工智能诊断出现医疗误判,最终导致医疗事故,那么谁将来承担事故责任呢?是提供技术的公司,还是医院,或者医生个人? 2.自动驾驶正逐渐上路,据各方估计在2020年之前自动驾驶汽车将进入消费市场。不可避免的,自动驾驶汽车在不熟悉的环境中可能会导致交通事故(例如2016年的特斯拉自动驾驶汽车事故),那么在这种情况下谁将承担法律
人工智能是一个需要持续积累和技术迭代的过程,注定是一件漫长的事。各科技巨头和创业公司在人工智能领域的不同应用场景中深耕,探索出了不同的发展路径。
而当这样一个消息传到大西洋彼岸的英国,上议院的老爷们不仅为AI所造成的伦理问题困扰,还中二的发现了自己在人工智能浪潮中的历史使命:不是写论文或者搞算法,而是引领全球发展人工智能伦理道德。
近来,美国一家公司生产的超仿真机器人Sophia在电视节目上与人类对答如流,成为“网红”机器人。对话中,Sophia流露出的喜悦、惊奇、厌恶等表情真实得令人赞叹,网友惊呼:快和真人分不清了!技术往往是一把双刃剑。人工智能在迅速发展的同时,也带来了一些困惑和挑战。人工智能会产生自主意识和情感吗?会不会因此给人类社会带来冲击? 法律争议,假设无人车伤了人,那么是开发者负责还是驾驶公司负责? 关于人工智能带来的“伦理困境”,让很多专家感到纠结。尽管这样的场景在目前还只存在于设想中:一辆载满乘客的无人驾驶汽车正在行
哲学在人工智能领域发挥着重要的作用,它可以为人工智能的发展和应用提供深刻的思考和指导。以下是哲学在人工智能领域的几个方面:
技术有所不为,而后有所为。 作者 | 陈彩娴 编辑 | 岑峰 在中国的交通历史上,有两个看似荒诞、却极有启示意义的著名事件: 1865年,清朝同治四年,英国商人杜兰德在北京宣武门外铺设了一条长约500米的小型铁路。这是中国的第一条铁路,很快引来了围观人群的惊呼声。人们看到一个庞大无比的蒸汽机头带着几节车厢缓缓驶来,无需人力拉动,着实神奇。 但对蒸汽机头的一无所知还是使人们心怀恐惧,清廷官员更是吓得一身冷汗,跑去向慈禧告状,言杜兰德所修的庞然大物乃是一条铁龙,能上天入地,破坏大清朝的龙脉!慈禧一听,也吓得不轻
---- 新智元报道 来源:WSJ 编辑:好困 【新智元导读】DeepMind在算法伦理上的「自治」梦宣告破灭,谷歌企图进一步加强对人工智能的控制。技术上没有偏见的世界是不是越来越远了? 谷歌的人工智能部门DeepMind多年来一直在与母公司Alphabet谈判,希望获得更多自主权,为人工智能的研究寻求一个独立的法律架构。 然而DeepMind在上月末告诉员工,谷歌取消了相关谈判。 这些旷日持久的谈判并没有被报道过,而谈判的结束,也印证了谷歌等科技巨头要加强对人工智能研究和发展控制的意图。 巨头
我们面临着前所未有的公共卫生危机,各国领导人正在定量供应关键物资,医生越来越被迫选择谁活谁死。在通风机数量有限的情况下,谁买一个谁不买?这个病人应该住院还是送回家?
(2023年7月17日,上海)生成式AI火爆全球,国内外AI大模型日新月异,人工智能加速走进日常生活。如何在技术“狂飙”的同时,引导技术应用的正向发展?在本年度世界人工智能大会上,商汤科技就此问题给出了答案:着眼现实问题,用可信AI基础设施“护航”大模型发展。
中国信息通信研究院与腾讯研究院AI联合课题组 作 者:Danit Gal 腾讯研究院科技政策分析师 译 者:孙 那 腾讯研究院研究员、博士后 李金磊 腾讯研究院助理研究员 人工智能是人类进入信息产业革命时代,达到的认识和改造客观世界能力的高峰。人工智能的大规模应用与机器人技术发展的日新月异,将在未来带给人类社会前所未有的巨大冲击。联合国作为全球最重要的国际组织,在2016年最新发布的人工智能报告中,表达了其对于人工智能的关注;同时为应对人工智能
Facebook最近受到了严格的审查,因为他们在用户不知情的情况下分享了数百万用户的数据。我们还了解到,Facebook正在利用人工智能预测用户的未来行为,并将这些数据卖给广告商。因此,Facebook的商业模式及其处理用户数据的方式引发了人们期待已久的关于数据隐私的讨论和争议。
美国时间2017年12月12日上午9点,电气电子工程师协会(IEEE)于全球发布了第2版的“人工智能设计的伦理准则”白皮书("Ethically Aligned Design" V2)。北京时间12月12日晚上10点,IEEE官方概要译文也同步在中国发布。IEEE白皮书概要的官方译文如下: 📷 《人工智能设计的伦理准则》(第2版) 概要 简介 随着自主和智能系统的应用和影响无处不在,我们需要建立社会与政策方面的指南,从而确保这些系统以人为本,并服务于人类价值和伦理准则。为了能够以积极的、非教条的方式推动自主
【导读】人工智能(AI)已经从一个科幻小说式的探索领域发展到一个蓬勃发展的科技领域,在这个领域里,不可能的事情正在成为可能。为了确保人工智能发展的未来仍然具有伦理和社会意识,美国电气和电子工程师协会(
蔡雄山 腾讯研究院法律研究中心副主任、首席研究员 曹建峰 腾讯研究院法律研究中心研究员 巴洁如 腾讯研究院法律研究中心高级研究员 孙 那 腾讯研究院法律研究中心研究员 李金磊 腾讯研究院法律研究中心助理研究员 不经意间,人工智能(AI)成为2016年主流话题之一。有关技术进步的报道,充斥着媒体。AI将深刻影响生活、社会、经济、法律、政治、全球格局等诸多方面。AI应用的拓展和加深,使得AI伦理问题日益突出,成为关注焦点。 美国、英国等开始重视AI伦理问题。今
美国白宫发布了《国家人工智能研究与发展战略计划》。该计划为联邦政府资助的人工智能研究确立了一系列目标。这些研究不仅包括政府进行的研究,还包括由联邦政府资助的、在政府之外进行的研究,例如学术研究。研究的最终目标是创造人工智能的新知识和新技术,为社会带来多种好处,并降低负面影响。要实现这一目标,该计划为联邦政府资助的人工智能研究确定了如下重点任务: 战略1:对人工智能研究进行长期投入 优先资助那些能推动发现和了解、保持美国在人工智能领域世界领先地位的下一代人工智能,包括:改进关于知识发现的数据方法;提高人工智能
整理 | Just 出品 | 人工智能头条(公众号ID:AI_Thinker) 人工智能会成为推动人类未来发展的水和电,当它在迅速改变人类生活环境的同时,也在模糊着物理世界和个人的界限,延伸出复杂的道德伦理问题。 5 月 18 日,一则杭州某中学引入“智慧课堂行为管理系统”的新闻在微博上引发大量转发,就技术的不正当应用引起了网友讨伐。背后具体的技术应用正是人脸识别,一方面是通过实现“刷脸”完成实时考勤...这一场景的技术应用已经比较完备了,但在最多三四十的教室里,这样做是不是大材小用了? 但让网友们群起攻击
年中国国际大数据产业博览会上提出了“人工智能103.36.166伦理四原则”, 美国电气和电子工程师协会还规定,人工智能和其他技术的特点不一样,欧盟委员会发扬州服务器布的文件《欧盟人工智能》提出,该倡议的五大重点之一便是制定与伦理有关联的人工智能治理标准,“机器人三定律”规定:机器人不能伤害人类;它们必须服从于人类;它们必须保护自己,这些颇有新意的意见引发业界热议,外界只能去猜, “就长期来看,需有新伦理原则确保未来人工智能和人类的目标一致,建立人工智能法律法规、伦理规范和政策体系, 他认为,”专家近日接受记者采访时这样说,但依然存在隐私泄露、技术滥用等问题,历史上看贡献很大,。
国务院总理李克强代表国务院向十三届全国人大二次会议作政府工作报告,报告中特别提到:
人工智能会成为推动人类未来发展的水和电,当它在迅速改变人类生活环境的同时,也在模糊着物理世界和个人的界限,延伸出复杂的道德伦理问题。
作者 | 量子位 李林 今天AI领域都在谈论一件事。DeepMind表示,很自豪成为Asilomar人工智能原则的签署者,这是一个AI和伦理方面的重大进步。而硅谷钢铁侠伊隆-马斯克指出,顶级的AI研究人员在人工智能发展方面达成一致:开发对人类有益的人工智能。 这个原则在今年的Asilomar大会上达成。细节如下: 研究问题 1)研究目标 AI研究的目标,不是创造不受指导的智能,而是创造有益人类的智能。 2)研究资助 对人工智能的投资,应确保相关研发是有益人类的,包括计算机科学,经济学,法律,伦理和社会研
随着科技的快速发展,技术伦理问题日益受到关注。人们开始意识到,技术的发展不仅带来了巨大的好处,也伴随着一系列的责任和风险。本文将探讨当前的技术伦理问题,以及技术所面临的责任和风险。
人工智能(AI)的发展带来了巨大的变革,但也引发了一系列的伦理和社会问题。在人工智能应用的过程中,我们需要思考如何确保其责任、公平性和可解释性,以保障社会的发展和稳定。本文将深入探讨这些问题,并提出解决方案。
人工智能可谓当下最火的词,人们对它的认识已经不仅仅停留在阿法狗的印象上了。越来越多的行业正在被机器学习、 VR 、人工智能这样的前沿技术颠覆,科技的发展进步使人工智能离我们的生活越来越近,AI的智能化和人性化会影响每一个人未来的生活和工作。 那么一起来听听美国专家关于2018年人工智能发展的最新观点吧! 📷 1 AI的情感会使机器人更加拟人化,增强人们的同情心和同理心 近年来,人们在手机、机器人和一些智能设备上花了太多时间,这会造成人与社会脱节,甚至逐渐丧失面对面的沟通能力。例如发生打斗等社会事件时,一些年
今年 6 月,由 AI 青年科学家联盟 · 梧桐汇牵头,联盟学术委员会主席、中国工程院院士潘云鹤作为通讯作者,15 名来自中国学界和 AI 产业界的领军人物联手,在 Nature Machine Intelligence 上发表了论文《Towards a new generation of artificial intelligence in China》。
近期,人工智能领域迎来了一系列重大事件,涵盖了伦理与社会问题、对话模型、国防应用、新型处理器、艺术创作和情感识别等方面。
人工智能(AI)在执行任务时,由于其基于算法和数据的特性,有时会产出一些出人意料或者带有幽默感的结果。
中国国家发展改革委员会、工业和信息化部、科技部等部门联合发布了《新一代人工智能发展规划》。
近日,姚期智领衔主编、清华姚班师资做编委的高中AI教材在清华举行了签约仪式,AI走进高中课堂又迈出了坚实的一步。近期,MIT的研究人员也开发了一个AI课程,旨向让中学生了解人工智能知识并思考技术背后的伦理。
人工智能可谓当下最火的词,人们对它的认识已经不仅仅停留在阿法狗的印象上了。越来越多的行业正在被机器学习、 VR 、人工智能这样的前沿技术颠覆,科技的发展进步使人工智能离我们的生活越来越近,AI的智能化和人性化会影响每一个人未来的生活和工作。 📷 2018年的人工智能领域将会在这三个领域有巨大进步:A.I. 的情感会使机器人更加拟人化,增强人们的同情心和同理心,随着技术变得更加“人性化”,我们之间的互动也会变得更加“人性化”;2018年将是公司开始对A.I. 的关键任务应用进行破解的一年,更大量的数据的计算的
领取专属 10元无门槛券
手把手带您无忧上云