首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

人工智能算法黑箱数据正义

在美国,每周超过1000人被机场使用算法错误地标记为恐怖分子。一名美国航空公司飞行员在一年中被拘留了80次,因为他名字爱尔兰共和军领导人名字相似。这还不算是最糟糕。...人工智能算法依赖于大数据,而大数据并非中立。它们从真实社会中抽取,必然带有社会固有的不平等、排斥性和歧视痕迹。...在人工智能输入数据和其输出答案之间,存在着我们无法洞悉“隐层”,它被称为“黑箱”(blackbox)。这里黑箱”并不只意味着不能观察,还意味着即使计算机试图向我们解释,我们也无法理解。...这一规定和上述透明度要求相结合,产生了针对人工智能所谓“解释权”,而这正是PedroDomingos担忧所在。考虑到算法黑箱,深度学习合法化似乎是个无解问题。但事实上,这可能是个误解。...将数据正义引入中国 数据是数字经济关键生产要素,人工智能是数字经济关键产业支柱。如何在发掘数据经济价值、发展人工智能同时,保障个人权利和自由,依然是数字社会未解难题。

93150

人工智能算法黑箱数据正义

【导读】许可:人工智能算法依赖于大数据,而大数据并非中立。它们从真实社会中抽取,必然带有社会固有的不平等、排斥性和歧视痕迹。...人工智能算法依赖于大数据,而大数据并非中立。它们从真实社会中抽取,必然带有社会固有的不平等、排斥性和歧视痕迹。...在人工智能输入数据和其输出答案之间,存在着我们无法洞悉“隐层”,它被称为“黑箱”(black box)。这里黑箱”并不只意味着不能观察,还意味着即使计算机试图向我们解释,我们也无法理解。...这一规定和上述透明度要求相结合,产生了针对人工智能所谓“解释权”,而这正是Pedro Domingos担忧所在。考虑到算法黑箱,深度学习合法化似乎是个无解问题。但事实上,这可能是个误解。...将数据正义引入中国 数据是数字经济关键生产要素,人工智能是数字经济关键产业支柱。如何在发掘数据经济价值、发展人工智能同时,保障个人权利和自由,依然是数字社会未解难题。

1.3K60
您找到你想要的搜索结果了吗?
是的
没有找到

人工智能:道德外包黑箱”中算法歧视

当然,基于算法、大数据数据挖掘、机器学习等技术的人工智能决策不局限于解决信息过载这一难题个性化推荐。...[9] 犯罪风险评估系统是一个“黑箱”,它如何得出结论,人们无从知晓,开发它公司又拒绝对簿公堂,称算法是其私人财产,在缺乏必要问责机制情况下,无法矫正算法歧视对刑事司法正义而言,就是一种嘲讽...[12] 2.作为“黑箱”(Blackbox)算法透明化(Transparency)困境 算法公平性是一个问题,算法不透明性更是一个问题。...但是,自主决策系统并不如此运作,普遍人根本无法理解其算法原理和机制,因为自主决策系统常常是在算法这一“黑箱”中做出,不透明性问题由此产生。...无论如何,在人工智能日益代替人类进行各种决策时代,设计出验证、证实、知情同意、透明性、可责性、救济、责任等方面的机制,对于削弱或者避免算法歧视、确保公平正义,是至关重要

3.8K100

深度 | 拓扑数据分析TDA,有望打破人工智能黑箱神奇算法

选自Ayasdi 作者:Gunnar Carlsson 机器之心编译 参与:陈韵竹、刘晓坤 本文介绍了拓扑数据分析(TDA)基本原理,给出了案例展示,并指出该方法可以高效地进行可视化分析,有望为人工智能黑箱提供可解释性...近日,中科大潘建伟团队在光量子处理器上成功运行了 TDA 方法,量子版本 TDA 能够实现对经典最优 TDA 算法指数级加速。...机器学习和人工智能都是「黑箱」技术——这是使用机器学习、人工智能进行数据研究遭受批评之一。虽然它们能自动提供有用答案,但是却不能给人类提供可解读输出。...KS 分数衡量两个子组之间差异。本结构相关也就是标准统计意义上 P 值。 其解释是,排列在第一位变量是最能区分两个子组变量,而其余特征是按其区分能力排列。...然而,下面「小枝」存活率差得多,尖端节点几乎完全由无法存活患者组成。我们希望理解这种现象,看看数据哪些特征「小枝」产生有关,从而了解变量 eventdeath 迥异行为。

2.2K130

能否打开人工智能黑箱”?

“我论文部分内容就是打开黑箱,搞清楚电脑在想什么。”他解释道。但该怎么做?他将计算机功能编程为“神经网络”—— 一种以大脑为原型的人工智能(AI),它有望比常规算法更适合应对复杂现实情况。...但这些进展只会让黑箱问题显得更突出。例如,这些机器如何找到有价值信号?人们怎样才能确定机器是对?人们对深度学习信任应到什么程度? “在这些算法面前,我觉得我们正在丢失阵地。”...卷起袖子做硬科学 历史上第一个人工神经网络出现在上世纪50年代初,几乎有能力执行算法计算机同时产生。人工神经网络思路是模拟排列成不同层次小计算单元(也就是“神经元”)大量数字“突触”相连。...放开双手 去年,英国剑桥大学机器学习研究者Zoubin Ghahramani发表了一种能将数据科学家工作自动化算法——从检查原始数据到写论文都能完成。...但黑箱也会引发担忧。大数据公司Arundo Analytics数据科学主管Ellie Dobson表示,许多机构都有类似的关注。

37930

【深度】Nature:我们能打开人工智能黑箱”吗?

编者按:人工智能无处不在。但是在科学家信任人工智能之前,他们首先应该了解这些人工智能机器是如何运作,这也就是文中所提到黑箱”问题。...他把电脑编程得能像“神经网络”一样工作,“神经网络”是一种以大脑为模型的人工智能 (AI) ,比基本算法更善于处理复杂真实世界情况。...但这样进步将会使得黑箱问题变得更尖锐。比如说:机器到底是如何准确找到那些有价值信号?谁能确保它是对?人类能在多大程度上相信深度学习?“我认为我们肯定会输给这些算法。”...面对这样挑战,人工智能研究者给出回应和 Pomerleau 回应一样——通过打开黑箱和类似神经科学内做法来理解网络内部。...| 关于 autopilot 去年,Ghahramani 发表了一个可以自动化数据科学家工作算法,从查看各种方式得到原始数据到撰写论文。

1.2K60

【孙正义人工智能将超过人类,乔布斯比我还很弱

要找到正确解决方案有一个秘诀:现场员工真诚地争论,地位要平等,要站在他们角度看问题。“你为什么不能理解它?你这愚蠢家伙。”...人工智能终会超过人类 问:信息技术和人工智能快速发展,企业应该如何应对技术革新? 孙正义:我们应该知道技术奇点已经开始出现,人工智能开始超过人类。...相反,谁如果可以从人工智能中获得最大好处,谁就有机会成为新时代英雄。 问:软银如何对人工智能作出反应? 孙正义:关于这个问题,类人型机器人Pepper就是一个回答。...我们会一起努力,我们会一边前进一边弥补对方不足。 敬佩本田宗一郎 乔布斯相比“我”还很弱小 问:有没有你敬佩企业家? 孙正义:在日本,我最喜欢是本田汽车创始人本田宗一郎先生。...他相比,我仍然很弱小,很不成熟。乔布斯死总是让我反思自己职业生涯。

66690

黑箱难题阻碍了深度学习普及发展

当前,深度学习扛起了人工智能大旗,让我们了解到了智能机器能力有多大,但是有个问题就是:没有人知道它内部究竟是怎么运作。...作为当今神经网络核心,机器学习算法已经发展了几十年,它定义完善,文献丰富。在银行和保险业等受到严格监管行业,这些算法已经普及多年,不曾引发重大问题。   ...即便不是黑箱,它也表现得像个黑箱,因为你无法记录神经网络算法深处发生一切。”   TensorFlow可以针对大规模数据集作出快速预测,但DataRobot顾客不愿触及。...目前,DataRobot正在Immuta合作,旨在寻找并削减机器学习中偏差,这方面的工作终将有所成效,但任重道远。...LIME框架设计旨在提高可理解性,使各类不透明算法生成预测更易于解释。这包括传统机器学习技术,比如随机森林支持向量机(SVM),以及当今日益流行神经网络技术。

88650

人工智能算法数据

做AI项目,经常要面对两个课题:算法数据。哪一个比较重要呢?自然是都重要,不过非要对比一下,我选择数据。...AI招聘时候,一般都是招聘算法工程师,特别是很多大厂,非常重视算法创新性,觉得这样能彰显水平,提升模型效果。...另外搜集数据成功也不容小觑,比如做一个ASR模型,要录音要人工转写等等,每小时费用可想而知。这时候,对数据各种处理,数据增强,同时结合模型特点进行调参,是获得不错效果关键。...这块有两层含义:第一,大数据很多时候是很难获取,只能是少部分大公司特权;第二,使用预训练模型进行finetune,这时候并不需要太多数据,而是需要少量高质量数据,让模型能够更好地学习。...上图是一个AI问题迭代流程图,在问题建立后,第一步也是最重要一步就是获取和准备数据。 你认为算法数据哪个更重要呢?

52030

人工智能各种技术算法

,原翻译显然没有”寻路“这两个字,因为A星算法包括但不仅限于存在于人工智能寻路中,但是既然标题是人工智能,这样也无伤大雅,在说A*之前有必要说所深度优先搜索算法DFS和广度优先搜索算法BFS,假设一个... Theroy) 这是我最感喜欢部分,某种程度上说没有博弈论体系AI算不上AI,博弈论在人工智能中广泛用于最优化策略,从原英文中我们就看得出这个游戏有关,对象是单体,著名例子就是简化囚徒困境:...置信技术把人工智能推向了极致,他博弈论、神经网络遗传算法构成了AI核心体系。...之前我们神经网络和遗传算法使用穷举进行尝试和筛选,而置信网络总结数据并试图发现规律,这看起来多麽伟大,同时也多麽不容易,把客观世界object规律映射到智能机器,即使是人类也不一定做好 同样是上面走路例子...,我们假设了神经网络阀值必须要是偶数*2才能通过,贝叶斯智信网络则是用来总结得出这个规律,他需要前面的数据并进行分析,并把抽象数据转化为客观规律 上图就是一个经典置信网络,其中红色圆圈表示未知规律

1.2K30

数据城市正义:回龙观居民“身体被掏空”问题如何解决

就是在座各位,是我们市民。 视频长约30分钟,请您在wifi条件下观看 我叫茅明睿,是一名北京规划师。我今天说是一个比较严肃的话题,是关于数据和城市正义。...乍一看这两个事物是不相干,那我们就一个一个来看。 城市正义 :一个人城市观 ▼ 首先来说一下城市正义。从我自己理解来说,所谓城市正义就是一个人城市观。...我城市观高度地受到这样一位老太太影响,这位老太太名字叫简·雅各布斯,去年是她诞辰一百周年。她有一本很著名书,叫作《美国大城市生》。...这位学者叫大卫·哈维,他是一个马克思主义地理学家,他指出城市正义应该包括社会正义和空间正义两个方面。同时他提出了一个非常重要概念:市民权。 我理解,市民权利,首先市民应该拥有居住权。...所以我们有一个朴素认知:城市正义来自于市民广泛参与。 数据城市正义 如何降低公众参与成本?

1.4K70

【学术】新研究旨在解决黑箱算法中AI产生偏见问题

但是人工智能只能对它所训练数据做出好反应,而且在很多情况下,我们最终会把太过人性化偏见放到可能对人们生活产生巨大影响算法中。 ?...在arXiv发表一篇新论文中,研究人员表示,他们可能已经找到了一种方法来缓解黑箱算法中出现偏见问题。...让这个问题变得更加棘手是,许多人工智能都是用黑箱做出选择——要么它们太复杂,难以理解,要么它们是公司拒绝解释专有的算法。...首先,他们创建了一个模仿黑箱算法模型,并根据最初数据集提出了一个风险评分,就像LendingClub和Northpointe那样。...但是,贷款目的风险高度相关,比如,小额企业贷款风险比那些为筹备婚礼而贷款的人要高得多。因此,LendingClub似乎忽视了一个重要变量。

72840

算法数据结构】--算法基础--算法设计分析

一、贪心算法 贪心算法是一种解决优化问题算法设计方法,其核心思想是在每一步选择当前状态下最优解,从而希望最终达到全局最优解。下面将介绍贪心算法原理、实现步骤,并提供C#和Java实现示例。...三、分治算法 分治算法(Divide and Conquer)是一种用于解决问题算法设计方法,它将问题分解成子问题,解决子问题并合并子问题解以得到原问题解。...下面将介绍分治算法原理、实现步骤,并提供C#和Java实现示例。 3.1 原理: 分治算法核心思想是将问题分解成若干规模较小子问题,分别解决这些子问题,然后将它们解合并成原问题解。...通过将问题分解成子问题,然后合并子问题解,实现了高效排序算法。分治算法可用于解决各种复杂问题,是一种重要算法设计方法。...这些算法都有不同应用领域和实现步骤,可根据问题特点选择合适算法

20321

打开趋势跟踪CTA黑箱:国际市场表现经验

这篇文章就管理期货在投资组合中可能发挥作用提供了一些诱人观点。也就是说,这种策略改善了股票和债券投资组合风险/回报状况,传统资产相关性显著降低,并提高了绝对和风险调整后回报。...下图描述了1990年1月至2022年4月巴克莱BTOP50指数MSCI全球指数季度回报率对比。BTOP50指数试图在交易风格和整体市场敞口方面复制管理期货行业整体构成。...第二部分将探讨管理期货在投资组合中使用。 下表显示了BTOP50汇总统计数据。统计数据是根据季度总收益数据计算出来。偏度和峰度置信区间(95%)显示在括号中。...每个图中黑色实线显示了整个观察期间平均相关性。 虽然相关性随时间而变化,但可以清楚地看到,趋势跟踪与其他资产结构相关性较低。股票相关性在统计上几乎为零。...然而,我们需要提前解决一个问题是缺乏数据。如前所述,大多数管理期货共同基金数据只能追溯到2010年左右。在金融领域,十年回报通常不足以实现强劲业绩。

61110

数据+算力+算法人工智能三大基石

数据算法和算力,正是构成人工智能技术三大核心要素,它们之间相互关联、相互影响,共同推动着人工智能发展。1、数据数据人工智能基石。无论是机器学习还是深度学习,都需要大量数据作为训练基础。...而在自然语言处理领域,大规模语料库也是提升模型性能关键。因此,数据人工智能发展基础,没有足够数据支持,任何先进算法和算力都将无从谈起。...2、算法算法人工智能灵魂。算法是指导计算机如何处理数据规则和步骤,它决定了机器如何从数据中提取有用信息并作出决策。随着机器学习和深度学习等技术发展,算法人工智能领域应用越来越广泛。...3、算力算力是人工智能驱动力。算力指的是计算机处理数据能力,包括计算速度、存储能力、通信能力等。在人工智能应用中,算力是支撑数据算法运行重要平台。...综上所述,数据算法和算力是人工智能技术三大核心要素。在TSINGSEE青犀视频AI+解决方案中,数据算法、算力相互协同,共同打造基于视频能力AI分析能力智慧监管系统。

34210

数据结构算法:排序算法

排序算法概述 排序是计算机科学中一个基础问题,排序算法目的是将一串数字或字母按照特定顺序重新排列。通常有升序和降序两种方式。 2....常见排序算法 2.1 冒泡排序 冒泡排序是一种简单排序算法。它重复地遍历待排序数列,一次比较两个元素,如果顺序错误就交换过来。 2.2 快速排序 快速排序是一种分而治之排序算法。...2.3 归并排序 归并排序是一种递归排序算法。它将原始数据分成较小数组,然后合并这些数组,以使之整体有序。...稳定性:稳定排序算法会保留相等元素相对顺序。 空间复杂度:一些排序算法可能需要额外内存空间。 4. 排序算法应用 排序算法在许多领域都有广泛应用,例如数据库查询、数据分析、机器学习等。...总结 排序算法是计算机科学中最基础问题之一。通过学习和理解不同排序算法,我们可以更好地理解算法设计原则和思想,以及如何选择合适算法来解决实际问题。

9420

数据结构算法算法简介

什么是算法 什么是算法?简单来讲,算法就是用于描述解决问题方法。而现今普遍对算法定义为:解决特定问题求解步骤描述,在计算机中表现为指令有限序列,并且每条指令含有一个或多个操作。...算法程序对于合法输入能得到满足要求输出。 算法程序对于非法输入能得到满足规格说明输出。 算法程序对于特殊测试数据也有满足要求输出。...健壮性 一个算法不仅需要对输入合理情况做出正确处理,而且对于不合理情况,也能做出相应介绍。所谓健壮性,指就是当算法中输入数据不合法时,它也能做出相关处理,而不会产生异常或者莫名其妙结果。...针对同一问题,算法所需空间越少,则算法效果越好,所需空间越多,则算法效果越差。 算法效率衡量方法 前边讲了算法特性以及算法设计要求,但都没有明确方式来衡量一个算法好坏。...,表示算法存储空间数据规模间增长关系,用 来代替; 常用空间复杂度 算法执行所需临时空间不随某一变量 n 大小而变化,则该算法空间复杂度为一个常量,表示为 ; int num1

82530

人工智能历史、概念、算法技术 概括综述(一)

基于上一章关于自然智能学习探讨,一个之相关主题便是“人工智能”。而本次“人工智能上半章,从人工智能历史、概念、算法技术四个方面进行阐述。...随着大数据、云计算、互联网、物联网等信息技术发展,各种各样计算平台推动以深度神经网络为代表的人工智能技术飞速发展,从很大程度上打破了科学应用之间深厚壁垒,诸如图像分类、语音识别、知识问答、人机对弈...同时,算法也有一定学习能力,它可以从数据样本中获取将所需要知识,并进行一定程度上分析归纳,形成自己知识。...(人工智能两种主要算法)         尤其是人工神经网络算法,它是是一种基于神经元连接学习算法模型。自然智能之间联系紧密。因为对于大脑自然智能来讲,它模型主要存在于大脑神经网络之中。...人大脑通过脊椎身体其它器官相连接,形成一个巨大而复杂数据/信息处理和行为控制系统,负责管理所有心智、神经和其它活动任务。

2.6K20

数据结构算法:递归算法

递归算法 什么是递归? 函数直接或间接调用自身过程称为递归,相应函数称为递归函数。使用递归算法,可以很容易地解决某些问题。...为什么需要递归 递归是一项令人惊奇技术,借助它我们可以减少代码长度并使其更易于阅读和编写。稍后将讨论迭代技术相比,它具有某些优点。...对于可以用其相似的子任务来定义任务,递归是最好解决方案之一。例如:数字阶乘。 递归性质 使用不同输入多次执行相同操作。 在每一步中,我们都会尝试较小输入来使问题更小。...算法步骤 在函数中实现递归算法步骤如下: 第1步: 定义基本情况:确定解决方案已知最简单情况。这是递归停止条件,因为它防止函数无限地调用自身。 步骤2: 定义递归情况:用更小子问题来定义问题。...递归函数使用 LIFO(后进先出)结构,就像堆栈数据结构一样。 递归基本条件是什么? 在递归程序中,提供了基本情况解决方案,并用较小问题来表达较大问题解决方案。

11810

算法数据结构】--算法应用--算法数据结构案例研究

一、项目管理中算法应用 在项目管理中,算法数据结构应用涉及项目进度、资源分配、风险管理等方面。...成本控制算法:成本控制算法可用于监控项目的实际成本预算成本之间差距,以及采取纠正措施来控制成本。...这个算法基于图数据结构,其中节点表示路由器,边表示通信链路成本或距离。Dijkstra算法根据路由器之间成本权重来计算最短路径,以确定数据传输路线。...每个活动进程都有一个对应 PCB,它包含了进程状态、寄存器值、进程标识符、优先级、调度信息和其他进程相关信息。 进程队列:进程队列是用于存储就绪、运行和阻塞状态进程数据结构。...缓冲区:缓冲区用于临时存储数据,以提高数据读写操作效率。它们在文件系统、网络通信和设备驱动程序中常见。 等待队列:等待队列用于存储等待某个条件进程,通常同步和信号通知机制一起使用。

15930
领券