开发者社区

文档建议反馈控制台

最新优惠活动

文章/答案/技术大牛

发布

黑盒算法

黑盒算法是一种机器学习算法，它不需要了解算法的内部工作原理，只需要提供输入数据并获得输出结果。黑盒算法通常用于解决复杂的问题，例如图像识别、自然语言处理和推荐系统等。

黑盒算法的优势在于它可以自动学习和优化，而无需人工干预。它可以在大量数据的基础上自动学习和优化，从而提高准确性和效率。

黑盒算法的应用场景非常广泛，例如自动驾驶、智能语音助手、个性化推荐等。

腾讯云提供了多种黑盒算法的产品，例如自然语言处理、图像识别、推荐系统等。这些产品可以帮助企业快速构建智能应用，提高效率和准确性。

推荐的腾讯云相关产品和产品介绍链接地址：

自然语言处理：https://cloud.tencent.com/product/nlp
图像识别：https://cloud.tencent.com/product/tiia
推荐系统：https://cloud.tencent.com/product/rs

以上是黑盒算法的相关信息，如果您有其他问题，请随时提问。

页面内容是否对你有帮助？

有帮助

没帮助

相关·内容

基于黑盒语音识别系统的目标对抗样本

编译 | 姗姗出品 | 人工智能头条（公众号ID：AI_Thinker）【人工智能头条按】谷歌大脑最近研究表明，任何机器学习分类器都可能被欺骗，给出不正确的预测。在自动语音识别（ASR）系统中，深度循环网络已经取得了一定的成功，但是许多人已经证明，小的对抗干扰就可以欺骗深层神经网络。而目前关于欺骗 ASR 系统的工作主要集中在白盒攻击上，Alzantot 等人证明利用遗传算法的黑盒攻击是可行的。而在接下来为大家介绍的这篇加州大学伯克利分校机器学习团队的论文中，引入了一个新的黑盒攻击领域，特别是在深层

03

基于黑盒语音识别系统的目标对抗样本

AI 科技大本营按：谷歌大脑最近研究表明，任何机器学习分类器都可能被欺骗，给出不正确的预测。在自动语音识别（ASR）系统中，深度循环网络已经取得了一定的成功，但是许多人已经证明，小的对抗干扰就可以欺骗深层神经网络。而目前关于欺骗 ASR 系统的工作主要集中在白盒攻击上，Alzantot 等人证明利用遗传算法的黑盒攻击是可行的。

02

机器学习的挑战：黑盒模型正面临这3个问题

导读：本文将讲述可解释机器学习的研究背景，介绍黑盒模型存在的问题和风险，通过一些小故事让读者了解问题的严重性。

01

可学习的黑盒对抗攻击：SOTA的攻击成功率和查询效率

本文介绍NeurIPS 2020接收论文《Learning Black-Box Attackers with Transferable Priors and Query Feedback》。

03

模型解释器——Global Surrogate Models介绍

导读：Global Surrogate Models 是一种模型解释方法，旨在通过一个可解释的模型来近似黑盒模型在整个输入特征范围内的预测结果。这种方法的核心思想是使用一个全局替代模型来揭示黑盒模型的决策过程和行为模式。

01

面向可解释AI的黑盒和白盒模型

可解释人工智能 (XAI) 致力于开发对人类（包括用户、开发人员、政策制定者和审计人员）来说本质上更容易理解的人工智能模型。神经符号计算 (NSC) 处理将子符号学习算法与符号推理方法相结合。因此，我们可以断言神经符号计算是可解释人工智能下的一个子领域。NSC 也是最适用的方法之一，因为它依赖于结合现有的方法和模型。

02

【Algorithm算法章】递归&&搜索&&回溯&&算法思路总结概括

本章节是总结学习二叉树，排序算法等等递归问题所总结的，对递归，搜索，回溯的算法进行总结

00

黑盒攻击很难？元学习提高"黑盒对抗攻击"成功率

本文分享论文『Boosting Black-Box Adversarial Attacks with Meta Learning』，元学习提高黑盒对抗攻击。

01

北大 DAIR 实验室AutoML团队开源高效的通用黑盒优化系统OpenBox （KDD2021）

近日，由北京大学崔斌教授数据与智能实验室（ Data and Intelligence Research LAB, DAIR）开发的通用黑盒优化系统 OpenBox 开源发布！

03

IJCAI 2021 | 腾讯和复旦联合出品：Adv-Makeup人脸黑盒攻击对抗算法

分享一篇来自 IJCAI 2021 的论文：Adv-Makeup: A New Imperceptible and Transferable Attack on Face Recognition，由腾讯和复旦大学联合出品：人脸黑盒攻击对抗算法：Adv-Makeup。

01

这一次，MIT的科学家让谷歌AI把步枪误认成直升机

安妮编译整理量子位出品 | 公众号 QbitAI 这是什么？熟悉枪械的盆友可能一眼就认出这是步枪，即使对枪种类不熟悉的同学也能认出这最可能是枪。但……这道题对谷歌Cloud Vision A

05

专栏 | 蒙特卡洛树搜索在黑盒优化和神经网络结构搜索中的应用

现实世界的大多数系统是没有办法给出一个确切的函数定义，比如机器学习模型中的调参，大规模数据中心的冷藏策略等问题。这类问题统统被定义为黑盒优化。黑盒优化是在没办法求解梯度的情况下，通过观察输入和输出，去猜测优化变量的最优解。在过去的几十年发展中，遗传算法和贝叶斯优化一直是黑盒优化最热门的方法。不同于主流算法，本文介绍一个基于蒙特卡洛树搜索（MCTS）的全新黑盒优化算法，隐动作集蒙特卡洛树搜索 (LA-MCTS)。LA-MCTS 发表在 2020 年的 NeurIPS，仅仅在文章公开几个月后，就被来自俄罗斯 JetBrains 和韩国的 KAIST 的队伍独立复现，并用来参加 2020 年 NeurIPS 的黑盒优化挑战，分别取得了第三名和第八名的好成绩 [10][11]。

01

腾讯发布国内首份可解释AI报告！层层分析「套娃式」AI算法

打开一个黑盒子，黑盒子变成了白盒子，但是白盒子中又出现了更多的黑盒子，探索可解释AI是一条长远的道路。作者 | 王晔编辑 | 陈彩娴在刚刚过去的2021年，人工智能领域最热门的新兴话题之一，就是「可信AI」。2021年6月，蚂蚁集团在全球人工智能大会上首次公布「可信AI」技术架构体系；7月，京东探索研究院又在世界人工智能大会上发布中国首个《可信人工智能白皮书》，且两家企业都将隐私保护、鲁棒性/稳定性、可解释性、公平性作为「可信AI」的四大基本原则。从工业界到学术界，「可信AI」的身影频频出现。比如，此前 A

02

机器学习对抗性攻击

随着人工智能和机器学习技术在互联网的各个领域的广泛应用，其受攻击的可能性，以及其是否具备强抗打击能力一直是安全界一直关注的。之前关于机器学习模型攻击的探讨常常局限于对训练数据的污染。由于其模型经常趋向于封闭式的部署，该手段在真实的情况中并不实际可行。在GeekPwn2016硅谷分会场上，来自北美工业界和学术界的顶尖安全专家们针对当前流行的图形对象识别、语音识别的场景，为大家揭示了如何通过构造对抗性攻击数据，要么让其与源数据的差别细微到人类无法通过感官辨识到，要么该差别对人类感知没有本质变化，而机器学习模型可

04

人工智能的矛与盾--对抗学习

最近几年安全界关于对抗学习的研究如火如荼，对抗样本的生成技术发展迅速。使用不同的对抗攻击方法可以生成对抗样本，不同攻击方法的攻击效果也有所不同。另外关于对抗样本攻击的防御方法，已经有不少学者提出了一些解决方案，不过防御效果上还有提升空间。下图是关于对抗学习经典的应用场景，攻击者利用对抗样本攻击方法对关于熊猫的图片进行微小的修改从而使深度学习图像识别模型失效，误以为图片中的是长臂猿。这种攻击手段已经在本文之前已经进行过讨论。

01

【刷题】初探递归算法 —— 消除恐惧

总结来说，递归代码的编写如同使用一个“黑盒”一样，我们需要相信递归调用会正确解决子问题，而我们只需要关注处理当前的问题。

01

微软全球副总裁洪小文：创造力可能有一个算法吗？

作者：毛丽 7月6日，由中信出版集团和百分点主办的“XWorld大会”上，微软全球副总裁洪小文发表了最新的演讲。他以智能金字塔为基础，提出在最底层的计算和记忆方面，计算机已经全面超过人类。在认知方面，和人类相当但是依然有所区别。在创造力和智慧的层次，计算机远远不及人类。未来很可能是AI+HI的时代，人类智能和人工智能共同进化。大数据文摘从现场带来第一手资料，以下为演讲内容速记，在不改变愿意的前提下部分内容有删改。 1计算和记忆层面，人类输给了计算机我自己很喜欢看历史，我也读了赫拉利的书，我也去找了一个T

04

关于机器学习模型可解释性算法的汇总

目前很多机器学习模型可以做出非常好的预测，但是它们并不能很好地解释他们是如何进行预测的，很多数据科学家都很难知晓为什么该算法会得到这样的预测结果。这是非常致命的，因为如果我们无法知道某个算法是如何进行预测，那么我们将很难将其前一道其它的问题中，很难进行算法的debug。

03

理解贝叶斯优化

贝叶斯优化是一种黑盒优化算法，用于求解表达式未知的函数的极值问题。算法根据一组采样点处的函数值预测出任意点处函数值的概率分布，这通过高斯过程回归而实现。根据高斯过程回归的结果构造采集函数，用于衡量每一个点值得探索的程度，求解采集函数的极值从而确定下一个采样点。最后返回这组采样点的极值作为函数的极值。这种算法在机器学习中被用于AutoML算法，自动确定机器学习算法的超参数。某些NAS算法也使用了贝叶斯优化算法。

05

谈谈机器学习模型的可解释性

随着AI和机器学习的发展，越来越多的决策会交给自动化的机器学习算法来做。但是当我们把一些非常重要的决定交给机器的时候，我们真的放心么？当波音飞机忽略驾驶员的指令，决定义无反顾的冲向大地；当银行系统莫名其妙否决你的贷款申请的时候；当自动化敌我识别武器系统决定向无辜平民开火的时候；人类的内心应该是一万个草泥马飞过，大声的质问，“为什么？”

04

关于机器学习模型的可解释性算法！

模型可解释性汇总

02

关于机器学习模型的可解释性算法！

目前很多机器学习模型可以做出非常好的预测，但是它们并不能很好地解释他们是如何进行预测的，很多数据科学家都很难知晓为什么该算法会得到这样的预测结果。这是非常致命的，因为如果我们无法知道某个算法是如何进行预测，那么我们将很难将其前一道其它的问题中，很难进行算法的debug。

01

FloydHub 2020年最佳机器学习书籍之一《可解释机器学习》中文版来啦！

说到机器学习，想必大家都不陌生。机器学习是计算机基于数据做出和改进预测或行为的一套方法。那什么是可解释机器学习呢？比如，我们通过机器学习的算法得到了某个结果，那这个结果是否是可信的呢？我们希望理解这个结果背后的原因。这就是可解释机器学习要研究的问题。如下图所示，根据一般网络给出的决策时，缺乏可解释性的结果让使用者感到困惑，严重限制了其在现实任务中的广泛应用。虽然机器学习与人工智能的研究不断取得了突破性进展，然而高性能的复杂算法、模型及系统普遍缺乏决策逻辑的透明度和结果的可解释性，导致在涉及需

02

如何减少开发中的 Bug

http://jartto.wang/2019/08/24/how-to-decrease-bugs/

00

Procedural Noise Adversarial Examples for Black-Box Attacks on Deep Neural Networks论文笔记(1)

如今一些深度神经网络对于一些对抗性样本(Adversarial sample)是弱势的, 对抗性样本就是指我们对输入进行特定的改变, 通过原有的学习算法最终导致整个网络内部出现误差, 这属于攻击的一种, 然而, 现在的攻击都是要么计算代价特别大, 要么需要对目标的模型和数据集有大量的先验知识, 因此, 这些方法在实际上其实都不实用. 该文章主要介绍了一种程序性噪声, 利用该噪声, 使得构造实用的低计算量的黑盒攻击成为了可能, 对抗鲁棒性的神经网络结构, 比如Inception v3和Inception ResNet v2 在ImageNet数据集上. 该文章所提出来的攻击实现了低尝试次数下成功造成错分类. 这种攻击形式揭露了神经网络对于Perlin噪声的脆弱性, Perlin噪声是一种程序性噪声(Procedural Noise), 一般用于生成真实的纹理, 使用Perlin噪声可以实现对所有的分类器都实现top1 至少90%的错误率, 更加令人担忧的是, 该文显示出大多数的Perlin噪声是具有"普适性"(Universal)的, 在对抗样本中, 数据集的大部分, 使用简单的扰动使得高达70%的图片被错误分类

03

Loki: 通过融合基于规则的模型提高基于学习的实时视频自适应的长尾性能

最大化实时视频的体验质量(QoE)是一个长期存在的挑战。传统的视频传输协议以少量确定性规则为代表，难以适应异构、高度动态的现代互联网。新兴的基于学习的算法已经显示出应对这一挑战的潜力。然而，我们的测量研究揭示了一个令人担忧的长尾性能问题: 由于内置的探索机制，这些算法往往会受到偶尔发生的灾难性事件的瓶颈。在这项工作中，我们提出了 Loki，它通过将学习模型与基于规则的算法相结合，提高了学习模型的鲁棒性。为了能够在特征层次上进行集成，我们首先将基于规则的算法逆向工程为一个等效的“黑盒”神经网络。然后，我们设计一个双注意特征融合机制，将其与一个强化学习模型融合。我们通过在线学习在一个商业实时视频系统中训练 Loki，并对它进行了超过1.01亿次的视频会话评估，与最先进的基于规则和基于学习的解决方案进行了比较。结果表明，Loki 不仅提高了系统的平均吞吐量，而且显著提高了系统的尾部性能(95% 时，系统的卡顿率降低了26.30% ~ 44.24% ，视频吞吐量提高了1.76% ~ 2.17%)。

06

AI到底是能力First还是可解释性First？ | 行业观察

随着深度学习等技术诞生，人工智能行业又一次蓬勃发展。李开复在题为《人工智能的黄金时代》的万字演讲中提到，深度学习有四点挑战，分别是平台化、数据、计算及可解释性。人工智能的黄金时代已经到来，深度学习已经在图像，语音，大数据，自动驾驶等诸多领域占绝对优势。相较而言，模型可解释性的研究还处于起步阶段。特别是，随着波音MCAS系统导致的空难频繁，人们对于技术的信赖感也会急速降低，特别是涉及到安全、操作、控制方面的技术应用。人工智能目前的黑盒化并不能让人信服得出的结论，充满了疑问和焦虑。

05

Machine Can See 2018 图像对抗攻击大赛比赛心得

AI 研习社按：这篇文章来自俄罗斯数据科学家、机器学习爱好者、创业公司的计算机视觉研究员 Alexander Aveysov。他参加了 2018 年度的「Machine Can See」的对抗性样本攻防大赛，并在比赛中获得了第二名。这篇文章是他对这次比赛的个人感想以及经验总结。AI 研习社编译如下。

03

干货 | Machine Can See 2018 图像对抗攻击大赛比赛心得

AI 科技评论按：这篇文章来自俄罗斯数据科学家、机器学习爱好者、创业公司的计算机视觉研究员 Alexander Aveysov。他参加了 2018 年度的「Machine Can See」的对抗性样本攻防大赛，并在比赛中获得了第二名。这篇文章是他对这次比赛的个人感想以及经验总结。AI 科技评论编译如下。

02

GAN 作者 Ian Goodfellow 最新论文：对神经网络策略的对抗性攻击

【新智元导读】迄今为止，多数对于对抗样本的研究是关于对抗样本对监督式学习算法影响的。一个最新的技术报告研究了对抗性攻击干扰代理训练，使其无法学到任何有意义的事情的设想情况。这篇最新的论文则首次研究了测

06

超参数调优算法与调度器详解：网格搜索、贝叶斯、Hyperband、PBT...

超参数指的是模型参数（权重）之外的一些参数，比如深度学习模型训练时控制梯度下降速度的学习率，又比如决策树中分支的数量。超参数通常有两类：

00

超参数调优河伯、组合优化器CompBO，华为诺亚开源贝叶斯优化库

华为诺亚开源了一个贝叶斯优化的库，该库包含三个部分：河伯、T-LBO、CompBO。

03

消除对"学编程"的误解

很多同学在开始有意向学习编程的时候，很粗糙的认为学习编程就是学编程语言。以为学会了编程语言的句法、语法就会编程了。

03

深入了解NNIE量化技术

【GiantPandaCV导语】这篇文章对量化技术做了概要的介绍，由原理推导，验证实现了海思NNIE的量化算法。最后，作者还尝试了使用Pytorch对训练感知量化算法的进行复现，使其不依赖固定Cuda版本，并且可以使用多卡进行训练，内容非常硬核，具体请看文章。本文同步发表于知乎，地址为：https://zhuanlan.zhihu.com/p/223018242 。文末送出4本《机器学习与深度学习算法基础》书籍，欢迎评论区留言抽奖。

03

危险！一张贴画就能迷惑AI，对抗补丁或让自动驾驶车毁人亡

来自北京航空航天大学(Beihang University)、悉尼大学(University of Sydney)和剑桥大学(University of Cambridge)的一项最新研究成果显示，将一张用打印机简单打印出来的涂鸦贴画贴在路牌上就可以让AI自动驾驶系统完全误分类。

04

可解释AI技术简介、分类与相关工具

最近由于工作需要，在阅读一些关于可解释AI方面的论文和书籍，对该领域有了一点浅显的认识，本文从技术简介、技术分类与主要研究方向加以简要介绍。

02

MIT适应性可解释机器学习项目旨在让机器学习模型走出黑盒

应用程序为人们提供多种自动化决策，例如识别个人的信用风险是什么，通知招聘人员雇用哪个求职者，或确定某人是否对公众构成威胁。近年来，新闻警告说，未来机器在社会背景下运作，在使用不值得信任的逻辑的同时决定人类的生活方式。

01

Procedural Noise Adversarial Examples for Black-Box Attacks on Deep Neural Networks 论文笔记(2)

该文章提出一种利用程序化噪声来生成对抗样本的方法, 所提出的方法和那些通过梯度不断修改以至于到达分类器的边界的方法不一样, 上述方法需要对目标的模型有一定的了解.

01

「机器学习」学到多深够用？

机器学习现在热得一塌糊涂，码农要是不会点机器学习，都不好意在IT界混了。机器学习难吗？一大堆公式，好像很难的样子。不过，看人家用起来，也不过就是下载几个软件包，调用几个算法函数。干脆不理那些看着头晕的怪异符号和希腊字母，直接把那些算法当黑盒用是不是就可以了？很不幸，这样做往往是不可以的。仅仅把机器学习算法当作黑盒使用的问题在于：黑盒能够解决问题的时候，使用方便，而一旦不能解决问题，或者对质量有所要求，就会感觉无所适从。作为程序员、工程人员（算法使用者而非研究者），想用机器学习算法解决实际问题，

06

科研人员批评机器学习已成“炼金术”

继2017年底在人工智能大会上批评机器学习已成为“炼金术”后，谷歌科研人员Ali Rahimi与其他科研人员一起在“国际学习表征大会”（International Conference on Learning Representations）上发文，列举了机器学习“炼金术”的案例。

05

黑盒测试，软件测试中的军体拳

点击上方蓝字“一个正经的测试“关注我，每周早上08:30准时推送，每月不定期赠送技术书籍。

01

热饭的测开成果盘点第十一期：测试平台OneKey(二)

如图这是用来辅助写用例的。我们常见的用例设计方法都在这上面。今天就来介绍下这些功能如何辅助的。

03

港大马毅：现在大模型的「知识」，不等同于「智能」

当众人纷纷投身于 Scaling Law（规模定律）的信仰之时，马毅却选择了一条少有人相信的路。

01

算法究竟是个啥东西？

当然，要说起来，万事万物都有过程——一个东西放在那里不动还会生锈老化呢，都有“结果“的产出——比如铁锈。你是不是会想，那是不是万事万物皆为算法呢？

04

ODS：输出多样化采样，有效增强白盒和黑盒攻击的性能 | NeurIPS 2020

本文提出了一种新的采样策略——输出多样化采样，替代对抗攻击方法中常用的随机采样，使得目标模型的输出尽可能多样化，以此提高白盒攻击和黑盒攻击的有效性。实验表明，该种采样策略可以显著提升对抗攻击方法的性能。

01

学习率衰减加冲量优化的梯度下降法Python实现方案

我们需要明确的一个信息是，我们不可能遍历这整个的函数空间。虽然这样能够使得我们找到真正的最优解，但是遍历所带来的时间消耗是一般的项目所无法接受的，因此就需要一些更加聪明的变化方法来对黑盒进行优化。

01

干货 | 拒绝日夜调参：超参数搜索算法一览

感谢阅读「美图数据技术团队」的第 25 篇原创文章，关注我们持续获取美图最新数据技术动态。

02

干货 | 攻击AI模型之FGSM算法

本文将为您揭开白盒攻击中鼎鼎大名的FGSM（Fast Gradient Sign Method）算法的神秘面纱！

03

超参数黑盒（Black-box）优化的Python代码示例

在机器学习中，超参数是用于控制机器学习模型的学习过程的参数。为了与从数据中学到的机器学习模型参数区分开，所以称其为超参数。超参数的配置决定了机器学习模型的性能，每组独特的超参数集可以对应一个学习后的机器学习模型。对于大多数最先进的机器学习模型，所有可能的超参数组合的集合可能会很大。大多数机器学习模型软件包的默认参数值都经过了一些特别的调整优化，可实现不错的基线性能。这意味着可以直接使用，但这些如果针对特定的情况还是需要找到特定的超参数值，这样才能达到最佳的性能。

01

干货 | 攻击AI模型之DeepFool算法

AI 科技评论按：本文为“兜哥带你学安全”系列之三，首发于AI科技评论，未经许可不得转载。

03

扫码

添加站长进交流群

领取专属 10元无门槛券

手把手带您无忧上云

扫码加入开发者社群

相关资讯

热门标签

活动推荐

运营活动

活动名称

广告关闭