此外，相比之前机器之心报道的注意力能否提高模型可解释性的文章，本文更多的从语境词语级别（contextualized word level），探讨注意力机制是否可以被解释。遗憾的是，本文作者也同样认为，注意力层不足以解释模型所关注的重点。
在开发的过程中，会遇到各种各样的错误，由于我们是人，不是机器，没有办法避免这样的错误，既然没有办法避免，那好歹在出错的地方提示我一下啊，这总不过分吧！但遗憾的是由于JS本身的缺憾导致它做不到。
嵌入式设备与JavaScript看似是来自两个不同世界的两个物种，八竿子都打不着。但是随着JavaScript 开疆扩土,从浏览器逆袭登陆到服务端之后又与物联网有了交集。
ECMAScript（前身为欧洲计算机制造商协会）：JavaScript的语法规范
EMNLP 2019《Attention is Not Not Explanation》
NAACL 2019《Attention is Not Explanation》
自2014年Bahdanau将Attention作为软对齐引入神经机器翻译以来，大量的自然语言处理工作都将其作为模型中一个提升性能的重要模块，大量的实验表明Attention机制是计算高效且效果显著的。随之而来的便是对其进行可解释性的探讨研究，一方面，人们希望能更好地了解其内在的机理来优化模型，另一方面，也有学者对其提出质疑。在此，作为SCIR实验室的准博士生，我基于自己对Attention机制的理解，写了这篇相关论文的心得笔记，希望能对各位读者有所启发，由于个人水平的限制，文中出现的谬误欢迎大家指正。
JavaScript历史 要了解JavaScript，我们首先要回顾一下JavaScript的诞生。在上个世纪的1995年，当时的网景公司正凭借其Navigator浏览器成为Web时代开启时最著名的第一代互联网公司。由于网景公司希望能在静态HTML页面上添加一些动态效果，于是叫Brendan Eich这哥们在两周之内设计出了JavaScript语言。你没看错，这哥们只用了10天时间。
高级语言，面向对象，可扩展，可移植性用于在不同的平台（因为Python是用C写的，又由于C的可移植性）
近期在对历史的机器学习文章进行了整理与归集，方便自己也方便他人学习知识，今天分享给大家的是一个近8万字的机器学习理论知识点文章汇集，主题为《machine learning knowledge》，这个系列的文章可以满足你对machine learning理论知识的学习~
Java 和JavaScript 虽然名称相似，但却有很大差别。JavaScript 是由Netscape 工程师Brendan Eich 于1995 年仅花10 天所设计的编程语言，也因为一些历史因素，JavaScript 成为被误解最深的编程语言。JavaScript 是一种解释性语言。其具备简单好上手、应用范围广泛，但精通不易等特性。过去一段时间JavaScript 一直被认为是玩具语言，难登大雅之堂。但随着版本的演进，再加上NodeJS 的出现，让JavaScript 由黑翻红成为编程语言的当红巨星，目前雄据在编程语言排行榜前几名，除了网页开发外，在许多的领域都可以看到JavaScript 的身影。本文将快速带领大家掌握JavaScript 重要且核心的观念。
原作：Archie Mistry 翻译：豌豆花下猫@Python猫 原文：https://morioh.com/p/765b19f066a4
javascript虽然一直都可以做服务端编程语言，但是它更多的是以客户端编程语言来展示在世人面前的。也许javascript自己都忘记了还可以做服务器端编程，直到2009年nodejs的横空出世。
【新智元导读】人们对深度学习模型的真正运行机制还远远没有完全了解，如何提高预测模型的“可解释性”成了一个日益重要的话题。近来的一篇论文讨论了机器学习模型的“可解释性”的概念及其重要意义。
解释性AI，也称为XAI（Extended AI），是一种综合了多种AI技术的智能系统或工具，旨在帮助人们理解和解释数据、信息和知识，以辅助决策制定。XAI可以应用于各种领域，包括但不限于预测分析、风险评估、医疗保健、教育、人力资源、项目管理等。
「风控ML」系列文章，主要是分享一下自己多年以来做金融风控的一些事一些情，当然也包括风控建模、机器学习、大数据风控等相关技术分享，欢迎同行交流与新同学的加入，共同学习，进步！
图神经网络因其对图结构数据的强大表达能力而受到越来越多的关注，但它们仍然因为缺乏可解释性而受到质疑。当前可解释性人工智能方法受限于数据集，仅在社交网络等现实世界数据集上进行定性评估，缺少定量评估和比较。同时，可解释性方法生成的解释是否达到预期目的并提供可靠的答案也仍待探索。中山大学杨跃东教授团队联合星药科技研发团队在Cell Press旗下Patterns期刊发表了题为“Quantitative evaluation of explainable graph neural networks for molecular property prediction”的文章，该研究建立了五个分子可解释性基准数据集，定量评估了六种常用的可解释性方法与四种图神经网络模型的组合，并与药物化学家在可解释性任务上进行了直接比较。这是首次将可解释性方法与人类专家在可解释性任务上进行定量实验比较的研究。同时，基于模型学到的解释，研究人员开发了一种数据驱动的分子结构指纹，可作为分子属性预测中经典分子指纹的补充。相关成果[1]已于11月正式发表。
可解释性通常是指使用人类可以理解的方式，基于当前的业务，针对模型的结果进行总结分析；
在科学研究中，从方法论上来讲，都应“先见森林，再见树木”。当前，人工智能学术研究方兴未艾，技术迅猛发展，可谓万木争荣，日新月异。对于AI从业者来说，在广袤的知识森林中，系统梳理脉络，才能更好地把握趋势。为此，我们精选国内外优秀的综述文章，开辟“综述专栏”，敬请关注。
不以人类可以理解的方式给出的解释都叫耍流氓，因此，我们要让模型「说人话」。只要记住这三个字，你就差不多把握了可解释性的精髓所在。
AI 研习社按：本文为 BIGSCity 的知乎专栏内容，作者王小贱。北航智慧城市兴趣组 BIGSCITY是隶属于北京航空航天大学计算机学院的一个学术研究小组，小组致力于研究机器学习与数据挖掘在城市科学、社会科学等领域的交叉应用技术。AI 科技评论获得 BIGSCity 授权转载，敬请期待更多后续内容。
强化学习是一种从试错过程中发现最优行为策略的技术，已经成为解决环境交互问题的通用方法。
来源：新智元本文共10000字，建议阅读15分钟本文本文探索XRL的基础性问题，并对现有工作进行综述。 强化学习是一种从试错过程中发现最优行为策略的技术，已经成为解决环境交互问题的通用方法。 然而，作为一类机器学习算法，强化学习也面临着机器学习领域的公共难题，即难以被人理解。缺乏可解释性限制了强化学习在安全敏感领域中的应用，如医疗、驾驶等，并导致强化学习在环境仿真、任务泛化等问题中缺乏普遍适用的解决方案。 为了克服强化学习的这一弱点，涌现了大量强化学习可解释性（Explainable Reinforcem
可解释性人工智能 PART.01 概述 1 可解释性人工智能（XAI）定义 随着机器学习和人工智能技术在各个领域中的迅速发展和应用，向用户解释算法输出的结果变得至关重要。人工智能的可解释性是指人能够理解人工智能模型在其决策过程中所做出的选择，包括做出决策的原因，方法，以及决策的内容[1]。简单的说，可解释性就是把人工智能从黑盒变成了白盒。 2 研究的作用 可解释性是现在人工智能在实际应用方面面临的最主要的障碍之一。人们无法理解或者解释为何人工智能算法能取得这么好的表现。可解释性人工智能模型的作用
导读：为了解决模型的“黑盒”问题，科学家们提出了可解释机器学习。除了预测的精准性之外，可解释性也是机器学习模型是否值得信赖的重要衡量标准。
AI研究与应用不断取得突破性进展，然而高性能的复杂算法、模型及系统普遍缺乏决策逻辑的透明度和结果的可解释性，导致在涉及需要做出关键决策判断的国防、金融、医疗、法律、网安等领域中，或要求决策合规的应用中，AI技术及系统难以大范围应用。XAI技术主要研究如何使得AI系统的行为对人类更透明、更易懂、更可信。
了解前端开发技术JavaScript，JavaScript的发展，JavaScript特点，JavaScript的组成及其作用。
你是否也好奇，在大模型时代，可解释性人工智能技术（XAI）有怎样的使用价值？近日，来自佐治亚大学、新泽西理工学院、弗吉尼亚大学、维克森林大学、和腾讯 AI Lab 的研究者联合发布了解释性技术在大语言模型（LLM）上的可用性综述，提出了 「Usable XAI」 的概念，并探讨了 10 种在大模型时代提高 XAI 实际应用价值的策略。
当 Netscape Navigator 崭露头角时，Nombas 开发了一个可以嵌入网页中的 CEnvi 的版本。这些早期的试验被称为 Espresso Page（浓咖啡般的页面），它们代表了第一个在万维网上使用的客户端语言。而 Nombas 丝毫没有料到它的理念将会成为万维网的一块重要基石。
有监督的机器学习模型往往具有显著的预测能力，很多学术文献为解释性提供了多样的、有时是稍有矛盾的描述，并提供了很多的技术来呈现可解释的模型。可解释性的定义并不明确，但是，人们还是都宣称他们的模型是可解释，尽管没有进一步的论据。问题在于，我们目前还不清楚这些关于模型可解释性技术的共同特性到底是什么。
传统网络安全威胁分析依赖专家知识及基本的数据分析，然而随着攻击技术的复杂化、安全数据接入的多元化，高性能人工智能技术越来越多的应用到威胁分析中，试图解放安全行业的生产力。更复杂的模型往往具备高知识容量，能够支持大规模、高维非线性数据的分析，于此同时，其内部表示学习过程、决策过程愈发不可解释，执行逻辑难以被人类直观理解，逐渐成为“黑盒”模型，反而降低了安全应用的智能化、自动化程度。
由于接触JS不久，关于JS的浮点数的计算更是之前没有用过，这次写JS项目发现的这个问题：0.1+0.2=0.3000000000004，为什么会出现这么奇怪的问题呢 ？在网上找了一些资料，JS作为解释性语言，直接计算会有浮点数精度丢失问题。 门弱类型语言的JavaScript ，从设计思想上就没有对浮点数有个严格的数据类型。
可解释人工智能 (XAI) 致力于开发对人类（包括用户、开发人员、政策制定者和审计人员）来说本质上更容易理解的人工智能模型。神经符号计算 (NSC) 处理将子符号学习算法与符号推理方法相结合。因此，我们可以断言神经符号计算是可解释人工智能下的一个子领域。NSC 也是最适用的方法之一，因为它依赖于结合现有的方法和模型。
它是运行在浏览器中的一种脚本语言，在web页面中，Javascript可谓是无所不能：
随着机器学习应用的逐渐增多，解释性机器学习成为一个备受关注的领域。解释性机器学习旨在提高模型的可理解性，使决策过程更加透明，从而增强用户对模型的信任。本文将深入探讨解释性机器学习的工具和技术，结合实例演示，并提供代码解释，同时介绍数据处理的关键步骤。
可解释性仍然是现代深度学习应用的最大挑战之一。计算模型和深度学习研究领域近期取得了很大进展，创建了非常复杂的模型，这些模型可以包括数千个隐藏层、数千万神经元。虽然创建高级深度神经网络相对简单，但理解如何创建这些模型以及它们如何使用知识仍然是一个挑战。最近，谷歌大脑（Google Brain）团队发表了一篇论文《Interpretability Beyond Feature Attribution: Quantitative Testing with Concept Activation Vectors (TCAV)》，提出一种叫作「概念激活向量」（Concept Activation Vectors，CAV）的新方法，为深度学习模型的可解释性提供了全新视角。
最近，这本名为《可解释性的机器学习》书在推特火了起来，两天内2千多人点赞，将近700人转发。
前些天在同行交流群里，有个话题一直在群里热烈地讨论，那就是 如何解释机器学习模型 ，因为在风控领域，一个模型如果不能得到很好的解释一般都不会被通过的，在银行里会特别的常见，所以大多数同行都是会用 LR 来建模。但是，机器学习的模型算法这么多，不用岂不是很浪费？而且有些算法还十分好用的，至少在效果上，如XGBoost、GBDT、Adaboost。
原标题 | This New Google Technique Help Us Understand How Neural Networks are Thinking
可解释性仍然是现代深度学习应用的最大挑战之一。计算模型和深度学习研究的最新进展使我们能够创建极度复杂的模型，包括数千隐藏层和数千万神经元。效果惊人的前沿深度神经网络模型构建相对简单，但了解这些模型如何创造和使用知识仍然是一个挑战。
【导读】我们知道，近年来机器学习，特别是深度学习在各个领域取得了骄人的成绩，其受追捧的程度可谓是舍我其谁，但是有很多机器学习模型（深度学习首当其冲）的可解释性不强，这也导致了很多论战，那么模型的可解释
模型可解释问题一向都是一个玄学问题，主要核心问题在于怎么评估一个好的模型解释器。在以往的工作中，图解释性模型往往是取一个边集合，并且将边集合得到的子图预测结果与真实标签做对比然后算一个acc，然而，本文作者则认为如果将解释结果与真实情况对比的话实际上并不是特别靠谱。因此，本文主要提出了几种更贴切于解释性方法的评估数据，包括感染检测，社区检测，负样本评估。
随着自然语言处理（NLP）领域的不断发展，对于模型的可解释性和公平性的关注逐渐增加。可解释性是指模型的决策过程能够以人类可理解的方式被解释，而公平性则涉及确保模型对不同群体的用户都能提供公正的结果。本文将深入讨论在NLP中应用可解释性和公平性的重要性，并通过实例展示如何通过技术手段推动智能系统更加透明和公正。
作者 | 王小贱（被编程耽误的设计师，热爱产品的数据民工） 来源 | BIGSCity知乎专栏 《深度学习的可解释性研究》系列文章希望能用尽可能浅显的语言带领大家了解可解释性的概念与方法，以及关于深度学习可解释性工作的研究成果。本文是该系列的第一部分。 01 深度学习的可解释性研究（一） 让模型具备说人话的能力 ▌可解释性是什么？ 广义上的可解释性指在我们需要了解或解决一件事情的时候，我们可以获得我们所需要的足够的可以理解的信息。 比如我们在调试bug的时候，需要通过变量审查和日志信息定位到问题出在哪里。
注意力机制在 NLP 系统中起着重要作用，尤其是对于循环神经网络（RNN）模型。那么注意力模块提供的中间表征能否解释模型预测的推理过程，进而帮助人们了解模型的决策过程呢？近期，很多研究人员对这个话题产生了浓厚的兴趣。一篇题目为《Attention is not Explanation》(Jain and Wallace, 2019) 的论文表示，注意力机制并不能提高模型的可解释性。
广义上的可解释性指在我们需要了解或解决一件事情的时候，我们可以获得我们所需要的足够的可以理解的信息。比如我们在调试bug的时候，需要通过变量审查和日志信息定位到问题出在哪里。比如在科学研究中面临一个新问题的研究时，我们需要查阅一些资料来了解这个新问题的基本概念和研究现状，以获得对研究方向的正确认识。反过来理解，如果在一些情境中我们无法得到相应的足够的信息，那么这些事情对我们来说都是不可解释的。比如刘慈欣的短篇《朝闻道》中霍金提出的“宇宙的目的是什么”这个问题一下子把无所不知的排险者卡住了，因为再高等的文明都没办法理解和掌握造物主创造宇宙时的全部信息，这些终极问题对我们来说永远都是不可解释的。
领取专属 10元无门槛券
手把手带您无忧上云
云服务器
ICP备案
实时音视频
即时通信 IM
对象存储
