最近闲下来的时候其实一直有在玩Agda。其实之前也知道Agda，但是由于Coq的相关资料更多，而且那时候我在Windows平台上无法安装Agda（old-times库的问题），于是拖到近来PLFA这本书的中文翻译动工才开始跟着看。
几乎所有机器学习算法在训练或预测时都归结为求解最优化问题，如果目标函数可导，在问题变为训练函数的驻点。通常情况下无法得到驻点的解析解，因此只能采用数值优化算法，如梯度下降法，牛顿法，拟牛顿法。这些数值优化算法都依赖于函数的一阶导数值或二阶导数值，包括梯度与Hessian矩阵。因此需要解决如何求一个复杂函数的导数问题，本文讲述的自动微分技术是解决此问题的一种通用方法。关于梯度、Hessian矩阵、雅克比矩阵，以及梯度下降法，牛顿法，拟牛顿法，各种反向传播算法的详细讲述可以阅读《机器学习与应用》，清华大学出版社，雷明著一书，或者SIGAI之前的公众号文章。对于这些内容，我们有非常清晰的讲述和推导。
深度学习背后的核心有标量、向量、矩阵和张量这 4 种数据结构，可以通过使用这些数据结构，以编程的方式解决基本的线性代数问题
当我们使用前馈神经网络接收输入 ，并产生输出 时，信息通过网络前向流动。输入x并提供初始信息，然后传播到每一层的隐藏单元，最终产生输出 。这称之为前向传播。在训练过程中，前向传播可以持续前向直到它产生一个标量代价函数 。反向传播算法，经常简称为backprop，允许来自代价函数的信息通过网络向后流动，以便计算梯度。
导数在大学的时候还是学过的，虽然概念很简单，但是过了这么多年几乎也都忘了，连数学符号都不记得了，在复习之后才理解：就是表示数据变化的快慢，是变化率的概念，比如重力加速度，表示你自由落体之后每秒速度的增量。
选自Kdnuggets 作者：Ted Dunning 机器之心编译 参与：晏奇、吴攀 今天很多现有的深度学习系统都是基于张量代数（tensor algebra）而设计的，但是张量代数不仅仅只能用于深度学习。本文对张量进行了详细的解读，能帮你在对张量的理解上更进一步。本文作者为 MapR Technologies 的首席应用架构师 Ted Dunning。 近段时间以来，张量与新的机器学习工具（如 TensorFlow）是非常热门的话题，在那些寻求应用和学习机器学习的人看来更是如此。但是，当你回溯历史，你会
2013百度校园招聘数据挖掘工程师 一、简答题（30分） 1、简述数据库操作的步骤（10分） 步骤：建立数据库连接、打开数据库连接、建立数据库命令、运行数据库命令、保存数据库命令、关闭数据库连接。
虽然现在的轮子很多，但我们在使用过程中会碰到很多问题，而我们经常不知道从哪里下手，说明轮子不是你造的你不熟悉。因此我们不仅要重复造轮子，还要好好造，深入造，才能用好轮子，把轮子转化成自身的力量。同样的道理适用于这篇文章。虽然网上BA的资料无穷无尽，但我们还是要好好深入理解其原理，并且一定要通过实践才能懂得其中原理。在“第一届SLAM论坛”中沈劭劼老师的发言中，他提到团队的成员都要手写BA，既然大佬都这么做，我们就照做吧。这篇文章是我手写BA的笔记，主要从原理推导入手，把公式都写一遍，然后通过g2o、ceres和eigen三种方式来编程实现，以便加深对BA的理解。
一、简答题（30分） 1、简述数据库操作的步骤（10分） 步骤：建立数据库连接、打开数据库连接、建立数据库命令、运行数据库命令、保存数据库命令、关闭数据库连接。 经萍萍提醒，了解到应该把prepare
本文档为数据架构部分笔记，思维导图与知识点整理。共分为6个部分，由于页面显示原因，部分层级未能全部展开。结构如下图所示。
同时在本微信公众号中，回复“SIGAI”+日期，如“SIGAI0515”，即可获取本期文章的全文下载地址（仅供个人学习使用，未经允许，不得用于商业目的）。
机器学习: 机器学习研究的是计算机怎样模拟人类的学习行为，以获取新的知识或技能，并重新组织已有的知识结构使之不断改善自身。简单的说，就是计算机从数据中学习规律和模式，以应用在新数据上做预测的任务。
在自动驾驶、医疗以及零售这些领域，计算机视觉让我们完成了一些直到最近都被认为是不可能的事情。今天，自动驾驶汽车和无人商店听起来不再那么梦幻。事实上，我们每天都在使用计算机视觉技术——我们用自己的面孔解锁手机，将图片上传到社交网络之前进行自动修图……卷积神经网络可能是这一巨大成功背后的关键组成模块。这次，我们将要使用卷积神经网络的思想来拓宽我们对神经网络工作原理的理解。打个预防针，本文包含相当复杂的数学方程，但是，你也不必为自己不喜欢线性代数和微积分而沮丧。我的目标并不是让你记住这些公式，而是为你提供一些关于底层原理的直觉认知。
本文和下文以 Automatic Differentiation in Machine Learning: a Survey 这篇论文为基础，逐步分析自动微分这个机器学习的基础利器。
插件下载地址：https://plugins.jetbrains.com/pycharm，pycharm的官网也是有点慢阿，不过用谷歌浏览器配合迅雷插件下很多东西都很快，比如sourceforge.net直接下载的话很慢3m的文件要下半天还会断，但是用迅雷就很快。
*杨亚强 2016 年作为数据架构师加入美图数据平台部。具有多年的数据架构经验，作为资深架构师，长期负责各类系统的架构和研发工作，也作为主程参与过多个大型系统的研发。对于分布式系统、大规模数据处理等大数据组件有着丰富的研发和优化经验。目前在美图的大数据与AI部门负责数据架构设计与核心模块代码的编写，主导数据基础设施的构建和优化。
机器学习 机器学习研究的是计算机怎样模拟人类的学习行为，以获取新的知识或技能，并重新组织已有的知识结构使之不断改善自身。简单的说，就是计算机从数据中学习规律和模式，以应用在新数据上做预测的任务。 深度学习概念 深度学习指的是训练神经网络，有时候规模很大。 线性回归 回归函数，例如在最简单的房价预测中，我们有几套房屋的面积以及最后的价格，根据这些数据来预测另外的面积的房屋的价格，根据回归预测，在以房屋面积为输入x，输出为价格的坐标轴上，做一条直线最符合这几个点的函数，将它作为根据面积预测价格的根据，这条线就是
AI 科技评论按：如果对人工智能稍有了解的小伙伴们，或多或少都听过反向传播算法这个名词，但实际上BP到底是什么？它有着怎样的魅力与优势？本文发布于 offconvex.org，作者 Sanjeev Arora与 Tengyu Ma，由 AI 科技评论对此进行编译。 目前网络上关于反向传播算法的教程已经很多，那我们还有必要再写一份教程吗？答案是‘需要’。 为什么这么说呢？我们教员Sanjeev最近要给本科生上一门人工智能的课，尽管网上有很多反向传播算法的教程，但他却找不到一份令他满意的教程，因此我们决定自己写
通常，当我们使用神经网络时，我们输入某个向量x，然后网络产生一个输出y，这个输入向量通过每一层隐含层，直到输出层。这个方向的流动叫做正向传播。
本篇主要分享卷积神经网络（CNN）的数学原理解析，会让你加深理解神经网络如何工作于CNNs。出于建议，这篇文章将包含相当复杂的数学方程，如果你不习惯线性代数喝微分也没事，目的不是记住这些公式，而是对下面发生的事情有一个直观的认识。
工作一段时间会遇到一个瓶颈期，会考虑未来1到2年的发展和方向问题，之前的方式是通过不停的学习新的框架或者解决方案来调整。 比如写服务端代码期间会去学习TDD，DDD，CQRS代码逻辑层的东西，学前端框架等度过第一个阶段。 后来会去学习大型互联网架构的解决方案，什么负载均衡，分库分表，数据一致性的解决方案，并发的处理及解决策略，降级，静态化，缓存一致性，异步MQ。 这些了解大部分处于填鸭式学习，比如只是去了解市面上常见的中间件及软件的使用，并没有涉及到底层原理或者实现方式上，换句话说知道的只是名词，还未深入，
对列表的任何操作不会影响本身的列表，列表一旦创建便不会发生改变，这会使得我们更好的推导数据的变化。作为一门Scalable的语言，Scala允许使用者也可以开发一个类似内置列表的数据结构。在这篇文章会简单的实现一个函数式双向队列，也以此来展示类型参数和如何做简单的信息隐藏。 Begin: 类型参数可以让我们编写泛型类和特质，例如列表就是泛型的，定义为List[T],它的实例可以为List[Int],List[String]等。作为双向队列的第一段代码输入：
part1—-面试常见内容及面试技巧 机器学习、大数据相关岗位的职责 自己参与面试的提供算法岗位的公司有 BAT、小米、360、飞维美地、宜信、猿题库 等，根据业务的不同，岗位职责大概分为： 平台搭
选自GitHub 机器之心编译 参与：林川、刘晓坤 作者简单用 TensorFlow 中的计算图解释了机器学习的背后原理，然后列举了数个使用 C++实现 TensorFlow 的好处，如线性代数库的使用，运算符重载等等。 在开始之前，首先看一下最终成型的代码： 1. 分支与特征后端（https://github.com/OneRaynyDay/autodiff/tree/eigen） 2. 仅支持标量的分支（https://github.com/OneRaynyDay/autodiff/tree/maste
编译器下载和配置参考[WebAssembly从入门到放弃] Emscripten1.39.4工具链的安装与简单使用。本文介绍将C程序编译后在浏览器端运行的例子。
作为一个对数学和编程语言充满激情的人，谁也不能阻止我分享我总结的10个超棒的用于数学的编程语言。 正文共：2619 字 预计阅读时间：7 分钟 作为一个对数学和编程语言充满激情的人，谁也不能阻止我分
原创声明：本文为 SIGAI 原创文章，仅供个人学习使用，未经允许，不得转载，不能用于商业目的。
今天的文章和大家一起来学习大数据领域一个经常用到的算法——布隆过滤器。如果看过《数学之美》的同学对它应该并不陌生，它经常用在集合的判断上，在海量数据的场景当中用来快速地判断某个元素在不在一个庞大的集合当中。它的原理不难，但是设计非常巧妙，老实讲在看《数学之美》之前，我也没有听说过这个数据结构，所以这篇文章也是我自己学习的笔记。
我们将深入探讨使用 PyTorch 构建自己的神经网络必须了解的 2 个基本概念：张量和梯度。
本文将从反向传播的本质、反向传播的原理、反向传播的案例三个方面，详细介绍反向传播（Back Propagation）。
每天给你送来NLP技术干货！ 地址 | https://zhuanlan.zhihu.com/p/69294347作者 | xiaopl@知乎编辑 | 极市平台 PyTorch 作为一个深度学习平台，在深度学习任务中比 NumPy 这个科学计算库强在哪里呢？我觉得一是 PyTorch 提供了自动求导机制，二是对 GPU 的支持。由此可见，自动求导 (autograd) 是 PyTorch，乃至其他大部分深度学习框架中的重要组成部分。 了解自动求导背后的原理和规则，对我们写出一个更干净整洁甚至更高效的 PyT
原标题 | Gentle Dive into Math Behind Convolutional Neural Networks
“ 随机过程，实分析。机器学习往深里做肯定需要用这种，高级的数学语言去对问题进行描述。我本人对随机和实分析，其实目前也还只是略懂，很难说，真正的彻底掌握这两门十分强大的数学工具。”
PyCharm的插件很好用，能够在写代码时加成很多。下面看一下目前我用的一些插件。
作者 | 阿司匹林 出品 | 人工智能头条（公众号ID：AI_Thinker） 凭借强大的技术实力和良好的工作氛围，Google 对求职者一直有着强大吸引力。 虽然 Google 在几年前就已经退出了中国大陆市场，但是在北京、上海等国内城市依然保留着办公地点，而且一直在对外发布招聘需求。特别是去年底，Google 宣布在北京成立 AI 中心，更是为中国的 AI 人才提供了又一个好去处。 为此，我们整理一份 Google 面试指南，并搜集了 20 道 Google AI 的面试问题，希望对感兴趣的读者能有所助
【要背住的知识】：用ReLU代替Sigmoid，用BN层，用残差结构解决梯度消失问题。梯度爆炸问题的话，可以用正则化来限制。sigmoid的导数的取值范围是【0，0.25】.
RustyDHCP 是一个轻量简约的 DHCP 服务器，无 unsafe 代码，有如下特点：
1. 不同于传统的前馈神经网络（FNNs），RNNs引入了定向循环，能够处理输入之间前后关联问题。
渲染可以分为forward和inverse两种方式，如图所示，当我们有了床的模型，灯光和相机视角后，可以渲染出一张图像。理论上，如果我们获取了该方法的反函数，就可以基于图像获取原始参数。之前一系列小结告诉我们，f方法复杂(light transport & material)，计算量很大，无法直接算出这个反函数。于是，退而求其次，我们如果能够获取该函数对应参数x的导数，就可以不断的迭代来拟合，最终得到误差在允许范围内的x的近似值。因此，问题转化为如何求解函数的导数，这就是可微分渲染领域的核心问题。
——老子
机器学习方法已被应用于预测分子和固体的能量和性质，并且这种应用的受欢迎程度急剧增加。原子相互作用的量子性质使能量评估的计算量很大，因此，当需要进行许多此类计算时，机器方法尤其有用。近年来，ML 在化学和材料研究中的不断扩展的应用包括预测相关分子的结构，基于分子动力学模拟计算能表面，识别具有所需材料特性的结构以及创建机器学习的密度泛函。对于这些类型的问题，输入描述符必须以紧凑的方式解决原子环境中的差异。
《机器学习与应用》由清华大学出版社出版，是机器学习和深度学习领域又一高质量的入门与提高教材。该书系统、深入地讲述了机器学习与深度学习的主要方法与理论，并紧密结合工程实践与应用。
根据中国互联网络信息中心（CNNIC）第47次《中国互联网络发展状况统计报告》，截至2020年12月，中国网民规模达到9.89亿人，其中网络视频（含短视频）用户规模达到9.27亿人，占网民整体的93.7%，短视频用户规模为8.73亿人，占网民整体的88.3%。
上一节我们探讨了垃圾回收算法，简单的了解下垃圾回收在程序虚拟机中是怎样运行的。我们平常在开发中经常用的虚拟机是HotSpot，那么该虚拟机是怎样实现的呢？ HotSpot 算法的实现 我们知道在对象创建时候都会形成一条链，我们的可达性分析就是从GC Root节点上找引用的，其中这个节点主要是在全局性的引用于与执行上下文中。由于以下原因导致。我们现在虚拟机大部分使用的是准确式GC 现在程序很多数据都是在数百M设置是数百GB,如果还要逐个检查每个引用，就容易出现问题。性能损失很多。 还有一点就是可达性
图像金字塔是图像多尺度表达的一种，是一种以多分辨率来解释图像的有效且概念简单的结构。一幅图像的金字塔是一系列以金字塔形状排列的分辨率逐步降低，且来源于同一张原始图的图像集合。其通过梯次向下采样获得，直到达到某个终止条件才停止采样。我们将一层一层的图像比喻成金字塔，层级越高，则图像越小，分辨率越低
股份制改革对我国银行业来说只是一个开始，企业在风险管理、创造价值等方面还有很长的路要走。风险管理要求提供精准的数据模型、创造价值要求充分银行数据资产，这是数据治理的外部推动因素。此外，随着第三次工业革命的到来，银行业也需要进入定制化时代，以更低的成本，生产多样化的金融产品，从而满足不同顾客的不同需求。对数据本身而言，业务发展加快了数据膨胀的速度，也带来了数据不一致等问题，业务部门的频繁增加和剥离同样会对数据治理提出挑战。这些日益复杂的内外因决定了我国银行业对数据治理的超高标准要求，而目前对应的经验能力却稍显薄弱。
领取专属 10元无门槛券
手把手带您无忧上云
