梯度下降的伪代码如左下，计算误差函数J的梯度，完成一次更新误差函数中的变参，使得误差函数的值尽量最小化。
本文介绍了梯度下降算法的原理、优缺点以及应用。梯度下降算法是一种用于优化目标函数的迭代方法，通过计算目标函数的梯度来更新参数。该算法有批量梯度下降、随机梯度下降和小批量梯度下降三种形式。优点是计算简单、易于实现；缺点是可能会陷入局部最优解。在机器学习和深度学习领域，梯度下降算法被广泛应用于训练模型。
梯度下降法作为机器学习中较常使用的优化算法，其有着三种不同的形式：批量梯度下降（Batch Gradient Descent）、随机梯度下降（Stochastic Gradient Descent）以及小批量梯度下降（Mini-Batch Gradient Descent）。其中小批量梯度下降法也常用在深度学习中进行模型的训练。接下来，我们将对这三种不同的梯度下降法进行理解。 为了便于理解，这里我们将使用只含有一个特征的线性回归来展开。
LinUCB是UCB的升级版，上一篇文章Bandit算法学习与总结（一）介绍的贪心方法，汤普森采样和UCB都是context-free的方法，即都是埋头苦干类型的，其他特征跟咱都没关系。而LinUCB是contextual bandit方法，即利用现有的相关特征（包括用户的特征，商品的特征等）对UCB的均值和上界进行估计，提升了整体的性能。
“Implementation note:——Unrolling parameters”
显然，对于任意一个向量 ，我们总可以将其用 阶矩阵的一组正交基进行表示，即：
1. Push (OPTR, '#');表示把字符#压入堆栈OPTR中，转换成c++代码就是OPTR.push('#');
本文介绍了基于压缩感知的信号重构方法，包括观测矩阵的构建、正交匹配追踪（OMP）算法、变分自编码器（VAE）和最小二乘法等。这些方法旨在解决信号重构问题中的稀疏性、噪声干扰和信号恢复等问题，具有较好的应用前景。
在学习贝叶斯计算的解马尔可夫链蒙特卡洛(MCMC)模拟时，最简单的方法是使用PyMC3，构建模型，调用Metropolis优化器。但是使用别人的包我们并不真正理解发生了什么，所以本文通过手写Metropolis-Hastings来深入的理解MCMC的过程，再次强调我们自己实现该方法并不是并不是为了造轮子，而是为了更好的通过代码理解该概念。
下棋程序：E ：无数次下棋获得的经验；T :下棋；P ：与新对手下棋时的胜率有所提升。
知道了核函数的表示形式（使用例如高斯核函数作为工具，计算样本x和地标l之间的距离作为特征f，其中f为核函数），之后就是讨论核函数地标的选择。
对抗训练是一种引入噪声的训练方式，可以对参数进行正则化，提升模型鲁棒性和泛化能力。
真实世界中的物体之间相对于相机是有远近关系的，那么在2D平面上如何反应物体的先后关系呢？一个常用的方法是Painter's Algorithm (画家算法)，即先画远处的物体，然后把近处的物体画在远处物体的前面，如下图所示。
“Regularization——Regularized logistic regression”。
看起来一则不起眼的新闻，其实意义深远，它意味着人们开始认可计算机创作的艺术价值，那些沾沾自喜认为不会被人工智能取代的艺术家也要瑟瑟发抖了。
1 . 后向传播算法 : 针对每个数据样本 , 从输入层到输出层传播输入 , 这是向前传播输入 , 然后从输出层向输入层传播误差 , 这是向后传播误差 ;
经典教材Reinforcement Learning: An Introduction 第二版由强化领域权威Richard S. Sutton 和 Andrew G. Barto 完成编写，内容深入浅出，非常适合初学者。本篇详细讲解第四章动态规划算法，我们会通过Grid World示例来结合强化学习核心概念，用python代码实现在OpenAI Gym的模拟环境中第四章基于动态规划的算法：策略评价（Policy Evaluation）、策略提升（Policy Improvment）、策略迭代（Policy Iteration）、值迭代（Value Iteration）和异步迭代方法（Asynchronous DP）。
上次的文章《入门感知机：一种二分类模型》中我们讲述了感知机的背景、模型定义、学习策略。
本文提出了一种新的方法：MetaBalance，该方法对辅助任务的梯度依据目标任务的梯度进行缩放，并且在缩放的同时保留一部分自身的梯度，从而缓解辅助任务梯度过大过小的问题。
要认识对抗训练，首先要了解 "对抗样本"，它首先出现在论文 Intriguing properties of neural networks 之中。简单来说，它是指对于人类来说 "看起来" 几乎一样，但对于模型来说预测结果却完全不一样的样本，比如下面的经典例子（一只熊猫加了点扰动就被识别成了长臂猿）
整理自Andrew Ng的machine learning课程week 4. 目录： 为什么要用神经网络 神经网络的模型表示 1 神经网络的模型表示 2 实例1 实例2 多分类问题 1、为什么要用神经网络 当我们有大量的features时：如$x_1, x_2,x_3.......x_{100}$ 假设我们现在使用一个非线性的模型，多项式最高次为2次，那么对于非线性分类问题而言，如果使用逻辑回归的话： $g(\theta_0+\theta_1x_1+\theta_2x_2+\theta_3x_1x_2+\
机器学习就是需要找到模型的鞍点，也就是最优点。因为模型很多时候并不是完全的凸函数，所以如果没有好的优化方法可能会跑不到极值点，或者是局部极值，甚至是偏离。所以选择一个良好的优化方法是至关重要的。首先是比较常规的优化方法：梯度下降。以下介绍的这些算法都不是用于当个算法，可以试用于能可微的所有算法。
Canny边缘检测于1986年由JOHN CANNY首次在论文《A Computational Approach to Edge Detection》中提出，就此拉开了Canny边缘检测算法的序幕。
推荐系统中通常采用隐式反馈（如点击）来构建模型，而观察到的反馈代表用户的点击日志，所以观察到的点击与真实用户意图之间时存在差异的，并且观察到的反馈通常偏向于热门商品，从而高估了热门商品的实际相关性。尽管现有研究已经开发出使用逆倾向加权 (IPW) 或因果推理的无偏学习方法，但它们只专注于消除商品的流行度偏差。本文提出了一种新颖的无偏推荐学习模型BISER，以消除推荐模型引起的商品曝光偏差。BISER 由两个关键组成部分组成：
如图 5.1 所示，强化学习有 3 个组成部分：演员（actor）、环境和奖励函数。智能体玩视频游戏时，演员负责操控游戏的摇杆， 比如向左、向右、开火等操作；环境就是游戏的主机，负责控制游戏的画面、负责控制怪兽的移动等；奖励函数就是当我们做什么事情、发生什么状况的时候，可以得到多少分数， 比如打败一只怪兽得到 20 分等。同样的概念用在围棋上也是一样的，演员就是 Alpha Go，它要决定棋子落在哪一个位置；环境就是对手；奖励函数就是围棋的规则，赢就是得一分，输就是负一分。在强化学习里，环境与奖励函数不是我们可以控制的，它们是在开始学习之前给定的。我们唯一需要做的就是调整演员里面的策略，使得演员可以得到最大的奖励。演员里面的策略决定了演员的动作，即给定一个输入，它会输出演员现在应该要执行的动作。
“Logistic Regression——Advanced optimization”。
https://zhuanlan.zhihu.com/p/136975128 元学习
回归与梯度下降 回归在数学上来说是给定一个点集，能够用一条曲线去拟合之，如果这个曲线是一条直线，那就被称为线性回归，如果曲线是一条二次曲线，就被称为二次回归，回归还有很多的变种，如locally weighted回归，logistic回归，等等，这个将在后面去讲。 用一个很简单的例子来说明回归，这个例子来自很多的地方，也在很多的open source的软件中看到，比如说weka。大概就是，做一个房屋价值的评估系统，一个房屋的价值来自很多地方，比如说面积、房间的数量（几室几厅）、地 段、朝向等等，这些影响房屋
假设我们有一个难题需要解决，那怎么解决呢？解决的步骤怎样呢？如果有一样东西能把这个解决这个难题的步骤描述出来，那就叫做这个问题的算法。
EE是推荐系统中不变的话题，我们需要通过探索用户的兴趣来避免进入闭环，增加推荐系统的多样性和个性化，因此需要在探索和利用之间做权衡。
如图表示一个房价预测的数据集，x轴表示房子的面积，y轴表示对应的房价，现在需要做的就是用一条直线拟合这些数据，使得给出一个新的房子面积，可以预测出它的房价。当然，可以用曲线来拟合数据使得预测更加准确，但是目前只先讨论单变量的线性回归，即用直线来拟合数据。
多维梯度 LINEAR - > RELU - > LINEAR - > RELU - > LINEAR - > SIGMOID
假设预测的变量y是离散的值，需要使用逻辑回归Logistic Regression，LR的算法，实际上它是一种分类算法
众所周知，transformer的attention机制本身是不带有位置信息的，因此对于文本序列，attention机制本身就会丢失掉原文当中的序列信息，造成信息缺失，影响到模型的效果表达，这个应该已经算是面试中常见的八股文问题了。
单变量和多变量线性回归：给出一组数据数据，用线性回归方法拟合函数。预测开一家餐馆的盈利，预测房价。涉及的内容不少，连学python到全部理解用了两天时间。
标题：Practical Network Acceleration with Tiny Sets
旋转框相比矩形框可以更好的拟合物体，同时标注起来比分割要方便的多，使用来自NVIDIA的ODTK可以方便的训练，实施和部署旋转框物体检测模型，同时具备多种扩展功能。
title：Self-Supervised Graph Co-Training for Session-based Recommendation
今天 Review 了一下同事的代码， 发现其代码中有非常多的 mapPartitions, 问其原因，他说性能比 map 更好。 我说为什么性能好呢？ 于是就有了这篇文章
这篇文章的重点不在于讲解FR的各种Loss，因为知乎上已经有很多，搜一下就好，本文主要提供了各种Loss的Pytorch实现以及Mnist的可视化实验，一方面让大家借助代码更深刻地理解Loss的设计，另一方面直观的比较各种Loss的有效性，是否涨点并不是我关注的重点，因为这些Loss的设计理念之一就是增大收敛难度，所以在Mnist这样的简单任务上训练同样的epoch，先进的Loss并不一定能带来点数的提升，但从视觉效果可以明显的看出特征的分离程度，而且从另一方面来说，分类正确不代表一定能能在用欧式/余弦距离做1:1验证的时候也正确...
树的深度通常从0开始计，故层数等于n+1，后续统一用深度 可以得到，这个算法的时间复杂度是：
梯度检查是非常重要的一个环节，就是将解析梯度和数值计算梯度进行比较。数值计算梯度时，使用中心化公式
最大期望算法（Expectation-maximization algorithm，又译为期望最大化算法），是在概率模型中寻找参数最大似然估计或者最大后验估计的算法，其中概率模型依赖于无法观测的隐性变量。
今天继续和大家聊聊B站2021的校招笔试题，上次我们看了算法题，今天我们来看看选择题。
A. 用途： 可以用来预测，由多种因素影响的结果。 B. 建立公式： C. 求解方法： 方法1. Gradient Descent： 技巧： 技巧1. Feature Scaling：
领取专属 10元无门槛券
手把手带您无忧上云
云服务器
即时通信 IM
ICP备案
对象存储
实时音视频
