有时我们需要计算输入和输出都为向量和函数的所有偏导数。包含所有这样的偏导数的矩阵被称为Jacobian矩阵。具体来说，如果我们有一个函数 , 的Jacobian矩阵 定义为 。有时，我们也对导数的导数感兴趣，即二阶导数(second derivative)。例如，有一个函数 ， 的一阶导数(关于 )关于 的导数记为 为 。二阶导数告诉我们，一阶导数(关于 )关于 的导数记为 。在一维情况下，我们可以将 为 。二阶导数告诉我们，一阶导数如何随着输入的变化而改变。它表示只基于梯度信息的梯度下降步骤是否会产生如我们预期那样大的改善，因此它是重要的，我们可以认为，二阶导数是对曲率的衡量。假设我们有一个二次函数(虽然实践中许多函数都是二次的，但至少在局部可以很好地用二次近似)，如果这样的函数具有零二阶导数，那就没有曲率，也就是一条完全平坦的线，仅用梯度就可以预测它的值。我们使用沿负梯度方向下降代销为 的下降步，当该梯度是1时，代价函数将下降 。如果二阶导数是正的，函数曲线是向上凹陷的(向下凸出的)，因此代价函数将下降得比 少。
检测效果图 题目：拥挤场景中的端到端人物检测 (推荐阅读英文原文) 文章地址：《End-to-end people detection in crowded scenes》 arXiv.1506.04878 Github：https://github.com/Russell91/ReInspect (未经允许禁止转载，授权转载请注明出处，谢谢！) ---- Abstract 目前的人物检测操作要么是以滑动窗口的方式扫描图像，或者通过分类一组离散的决策。我们提出了基于将图像解码成一组人物检测的模型。我
论文地址：https://arxiv.org/pdf/1907.07854.pdf
为啥要提到这个问题呢，是因为最近一直在做生成对抗网络（GAN）的工作，GAN的灵感来源于博弈论（也叫对策论，竞赛论）中的零和博弈，而原始GAN的优化目标又是一个极小化极大问题，所以我觉得有必要深入了解一下这个问题。另外，我觉得博弈论这个东西挺有意思的，而且挺实用的（坏笑脸），所以就查了一些资料，在这里做个总结，拿出来和大家分享。 博弈的意思其实比较简单，就是两个人，或者多个人之间的竞争，比赛。通过采取不同措施，达到不同的目的，使得自己的利益最大化。古老的故事“田忌赛马”就是博弈思想的体现，我就在想为啥田忌没
图象的边缘是指图象局部区域亮度变化显著的部分，该区域的灰度剖面一般可以看作是一个阶跃，既从一个灰度值在很小的缓冲区域内急剧变化到另一个灰度相差较大的灰度值。图象的边缘部分集中了图象的大部分信息，图象边缘的确定与提取对于整个图象场景的识别与理解是非常重要的，同时也是图象分割所依赖的重要特征，边缘检测主要是图象的灰度变化的度量、检测和定位，自从1959提出边缘检测以来，经过五十多年的发展，已有许多中不同的边缘检测方法。根据作者的理解和实践，本文对边缘检测的原理进行了描述，在此基础上着重对Canny检测算法的实现进行详述。
本文详细论述了四个特征点检测算法：Harris, SIFT，SURF以及ORB的思路步骤以及特点，分析了它们的局限性，并对几个重要问题进行了探讨。
目标检测是计算机视觉中一个长期存在的挑战，其目标是在图像库中空间上定位和分类目标框。在过去的十年中，由于检测管道各个阶段的许多进步，目标检测取得了惊人的进展。目标检测Backbone的演变，从R-CNN的基础性转变到Faster R-CNN，以及改变范式的YOLO架构，再到最近将Transformer网络集成进来，代表了在增强特征提取和检测能力方面取得的重要进展。
void cvCanny( const CvArr* image, CvArr* edges, double threshold1, double threshold2, int aperture_size=3 ); image单通道输入图像.edges单通道存储边缘的输出图像threshold1第一个阈值threshold2第二个阈值aperture_sizeSobel 算子内核大小 (见 cvSobel).
如果有n阶矩阵A，其矩阵的元素都为实数，且矩阵A的转置等于其本身，则称A为实对称矩阵。
有时在一些签到题上卡住的时候，不妨去想一想“二分”，这个简单的思想往往是最容易忽视的。
优化通常是一个极其困难的问题。传统的机器学习会小心设计目标函数和约束。以确保优化问题是凸的，从而避免一般优化问题的复杂度。在训练神经网络时，我们肯定会遇到一般的非凸情况。即使是凸优化，也并非没有任何问题。
梯度下降法（Gradient descent）是一个一阶最优化算法，通常也称为最速下降法。 要使用梯度下降法找到一个函数的局部极小值，必须向函数上当前点对应梯度（或者是近似梯度）的反方向的规定步长距离点进行迭代搜索。如果相反地向梯度正方向迭代进行搜索，则会接近函数的局部极大值点；这个过程则被称为梯度上升法。 本文将从最优化问题谈起，回顾导数与梯度的概念，引出梯度下降的数据推导；概括三种梯度下降方法的优缺点，并用Python实现梯度下降（附源码）。 1 最优化问题 最优化问题是求解函数极值的问题，包括极大值和
SIFT，一种检测局部特征算法，该算法通过求一幅图中的特征点（及其有关scale 和 orientation 的描述子得到特征并进行图像特征点匹配，SIFT特征具有尺度不变性，即使改变旋转角度，图像亮度或拍摄视角，仍然能够得到好的检测效果。
偏导数刻画了函数沿坐标轴方向的变化率，但有些时候还不能满足实际需求。为了研究函数沿着任意方向的变化率，就需要用到方向导数。
3788字13图，预计阅读需要23分钟 红色华诞68周年 National Day of the People's Republic of China 作 者：张 旭 编 辑：李文臣 R-CNN
在对处理后的图像数据进行分析之前，图像分割是最重要的步骤之一。它的主要目标是将图像化分为与其中含有的真实世界的物体或区域有枪相关性的组成部分。
SSVEP信号中含有自发脑电和大量外界干扰信号，属于典型的非线性非平稳信号。传统的滤波方法通常不满足对非线性非平稳分析的条件，1998年黄鄂提出希尔伯特黄变换(HHT)方法，其中包含经验模式分解(EMD)和希尔伯特变换(HT)两部分。EMD可以将原始信号分解成为一系列固有模态函数(IMF) [1]，IMF分量是具有时变频率的震荡函数，能够反映出非平稳信号的局部特征，用它对非线性非平稳的SSVEP信号进行分解比较合适。
Rose今天主要介绍一下EMD算法原理与Python实现。关于EMD算法之前介绍过《EMD算法之Hilbert-Huang Transform原理详解和案例分析》,
本文介绍了R-CNN的目标检测算法，包括其背景、原理、优缺点以及改进。R-CNN在目标检测领域具有划时代的意义，但其训练和测试时间较长，且需要手动设计区域候选框。针对这些缺陷，后续算法进行了改进，使目标检测性能得到进一步提升。
题目链接 题目大意： 有n个糖果，分给两个人A和B，要求： 两个人都有分配到糖果； 糖果不能拆分，必须全部分分完； A的糖果数量比B的要多；
版权声明：本文为博主原创文章，转载请注明出处。 https://blog.csdn.net/chaipp0607/article/details/78112861
纹理是物体表面固有的一种特性，所以图像中的区域常体现出纹理性质。纹理可以认为是灰度（颜色）在空间以一定的形式变化而产生的团（模式）。纹理与尺度有密切的关系，一般仅在一定的尺度上可以观察到，对纹理的分析需要在恰当的尺度上进行。纹理还具有区域性质的特点，通常被看做对局部区域中像素之间关系的一种度量，对于单个像素来说讨论纹理是没有意义的。一把情况下目前常用的纹理分析方法中有以下三种：统计法，结构法，频谱法。下面分别介绍。 1. 纹理描述的统计方法 最简单的统计法借助于灰度直方图的矩来描述纹理，比如直方图的二阶矩是
平台活动 第三期：一起来学SLAM上周分享了ORB-SLAM相机位姿初始化的两种方式基础矩阵，本质矩阵，单应性矩阵讲解，本周主要讲解图像的FAST角点和ORB特征点的理论知识。相信接触过视觉SLAM的小伙伴一定不陌生！
考虑上算数平均数和几何平均数的数据项采用不同的权重，就是加权算数平均数和加权几何平均数。
现如今很多大模型都开始支持超过4096长度的推理，例如GPT-4支持超过30k，ChatGLM2-6B也支持最长为32K的文本。但是由于显存资源的限制，这些大模型在真正在训练过程中不一定要训练这么长的文本，通常在预训练时只会设计到4k左右。
在计算机视觉中，图像特征是指从图像中提取出的一些有意义的信息，如边缘、角点、颜色等。通过对图像特征的提取，可以将图像转换为可处理的数字形式，从而使计算机能够理解和处理图像。
人脸识别MTCNN解析 源代码，效果相当不错（只有测试代码）： https://kpzhang93.github.io/MTCNN_face_detection_alignment/index.ht
边缘检测算子中的数字用于进行边缘检测 计算机视觉不一定要去使用那些研究者们所选择的这九个数字，而是将这 9 个数字当成学习参数
目标检测系列： 目标检测(object detection)系列（一） R-CNN：CNN目标检测的开山之作 目标检测(object detection)系列（二） SPP-Net：让卷积计算可以共享 目标检测(object detection)系列（三） Fast R-CNN：end-to-end的愉快训练 目标检测(object detection)系列（四） Faster R-CNN：有RPN的Fast R-CNN 目标检测(object detection)系列（五） YOLO：目标检测的另一种打开方式 目标检测(object detection)系列（六） SSD：兼顾效率和准确性 目标检测(object detection)系列（七） R-FCN：位置敏感的Faster R-CNN 目标检测(object detection)系列（八） YOLOv2：更好，更快，更强 目标检测(object detection)系列（九） YOLOv3：取百家所长成一家之言 目标检测(object detection)系列（十） FPN：用特征金字塔引入多尺度 目标检测(object detection)系列（十一） RetinaNet：one-stage检测器巅峰之作 目标检测(object detection)系列（十二） CornerNet：anchor free的开端 目标检测(object detection)系列（十三） CenterNet：no Anchor，no NMS 目标检测(object detection)系列（十四）FCOS：用图像分割处理目标检测
计算机视觉中的特征点提取算法比较多，但SIFT除了计算比较耗时以外，其他方面的优点让其成为特征点提取算法中的一颗璀璨的明珠。SIFT算法的介绍网上有很多比较好的博客和文章，我在学习这个算法的过程中也参看网上好些资料，即使评价比较高的文章，作者在文章中对有些比较重要的细节、公式来历没有提及，可能写博客的人自己明白，也觉得简单，因此就忽略了这些问题，但是对刚入门的人来说，看这些东西，想搞清楚这些是怎么来的还是比较费时费力的。比如SIFT算法中一个重要的操作：求取描述子的主方向。好多文章只是一提而过或忽略，然后直接给出一个公式，SIFT算法的原作者也提使用抛物线插值，但是具体怎么插的就不太详尽了，对于初学者来说更是不知所云。因此本文打算在参看的文章上对有关这些细节给出一些比较详细的说明，还有本文尽量对操作过程配备对应图片或示意图说明，同时附上robwhesss开源SIFT C代码对应程序块并给予注解，方便理解。
但是，那毕竟是人类数学史上，还停留在算术的古老时代的数学知识了。而人类数学从算术向代数的进发一定是值得回味的浓墨重彩的一笔。今天我们就透过代数基本定理，来看看在代数这一领域的一些基本的数学思维方式。
http://blog.csdn.net/acdreamers/article/details/44657979
凸优化（convex optimization）是最优化问题中非常重要的一类，也是被研究的很透彻的一类。对于机器学习来说，如果要优化的问题被证明是凸优化问题，则说明此问题可以被比较好的解决。在本文中，SIGAI将为大家深入浅出的介绍凸优化的概念以及在机器学习中的应用。
【导读】近日，腾讯三位工程师在arXiv上发表了论文，分析如何利用算法，针对热门手游“王者荣耀”游戏视频进行快速检测与识别，辨识视频中的角色（即“英雄”），以推荐视频给目标受众。为了提取游戏视频标签，需要在游戏视频中检测并识别其中的英雄及其阵营。本文提出了一种有效的两阶段算法，基于血条模板匹配方法检测视频中的所有英雄，再根据阵营分类，然后使用一个或多个深度卷积神经网络识别英雄姓名。实验证明了方法的效率与准确性。
假如你是一家淘宝店店主，你所负责运营的淘宝店2018年全年的流量及交易情况可以看成是一组记录的集合，其中每一天的数据是一条记录，（日期，浏览量，访客数，下单数，成交数，成交金额），这是一个六维的数据，但我们可以发现，“浏览量”和“访客数”往往具有较强的相关关系，而“下单数”和“成交数”也具有较强的相关关系，如果删除其中一个指标，不会丢失太多信息。我们知道，很多机器学习算法的复杂度和数据的维数有着密切关系，甚至与维数呈指数级关联。在实际机器学习中处理成千上万甚至几十万维的情况也并不罕见，在这种情况下，机器学习的资源消耗是不可接受的，因此我们必须对数据进行降维。但降维意味着信息的丢失，不过鉴于实际数据（如上面所述的淘宝店数据）本身常常存在的相关性，我们可以想办法在降维的同时将信息的损失尽量降低，这就是我们要介绍的降维方法——PCA（主成分分析法）。
如果当前节点的值 严格大于 前一个节点和后一个节点，那么这个节点就是一个 局部极大值点 。
分水岭算法是一种图像区域分割法，分割的过程中将图片转化为灰度图，然后将灰度值看作是海拔，然后向较低点注水，这种基于地形学的解释，我们着重考虑三种点：
这道理放在编程上也一并受用。在编程方面有着天赋异禀的人毕竟是少数，我们大多数人想要从编程小白进阶到高手，需要经历的是日积月累的学习，那么如何学习呢？当然是每天都练习一道题目！！
题目：给你链表的头节点 head 和一个整数 k 。 交换 链表正数第 k 个节点和倒数第 k 个节点的值后，返回链表的头节点（链表 从 1 开始索引）。
这篇是看完吴恩达老师的 deeplearning.ai 课程里目标检测课程的学习笔记，文章的图片主要来自课程。
海森矩阵（Hessian Matrix），又译作黑塞矩阵、海瑟矩阵、海塞矩阵等，是一个多元函数的二阶偏导数构成的方阵，描述了函数的局部曲率。海森矩阵最早于19世纪由德国数学家Ludwig Otto Hesse提出，并以其名字命名。海森矩阵常用于牛顿法解决优化问题。
EM（ expectation-maximization，期望最大化）算法是机器学习中与SVM（支持向量机）、概率图模型并列的难以理解的算法，主要原因在于其原理较为抽象，初学者无法抓住核心的点并理解算法求解的思路。本文对EM算法的基本原理进行系统的阐述，并以求解高斯混合模型为例说明其具体的用法。文章是对已经在清华大学出版社出版的《机器学习与应用》一书中EM算法的讲解，对部分内容作了扩充。
该文介绍了如何使用dlib库实现一个无参数、无梯度的黑盒优化算法，该算法可以用于机器学习和深度学习中的超参数优化，并且与现有的方法相比具有更好的性能。该算法可以用于解决机器学习中的特征选择问题，以及机器学习、深度学习中的超参数优化问题。
向量空间一组基中的向量如果两两正交，就称为正交基；若正交基中每个向量都是单位向量，就称其为规范正交基。
本文是机器学习和深度学习习题集的答案-1，免费提供给大家，也是《机器学习-原理、算法与应用》一书的配套产品。此习题集可用于高校的机器学习与深度学习教学，以及在职人员面试准备时使用。
EM算法是带隐变量概率模型的推断算法。今天我们介绍 EM 算法的原理和应用。我们先介绍推导出 EM 算法的一般方法，再介绍另一种 EM 算法推导方法，最后将 EM 算法应用于高斯混合模型。
Author : Ross Girshick Jeff Donahue Trevor Darrell Jitendra Malik
Methods for Non-Linear Least Squares Problems 非线性最小二乘问题的方法 2nd Edition, April 2004 K. Madsen, H.B. Nielsen, O. Tingleff
领取专属 10元无门槛券
手把手带您无忧上云
云服务器
即时通信 IM
ICP备案
对象存储
实时音视频
