关于卷积神经网络笔记，并非拖延症犯了，一方面是出差几天把学习规律打乱了，一方面是知识到了一定程度需要总结，哪怕是书本上的也要确保理解，同时也翻阅了另一本深度学习入门的书籍进行印证。
Tensorflow.js是一个基于deeplearn.js构建的库，可直接在浏览器上创建深度学习模块。使用它可以在浏览器上创建CNN(卷积神经网络)、RNN(循环神经网络)等等，且可以使用终端的GPU处理能力训练这些模型。因此，可以不需要服务器GPU来训练神经网络。本教程首先解释TensorFlow.js的基本构建块及其操作。然后，我们描述了如何创建一些复杂的模型。
本文介绍了数据挖掘中的聚类算法，包括K-means、WaveCluster、DBSCAN等算法，以及这些算法的应用案例。同时，也对各种聚类算法的优缺点进行了比较分析。
本文介绍了如何利用TensorFlow搭建一个简单的CNN模型来识别MNIST数据集中的手写数字。首先，介绍了CNN模型的基本原理和TensorFlow中的Keras API。然后，使用MNIST数据集训练了一个具有卷积层和全连接层的CNN模型。最后，通过在测试集上评估模型的性能，得到了97.3%的准确率。
【导读】Keras是一个由Python编写的开源人工神经网络库，可以作为Tensorflow、和Theano的高阶应用程序接口，进行深度学习模型的设计、调试、评估、应用和可视化。本系列将教你如何从零开始学Keras，从搭建神经网络到项目实战，手把手教你精通Keras。相关内容参考《Python深度学习》这本书。
本文演示了训练一个简单的卷积神经网络 (CNN) 来对 CIFAR 图像进行分类。由于本教程使用 Keras Sequential API，因此创建和训练我们的模型只需几行代码。
卷积神经网络（CNN）非常适合计算机视觉任务。使用对大型图像集（如ImageNet，COCO等）进行训练的预训练模型，可以快速使这些体系结构专业化，以适合独特数据集。此过程称为迁移学习。但是有一个陷阱！用于图像分类和对象检测任务的预训练模型通常在固定的输入图像尺寸上训练。这些通常从224x224x3到某个范围变化，512x512x3并且大多数具有1的长宽比，即图像的宽度和高度相等。如果它们不相等，则将图像调整为相等的高度和宽度。
大家好，今天给大家分享一篇人脸算法领域非常知名的paper，RetinaFace(RetinaFace: Single-stage Dense Face Localisation in the Wild)。同时也在文末附上开源项目的链接。 跟着我一起读这篇论文，希望论文的思路能够对你有所启发，如果觉得有用的，帮我分享出去，谢啦！
前言：RCNN系列一般都是分为两个步骤，下面介绍one-stage方法，SSD和yolo算法 目标检测近年来已经取得了很重要的进展，主流的算法主要分为两个类型： （1）two-stage方法，如R-CNN系算法，其主要思路是先通过启发式方法（selective search）或者CNN网络（RPN)产生一系列稀疏的候选框，然后对这些候选框进行分类与回归，two-stage方法的优势是准确度高； （2）one-stage方法，如Yolo和SSD，其主要思路是均匀地在图片的不同位置进行密集抽样，抽样时可以采用不同尺度和长宽比，然后利用CNN提取特征后直接进行分类与回归，整个过程只需要一步，所以其优势是速度快，但是均匀的密集采样的一个重要缺点是训练比较困难，这主要是因为正样本与负样本（背景）极其不均衡（参见Focal Loss），导致模型准确度稍低。 各种方法速度如下：
您想构建一个没有太多训练数据的机器学习模型吗？众所周知，机器学习需要大量数据，而收集和注释数据需要时间且成本高昂。
本文简要介绍Pattern Recognition 2019论文“SegLink++: Detecting Dense and Arbitrary-shaped Scene Text by Instance-aware Component Grouping”的主要工作。该论文提出一种对文字实例敏感的自下而上的文字检测方法，解决了自然场景中密集文本和不规则文本的检测问题。该论文提出的Instance-aware Component Grouping（ICG）方法，能够在自下而上的文字检测方法的基础上大大提高密集文本检测的效果。在该论文提出的一个商品密集文本检测数据集DAST1500上，该方法的结果明显优于同时期的其他文字检测方法。
深度卷积神经网络并不像听起来的那样令人生畏。我将向你们展示我在Google Sheet中做的一个实现。复制它,你可以尝试一下,看看不同的因素如何影响模型的预测。 Google Sheet实现地址：ht
从前一层的数据中取K个候选点(p1,p2,...pK)，使用MLP(多层感知器)来学习一个K×K 的变换矩阵（X-transformation，X变换）也就是说X=MLP(p1,p2,...pK)，然后用它同时对输入特征进行加权和置换，最后对经过变换的特征应用典型卷积。我们称这个过程为X-Conv，它是PointCNN的基本构建模块。
从上图可以看出，训练神经网络是一个迭代的过程，输入X经过层的变化后，预测值与真实目标值在损失函数下计算出损失值，再通过优化器重新学习更新权重，经过N轮迭代后停止权重更新，也就确定了模型。
通过使用深度学习实现分类问题的动手演练，如何绘制问题以及如何改善其结果，来了解TensorFlow的最新版本。
想要将深度学习应用于小型图像数据集，一种常用且非常高效的方法是使用预训练网络。预训练网络（pretrained network）是一个保存好的网络，之前已在大型数据集（通常是大规模图像分类任务）上训练好。如果这个原始数据集足够大且足够通用，那么预训练网络学到的特征的空间层次结构可以有效地作为视觉世界的通用模型，因此这些特征可用于各种不同的计算机视觉问题，即使这些新问题涉及的类别和原始任务完全不同。举个例子，你在 ImageNet 上训练了一个网络（其类别主要是动物和日常用品），然后将这个训练好的网络应用于某个不相干的任务，比如在图像中识别家具。这种学到的特征在不同问题之间的可移植性，是深度学习与许多早期浅层学习方法相比的重要优势，它使得深度学习对小数据问题非常有效。
论文地址：https://arxiv.org/pdf/2102.03725v2.pdf
我想告诉你们，卷积神经网络并不像听起来那么可怕。我将通过展示我在google sheets中制作的一个实现来证明它。这里有一些可用的内容。复制它(使用左上角的file→make a copy选项)，然后你可以尝试一下，看看不同的控制杆是如何影响模型的预测的。
2021年提议的Vision Transformer（VIT）已成为计算机视觉深度学习领域的一个有前途的研究主题。随着VIT的研究变得更加深入，一些研究人员受到VIT的大型接收领域的启发，将卷积网络也改造成具有更大的接收场来提高效率。根据有效的接收场（ERF）理论，ERF的大小与内核大小和模型深度的平方根成正比。这意味着通过堆叠层来实现大ERF的有效性不如增加卷积内核大小。因此，研究人员提出了包含大型卷积内核新的CNN结构。该网络可以达到与VIT相同的准确性。“大内核的cnn可以胜过小内核的cnn”这可能是今年来对于CNN研究最大的成果了。
来源：DeepHub IMBA本文约3400字，建议阅读5分钟“大内核的cnn可以胜过小内核的cnn”这可能是今年来对于CNN研究最大的成果了。 2021年提议的Vision Transformer（VIT）已成为计算机视觉深度学习领域的一个有前途的研究主题。随着VIT的研究变得更加深入，一些研究人员受到VIT的大型接收领域的启发，将卷积网络也改造成具有更大的接收场来提高效率。根据有效的接收场（ERF）理论，ERF的大小与内核大小和模型深度的平方根成正比。这意味着通过堆叠层来实现大ERF的有效性不如增加卷积
生成对抗网络在建模和生成自然图像方面取得了重大进展。转置的卷积层是基本的体系结构组件，因为它们捕获了空间不变性，这是自然图像的关键属性。中心局限性是卷积无法对复杂的几何形状和长距离依赖性进行建模–典型的例子是生成的狗的腿数少于或多于4条。
项目链接：http://cvlab.cse.msu.edu/project-nonlinear-3dmm.html
除了施瓦辛格的那句经典台词，“I will be back”，看过第二部的小伙伴应该都记得这个经典的场景。
今天给大家介绍都柏林大学的Patrick Brendan Timmons 和Chandralal M. Hewage在Briefings in Bioinformatics上发表的文章“APPTEST is a novel protocol for the automatic prediction of peptide tertiary structures”充分了解肽的三级结构对于理解其功能及其与生物靶点的相互作用很重要。作者在文章中报告了一种新的算法APPTEST，它采用神经网络结构和模拟退火方法从一级序列预测肽的三级结构。APPTEST适用于5-40个天然氨基酸的线性肽和环状肽，并且它计算效率很高，可以在几分钟内返回预测的结构。作者团队对一组356个测试肽上进行了附加性能评估；每个肽的最佳结构偏离实验确定的主干构象平均为1.9 Å，97%的目标序列预测为天然或接近天然结构。在短、长和循环肽的基准数据集中，与PEP-FOLD、PEPStRMOD和PepLook的性能比较表明，APPTEST产生的结构平均比现有方法更符合原生结构。
损失函数，即用于学习的反馈信号；损失函数将这些预测值与目标进行比较，得到损失值，用于衡量网络预测值与预期结果的匹配程度
机器学习模型将向量（数字数组）作为输入。在处理文本时，我们必须先想出一种策略，将字符串转换为数字（或将文本“向量化”），然后再嵌入模型。在本部分中，我们将探究实现这一目标的三种策略。
时间序列预测是指我们必须根据时间相关的输入来预测结果的问题类型。时间序列数据的典型示例是股市数据，其中股价随时间变化。
DataSet: 本文使用GTZAN Genre Collection音乐数据集，地址:[1]
如果线性子空间是平的纸张，那么卷起的纸张就是非线性流形的例子。你也可以叫它瑞士卷。（见图 7-1），一旦滚动，二维平面就会变为三维的。然而，它本质上仍是一个二维物体。换句话说，它具有低的内在维度，这是我们在“直觉”中已经接触到的一个概念。如果我们能以某种方式展开瑞士卷，我们就可以恢复到二维平面。这是非线性降维的目标，它假定流形比它所占据的全维更简单，并试图展开它。
一、简介1、模块列表experimental module2、类列表class AveragePooling1D: 一维输入的平均池化层。class AveragePooling2D: 2D输入的平均池化层。class AveragePooling3D: 3D输入的平均池化层。class BatchNormalization: 批处理归一化层class Conv1D: 一维卷积层。class Conv2D: 二维卷积层。class Conv2DTranspose: 转置二维卷积层。class Conv3D:
论文地址：https://arxiv.org/pdf/2005.09973.pdf
标题：3D Vehicle Detection Using Camera and Low-Resolution LiDAR Zhang, Rui Huang, Le Cui, Siyu Zhu, and Ping Tan
今天主要和大家说的是分类检测过程中，一些稀疏和集成学习的相关知识，首先和大家说下图像目标定位与检测的方法分类。 众所周知，当前是信息时代，信息的获得、加工、处理以及应用都有了飞跃发展。人们认识世界的重要知识来源就是图像信息，在很多场合，图像所传送的信息比其他形式的信息更丰富、真切和具体。人眼与大脑的协作使得人们可以获取、处理以及理解视觉信息，人类利用视觉感知外界环境信息的效率很高。事实上，据一些国外学者所做的统计，人类所获得外界信息有80%左右是来自眼睛摄取的图像。由此可见，视觉作为人类获取外界信息的主要载
今天主要和大家说的是分类检测过程中，一些稀疏和集成学习的相关知识，首先和大家说下图像目标定位与检测的方法分类。
众所周知，当前是信息时代，信息的获得、加工、处理以及应用都有了飞跃发展。人们认识世界的重要知识来源就是图像信息，在很多场合，图像所传送的信息比其他形式的信息更丰富、真切和具体。人眼与大脑的协作使得人们可以获取、处理以及理解视觉信息，人类利用视觉感知外界环境信息的效率很高。事实上，据一些国外学者所做的统计，人类所获得外界信息有80%左右是来自眼睛摄取的图像。由此可见，视觉作为人类获取外界信息的主要载体，计算机要实现智能化，就必须能够处理图像信息。尤其是近年来，以图形、图像、视频等大容量为特征的图像数据处理广泛应用于医学、交通、工业自动化等领域。
在本章中，我们将研究生成对抗网络（GAN）。 它们是一种深度神经网络架构，它使用无监督的机器学习来生成数据。 他们在 2014 年由 Ian Goodfellow，Yoshua Bengio 和 Aaron Courville 的论文中介绍，可在以下链接中找到。 GAN 具有许多应用，包括图像生成和药物开发。
比如说，在上图的左侧图像中，虽然人脑无法创建毫米级精确的3D模型，但人类的视觉系统可以结合少量图像的信息，在脑海中形成一个连贯的3D表现，包括老虎的复杂面部特征或形成玩具火车的积木的排列，即使是对于完全遮挡的部分也是如此。
论文地址：https://arxiv.org/pdf/2007.11824.pdf
今天将分享Unet的改进模型SAUNet，改进模型来自2020年的论文《Shape Attentive U-Net for Interpretable Medical Image Segmentation》，简单明了给大家分析理解该模型思想。
提出了一种充分利用立体图像中稀疏、密集、语义和几何信息的自主驾驶三维目标检测方法。我们的方法，称为Stereo R-CNN，扩展了Faster R-CNN的立体输入，以同时检测和关联目标的左右图像。我们在立体区域建议网络(RPN)之后添加额外的分支来预测稀疏的关键点、视点和目标维数，并结合二维左右框来计算粗略的三维目标边界框。然后，我们恢复准确的三维包围框，以区域为基础的光度比对使用左和右ROI。我们的方法不需要深度输入和三维位置监督，但是，优于所有现有的完全监督的基于图像的方法。在具有挑战性的KITTI数据集上的实验表明，我们的方法在三维检测和三维定位任务上都比目前最先进的基于立体的方法高出30%左右的AP。
从单目图像估计 3D 人体姿势和形状是动作重定向、虚拟化身和人类动作识别等各种应用的关键任务。这是一个具有根本挑战性的问题，因为深度模糊和人类外表的复杂性会随着关节、衣服、照明、视角和遮挡而变化。为了通过紧凑的参数表示复杂的 3D 人体，诸如 SMPL 之类的基于模型的方法已在社区中得到广泛使用。然而，SMPL 参数以整体方式表示人体，导致通过直接它们的参数无法灵活适应真实世界图像。更重要的是，当人体在图像中不完全可见时，基于回归的方法往往会失败，例如，被遮挡或在框架外。在这项工作中，作者的目标是学习与输入图像并且对部分身体情况具有鲁棒性的人体估计。
你可能很难理解如何为LSTM模型的输入准备序列数据。你可能经常会对如何定义LSTM模型的输入层感到困惑。也可能对如何将数字的1D或2D矩阵序列数据转换为LSTM输入层所需的3D格式存在一些困惑。 在本教程中，你将了解如何定义LSTM模型的输入层，以及如何重新调整LSTM模型加载的输入数据。 完成本教程后，你将知道: 如何定义一个LSTM输入层。 如何对一个LSTM模型的一维序列数据进行重新调整，并定义输入层。 如何为一个LSTM模型重新调整多个并行序列数据，并定义输入层。 让我们开始吧。 教程概述 本教程分
如果你正在读这篇文章，你可能接触过神经网络和TensorFlow，但是你可能会对与深度学习相关的各种术语感到有点畏缩，这些术语经常在许多技术介绍中被掩盖或未被解释。本文将深入介绍TensorFlow 2.0的初学者教程，从而让大家对其中的一些主题有所了解。
文章：SurroundOcc: Multi-Camera 3D Occupancy Prediction for Autonomous Driving
想要将深度学习应用于小型图像数据集，使用预训练网络就是一种常用且高效的方法。预训练网络就是一个保存好的网络，之前已在大型数据集上训练(通常是大规模图像分类任务)。如果训练的原始数据集足够大且足够通用（如imagenet数据集），那么预训练网络学到的特征的空间层次结构可以有效的作为视觉世界的通用模型，因此这些特征可用于不同的计算机视觉问题。这种学习到的特征在不同问题之间的可移植性，也是深度学习与其他浅层方法相比的重要优势。使用预训练网络有两种方法，特征提取和微调模型。
选自Medium 作者：Blake West 机器之心编译 卷积神经网络（CNN）经常被用于图像识别、语音处理等领域，是人工智能近年来快速发展的重要组成部分。然而，对于入门人士来说，我们似乎难以理解其
苹果进军自动驾驶汽车的传闻由来已久，最新的传闻是苹果已经搁置了整车研发的计划，转而开发自动驾驶汽车的软件平台。最近，也有不少路人在苹果总部附近看到过苹果的雷克萨斯路测车。 近日，向来以保密闻名的苹果发表在arXiv上的一篇论文又泄露了其无人车项目的最新进展。这篇论文的主题是“VoxelNet: End-to-End Learning for Point Cloud Based 3D Object Detection”，作者为Yin Zhou（领英资料显示，Yin Zhou本科毕业于北京交通大学，2015
完全由活体细胞组成、有结构、可编程、能移动的Xenobots，今年又进化出了新的能力。
领取专属 10元无门槛券
手把手带您无忧上云
