通过使用 STRL 进行预训练并将学习到的模型应用于下游任务，它在 ModelNet40上优于最先进的无监督方法，并通过线性评估达到 90.9% 的 3D 形状分类精度。...SVM 使用从 ModelNet40 数据集的训练集中提取的全局特征进行训练。在预训练和 SVM 训练期间，从每个形状中随机抽取 2048 个点。...它包含 10335 个单视图 RGBD 图像，分为 5285 个训练样本和 5050 个验证样本。对象使用 3D 边界框和类别标签进行标注。...使用 VoteNet进行了这项实验，这是一种广泛使用的模型，以 3D 点云作为输入。在预训练期间，通过在末尾添加最大池层来稍微修改其 PointNet++ 主干以获得全局特征。...通过将学习到的视觉表示转移到室外场景的 3D 对象检测任务来评估所提出的 STRL 的性能。 使用 PV -RCNN在 KITTI 数据集上预训练模型——用于 3D 对象检测的最先进模型。
通常情况下，vit在训练期间需要大量的数据增强。然而，由于较少的纹理细节，使用SIN进行学习是一项困难的任务，并且在风格化样本上进行进一步的扩展会破坏shape信息，使训练不稳定。...即使在没有这种编码的情况下，与使用位置编码的ViT相比，ViT也能够保持其性能，并表现出更好的排列不变性(下图)。...最后，在ViT训练过程中，当patch大小发生变化时，对自然图像进行非混叠处理时，其排列不变性也会随着精度的降低而降低(下图)。...为了验证是否可以将这些信息组合起来以获得更好的性能，作者使用DeiT-S对细粒度分类数据集上现成的迁移学习进行了消融研究(CUB)，如下表所示。...作者进一步在更大范围的任务中使用DeiT-S(集成)进行进一步实验，以验证假设。在接下来的实验中，同时还将CNN Baseline与在预训练的ResNet50的logit层之前提取的特征进行比较。
实验表明，这些3D的特征学习可以有效地转移到2D任务（如语义分割、对象检测和实例分割）并明显改进其性能。...C．联合学习： 该方法不仅可以在训练期间单独利用视图不变约束和几何先验，还可以从这两种约束的组合中进行联合学习。该过程可以使用共享的2D网络和3D网络backbone。...通过在基于图像的下游场景理解任务上对框架进行微调来评估本文的Pri3D模型。使用两个数据集，ScanNet和NYUv2，以及语义分割、对象检测和实例分割三个任务。...与ImageNet预训练和强大的MoCo风格的预训练方法相比，使用Pri3D预训练模型进行微调可以改善不同指标的对象检测结果 表3 ScanNet上的实例分割。...与ImageNet预训练和强大的MoCo风格的预训练方法相比，使用Pri3D预训练模型进行微调可以改善实例分割结果。 C．NYUv2 为了验证方法可以学习跨数据集的可转移特征。
LLMs在时间序列预测中的应用：由于LLMs的出色少量样本学习能力和跨模态知识转移能力，它们可以扩展到不同领域的多种场景。...然而，将预训练的LLMs应用于交通预测的研究相对较少，主要集中在一般时间序列预测领域。一些研究提出了基于跨模态知识迁移的预训练LLMs的通用时间序列分析框架，包括预测、分类、插值和异常检测。...应用了成本效益高的微调方法LoRA，以在保持高微调质量的同时降低训练成本。 在具有充足和有限训练数据的场景中进行了实验，验证了预训练LLMs在交通预测中的有效性。...在两个数据集上进行实验，保持其他超参数不变，并比较了原始框架与退化模型的性能。 LoRA的秩（Rank of LoRA）敏感性分析： 研究了LoRA中秩（r）这一超参数对预测结果的影响。...现有的深度学习模型通常需要大量数据进行训练，这限制了它们在数据有限区域的应用。 方法论：论文提出了TPLLM框架，该框架利用预训练的大型语言模型（LLMs）的跨模态知识转移和少量样本学习能力。
假设有一组有雾或有雨的测试序列，不能保证在正常图像上训练的跟踪器在其他领域的数据上表现良好。 训练数据和测试数据之间的域转移问题已经在目标检测和语义分割领域进行了讨论，但在视觉跟踪方面尚未进行研究。...PDA和SDA模块通过对抗性训练学习领域分类器来减小领域差异。 域分类器强制网络学习域不变的特征表示。...在合成雾和红外序列两个不同域的标准数据集上进行了大量实验，验证了所提跟踪器的可移植性和域适应性。...一般情况下，跟踪器仅使用理想条件下采集的序列进行训练，由于训练数据和测试数据之间的域漂移，无法保证跟踪器对开放场景的适应性和可移植性。...(1)、我们首先在合成雾VOT2018和普通雾VOT2018上评估训练模型。 (2)、VOT2019-RGBT基准可以分为RGB序列和TIR序列，并对RGB序列和TIR序列进行训练模型评估。
其次，目标检测涉及到同时进行定位和分类，进一步复杂化了模型的适应过程。第三，模型存在过适应(类似于用少量数据示例进行训练时的过拟合)和不稳定风险，可能导致目标域检测性能下降。...为了适应域的移动，在目标域上训练模型，使用在源域上训练的检测模型得到的一组有噪声的目标边界盒。...我们表明，这种适应行为可以在几乎任何前馈模型中实现，通过增加少量的标准层和一个简单的新的梯度反转层。由此产生的增强架构可以使用标准的反向传播进行训练。...学习可以用线性时间内由反向传播计算出的梯度进行随机梯度下降。实验证明，我们的模型在标准数据集上产生了最新的结果。...学习可以用线性时间内由反向传播计算出的梯度进行随机梯度下降。实验证明，我们的模型在标准数据集上产生了最新的结果。
训练后的模型被称为跨域模型，在目标域(红外光谱)中使用多风格传输图像和不使用多风格传输图像进行评估。...可见光谱(RGB图像)和热图像没有配对，因此热注释不能与可见光谱(RGB图像)一起使用。本研究只考虑带标注的热图像。在实验期间考虑将数据集的标准分割成训练数据和验证数据。...我们应用了数据集的标准分割，在训练中使用数据集中80%的图像，在验证时使用数据集中20%的图像。B、基于风格一致性的热图像目标检测利用最先进的目标检测网络，验证了该方法的有效性。...在训练Faster-RCNN时，采用ResNet-101的预训练模型对热图像数据集进行调整和微调。网络是训练使用Adam优化与学习率10−4和势头0:9为总时代15。...SSD对象检测网络的实验评估由i-e SSD-300和SSD-512两种不同架构组成。在训练SSD-300时，根据训练数据对预训练的骨干网模型进行微调。
第一步，我们使用风格转移方法将源图像的像素自适应到目标域。在风格转移图像和源图像之间的目标检测器的高级特征中强制执行低距离可以提高目标域中的性能。...提出了一个叉形循环生成模块，该模块可以在领域翻译过程中解耦领域不变的内容和领域特定的风格。我们强制两个编码器通过公共编码空间，并明确使用抗对比度损失，以确保在解纠缠中产生必要的不变信息。...在这项工作中，我们从生成建模的角度探讨了这个问题，方法是学习生成具有相关边界框的新图像，并将其用于训练对象检测器。...我们表明，简单地训练先前提出的生成模型并不能产生令人满意的性能，因为它们是为了图像真实性而不是目标检测精度而优化的。...该问题的主要原因之一是缺乏足够的夜间场景标签的检测数据集。本文提出了一个框架，通过使用图像翻译方法来缓解在不利条件下进行目标检测时精度下降的情况。
在三个不同的公共数据集上进行评估，该方法能够有效地检测环路闭合，即便是在从不同方向重访先前的位置时也能保持稳定性。...经过处理的数据可以模拟同一场景在不同朝向角下的特征，从而在训练期间增强模型的泛化能力。最后，经过处理后获得四个不同的序列作为选择性SSM(S6)的输入用于推理和训练。...因此，使用SPP可以有效提高对象位置和比例在序列中的不变性，并减少由噪声干扰造成的特征损失。 图4展示了输入序列经过两次连续的最大池化操作，以不同分辨率处理序列，以捕获更丰富的空间信息。...图5.训练期间的原始损失和F1max。 在实验中，作者发现损失函数在使用传统三元损失时很难收敛。此外，随着损失函数的减小，模型的泛化能力并没有增加，如图5所示。作者认为模型选择的训练数据分布不均匀。...IV.实验结果 作者在三个公开数据集上评估了本模型的性能，结果表明，本方法在时间精度、复杂度和速度上优于其他最先进的方法。 表格I:在KITTI和Ford校园数据集上的闭环检测性能比较。
接下来，对于感知实例的GAN模型，我们的模型AugGAN-Det在没有明确对齐实例特征的情况下内化了全局和对象样式转移。最重要的是，在测试时不需要检测器。...实验结果表明，我们的模型优于最近的目标保持和实例级模型，并实现了最先进的检测精度和视觉感知质量。...在本实验中，更快的R-CNN在目标域图像上进行训练，然后在不同模型提供的源到目标图像上进行评估，包括DT、DAF、DARL和DAOD。这样，可以通过检测精度来评估不同模型进行的图像翻译的性能。...在我们提出的方法中，生成器学习执行图像平移，同时尽可能多地保持目标域检测器可检测到的对象。DUNIT在训练GAN中应用了现成的对象检测器，这就是为什么检测精度明显高于NICE-GAN和MUNIT。...至于感知实例的GAN模型，我们的模型AugGAN-Det在没有明确对齐实例特征的情况下内化了全局和对象样式转移。最重要的是，在测试时不需要检测器。
在本文中，我们提出了一个框架，通过使用图像翻译方法来缓解在不利条件下进行目标检测时精度下降的情况。 ...KPN网络与目标检测任务一起训练，以使训练的日间模型直接适应夜间域。在日间和夜间车辆视频数据集上的实验结果验证了所提出方法的准确性和有效性。...在本文中，我们利用基于风格转移方法的合成夜间和真实日间图像对来训练细节保持的昼夜网络。然后，我们调整我们训练的翻译网络，将任何夜间图像转换为白天版本，以便重用训练的白天检测模型。...在本文中，我们建议训练一个细节持久网络，以实现夜间目标检测的不成对域转移。 3、方法 在本节中，我们提出了保留细节的不成对域转移，用于在夜间执行高精度目标检测，而无需在白天数据集上重新训练检测器。...为了进行综合性能评估，广泛使用的物体检测指标mAP（平均精度）用于评估车辆检测结果。对于所有实验，性能评估使用0.5的统一阈值作为预测边界框和地面实况之间的并集交集（IoU）。
他们通过在训练期间从基础课程中取样，使用模拟的少样本任务来学习从新类中的几个例子中学习。 然而，大部分工作都集中在基本的图像分类任务上。 相比之下，少样本目标检测得到的关注要少得多。...在基于微调的模型设计和训练中，重点讨论了目标检测器的训练计划和实例级特征规范化问题。 我们采用两阶段训练方案进行微调，如图1所示。...与此相反，我们发现只微调平衡子集上的目标检测器的最后一层，并保持模型的其余部分不变，可以显著提高检测精度，优于所有之前的基于元学习的方法。...我们为新的类别分配随机初始化的权值给盒子预测网络，只微调盒子分类和回归网络，即检测模型的最后一层，同时保持整个特征提取器F固定。我们使用方程1中相同的损失函数和更小的学习率。...元学习者的输入是一小组支持图像，带有目标对象的边界框注释。基本对象检测器和元学习者通常使用情景训练(Vinyals et al.， 2016)进行联合训练。每集由N个对象的支持集和一组查询图像组成。
学习科学数据有意义的表征 深度学习可以在各种抽象级别上提取科学数据有意义的表征并对其进行优化。高质量的表征应该尽可能地保留数据相关信息，同时保持简洁和易于访问。...神经算子 通过学习函数空间之间的映射，神经算子离散化不变，可以在任何 input 离散化上工作，并在网格细化时收敛到一个限制值。一旦训练了神经算子，就可以在任何分辨率下对其进行评估，无需重新训练。...它们可以帮助设计对象、学习假设贝叶斯后验概率，并用其产生与科学数据和知识兼容的假设。 科学假设的黑箱预测器 弱监督学习可用来训练嘈杂、有限或不精确监督被用作训练信号 (signal) 的模型。...这种方法可以利用自监督学习，在大量未筛选对象上对预测器进行预训练，然后在标注好 readouts 筛选对象数据集上，微调预测器。...这些 AI 方法可以基于模型（使用模拟和先验知识），也可以是仅基于机器学习算法的无模型方法。
给定对象的 3D 点云及其从随机相机视角渲染出的 2D 图像，CrossPoint 强制执行 3D-2D 对应，同时通过自监督对比学习保持模型对仿射空间变换的不变性。...具体来说，我们对合成对象数据集和现实世界对象数据集，进行形状分类。尽管在合成对象数据集上进行了预训练，但 CrossPoint 在分布外的样本中的性能证明了联合学习目标的重要性。...我们提出的 CrossPoint 提高了所有报告环境中的小样本精度。表格是 [57] 的扩展版本 (ii) 小样本对象分类。少样本学习（FSL）旨在训练一个用有限的数据进行泛化的模型。...在ShapeNetPart 数据集上的部分分割结果。 我们报告所有对象类的平均 IoU。有监督使用的是随机初始化特征backbone训练的模型，而自监督模型使用的是预训练特征提取器初始化的模型。...我们的消融实验验证了我们的想法，即施加内模态和跨模态对应的联合学习，导致更通用和可转移的点云特征。此外，小样本图像分类实验为跨模态理解提供了强有力的方向，可以在未来的研究中进行探索。
不幸的是，它受到的关注远远少于监督目标检测。 试图解决这一任务的模型往往缺乏带注释的训练样本。 此外，现有的特征对齐方法不足以学习域不变表示。...最后，我们引入区域特征对齐和实例鉴别器来学习对象建议的领域不变特征。 我们的方法在类似和不同领域适配的标准基准上显著优于最新的方法。...进一步的实验验证了每个组件的有效性，并证明了所提出的网络可以学习领域不变表示。...对于目标定位信号，我们使用了来自现有的无监督区域建议方法——选择性搜索的伪地面真实目标边界框，该方法不需要训练数据，可以在高召回率和非常低的精度下检测目标。...DETReg在MS COCO上仅使用1%、2%、5%和10%的标记数据进行训练时，在低数据方案上也优于以前的监督和无监督基线方法。
结果表明，所提出的方法更快地达到最大饱和精度，并且在训练时间的精确持续时间内比传统的 卷积神经网络模型的平均精度高 25.58%，减少了训练时间、重新校准时间和计算资源。...此外，为了避免运动伪影，受试者被指示在实验期间通过将他们的眼球运动限制在监视器上来保持专注。...首先，迁移学习有效地将源领域知识转移到目标领域，减少了深度学习模型的训练迭代次数;其次，迁移学习最大限度地减少了目标领域训练深度学习模型所需的大量数据。...研究人员使用了16个实验对象来训练CNN网络，学习n-back数据集的源领域知识。并将剩下的10名受试者分成两组，即对照组和基线组。...对照组用学习后的CNN网络进行训练，基线用随机初始化的CNN网络进行训练，并通过统计分析比较二者的准确率。结果表明，采用基于特征的迁移学习算法可以比基线组更快地获得最大饱和精度，从而减少了训练时间。
由于从单个示例学习视觉模型是一个不适定的问题，因此成功的方法将需要使用一些辅助数据来学习通用对象特征的不变表示。...在训练前阶段，我们训练CNN学习用于区分对象与非对象的通用对象特征，即，从示例中学习对象的概念。我们不是在在线跟踪期间修复CNN的学习参数，而是对它们进行微调，以便CNN能够适应被跟踪的目标。...请注意，它不会像在典型的分类或检测任务中那样学会区分不同的对象类，因为我们只想学习在此阶段区分对象与非对象。因此，我们在50×50输出图的每个位置使用逐元素逻辑回归模型，并相应地定义损失函数。...图2 网络结构 图3.在ImageNet 2014检测验证集上测试预先训练的对象CNN 图3显示了在ImageNet 2014检测任务提供的保持验证集上测试预训练的CNN时的一些结果。...此外，如果我们不对CNN进行微调，它将检测到视频帧中出现的所有对象，而不仅仅是被跟踪的对象。因此，必须使用在线跟踪期间收集的每个视频的第一帧中的注释来微调预训练的CNN，以确保CNN特定于目标。
所有特征向量一起可以形成特征矩阵，即事件计数矩阵 异常检测：最后，可以将特征矩阵馈送给机器学习模型进行训练，从而生成异常检测模型。所构建的模型可用于识别新进入的日志序列是否异常。...C.监督类异常检测 监督学习(例如决策树)被定义为从标记的训练数据中导出模型的机器学习任务。标记训练数据是监督异常检测的前提，它通过标记来指示正常或异常状态。训练数据的标签越多，模型就越精确。...程序不变量是线性关系，即使在不同的输入和不同的工作负载下，在系统运行过程中也始终保持这种关系。不变量挖掘首次应用于基于日志的异常检测在[28]。...其次，该方法通过强力搜索算法找出不变量。最后，通过将其支持度与阈值(例如，98 %的事件计数向量支持)进行比较，验证每个挖掘的不变候选。该步骤将继续，直到获得r个独立不变量。...为了进一步研究不同窗口大小和不同步长对异常检测精度的影响，我们通过改变一个参数同时保持另一个参数不变来进行实验。根据图8的图表a )，我们将步长保持在一小时，同时改变窗口大小，如表II所示。
随着训练的进行，“ratio”逐渐减小，模型的注意力逐渐转移到高质量的预测框上，以提升检测质量。随着训练的进行，“ratio”逐渐减小，模型的注意力逐渐转移到高质量的预测框上，以提升检测质量。...在多个数据集上的实验结果表明，UIoU能够在高IoU阈值下显著提高检测精度。这意味着使用UIoU训练的模型能够产生更准确的预测框，从而提高目标检测的质量。...例如，在IoU本身和中心距离之间，当我们保持其他项不变，减小中心距离时，IoU的最大概率也会发生变化，这导致了各项指标作用的模糊性。...“仅添加Focal Box”意味着在训练过程中，边界框的缩减比例始终保持在0.5，模型始终关注高质量的预测框。Focal-inv是Focal Loss的反向思想，它关注更容易检测的对象。...在训练过程中，我们使用超参数“比例”来调整模型对不同质量预测框的关注程度，从而在训练速度和高质量对象检测之间达到平衡。
使用模型预测进行Na¨ıvely training会产生次优性能；研究者提出了两种新方法来提高伪标记过程的精度：首先，引入了一种验证技术来删除具有不正确类标签的候选检测；其次，训练了一个专门的模型来纠正质量差的边界框...研究者工作的目标是FSOD：给定一个现有的目标检测器，该检测器已经在某些类别的大量数据（称为基本类别）上进行了训练，我们希望学习仅使用一些注释来检测新类别，例如每个类别1-30个，同时保持原始基本类别的性能...我们的方法为新类别产生了大量高精度伪注释，允许最终检测器在基础和新类别数据上进行端到端训练。 主要讲解下Label Verification！...它使用空间验证在检索期间接受或拒绝新实例。这里的目标是验证每个候选检测的预测类标签。具体来说，我们考虑为具有非常有限的few-shot注释的新颖类别构建分类器。...右上：在标签验证期间被拒绝的预测实例；我们的基线检测器(误报)和kNN预测的类标签不匹配。左下：经过验证的质量非常差的边界框)蓝色虚线)在框校正期间得到了显着改善(石灰实心）。
领取专属 10元无门槛券
手把手带您无忧上云
云服务器
ICP备案
腾讯会议
对象存储
云直播
