借助这种新颖的缩放方法和AutoML的最新进展，我们开发了模型，名为EfficientNets，它超越了最先进的精度，效率提高了10倍。...然后，我们缩放基线网络以获得一系列模型，称为EfficientNets。 ?...基线网络efficient – b0的架构简单明了，易于扩展和推广 EfficientNet性能 将EfficientNets与ImageNet上的其他现有CNN进行比较。...模型大小与精度的比较 尽管EfficientNets在ImageNet上表现良好，但它们也应该迁移到其他数据集。为了评估这一点，我们在八个广泛使用的转移学习数据集上测试了EfficientNets。...EfficientNets在8个数据集中的5个中实现了最先进的精度，例如CIFAR-100（91.7％）和Flowers（98.8％），参数减少了一个数量级（参数减少了21倍），这表明我们的EfficientNets
受益于该方法和 AutoML 的最新进展，谷歌开发出了一系列模型——EfficientNets，该模型的准确率超越了当前最优模型，且效率是后者的 10 倍（模型更小，速度更快）。...于是，研究人员继续缩放该基线模型，得到一组模型——EfficientNets。 ?...推断延迟对比 尽管 EfficientNets 在 ImageNet 上性能优异，但要想更加有用，它们应当具备迁移到其他数据集的能力。...谷歌研究人员在 8 个常用迁移学习数据集上评估了 EfficientNets，结果表明 EfficientNets 在其中的 5 个数据集上达到了当前最优的准确率，且参数量大大减少，这表明 EfficientNets...EfficientNets 能够显著提升模型效率，谷歌研究人员希望 EfficientNets 能够作为未来计算机视觉任务的新基础。因此，研究人员开源了 EfficientNet 模型。
最近，谷歌基于AutoML开发了EfficientNets，这是一种新的模型缩放方法。它在ImageNet测试中实现了84.1%的准确率，再次刷新了纪录。...开发EfficientNets是来自谷歌大脑的工程师Mingxing Tan和首席科学家Quoc V....EfficientNets不仅在ImageNet上表现良好，迁移到其他数据集上也有优秀的表现。...为了评估这一点，谷歌在8个广泛使用的迁移学习数据集上测试了EfficientNets，其中5个实现了最先进的准确度。
昨日，谷歌宣布推出EfficientNet-EdgeTPU，这是一个源自EfficientNets的图像分类模型系列，但是可以自定义在Google的 Edge TPU上运行，这是一种节能的硬件加速器，可供开发人员通过...用AutoML为Edge TPU构建定制化EfficientNets EfficientNets已被证明可以在图像分类任务中实现最先进的精度，同时可以显著降低模型的规模和计算复杂度。...为了构建能够利用Edge TPU加速器架构的EfficientNets，我们调用了AutoML MNAS框架，并使用在Edge TPU上高效执行的构建块扩充了原始EfficientNet的神经网络架构搜索空间...用于设计定制EfficientNet-Edge TPU模型的总体AutoML流程 搜索空间设计 当执行上述架构搜索时，必须考虑EfficientNets主要依赖于深度可分离卷积，这是一种神经网络块，它将常规卷积的因素减少以减少参数的数量以及计算量...EfficientNet-Edge TPU-S / M / L模型通过专门针对Edge TPU硬件的网络架构，实现了比现有EfficientNets（B1），ResNet和Inception更短的延迟和更高的准确性
最终，作者扩展了这个基准网络以获得一系列模型，称为 EfficientNets。 ? 本文的基准网络 EfficientNet-B0，其架构简单干净，便于扩展。...EfficientNet 网络的性能 文中将 EfficientNets 与 ImageNet 上其他现有的 CNN 进行了比较。...尽管 EfficientNets 在 ImageNet 上表现较好，但为了验证它的泛化能力，也应该在其他数据集上进行测试。...为了评估这一点，作者在八个广泛使用的迁移学习数据集上测试了EfficientNets。...EfficientNets 也能很好的进行迁移。
ResNes难道注定就比不过EfficientNets吗？ 本篇论文便是对ResNets进行了重新研究。在这篇论文中，研究人员决定分别分析模型架构、训练和扩展策略的效果。...这似乎意味着ResNets网络终于可以与EfficientNets网络匹敌了。 这究竟是怎么做到的呢？...在GPU上训练的结果比较得出，它比EfficientNets快2.1-3.3倍，同时在ImageNet上达到类似的准确率。...他们的改进训练和缩放策略也适用于其他模型：适用于EfficientNets、自监督学习、甚至适用于3D视频分类。...7 提高EfficientNets的效率 研究人员将慢速的图像分辨率缩放策略应用于EfficientNets，并训练了具有不同图像分辨率的多个版本，实验结果如下图所示： ?
因此，EfficientNet-EdgeTPU项目的目标是将源自谷歌的EfficientNets的模型定制为功率高效，低开销的Edge TPU芯片。...EfficientNets已经证明，相对于现有的人工智能系统的某些类别，它具有更高的精度和更好的效率，将参数大小和FLOPS降低了一个数量级。 ?...EfficientNet-EdgeTPU-S实现了更高的精度，但运行速度比ResNet-50快10倍 这是因为EfficientNets使用网格搜索来识别固定资源约束下的基线AI模型的缩放维度之间的关系...根据Gupta，Tan等人的说法，重新架构EfficientNets以利用Edge TPU，需要调用谷歌开发的AutoML MNAS框架。
EfficientNets 积极扩大图像大小，导致大量内存消耗和缓慢训练。为了解决这个问题，EfficientNetV2对缩放规则稍作修改，最大图像尺寸被限制为较小的值。...另一方面，搜索空间大小通过以下方式进行优化： 删除不必要的搜索选项，例如 pooling skip 操作，因为它们从未在原始 EfficientNets 中使用； 重用与在 EfficientNets...在 CIFAR-100 上，EfficientNetV2-L 的准确度比之前的 GPipe/EfficientNets 高 0.6%，比之前的 ViT/DeiT 模型高 1.5%。...消融研究 1、相同训练的表现 使用相同学习设置的性能比较，EfficientNetV2 模型的性能仍然大大优于 EfficientNets：EfficientNetV2-M 将参数减少了 17%，FLOPs
更进一步，我们使用神经体系结构搜索来设计一个新的基准网络，并对其进行扩展以获得称为 EfficientNets 的模型系列，该模型系列比以前的 ConvNets 具有更高的准确性和效率。...我们的 EfficientNets 还可以很好地传输并在 CIFAR-100（91.7％），Flowers（98.8％）和其他 3 个传输学习数据集上达到最先进的精度，而参数要少几个数量级。...•此外，由于模型缩放的有效性在很大程度上取决于基线网络，因此研究人员利用神经体系结构搜索来开发新的基线模型，并将其按比例缩放以获得一个称为 EfficientNets 的模型系列。...•您可以根据可用资源，选择 EfficientNets 中的一种模型。 关键成就 •EfficientNets 在 8 个数据集中的 5 个上，获得了最优的精度，平均参数减少了 9.6 倍。...未来的研究领域 作者在 Google AI 博客上表示，他们希望 EfficientNets「充当未来计算机视觉任务的新基础」。 有哪些可能的业务应用程序？
通过将这一方法和最新的AutoML技术结合起来，研究人员开发了EfficientNets，它能够在实现更小更快的模型的同时优化精度和效率（10倍），远远超过了传统方法。...EfficientNets有望成为最先进的计算机视觉任务的基础。为了机器学习社区的利益，研究人员还开发了开源的高效网络算法。
借由此简单有效的模型扩展方法，作者在使用神经架构搜索得到的基模型上扩展出一系列EfficientNets模型，达到了更好的精度和效率的平衡，其中EfficientNet-B7模型在ImageNet数据集上达到...下图是作者使用该文方法得到的7个EfficientNets与目前知名的state-of-the-art模型精度-参数量的比较： ? 可见本文得到的模型在相近模型大小时，精度高于所有之前的竞争对手！
ResNet-RS 模型在训练中使用了更少的内存，但在 TPU 上的速度是 EfficientNets 的 1.7-2.7 倍，GPU 上的速度是 EfficientNets 的 2.1-3.3 倍。...TResNet、ResNeSt 和 EfficientNets 等多个架构使用了这两种架构变化策略。...研究者使用 RandAugment 重新训练了 EfficientNets B0-B4，发现没有出现性能提升。 3）使用 Momentum 优化器，而没有使用 RMSProp。...实验表明，较慢的图像扩展同时提升了 ResNet 和 EfficientNets 架构的性能。 image.png 设计扩展策略的两个常见错误 1.
ResNet-RS 模型在训练中使用了更少的内存，但在 TPU 上的速度是 EfficientNets 的 1.7-2.7 倍，GPU 上的速度是 EfficientNets 的 2.1-3.3 倍。...TResNet、ResNeSt 和 EfficientNets 等多个架构使用了这两种架构变化策略。...研究者使用 RandAugment 重新训练了 EfficientNets B0-B4，发现没有出现性能提升。 3）使用 Momentum 优化器，而没有使用 RMSProp。...实验表明，较慢的图像扩展同时提升了 ResNet 和 EfficientNets 架构的性能。 设计扩展策略的两个常见错误 1.
EfficientNets是基于有效缩放的新型图像分类卷积神经网络系列。...目前，EfficientNets的训练可能需要几天的时间；例如，在Cloud TPU v2-8节点上训练EfficientNet-B0模型需要23个小时。...在这项研究中，作者探索了在2048个内核的TPU-v3 Pod上训练EfficientNets的技术，目的是在以这种规模进行训练时可以实现加速。...此外，作者还提供了在ImageNet数据集上训练EfficientNet模型的时序和性能基准，以便大规模分析EfficientNets的行为。
进一步，论文是用神经结构搜索来设计了新的baseline并进行扩展获得了一系列模型，称为EfficientNets，比之前的ConvNets更加准确和高效。...论文指出，模型扩展的有效性很大程度上式取决于BaseLine，因此论文使用NAS来搜索新的BaseLine，并将其扩展为一系列模型，称为EfficientNets。 ?...这里展示了EfficientNets和当前一些SOTA网络在ImageNet上的比较，可以看到EfficientNets的参数量减少了很多倍，同时精度差不多甚至更高。 3.
然后，通过扩展基线网络以获得一系列模型，被称为EfficientNets。 ?...不仅局限于ImageNet EfficientNets在ImageNet上的良好表现，让谷歌的科学家希望将其应用于更广泛的网络中，造福更多的人。
具体而言，LambdaResNets 在实现 SOTA ImageNet 准确性的同时，运行速度是 EfficientNets 的4.5 倍左右。...LambdaResNets 明显改善了 ImageNet 分类任务的速度-准确性权衡 下图 2 展示了 LambdaResNets与使用或不使用 channel attention 机制的ResNet 及最流行的 EfficientNets...更值得注意的是，LambdaResNets 在准确性一定的情况下比 EfficientNets 要快大概 3.5 倍，速度-准确性曲线提升明显。...计算效率 在下表5和表6中，研究者发现构造 LambdaResNets 来提升大型 EfficientNets 的参数和 flops 效率也是有可能的。
同样出自谷歌家族的EfficientNets 。 2. 双向FPN（BiFPN，特征金字塔网络）。可以方便且更好的进行特征融合。 3. 模型缩放技术。
领取专属 10元无门槛券
手把手带您无忧上云
云服务器
即时通信 IM
ICP备案
对象存储
实时音视频
