近日，Facebook 发布了一项新的研究，该研究探索了实例分割的新方法。与掩模 R-CNN 驱动的标准方法相比，TunSoMeM 为探索分割研究提供了新的方向。本文是有关这项研究的具体内容。
现代实例分割方法主要是先检测对象边界框，然后进行裁剪和分割， Mask R-CNN 是目前这类方法中最优秀的。
选自Matroid 机器之心编译 参与：黄小天 最近，《TensorFlow 深度学习》（TensorFlow for Deep Learning）一书发布前两章，这并非正式版本，而是早期版本；书中内容还没有编辑，因而可能有些粗糙。该书的作者是 Bharath Ramsundar 和 Reza Bosagh Zadeh，从线性回归到强化学习，该书介绍了如何利用 TensorFlow 进行深度学习研究，适合对两者感兴趣且有实操需求的读者。机器之心对该书前两章的目录进行了简单编译。点击文末「阅读原文」下载已经
Tensorflow.js是一个基于deeplearn.js构建的库，可直接在浏览器上创建深度学习模块。使用它可以在浏览器上创建CNN(卷积神经网络)、RNN(循环神经网络)等等，且可以使用终端的GPU处理能力训练这些模型。因此，可以不需要服务器GPU来训练神经网络。本教程首先解释TensorFlow.js的基本构建块及其操作。然后，我们描述了如何创建一些复杂的模型。
论文名称：TensorMask: A Foundation for Dense Object Segmentation
本文来自Nvidia GTC 21，演讲者是来自Facebook AI Reasearch的Bilge Acun。演讲主题是“FaceBook的深度学习大规模推荐模型”。
本篇文章是论文的介绍性博客:Benchmarking Graph Neural Networks （https://arxiv.org/abs/2003.00982）的介绍性文章，有兴趣的可以下载原文阅读
损失函数，即用于学习的反馈信号；损失函数将这些预测值与目标进行比较，得到损失值，用于衡量网络预测值与预期结果的匹配程度
机器之心报道 机器之心编辑部 研究者表示，他们将边缘训练看作一个优化问题，从而发现了在给定内存预算下实现最小能耗的最优调度。 目前，智能手机和嵌入式平台等边缘设备上已经广泛部署深度学习模型来进行推理。其中，训练仍然主要是在具有 GPU 等高通量加速器的大型云服务器上完成。集中式云训练模型需要将照片和按键等敏感数据从边缘设备传输到云端，从而牺牲了用户隐私并导致了额外的数据移动成本。 图注：推特 @Shishir Patil 因此，为了使用户在不牺牲隐私的情况下个性化他们的模型，联邦学习等基于设备的训练方法不
安妮 编译自 AWS官博 量子位 出品 | 公众号 QbitAI Apache MXNet v0.12来了。 今天凌晨，亚马逊宣布了MXNet新版本，在这个版本中，MXNet添加了两个重要新特性： 支
MNIST机器学习入门 博文 ID：机器学习和TensorFlow都不太了解的新手。如果你已经了解MNIST和softmax回归(softmax regression)的相关知识，你可以阅读这个快速上
本文介绍了如何利用TensorFlow搭建一个简单的CNN模型来识别MNIST数据集中的手写数字。首先，介绍了CNN模型的基本原理和TensorFlow中的Keras API。然后，使用MNIST数据集训练了一个具有卷积层和全连接层的CNN模型。最后，通过在测试集上评估模型的性能，得到了97.3%的准确率。
神经网络具有的推理功能，使得许许多多实时应用变为可能——比如姿态估计和背景模糊。这些应用通常拥有低延迟的特点，并且还具有隐私意识。
从上图可以看出，训练神经网络是一个迭代的过程，输入X经过层的变化后，预测值与真实目标值在损失函数下计算出损失值，再通过优化器重新学习更新权重，经过N轮迭代后停止权重更新，也就确定了模型。
我们需要下载 Docker 才能安装它，在本节中，您将看到我们如何在 Windows 上安装 Docker 并使用适合在 Linux 上安装的脚本。
具有稀疏输入视图的新视角合成方法对于AR/VR和自动驾驶等实际应用非常重要。大量该领域的工作已经将深度信息集成到用于稀疏输入合成的NeRF中，利用深度先验协助几何和空间理解。然而，大多数现有的工作往往忽略了深度图的不准确性，或者只进行了粗糙处理，限制了合成效果。此外，现有的深度感知NeRF很少使用深度信息来创建更快的NeRF，总体时间效率较低。为了应对上述问题，引入了一种针对稀疏输入视图量身定制的深度引导鲁棒快速点云融合NeRF。这是点云融合与NeRF体积渲染的首次集成。具体来说，受TensoRF的启发，将辐射场视为一个的特征体素网格，由一系列向量和矩阵来描述，这些向量和矩阵沿着各自的坐标轴分别表示场景外观和几何结构。特征网格可以自然地被视为4D张量，其中其三个模式对应于网格的XYZ轴，第四个模式表示特征通道维度。利用稀疏输入RGB-D图像和相机参数，我们将每个输入视图的2D像素映射到3D空间，以生成每个视图的点云。随后，将深度值转换为密度，并利用两组不同的矩阵和向量将深度和颜色信息编码到体素网格中。可以从特征中解码体积密度和视图相关颜色，从而促进体积辐射场渲染。聚合来自每个输入视图的点云，以组合整个场景的融合点云。每个体素通过参考这个融合的点云来确定其在场景中的密度和外观。
这是微软发布在2022 ICML的论文，MoE可以降低训练成本，但是快速的MoE模型推理仍然是一个未解决的问题。所以论文提出了一个端到端的MoE训练和推理解决方案DeepSpeed-MoE：它包括新颖的MoE架构设计和模型压缩技术，可将MoE模型大小减少3.7倍；通过高度优化的推理系统，减少了7.3倍的延迟和成本;与同等质量的密集模型相比，推理速度提高4.5倍，成本降低9倍。
作者：Xinlei Chen、Ross Girshick、Kaiming He、Piotr Dollar
【导读】Keras是一个由Python编写的开源人工神经网络库，可以作为Tensorflow、和Theano的高阶应用程序接口，进行深度学习模型的设计、调试、评估、应用和可视化。本系列将教你如何从零开始学Keras，从搭建神经网络到项目实战，手把手教你精通Keras。相关内容参考《Python深度学习》这本书。
在本文中，我们将学习如何使用keras，用手写数字图像数据集（即MNIST）进行深度学习。本文的目的是为了让大家亲身体验并熟悉培训课程中的神经网络部分。
佐治亚研究所和Facebook AI研究人员联合进行的一项最新研究为称为TT-Rec（用于DLRM的张量训练）的新方法打开了大门。如果成功采用，此方法将是深度学习领域的一次飞跃，因为它将大大减少深度学习推荐模型（DLRM）的规模，并使部署过程变得不复杂。减小模型尺寸的背后推动力将是用一系列矩阵乘积替换DLRM中的大型嵌入表，该矩阵乘积将通过使用张量列分解来开发。它是一种工具，可以利用低秩分解的一般化来有效处理张量。
据外媒报道，谷歌发布了第二代张量处理单元（TPU）和Google.ai。谷歌首席执行官桑达尔·皮查伊（Sundar Pichai）是谷歌2017年开发者大会（Google I/O 2017）的主旨发言人，他宣布一项名为“Google.ai”的新计划正将谷歌的多个机器学习与人工智能的工作及团队联合起来。Google.ai不仅会关注研究，还会着眼于开发工具，例如深度学习框架TensorFlow和谷歌的最新云张量处理单元，以及“应用型人工智能”，即开发解决方案。 虽然机器学习工具还处于相对起步阶段，但它们已经在多
随着深度学习与 3D 技术的发展，神经辐射场（NeRF）在 3D 场景重建与逼真新视图合成方面取得了巨大的进展。给定一组 2D 视图作为输入，神经辐射场便可通过优化隐式函数表示 3D。
A Survey on Instance Segmentation: State of the art 链接 解读https://zhuanlan.zhihu.com/p/165135767
今天给大家介绍都柏林大学的Patrick Brendan Timmons 和Chandralal M. Hewage在Briefings in Bioinformatics上发表的文章“APPTEST is a novel protocol for the automatic prediction of peptide tertiary structures”充分了解肽的三级结构对于理解其功能及其与生物靶点的相互作用很重要。作者在文章中报告了一种新的算法APPTEST，它采用神经网络结构和模拟退火方法从一级序列预测肽的三级结构。APPTEST适用于5-40个天然氨基酸的线性肽和环状肽，并且它计算效率很高，可以在几分钟内返回预测的结构。作者团队对一组356个测试肽上进行了附加性能评估；每个肽的最佳结构偏离实验确定的主干构象平均为1.9 Å，97%的目标序列预测为天然或接近天然结构。在短、长和循环肽的基准数据集中，与PEP-FOLD、PEPStRMOD和PepLook的性能比较表明，APPTEST产生的结构平均比现有方法更符合原生结构。
【导读】TensorFlow.js 的发布可以说是 JS 社区开发者的福音！但是在浏览器中训练一些模型还是会存在一些问题与不同，如何可以让训练效果更好？本文的作者，是一位前端工程师，经过自己不断的经验积累，为大家总结了 18 个 Tips，希望可以帮助大家训练出更好的模型。
本周，Facebook 的 AI 研究团队发布了一个 Python 工具包，专门针对 GPU 加速的深度神经网络（DNN）编程。它有望辅助、或在一定程度上替代，现有的 Python 数学、统计库（比如
您想构建一个没有太多训练数据的机器学习模型吗？众所周知，机器学习需要大量数据，而收集和注释数据需要时间且成本高昂。
TensorFlow.js 的发布可以说是 JS 社区开发者的福音！但是在浏览器中训练一些模型还是会存在一些问题与不同，如何可以让训练效果更好？本文为大家总结了 18 个 Tips，希望可以帮助大家训练出更好的模型。
本周，Facebook 的 AI 研究团队发布了一个 Python 工具包，专门针对 GPU 加速的深度神经网络（DNN）编程。它有望辅助、或在一定程度上替代，现有的 Python 数学、统计库（比如 NumPy）。它实现了机器学习框架 Torch 在 Python 语言环境的执行。开发团队表示，除 Facebook之外，它还已经被推特、卡内基梅隆大学和 Salesforce 等机构采用。 使用 Pytorch 的机构 Torch 是一个十分老牌、对多维矩阵数据进行操作的张量（tensor ）库，在
这一次，Facebook的陈鑫磊、何恺明等人，又从全新的角度，再次解决了实例分割任务中的难题：
Python 之于机器学习，可以说是最为锋利的武器；而机器学习之于 Python，则有着扩大影响再造辉煌的助力。二者相辅相成，以至于一提到机器学习，人们自然而然的就想到了 Python，虽然有些狭隘，但是背后也有其存在的必然性！
为了让大模型在特定任务、场景下发挥更大作用，LoRA这样能够平衡性能和算力资源的方法正在受到研究者们的青睐。
来源：大数据与机器学习文摘本文约2600字，建议阅读9分钟本文为你介绍2021年最为重要的10个 Python 机器学习相关的第三方库。 Python 之于机器学习，可以说是最为锋利的武器；而机器学习之于 Python，则有着扩大影响再造辉煌的助力。二者相辅相成，以至于一提到机器学习，人们自然而然地就想到了 Python，虽然有些狭隘，但是背后也有其存在的必然性！ 今天我们就来介绍2021年最为重要的10个 Python 机器学习相关的第三方库，不要错过哦 一、TensorFlow 1. 什么 Tenso
由于处理器性能和电池容量有限，在移动设备上使用计算密集的机器学习模型进行推断是非常耗资源的。 虽然可以采用一种加速途径：转换为定点数模型，但用户已经要求作为一种选项，为加速原始浮点模型推理提供GPU支持，而不会产生额外的复杂性和潜在的量化精度损失。
对于识别、检测、语义分割、人体姿势检测等富有挑战性的任务，当前最佳性能通常是通过卷积神经网络（CNN）取得的。有证据表明，这些方法成功背后的关键特征是过度参数化（over-parametrization），其有助于找出良好的局部最小值。但与此同时，过度参数化导致大量冗余，并且从统计学角度看，由于过度参数化增加的参数过多，它或许会阻碍泛化。
这篇文章介绍了Auto-Scheduler的一种方法Ansor，这种方法已经被继承到TVM中和AutoTVM一起来自动生成高性能的张量化程序。
机器之心报道 机器之心编辑部 30年时间，稀疏专家模型已逐渐成为一种很有前途的解决方案。 稀疏专家模型是一个已有 30 年历史的概念，至今依然被广泛使用，是深度学习中的流行架构。此类架构包括混合专家系统（MoE）、Switch Transformer、路由网络、BASE 层等。稀疏专家模型已经在自然语言处理、计算机视觉和语音识别等多个领域展示出良好的性能。 近日，谷歌 AI 负责人 Jeff Dean 等人撰写了一篇稀疏专家模型的综述，回顾了稀疏专家模型的概念，提供了通用算法的基本描述，最后展望了未来的研究
近年来人们开发图形神经网络的兴趣持续激增。图形神经网络即可以在如社交网络数据 [16,21,36] 或基于图形的分子表征 [7,11,15] 的图形结构数据上运行的一般的深度学习架构。GNN 一般是将底层图形作为计算图，通过在图上传递、转换和聚合节点特征信息学习神经网络基元以生成单个节点嵌入。生成的节点嵌入可以作为输入，用于如节点分类或连接预测的任何可微预测层，完整的模型可以通过端到端的方式训练。
Python 的 Keras 库来学习手写数字分类，将手写数字的灰度图像(28 像素 ×28 像素)划分到 10 个类别 中(0~9) 神经网络的核心组件是层(layer),它是一种数据处理模块，它从输入数据中提取表示，紧接着的一个例子中，将含有两个Dense 层,它们是密集连接(也叫全连接)的神经层，最后是一个10路的softmax层，它将返回一个由 10 个概率值(总和为 1)组成的数组。每个概率值表示当前数字图像属于 10 个数字类别中某一个的概率 损失函数(loss function):网络如何衡量在训练数据上的性能,即网络如何朝着正确的方向前进 优化器(optimizer):基于训练数据和损失函数来更新网络的机制
当给你看一张椅子的照片时，你是可以从这张单幅照片中推断出椅子的三维形状的，即使你以前可能从未见过这样的椅子。我们经历的一个更具有代表性的例子是，在与椅子的物理空间相同时，从不同的角度收集信息，以建立我
物体姿态估计在许多现实世界应用中起到至关重要的作用，例如具身智能、机器人灵巧操作和增强现实等。
Pytorch是Facebook的AI研究团队发布了一个Python工具包，专门针对GPU加速的深度神经网络（DNN）编程.Torch是一个经典的对多维矩阵数据进行操作的张量（tensor）库，在机器学习和其他数学密集型应用有广泛应用。但由于Torch语言采用Lua，导致在国内一直很小众，并逐渐被支持Python的Tensorflow抢走用户。作为经典机器学习库Torch的端口，PyTorch为Python语言使用者提供了舒适的写代码选择。
在自动驾驶、医疗以及零售这些领域，计算机视觉让我们完成了一些直到最近都被认为是不可能的事情。今天，自动驾驶汽车和无人商店听起来不再那么梦幻。事实上，我们每天都在使用计算机视觉技术——我们用自己的面孔解锁手机，将图片上传到社交网络之前进行自动修图……卷积神经网络可能是这一巨大成功背后的关键组成模块。这次，我们将要使用卷积神经网络的思想来拓宽我们对神经网络工作原理的理解。打个预防针，本文包含相当复杂的数学方程，但是，你也不必为自己不喜欢线性代数和微积分而沮丧。我的目标并不是让你记住这些公式，而是为你提供一些关于底层原理的直觉认知。
当今，包括推理应用程序和智能体在内的大多数LLM应用程序是用Python编写的，但这种形势即将发生改变。对于新一波开发人员来说，Python太慢了，太臃肿了，而且自相矛盾，非常笨拙。其实，LLVM的Chris Lattner，即Clang和Swift的发明者已经证实了Python比编译语言慢35,000倍——这也是为什么他发明了Mojo语言作为Python的替代品。
距GPT-3问世不到一年的时间，谷歌大脑团队就重磅推出了超级语言模型Switch Transformer，有1.6万亿个参数。
大数据文摘作品，转载要求见文末 翻译 | 张静，狗小白 马卓群 校对 | 海抒 后期 | 郭丽（终结者字幕） 后台回复“字幕组”加入我们！ 人工智能中的数学概念一网打尽！欢迎来到YouTube网红小哥Siraj的系列栏目“The Math of Intelligence”，本视频是该系列的第三集，讲解与向量、矩阵等相关的概念，以及在机器学习中的运作机理。后续系列视频大数据文摘字幕组会持续跟进，陆续汉化推出喔！ 全部课表详见： https://github.com/llSourcell/The_Math_
基于安培体系结构的NVIDIA A100 GPU是为了从其许多新的体系结构特征和优化中提供尽可能多的AI和HPC计算能力而设计的。在台积电7nm N7 FinFET制造工艺上，A100提供了比Tesla V100中使用的12nm FFN工艺更高的晶体管密度、更好的性能和更好的功率效率。一种新的Multi-Instance GPU(MIG)能为多租户和虚拟化GPU环境提供了增强的客户端/应用程序故障隔离和QoS，这对云服务提供商特别有利。一个更快和更强的错误抗力的第三代NVIDIA的NVLink互连提供了改进的多GPU性能缩放的超尺度数据中心。
领取专属 10元无门槛券
手把手带您无忧上云
云服务器
ICP备案
实时音视频
对象存储
即时通信 IM
