【AAAI 2021】四篇好文简读-专题1

一

论文题目：

Flow-based Generative Models for Learning Manifold to Manifold Mappings

论文摘要：

计算机视觉和机器学习中的许多测量或观察表现为非欧几里得数据。而最近的提出的模型（如球形CNN）已经将一些深度神经网络架构扩展到了流形值数据，这往往提供了强大的性能改进，针对流形数据的生成模型的文献相当稀少。部分原因是没有使用流形值数据的模态传输/翻译模型，而许多基于生成模型的此类方法可用于自然图像。出于对脑成像的需要，本文解决了这一差距，在此过程中，作者扩展了某些生成模型（以及用于模态转移的生成模型）的操作范围，从自然图像到带有流形值度量的图像。作者的主要结果是设计了一个双流版本的GLOW（基于流的可逆生成模型），给出另一个值的情况下，可以合成一种流形值测量的信息。在理论方面，作者为流形值数据引入了三种可逆层，它们不仅类似于它们在基于流的生成器（例如，Glow）中的功能，也保留了关键的优势（雅可比行列式很容易计算）。作者在一个来自人类连接组项目（HCP）的大型数据集上进行实验，结果显示模型可以从弥散张量成像（DTI）中可靠和准确地重建取向分布函数（ODF）场的大脑图像。

论文链接：

https://www.aaai.org/AAAI21Papers/AAAI-1162.ZhenX.pdf

代码链接：

https://github.com/zhenxingjian/Dual_Manifold_GLOW

二

论文题目：

OT-Flow: Fast and Accurate Continuous Normalizing Flows via Optimal Transport

论文摘要：

归一化流是一种任意概率分布和标准正态分布之间的可逆映射；它可用于密度估计和统计推断。计算流需要按照变量的变形公式，因此需要映射的可逆性和一种有效的计算其雅可比矩阵的行列式的方法。为了满足这些要求，归一化流通常由精心选择的组件组成。连续归一化流(CNFs)是通过求解一个神经网络常微分方程(ODE)得到的映射。神经网络ODE的动力系统几乎可以任意选择，同时确保可逆性。此外，通过对流的动力雅可比矩阵的轨迹进行积分，可以得到流的雅可比矩阵的对数行列式。作者提出的OT-Flow方法解决了两个关键的限制了其更广泛使用的计算挑战。首先，OT-Flow利用最优传输(OT)理论来规则化CNF，并强制执行更容易集成的直线轨迹。其次，OT-Flow具有精确的跟踪计算特征，时间复杂度等于现有CNFs中使用的跟踪估计量。在五个高维密度估计和生成建模任务中，OT-Flow都可以与最先进的CNFs媲美，而且仅需要其他模型四分之一的权重数量，训练时间加速8倍，推理时间加速24倍。

论文链接：

https://ojs.aaai.org/index.php/AAAI/article/view/17113

代码链接：

https://github.com/EmoryMLIP/OT-Flow

三

论文题目：

RNA Secondary Structure Representation Network for RNA-proteins Binding Prediction

论文摘要：

RNA结合蛋白（RBPs）在活体细胞的一些生物过程中发挥着重要作用，如基因调控和mRNA定位。一些深度学习方法，特别是基于卷积神经网络（CNN）的模型，已被用于预测结合点。然而，以前的方法不能表示RNA的二级结构特征。传统的深度学习方法通常将RNA二级结构转化为一个矩阵，无法揭示RNA的拓扑结构信息。为了有效地提取RNA的结构特征，作者提出了一个基于图卷积神经网络（GCN）和卷积神经网络（CNN）的RNA二级结构表示网络（RNASSR-Net）用于RBP结合预测。RNASSR-Net构建了来自RNA二级结构的图模型来学习RNA的拓扑学特性，然后，它通过CNN获得RNA中每个碱基的空间重要性来指导RNA二级结构的表示。最后，RNASSR-Net结合结构和序列特征来预测结合点。实验结果表明，所提出的方法在基准数据集上优于一些最新的方法，在小数据集上得到了更高的提升。

论文链接：

https://ojs.aaai.org/index.php/AAAI/article/view/16112

Github链接：

https:// github.com/ziniBRC/RNASSR-Net

四

论文题目：

Multi-View Information-Bottleneck Representation Learning

论文摘要：

在现实世界的应用中，聚类或分类通常可以通过融合不同视图的信息来改善，因此，多视图数据的无监督表示学习是机器学习中的一个热门话题。在本文中，作者提出了一个新颖灵活的无监督多视图表征学习模型，即协作式多视图信息瓶颈网络（CMIB-Nets），它全面地探索了共同的潜在结构和特定视图的内在信息，并摒弃了数据中的多余信息，显著提高了模型的泛化能力。具体来说，作者提出的模型依靠信息瓶颈原理，整合了不同视图之间的共享表示和每个视图的特定表示，促使多视图完整表示，并灵活地平衡了多个视图之间的互补性和一致性。

论文链接：

https://ojs.aaai.org/index.php/AAAI/article/view/17210