首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往
您找到你想要的搜索结果了吗?
是的
没有找到

ICLR 2024 最新研究 DYST 技术让视频表征更精准、更智能

首先来看引言部分,概述了在视觉表示学习领域的主流研究集中于捕捉个别图像的语义和2D结构的现状,并指出本研究的重点是同时捕捉场景的3D结构和动态,这对于规划、空间和物理推理以及与现实世界的有效互动至关重要。文章强调了最近在3D视觉场景的生成模型方面取得的进展,特别是从使用体素网格、点云或纹理网格等显式表示转向通过直接优化新视图合成(NVS)来学习隐式表示的转变。如神经辐射场(Neural Radiance Fields)虽然最初限于单一场景并需要大量输入图像、控制的照明、精确的相机姿态和长时间的处理,但随后已被扩展以处理照明变化、跨场景泛化、少量图像工作、缺失相机和动态场景。

01

Nature Neuroscience重磅综述:网络神经系统中的动态表征

一组神经元可以产生代表刺激信息的活动模式;随后,该小组可以通过突触将活动模式转换和传递到空间分布区域。神经科学的最新研究已经开始独立处理信息处理的两个组成部分:刺激在神经活动中的表示和模拟神经相互作用的网络中的信息传输。然而,直到最近,研究才试图将这两种方法联系起来。在这里,我们简要回顾一下这两种不同的文献;然后,我们回顾了最近在解决这一差距方面取得的进展。我们继续讨论活动模式如何从一种表示演变到另一种表示,形成在底层网络上展开的动态表示。我们的目标是提供一个整体框架来理解和描述神经信息的表达和传递,同时揭示令人兴奋的前沿领域未来的研究。

03

每日论文速递 | DMC: 动态内存压缩-在推理时压缩KV Cache

摘要:Transformers已成为大型语言模型(LLM)的支柱。然而,由于需要在内存中存储过去标记的键值表示缓存,其大小与输入序列长度和批量大小成线性比例,因此生成效率仍然很低。作为解决方案,我们提出了动态内存压缩(DMC),这是一种在推理时在线压缩键值缓存的方法。最重要的是,该模型可以学习在不同的头和层中应用不同的压缩率。我们将预训练的 LLM(如 Llama 2(7B、13B 和 70B))改装成 DMC Transformers,在英伟达 H100 GPU 上实现了高达 ~3.7 倍的自动回归推理吞吐量提升。DMC 通过持续预训练应用于可忽略不计的原始数据百分比,而不添加任何额外参数。我们发现,DMC 保持了原有的下游性能,缓存压缩率高达 4 倍,优于向上训练的分组查询注意(GQA)。GQA 和 DMC 甚至可以结合使用,以获得复合增益。因此,在任何给定的内存预算内,DMC 都能适应更长的上下文和更大的批次。

01

【综述专栏】动态数据驱动仿真综述

动态数据驱动仿真是一种“模型和数据相结合”的仿真范式,它将真实系统的观测(数据)持续注入仿真(模型),让数据动态地校正仿真(状态、参数),以此来提高基于仿真的估计和预测能力。由于动态数据驱动仿真融合了模型预测和实时观测两方面的信息,因此它能更准确地估计系统状态并预测状态的未来演化。本文梳理了动态数据驱动仿真的思想起源和基本概念,延伸介绍了“模型和数据相结合”的思想孕育的一系列仿真范式,并辨析了它们之间的联系和区别;详细介绍了基于粒子滤波的数据同化方法和identical-twin仿真实验方法;从应用场景、模型和数据、数据同化算法、与新技术的融合等四个维度综述了动态数据驱动仿真的研究现状;最后,从仿真模型、观测数据、数据同化、运行效率、应用领域等五个方面对动态数据驱动仿真未来研究方向进行了展望。

01

个性化大脑连接组指纹:它们在认知中的重要性

人脑的神经网络结构模式可能与个体在表型、行为、遗传决定因素和神经精神障碍的临床结果方面的差异有关。最近的研究表明,个性化的神经(大脑)指纹可以从大脑的结构连接体中识别出来。然而,个性化指纹在认知方面的准确性、可重复性和翻译潜力尚未完全确定。在本研究中,我们引入了一种动态连接体建模方法来识别一组关键的白质子网络,可以用作个性化指纹。我们进行了几个个体变量评估,以证明个性化指纹的准确性和实用性,特别是预测中年成年人的身份和智商,以及幼儿的发育商。我们的发现表明,我们的动态建模方法发现的指纹足以区分个体,也能够预测整个人类发展的一般智力能力。

02
领券