每日学术速递1.7

CV - 计算机视觉 | ML - 机器学习 | RL - 强化学习 | NLP 自然语言处理

Power by Kimi&苏神 编辑丨AiCharm

Subjects: cs.CV

1.Functional Risk Minimization

标题： 功能风险最小化

作者：Ferran Alet, Clement Gehring, Tomás Lozano-Pérez, Kenji Kawaguchi, Joshua B. Tenenbaum, Leslie Pack Kaelbling

摘要：

自 1970 年代以来，机器学习领域发生了重大变化。然而，其最基本的原则，即经验风险最小化 （ERM） 保持不变。我们提出了功能风险最小化~（FRM），这是一个通用框架，其中损失比较功能而不是输出。这在监督、无监督和 RL 实验中具有更好的性能。在 FRM 范例中，对于每个数据点 (xi,yi) ，都有适合它的函数 fθi ： yi=fθi(xi) 。这使得 FRM 能够将 ERM 归入许多常见的损失函数，并捕获更真实的噪声过程。我们还表明，FRM 为理解现代过度参数化制度中的泛化提供了一种途径，因为它的目标可以定义为找到适合训练数据的最简单模型。

这篇论文试图解决什么问题？

这篇论文提出了一个名为Functional Risk Minimization（FRM）的新框架，旨在解决以下几个问题，这些问题是与机器学习领域中经典的Empirical Risk Minimization（ERM）原则相关的：

1. 深度学习的效率问题：基于ERM的深度学习在某些情况下可能效率低下几个数量级。
2. 深度学习泛化能力的理解不足：尽管当前的神经网络具有巨大的容量，但对于其泛化能力的理解仍然不足。
3. 改进ERM的普适性：对ERM的改进可以应用于整个机器学习领域。

论文指出，尽管机器学习领域自20世纪70年代以来发生了显著变化，但其最基本的原则ERM并未改变。ERM原则是基于这样一个观点：通过在训练集上最小化相同的损失，可以最小化未见数据上的损失。然而，随着现代神经网络的巨大容量和数据集的多样化，ERM不再总是能够保证良好的测试性能。FRM框架正是为了应对这些挑战而提出的，它通过在函数空间而非输出空间中比较损失，以期获得更好的性能。

论文如何解决这个问题？

论文提出了Functional Risk Minimization（FRM）框架来解决与ERM相关的问题，具体解决方案如下：

1. 引入Functional Generative Models（FGMs）：
   • 论文提出了FGMs，这是一种为每个数据点分配一个函数的生成模型。每个数据点(xi,yi)(xi,yi)由其自己的函数fθifθi拟合，即yi=fθi(xi)yi=fθi(xi)，其中θiθi是从分布P(⋅|θ∗)P(⋅|θ∗)中采样的。
2. 从期望风险最小化导出FRM：
   • 从最小化期望风险的目标出发，结合FGMs的假设，通过数学推导，论文得到了FRM的目标函数。这个目标函数涉及到在函数空间中匹配两个概率分布：一个是数据依赖的未知分布P(θ)P(θ)，另一个是依赖于损失函数和预测参数θ∗θ∗的分布Qθ∗(θ)Qθ∗(θ)。
3. FRM的可扩展近似方法：
   • 变分方法：适用于大型语言模型，通过对参数空间的某些部分进行建模来近似后验分布。
   • 泰勒近似：利用过参数化模型的小扰动来近似FRM目标，适用于具有大量参数的深度学习模型。
   • 由于直接优化FRM目标函数计算复杂度高，论文提出了两种近似方法：
4. 实验验证：
   • 论文通过在监督学习、无监督学习和强化学习中的多样化实验来展示FRM的优势。这些实验包括线性最小二乘问题、价值函数估计和基于FGM的VAE等，验证了FRM在处理结构化变化和提高泛化能力方面相对于ERM的改进。
5. FRM与过参数化ERM的关系：
   • 论文讨论了FRM如何通过寻找最简单的超模型来适应数据，这与过参数化ERM隐式地通过增加模型复杂度来提高泛化能力有相似之处。FRM通过显式地为每个数据点寻找必要的最小扰动，提供了一种更直接的方法。

总结来说，论文通过引入FGMs和FRM框架，并结合变分方法和泰勒近似，提供了一种新的方法来处理现代机器学习中的数据多样性和过参数化问题，旨在改善模型的泛化能力和训练效率。

论文做了哪些实验？

论文中进行了以下几种实验来验证Functional Risk Minimization（FRM）框架的有效性：

1. 线性最小二乘回归实验：
   • 论文分析了在均方误差风险下的线性回归问题。实验比较了ERM和FRM在不同噪声分布下的性能，包括高斯噪声和异方差噪声。结果表明，在高维空间中，FRM的性能明显优于ERM。
2. 价值函数估计：
   • 在“山地车”（mountain car）领域中，使用一步时间差分（TD error）作为损失函数，论文评估了ERM和FRM在离线价值估计任务中的表现。实验结果显示，FRM在困难的情况下比ERM表现得更好，尤其是在特征排列不良的情况下。
3. 基于FGM的VAE找到更好的表示：
   • 论文构建了一个变分自编码器（VAE）来处理MNIST数据集及其变体（如彩色MNIST和翻译MNIST）。通过在VAE的潜在空间上训练一个小型MLP，并比较ERM和FRM的性能，结果显示FRM在包含颜色或平移变化的数据集中获得了显著的性能提升。

这些实验覆盖了监督学习、无监督学习和强化学习领域，旨在展示FRM在不同设置下相对于传统ERM的优势。通过这些实验，论文证明了FRM在处理结构化变化和提高泛化能力方面的有效性。

论文的主要内容：

这篇论文提出了一个新的机器学习框架——Functional Risk Minimization（FRM），旨在解决传统Empirical Risk Minimization（ERM）在现代机器学习中的局限性。以下是论文的主要内容总结：

1. 问题陈述：
   • 论文指出，尽管机器学习领域自20世纪70年代以来发生了巨大变化，但其核心原则ERM并未改变。随着模型和数据集的规模和复杂性增加，ERM在训练效率、泛化能力和适用性方面显示出不足。
2. FRM框架：
   • 论文提出了FRM，一个在函数空间而非输出空间比较损失的框架。FRM通过为每个数据点分配一个函数fθifθi来拟合它，从而允许更复杂的噪声模型，并能更好地捕捉数据中的结构化变化。
3. Functional Generative Models（FGMs）：
   • 论文引入了FGMs，这是一种为每个数据点生成一个函数的模型。FGMs利用函数类fθfθ来构建结构化的概率分布，并能捕捉数据中的任意概率分布。
4. FRM的目标函数：
   • 论文推导出FRM的目标函数，该函数涉及到在函数空间中匹配两个概率分布：一个是数据依赖的未知分布P(θ)P(θ)，另一个是依赖于损失函数和预测参数θ∗θ∗的分布Qθ∗(θ)Qθ∗(θ)。
5. FRM的近似方法：
   • 论文提出了两种FRM的近似方法：变分方法和泰勒近似，以解决直接优化FRM目标函数的高计算复杂度问题。
6. 实验验证：
   • 论文通过在监督学习、无监督学习和强化学习中的多样化实验来展示FRM相对于ERM的优势，包括线性回归、价值函数估计和基于FGM的VAE等。
7. FRM与过参数化ERM的关系：
   • 论文讨论了FRM如何通过寻找最简单的超模型来适应数据，这与过参数化ERM隐式地通过增加模型复杂度来提高泛化能力有相似之处。
8. 结论与未来研究方向：
   • 论文认为FRM为现代机器学习提供了一个新的研究路径，并指出了FRM在计算效率和特定模型定制方面的潜在改进空间。

总的来说，这篇论文提出了一个创新的框架FRM，以应对现代机器学习中模型和数据集的复杂性，并通过理论分析和实验验证展示了其有效性。

2.BridgePure: Revealing the Fragility of Black-box Data Protection

标题：BridgePure：揭露黑盒数据保护的脆弱性

作者：Yihan Wang, Yiwei Lu, Xiao-Shan Gao, Gautam Kamath, Yaoliang Yu

文章链接：https://arxiv.org/abs/2412.21061

项目代码：https://github.com/THUDM/ImageReward

摘要：

可用性攻击或无法学习的示例是一种防御技术，允许数据所有者修改其数据集，以防止未经授权的机器学习模型在保持数据预期功能的同时有效学习。它导致发布了流行的黑盒工具，供用户上传个人数据并接收受保护的对应数据。在这项工作中，我们表明，如果有一小部分不受保护的分发内数据可用，则可以在很大程度上绕过这种黑盒保护。具体来说，攻击者可以 （1） 通过使用未受保护的数据集查询黑盒保护来轻松获取（未受保护、受保护）对;（2） 训练扩散桥模型以构建映射。这种映射称为 BridgePure，可以有效地消除对同一分布中任何以前未见过的数据的保护。在这种威胁模型下，我们的方法在分类和风格模拟任务上表现出卓越的净化性能，暴露了黑盒数据保护中的关键漏洞。

这篇论文试图解决什么问题？

这篇论文试图解决的问题是黑盒数据保护方法中存在的脆弱性，特别是当存在保护泄露（protection leakage）时，这些保护措施可能被绕过的问题。具体来说，论文中提到了以下几点：

1. 数据保护的挑战：随着机器学习模型的广泛应用，数据隐私、版权和个人信息的未经授权使用成为了显著的问题。数据所有者希望能够在保护数据不被未经授权使用的同时，保持数据的可用性。
2. 现有数据保护方法的局限性：论文指出，现有的数据保护方法，如“不可学习的例子”（unlearnable examples），通过在训练数据上进行难以察觉的修改来降低数据对机器学习模型的价值，但这些方法可能因为保护泄露而变得无效。
3. 保护泄露的风险：论文提出了一个威胁模型，其中敌手可以利用少量未受保护的样本和公共保护API来获取（未受保护，受保护）的数据对，并训练一个扩散去噪桥模型（DDBM），从而有效地移除任何之前未见过的数据的保护。
4. BridgePure方法的提出：为了应对保护泄露的威胁，论文提出了BridgePure方法，该方法利用DDBM作为强大的净化算法，在保护泄露的假设下进行数据保护。
5. 实验验证：通过在分类和风格模仿任务上的实验，论文证明了BridgePure方法在恢复原始数据可用性方面的优越性能，并揭示了基于不可学习例子的数据保护方法的关键漏洞。

总结来说，这篇论文试图揭示和解决黑盒数据保护系统中的一个关键漏洞：保护泄露，并通过提出BridgePure方法来有效地绕过现有的数据保护措施。

论文如何解决这个问题？

论文通过提出一种名为BridgePure的方法来解决黑盒数据保护中的保护泄露问题。以下是解决这个问题的关键步骤和方法：

1. 识别威胁模型：
   • 论文首先定义了一个威胁模型，其中包括数据所有者、敌手以及黑盒保护机制。敌手可以访问一个小型的未受保护数据集，并能够通过查询黑盒服务来获取受保护的数据对。
2. 构建扩散桥模型（Denoising Diffusion Bridge Model, DDBM）：
   • 利用扩散桥模型（DDBM）来学习从受保护数据到未受保护数据的逆映射。这个模型能够模拟和反转原始数据和受保护数据之间的转换。
3. BridgePure训练：
   • 使用从保护泄露中获得的（未受保护，受保护）数据对来训练BridgePure。这些数据对提供了足够的信息来训练一个模型，该模型能够学习如何从受保护的数据中去除保护。
4. 采样和净化：
   • BridgePure采用条件采样方法，对每个受保护的样本进行净化处理。这个过程逐步移除保护特征，恢复数据的原始状态。
5. 预处理和参数调整：
   • 为了提高模型的泛化能力，论文引入了高斯噪声预处理步骤，并调整采样随机性参数，以优化净化数据集的可用性。
6. 实验验证：
   • 论文通过在分类和风格模仿任务上的广泛实验来验证BridgePure的有效性。实验结果表明，BridgePure在恢复数据可用性方面优于现有的基线方法。
7. 讨论限制和未来工作：
   • 论文最后讨论了BridgePure的限制，并提出了未来可能的研究方向，包括在系统层面加强身份验证机制，以及在算法层面开发更强大的保护方法来抵抗先进的净化技术。

总结来说，论文通过构建一个能够从有限

论文做了哪些实验？

论文中进行了一系列实验来验证BridgePure方法的有效性，主要实验包括：

1. 实验设置：
   • 使用了CIFAR-10/100、ImageNet-Subset、WebFace-Subset、Cars和Pets等数据集进行分类任务的实验。
   • 对于风格模仿任务，使用了艺术家@nulevoy的作品。
2. 净化可用性攻击：
   • 对CIFAR-10和CIFAR-100数据集上的14种不同的可用性攻击进行了净化实验，评估了在不同数量保护泄露（从500到4000对）情况下BridgePure的性能。
   • 比较了BridgePure与其他基线方法（包括PGD-AT、D-VAE、AVATAR和LE-JCDP）的性能。
3. 标签不可知情况：
   • 考虑了标签不可知的可用性攻击变体（UC和UC-CLIP），并在Cars和Pets数据集上评估了BridgePure的性能。
4. 对比学习情况：
   • 考虑了可转移到对比学习算法的可用性攻击，并使用SimCLR和线性探测评估了净化后的数据集。
5. 净化图像质量：
   • 使用峰值信噪比（PSNR）和结构相似性指数（SSIM）评估了净化数据集与原始数据集之间的相似度。
   • 展示了净化前后的图像细节对比，以证明BridgePure在保持图像质量方面的优势。
6. 部分保护泄露：
   • 考虑了仅对数据集中某些类别进行保护泄露的情况，并评估了BridgePure在这种情况下的性能。
7. 混合保护：
   • 考虑了使用多种可用性攻击进行数据保护的情况，并评估了BridgePure在这种混合攻击场景中的性能。
8. 风格模仿保护：
   • 使用Glaze和Mist两种风格模仿保护工具保护艺术家的画作，并评估了BridgePure在恢复风格模仿能力方面的性能。
9. 消融研究：
   • 研究了高斯噪声预处理和采样随机性参数对BridgePure性能的影响。

这些实验全面评估了BridgePure在不同场景下的性能，包括不同数量的保护泄露、不同类型的攻击、不同的数据集和不同的应用场景（分类和风格模仿）。实验结果一致表明，BridgePure能够有效地恢复受保护数据的可用性，并且在多个方面优于现有的基线方法。

论文的主要内容：

这篇论文的主要内容总结如下：

1. 问题阐述：
   • 论文指出了黑盒数据保护方法的脆弱性，尤其是在存在保护泄露的情况下，敌手可以绕过这些保护措施。
2. 威胁模型：
   • 提出了一个威胁模型，其中包括数据所有者、敌手和黑盒保护机制。敌手可以访问少量未受保护的数据，并能够通过查询黑盒服务来获取受保护的数据对。
3. BridgePure方法：
   • 提出了BridgePure方法，利用扩散去噪桥模型（Denoising Diffusion Bridge Model, DDBM）来学习从受保护数据到未受保护数据的逆映射，从而去除保护。
4. 实验验证：
   • 通过在分类和风格模仿任务上的广泛实验验证了BridgePure的有效性，表明BridgePure在恢复数据可用性方面优于现有方法。
5. 主要贡献：
   • 揭示了保护泄露对黑盒数据保护方法的潜在威胁。
   • 提出了BridgePure方法，利用DDBM作为净化算法。
   • 在分类和生成任务上对现有数据保护方法进行了净化实验，证明了BridgePure的优越性能。
6. 限制与未来工作：
   • 论文讨论了BridgePure的局限性，并提出了未来可能的研究方向，包括加强身份验证机制和开发更强大的保护方法。

论文通过理论分析和实验验证，展示了在保护泄露的威胁下，现有的黑盒数据保护方法存在的关键漏洞，并提出了一种有效的解决方案BridgePure，为数据保护领域提供了新的视角和研究方向。

3.OmniChat: Enhancing Spoken Dialogue Systems with Scalable Synthetic Data for Diverse Scenarios

标题： OmniChat：使用适用于不同场景的可扩展合成数据增强语音对话系统

作者：Xize Cheng, Dongjie Fu, Xiaoda Yang, Minghui Fang, Ruofan Hu, Jingyu Lu, Bai Jionghao, Zehan Wang, Shengpeng Ji, Rongjie Huang, Linjun Li, Yu Chen, Tao Jin, Zhou Zhao

文章链接：https://arxiv.org/abs/2501.01384

项目代码：https://sharechatx.github.io/

摘要：

随着大型语言模型的快速发展，研究人员创造了越来越先进的口语对话系统，这些系统可以自然地与人类交谈。然而，这些系统仍然难以处理现实世界对话的全部复杂性，包括音频事件、音乐背景和情感表达，主要是因为当前的对话数据集在规模和场景多样性方面都受到限制。在本文中，我们建议利用合成数据来增强不同场景中的对话模型。我们介绍了 ShareChatX，这是第一个用于跨不同场景的口语对话的全面、大规模数据集。基于此数据集，我们引入了 OmniChat，这是一个具有异构特征融合模块的多回合对话系统，旨在优化不同对话上下文中的特

这篇论文试图解决什么问题？

这篇论文试图解决的主要问题是现有口语对话系统在处理真实世界对话的复杂性时面临的挑战，包括音频事件、音乐背景和情感表达等方面。这些系统主要受限于当前对话数据集在规模和场景多样性上的约束。具体来说，论文中提到的问题包括：

1. 口语对话数据规模有限：获取口语对话数据比收集文本数据更为复杂和昂贵，导致数据集规模较小，尤其是包含多轮交互和不同场景下情感复杂性的高质量口语数据更难获得。
2. 缺乏无版权问题的数据：口语对话包含个人和生物特征信息，如音色，匿名化处理难以在不降低数据质量的情况下进行，这在收集和使用大规模口语对话数据集时引发了隐私问题。
3. 缺乏特定场景的口语对话语料库：从特定场景（如紧急情况或高风险环境）中收集口语对话数据尤其具有挑战性，这些对话通常涉及强烈的情感反应和独特的音频条件，难以复制或模拟。缺乏这些专业情境下的数据限制了对话系统的性能。

为了应对这些挑战，论文提出了利用大规模合成数据来模拟复杂对话场景，从而在多样化的场景中改进口语对话模型的性能。论文介绍了ShareChatX数据集，这是第一个覆盖广泛场景的大规模口语对话数据集，并基于此数据集提出了OmniChat，一个旨在优化不同对话上下文中特征选择的多轮对话系统。此外，论文还探讨了使用合成数据训练对话系统的关键方面，并通过综合实验确定了合成数据和真实数据之间的理想平衡，实现了在真实世界对话数据集DailyTalk上的最佳性能。

论文如何解决这个问题？

论文通过以下几个关键步骤来解决口语对话系统在处理复杂场景时面临的挑战：

1. 引入大规模合成数据集 ShareChatX

• 论文提出了 ShareChatX，这是一个大规模、覆盖广泛场景的口语对话数据集，包括情感对话（-Emotion）、音频事件（-Audio）和音乐理解（-Music）等场景。
• ShareChatX 数据集利用大型语言模型生成针对不同话题和场景的文本对话脚本，然后使用高保真、可控的文本到语音（TTS）模型将这些脚本转换成口语对话数据。

2. 提出多轮对话系统 OmniChat

• 基于 ShareChatX 数据集，论文提出了 OmniChat，这是一个多轮口语对话系统，设计了异构特征融合模块 Mix-Former 来优化不同对话上下文中的特征选择。
• OmniChat 能够处理各种场景，包括那些涉及音频和音乐的复杂对话场景。

3. 探索合成数据训练对话系统的关键方面

• 论文通过广泛的实验和分析，确定了合成数据和真实数据之间的理想平衡，以及训练口语对话模型所需的数据规模。
• 实验结果表明，合成数据在提高模型在真实世界对话场景中的性能方面发挥了关键作用，尤其是在涉及音频和音乐的复杂对话场景中。

4. 实现最佳性能

• 在真实世界的口语对话数据集 DailyTalk 上，OmniChat 实现了最佳性能，展示了合成数据在提高口语对话系统性能方面的重要性。

5. 开源数据和代码

• 论文承诺将发布 ShareChatX 数据集和相关代码，以便研究社区能够进一步探索和利用这些资源。

通过这些步骤，论文不仅提出了一个大规模的合成数据集来模拟复杂对话场景，还提出了一个能够处理多样化场景的多轮口语对话系统，并探索了如何有效利用合成数据来训练口语对话模型。这些贡献为未来口语对话系统的发展提供了有价值的见解和工具。

论文做了哪些实验？

论文中进行了一系列实验来评估提出的 ShareChatX 数据集和 OmniChat 系统的性能，并探索了使用合成数据训练口语对话系统的最佳实践。以下是主要的实验内容：

1. 实现细节

• 使用 Llama-3.1-8B-Instruct 模型作为基础的大型语言模型（LLM）。
• 所有音频数据被重新采样到 16 kHz 以保持一致性。
• 在窗口化的 Q-Former 中，设置 K = 1（单个可训练查询）和 L = 17（大约每窗口 0.33 秒）。
• 模型在八个 A800 GPU 上以每批次 48 个样本训练 30,000 步。

2. 性能比较

• 在 DailyTalk 和 ShareChatX 数据集上评估模型性能。
• 使用定量和定性指标评估模型性能，包括内容和风格两个方面。
• 定量评估包括 BLEU、ROUGE-L、METEOR 和 BERTScore 等文本生成指标，以及情绪预测准确度的加权 F1 分数。

3. 在真实世界口语对话数据集上的性能比较

• 比较 OmniChat 在 DailyTalk 数据集上与其他口语对话系统的性能。
• 分析了响应内容和情绪预测准确度，并讨论了合成数据在真实对话场景中的重要性。

4. 在复杂对话场景中的表现比较

• 分析 OmniChat 在 ShareChatX 数据集（-Emotion、-Audio、-Music）中的表现，展示了 OmniChat 在对话生成和情绪预测方面的改进。

5. 数据规模对口语对话模型的影响

• 探索不同数据规模（从 5K 到 80K 样本）对模型性能的影响。
• 比较了基于文本的对话模型、基于 ASR 的口语对话模型和直接口语对话模型的性能。

6. 合成数据和真实数据的最优采样比例

• 通过实验确定合成数据和真实数据之间的理想采样比例。
• 分析了不同混合比例对模型在真实对话场景中性能的影响。

7. 多专家语音特征对口语对话系统的影响

• 评估不同专家特征选择策略在 ShareChat-Music 数据集上的性能。
• 探讨了 Mix-Former 在整合多种专家特征方面的作用。

8. 复杂场景下的口语对话系统

• 在 ShareChat-Audio 数据集上进行实验，探索如何有效训练口语对话模型以处理复杂场景。
• 分析了大规模通用对话数据预训练和特定场景对话数据微调对模型性能的影响。

这些实验不仅验证了 ShareChatX 数据集和 OmniChat 系统的有效性，还提供了关于如何利用合成数据训练和改进口语对话系统的见解。

论文的主要内容：

论文的主要内容概括如下：

1. 问题陈述：
   • 口语对话系统在处理真实世界对话的复杂性方面存在挑战，包括音频事件、音乐背景和情感表达等。
   • 现有口语对话数据集在规模和场景多样性上受限，限制了系统性能。
2. 解决方案：
   • 提出利用合成数据增强对话模型在多样化场景中的性能。
   • 引入 ShareChatX，一个大规模、覆盖广泛场景的口语对话数据集，包括情感、音频事件和音乐理解等场景。
   • 提出 OmniChat，一个多轮口语对话系统，包含异构特征融合模块 Mix-Former，优化不同对话上下文中的特征选择。
3. 实验与分析：
   • 在 DailyTalk 和 ShareChatX 数据集上评估模型性能，使用定量和定性指标。
   • 确定了合成数据和真实数据之间的理想平衡，以及训练口语对话模型所需的数据规模。
   • 展示了合成数据在提高模型在真实世界对话场景中的性能方面的关键作用，尤其是在涉及音频和音乐的复杂对话场景中。
4. 主要贡献：
   • 提出 ShareChatX 数据集，覆盖多场景的大规模口语对话数据集。
   • 提出 OmniChat 系统，一个多轮对话系统，优化特征选择以适应不同场景。
   • 探讨了使用合成数据训练口语对话模型的最佳实践。
   • 在真实世界对话数据集上实现了最佳性能，强调合成数据的重要性。
5. 未来工作：
   • 探索合成数据在开发端到端口语对话系统中的应用。
   • 进一步降低语音对话系统中意外引导的风险。
   • 扩展研究到其他语言和跨语言对话系统。
   • 提高对话系统的可解释性、个性化和适应性。

论文通过引入大规模合成数据集和提出多轮对话系统，为提高口语对话系统在多样化和复杂场景下的性能提供了新的方法和见解。