每日学术速递11.21

CV - 计算机视觉 | ML - 机器学习 | RL - 强化学习 | NLP 自然语言处理

Power by Kimi&苏神 编辑丨AiCharm

Subjects: cs.CV

1.Adaptive Deviation Learning for Visual Anomaly Detection with Data Contamination

标题： 用于数据污染视觉异常检测的自适应偏差学习

作者：Anindya Sundar Das, Guansong Pang, Monowar Bhuyan

文章链接：https://arxiv.org/abs/2411.09558

摘要：

视觉异常检测的目标是检测与正常图案明显不同的图像，并且在制造业中识别缺陷零件方面得到了广泛的应用。这些异常检测范例主要集中于仅使用干净、未标记的正常样本（假设不存在污染）来训练检测模型；在现实场景中经常无法满足这一条件。这些方法的性能很大程度上取决于数据的质量，并且在暴露于噪声时通常会降低。我们引入了一种系统的自适应方法，该方法采用偏差学习来计算端到端的异常分数，同时通过为单个实例的权重分配相对重要性来解决数据污染问题。在这种方法中，正常实例的异常分数被设计为近似从已知先验分布获得的标量分数。同时，调整异常示例的异常分数以表现出与这些参考分数的统计显着偏差。我们的方法在偏差学习框架中结合了约束优化问题来更新实例权重，从而解决每个小批量的这个问题。对 MVTec 和 VisA 基准数据集的综合实验表明，我们提出的方法超越了竞争技术，并且在存在数据污染的情况下表现出稳定性和鲁棒性。

这篇论文试图解决什么问题？

这篇论文试图解决的是视觉异常检测（Visual Anomaly Detection, VAD）中的数据污染问题。具体来说，论文中提到大多数现有的视觉异常检测方法主要关注于使用干净、未标记的正常样本来训练检测模型，并且假设这些数据中没有污染；然而在现实世界的应用场景中，这种假设往往不成立，因为数据经常受到污染或包含噪声标签，这可能是由于人工标注过程中的错误或从旧系统中继承的标签错误所导致的。这些污染数据会导致模型性能显著下降。因此，论文提出了一种系统自适应的方法，该方法采用偏差学习（Deviation Learning）来端到端计算异常分数，并通过为单个实例的权重分配相对重要性来解决数据污染问题。

论文如何解决这个问题？

论文通过提出一个名为**自适应偏差学习（Adaptive Deviation Learning, ADL）**的框架来解决视觉异常检测中的数据污染问题。该框架主要包含以下几个关键步骤和组件：

1. 问题重新定义：

• 将目标定义为使用自监督方法明确学习异常分数，处理的是非标记的正常数据被异常实例污染的训练数据集。

2. 自适应偏差学习框架（ADL）：

• 自监督鲁棒偏差学习：利用软标签生成从图像特征导出的异常分数，并调整个体数据实例的损失目标，使用非均匀重要性权重，有效处理错误标记的样本。
• 适应性样本重要性学习：通过实例重加权动态分配相对重要性权重，以减轻污染数据的影响。

3. 自监督鲁棒偏差学习的具体组件：

• 合成异常生成器：使用Perlin噪声生成异常掩码，并将异常源图像与正常图像混合，生成伪异常图像。
• 特征编码网络：基于CNN的网络，预训练在ImageNet上，获取不同尺度和抽象级别的特征图。
• 异常评分网络：接受组合特征图作为输入，并将其转换为异常分数向量。
• 分类头：提供软标签以增强异常评分的鲁棒性。
• 分割网络：接受组合特征图并生成输出分割掩码，使用分割损失增强整体网络的稳定性。

4. 适应性样本重要性学习：

• 通过解决一个受约束的优化问题来更新实例权重，该问题调整个体数据实例的损失目标，以解决数据污染问题。

5. 损失函数和优化过程：

• 软偏差损失：使用异常实例的可能性而不是硬标签来调整异常分数，使其在数据污染存在的情况下学习正常与异常之间的偏差。
• 二元交叉熵损失：用于训练异常分类头，以区分正常和异常实例。
• 分割损失：使用Focal Loss定义，增强整体网络的鲁棒性和稳定性。

6. 实验验证：

• 在MVTec和VisA基准数据集上进行实验，证明所提出的方法在数据污染存在的情况下超过了竞争技术，并展示了稳定性和鲁棒性。

通过上述方法，论文成功地提出了一个能够处理数据污染问题的视觉异常检测框架，并在实验中验证了其有效性。

论文做了哪些实验？

论文中进行了一系列实验来评估所提出的自适应偏差学习（ADL）方法的性能，并与现有的一些最先进的异常检测技术进行比较。具体的实验设置和结果如下：

数据集

• MVTec Anomaly Detection dataset (MVTec AD)：包含15个物体和纹理类别的子数据集，总共5354张图像，其中1725张用于测试。每个子数据集的训练数据只包含正常样本，测试集包含正常和异常样本。
• VisA dataset：包含12个不同类别，有8659张正常图像用于训练，测试集包含962张正常图像和1200张异常图像，每张异常图像都有对应的像素级掩码。

实验设置

• 训练数据被污染，即训练数据中有ϵ比例（污染比例）的样本实际上是异常样本，但被伪装成正常数据。
• 为了公平比较，对所有其他基线方法（除了LOE）都采用了相同的污染策略。

实施细节

• 使用预训练的ResNet-18作为骨干网络来提取特征图。
• 训练模型25个周期，使用Adam优化器，学习率为2e-4。
• 其他超参数设置包括K值、先验参考分数的分布、置信区间参数γ、α-散度参数α和拉格朗日乘数λ等。

基线和指标

• 与以下最先进的异常检测技术进行比较：PatchCore、DestSeg、DRÆM和LOE。
• 使用标准的检测性能指标：图像级接收者操作特征曲线下面积（AUC-ROC）和精确度-召回曲线下面积（AUC-PR）。

实验结果

• 主要结果：在不同的污染比例（10%、15%、20%）下，所提出的方法在MVTec AD和VisA数据集上的性能超过了其他竞争基线方法。
• 鲁棒性分析：研究了训练数据中污染比例增加对MVTec和VisA数据集上评估数据性能的影响，比较了平均AUC-ROC和AUC-PR指标。
• 敏感性分析：研究了拉格朗日乘数λ和α-散度参数α对模型在不同污染水平下性能的影响。
• 消融研究：通过引入五个变体来研究提出的框架中损失目标的影响，并比较了这些变体与完整提出的模型的性能。

这些实验全面评估了ADL方法在处理数据污染问题时的有效性和鲁棒性，并与现有技术进行了比较，证明了ADL方法的优势。

论文的主要内容：

这篇论文提出了一种名为自适应偏差学习（Adaptive Deviation Learning, ADL）的框架，用于在数据污染的情况下进行视觉异常检测。以下是论文的主要内容总结：

1. 问题背景与挑战

• 视觉异常检测（VAD）旨在识别与正常模式显著不同的图像，广泛应用于工业缺陷检测等领域。
• 现实世界中的数据往往包含污染或噪声标签，这对基于干净数据训练的异常检测模型构成挑战。

2. 自适应偏差学习框架（ADL）

• 自监督鲁棒偏差学习：利用软标签从图像特征生成异常分数，并调整个体数据实例的损失目标，有效处理错误标记的样本。
• 适应性样本重要性学习：动态分配样本的相对重要性权重，以减轻污染数据的影响。

3. 核心组件

• 合成异常生成器：生成伪异常图像以增强模型对异常的识别能力。
• 特征编码网络：使用预训练的CNN提取多尺度特征图。
• 异常评分网络：将特征图转换为异常分数向量。
• 分类头：提供软标签以增强异常评分的鲁棒性。
• 分割网络：生成输出分割掩码，增强网络稳定性。

4. 损失函数与优化

• 软偏差损失：使用异常实例的可能性代替硬标签，以适应数据污染。
• 二元交叉熵损失：用于训练异常分类头。
• 分割损失：使用Focal Loss增强网络稳定性。

5. 实验验证

• 在MVTec和VisA数据集上进行实验，证明了ADL方法在数据污染情况下的有效性和鲁棒性，并与现有技术进行了比较。

6. 未来工作

• 探索异常定位和模型解释性，以增强用户对决策过程的理解。
• 将ADL方法应用于其他领域，并研究其泛化能力和实时性能。

总体而言，这篇论文通过引入自适应偏差学习框架，有效地解决了视觉异常检测中的数据污染问题，并在多个数据集上展示了其优越的性能。

2.CATCH: Complementary Adaptive Token-level Contrastive Decoding to Mitigate Hallucinations in LVLMs

标题：CATCH：补充自适应令牌级对比解码以减轻 LVLM 中的幻觉

作者：Zhehan Kan, Ce Zhang, Zihan Liao, Yapeng Tian, Wenming Yang, Junyuan Xiao, Xu Li, Dongmei Jiang, Yaowei Wang, Qingmin Liao

文章链接：https://arxiv.org/abs/2411.12713

摘要：

大型视觉语言模型 (LVLM) 系统已展现出令人印象深刻的视觉语言推理能力，但存在普遍且严重的幻觉问题，在医疗保健和自主系统等关键领域构成重大风险。尽管之前为减轻幻觉做出了努力，但一个持续存在的问题仍然存在：视觉语言错位导致的视觉缺陷，造成视觉处理能力的瓶颈。为了应对这一挑战，我们基于信息瓶颈理论开发了补充自适应令牌级对比解码以减轻 LVLM 中的幻觉 (CATCH)。CATCH 引入了用于视觉信息分离的互补视觉解耦 (CVD)、用于幻觉检测的非视觉筛选 (NVS) 以及用于缓解幻觉的自适应令牌级对比解码 (ATCD)。CATCH 解决了与视觉缺陷相关的问题，这些问题导致开放式场景中细粒度特征感知减弱和累积幻觉。它适用于各种视觉问答任务，无需任何特定数据或先验知识，并且无需额外培训即可稳健地推广到新任务，为在各种具有挑战性的应用中推进 LVLM 开辟了新的可能性。

这篇论文试图解决什么问题？

这篇论文试图解决大型视觉语言模型（LVLMs）中的幻觉问题（hallucinations）。幻觉指的是模型生成的文本内容与视觉输入不一致的现象，这在诸如医疗和自动驾驶等关键领域中可能带来重大风险。具体来说，论文中提到的幻觉问题主要源于视觉和语言信息之间的不对齐，导致视觉处理能力受限，从而产生视觉缺陷。这个问题被称为“视觉缺陷”（visual defect），它导致模型在处理整个图像时无法进行精确的视觉-语言推理，尤其是在存在大量无关信息时。此外，在开放式场景中，这种偏差会随着每个令牌生成步骤的进行而传播和累积，使得保持关键视觉信息变得越来越困难，从而阻碍了精确推理。论文提出的解决方案是开发一种名为CATCH（Complementary Adaptive Token-level Contrastive Decoding to Mitigate Hallucinations in LVLMs）的方法，该方法基于信息瓶颈理论，通过引入互补视觉解耦（Complementary Visual Decoupling, CVD）、非视觉筛选（Non-Visual Screening, NVS）和自适应令牌级对比解码（Adaptive Token-level Contrastive Decoding, ATCD）来检测和减轻由视觉缺陷引起的幻觉。

论文如何解决这个问题？

文通过提出一个名为CATCH（Complementary Adaptive Token-level Contrastive Decoding to Mitigate Hallucinations in LVLMs）的方法来解决大型视觉语言模型（LVLMs）中的幻觉问题。CATCH方法基于信息瓶颈理论，包括三个主要组件：Complementary Visual Decoupling（CVD）、Non-Visual Screening（NVS）和Adaptive Token-level Contrastive Decoding（ATCD）。以下是这三个组件的具体作用和解决方案：

1. Complementary Visual Decoupling（CVD）

• 目的：解决视觉缺陷问题，即视觉信息过载导致模型无法精确处理整个图像。
• 方法：使用Segment Anything Model（SAM）将原始视觉输入分割成两个互补的部分：双重图像（zd）和残差图像（zr）。这两个图像分别突出和隐藏对下一个令牌生成步骤重要的视觉特征。
• 效果：通过这种方式，CVD能够在每一步生成过程中分离无关信息，并创建一个稳定的解耦视觉表示。

2. Non-Visual Screening（NVS）

• 目的：识别正确的解耦图像（zd或zr），以保留关键视觉特征。
• 方法：引入一个非视觉输入（zn），仅包含文本提示，不包含任何视觉信息。通过计算非视觉输入与双重图像和残差图像的输出分布之间的Jensen-Shannon Divergence（JSD），来确定哪个图像更接近非视觉输入，从而识别出解耦图像。
• 效果：NVS能够有效地检测幻觉，并选择包含关键视觉信息的解耦图像。

3. Adaptive Token-level Contrastive Decoding（ATCD）

• 目的：在每个令牌生成步骤中对比性地减轻幻觉并增强多样性。
• 方法：根据解耦图像与原始视觉输入的输出分布之间的JSD，动态选择解码策略。如果解耦图像的JSD大于原始视觉输入，使用解耦图像的输出分布对比性地减去原始分布，减轻幻觉；如果解耦图像的JSD小于原始视觉输入，使用解耦图像的输出分布对比性地增强加权原始分布，提高生成多样性。
• 效果：ATCD能够在每个令牌生成步骤中动态调整，有效减轻幻觉并防止累积幻觉。

总的来说，CATCH方法通过解耦视觉信息、检测幻觉和动态调整解码策略，有效地减轻了LVLMs中的幻觉问题，并提高了模型在开放场景中对细粒度特征的感知能力和抗累积幻觉的能力。这种方法不需要额外的数据或训练，可以无缝集成到各种LVLMs中，并在多个基准测试中显示出显著的性能提升。

论文做了哪些实验？

论文中进行了多项实验来评估CATCH方法在减少大型视觉语言模型（LVLMs）幻觉方面的效果。以下是实验的详细情况：

1. 实验设置

• 基线模型：LLaVA-1.5 和 InstructBLIP，两者都使用 Vicuna 7B 作为语言解码器。
• 评估数据集：POPE、CHAIR 和 MME，这些数据集用于评估幻觉问题。
• 硬件配置：所有实验都在 NVIDIA RTX 3090 24GB GPU 上进行。

2. POPE数据集

• 任务：评估对象存在与否的二分类任务，包含随机、流行和对抗性三个子集。
• 结果：CATCH方法在Accuracy和F1分数上相比基线模型有显著提升，最高分别提升了8.07和5.98个百分点。

3. MME数据集

• 任务：包含存在、计数、位置和颜色四个子集，评估LVLMs的综合性幻觉问题。
• 结果：CATCH在总得分上相比基线模型LLaVa和InstructBLIP分别提升了16%和13.4%。

4. CHAIR数据集

• 任务：通过计算生成描述中幻觉对象与实际对象的比例来评估幻觉。
• 结果：CATCH在CHAIRS和CHAIRI两个指标上相比基线模型有显著提升，分别提升了45.8%和49.5%。

5. 累积幻觉分析

• 任务：分析在生成过程中累积幻觉发生的位置。
• 结果：使用CATCH的模型在生成过程中更晚出现累积幻觉，表明CATCH能有效延迟幻觉的发生。

6. 统计分析

• 任务：对1000个样本进行统计分析，比较基线模型和使用CATCH的模型在累积幻觉发生的位置分布。
• 结果：CATCH显著延迟了累积幻觉的发生，从40%的序列长度推迟到80%。

这些实验全面评估了CATCH方法在不同场景和任务下的性能，证明了其在减少幻觉和提高LVLMs鲁棒性方面的有效性。通过这些实验结果，论文展示了CATCH作为一种有效的解决方案，能够在各种视觉问答任务中减轻幻觉问题，并且具有很好的泛化能力。

论文的主要内容：

这篇论文的主要内容是关于如何减轻大型视觉语言模型（LVLMs）中的幻觉问题。幻觉问题指的是模型生成的文本内容与视觉输入不一致的现象，这在某些关键领域如医疗和自动驾驶中可能带来严重的后果。论文识别出幻觉的一个主要来源是视觉处理瓶颈，即视觉和语言信息不对齐导致的视觉缺陷。为了解决这个问题，论文提出了一个名为CATCH（Complementary Adaptive Token-level Contrastive Decoding to Mitigate Hallucinations in LVLMs）的方法，该方法基于信息瓶颈理论，包含以下三个关键组件：

1. Complementary Visual Decoupling (CVD)：通过使用Segment Anything Model (SAM)将视觉输入分割成两部分——双重图像和残差图像，以分离无关信息并创建一个稳定的解耦视觉表示。
2. Non-Visual Screening (NVS)：利用非视觉输入（仅包含文本提示）来识别正确的解耦图像，即保留关键视觉特征的图像。
3. Adaptive Token-level Contrastive Decoding (ATCD)：基于解耦图像与原始视觉输入的输出分布之间的Jensen-Shannon Divergence（JSD），动态选择解码策略以减轻幻觉并增强生成的多样性。

论文通过在POPE、MME和CHAIR等多个评估数据集上的实验验证了CATCH方法的有效性。实验结果表明，CATCH在减少幻觉和提高模型对细粒度特征的感知能力方面表现出色，并且能够显著延迟累积幻觉的发生。此外，CATCH方法不需要额外的数据或训练，可以无缝集成到各种LVLMs中，并在多个基准测试中显示出显著的性能提升。

最后，论文讨论了CATCH方法的潜在影响，并提出了未来可能的研究方向，包括模型架构优化、多模态融合技术改进、对比解码策略的进一步研究，以及CATCH在跨领域应用和实际部署中的潜力。

3.Tackling prediction tasks in relational databases with LLMs

标题： 使用LLMs解决关系数据库中的预测任务

作者： Marek Wydmuch, Łukasz Borchmann, Filip Graliński

文章链接：https://arxiv.org/abs/2304.06018

摘要：

尽管大型语言模型 ( LLMs ) 在解决众多问题上表现出了卓越的性能，但它们在关系数据库中的预测任务中的应用在很大程度上仍未得到探索。在这项工作中，我们解决了LLMs由于关系数据库的互连表、复杂关系和异构数据类型而无法在关系数据库上产生令人满意的结果的概念。使用最近推出的 RelBench 基准测试，我们证明即使是LLMs的简单应用也能在这些任务上实现具有竞争力的性能。这些发现将LLMs确立为关系数据库机器学习的一个有前途的新基线，并鼓励在这个方向进行进一步的研究。

这篇论文试图解决什么问题？

这篇论文探讨了如何将大型语言模型（LLMs）应用于关系数据库中的预测任务。具体来说，论文试图解决的问题是：

1. 关系数据库的复杂性：关系数据库由于其包含多个相互连接的表、复杂的关系（如一对多和多对多关系）以及数据类型的异质性，使得传统的机器学习方法难以直接应用。
2. LLMs在关系数据库中的性能：尽管LLMs在许多问题上表现出色，但它们在关系数据库预测任务中的应用尚未得到充分探索，论文旨在证明LLMs即使在没有针对关系数据特别训练的情况下，也能在这些任务上取得竞争性能。
3. 数据结构转换问题：在应用传统机器学习模型之前，需要将复杂的关系结构“展平”成单个表格，这一过程称为“反规范化”，通常需要人工专家进行特征工程来选择聚合函数。
4. 建立新的基线：论文通过在新引入的RelBench基准测试上的结果，展示了即使是直接应用LLMs也能在这些任务上取得竞争性能，从而为关系数据库上的机器学习任务建立了一个新的基线，并鼓励进一步的研究方向。

综上所述，论文的主要贡献在于展示了LLMs在处理关系数据库预测任务时的潜力，并提出了一种简单的方法来构建信息丰富的文档，使LLMs能够进行有效的预测。

论文如何解决这个问题？

论文通过以下步骤解决将大型语言模型（LLMs）应用于关系数据库预测任务的问题：

1. 使用RelBench基准

论文选用了RelBench这一现实且易于获取的基准，它包含了不同领域的7个关系数据库和30个预测任务。这使得研究可以在一个标准化且具有挑战性的数据集上进行。

2. 构建文档表示

提出了一种将关系数据库中的预测问题表示为文本文档的方法。每个测试样本都会被转换成包含以下三个部分的文档：

• 任务上下文：描述关系数据库和预测任务的简短文本。
• 上下文示例：来自训练表的指定数量的示例（包括预测值），以展示任务。
• 相关示例：与目标实体相关联的其他实体，通过外键与主键的链接获得。

3. 反规范化过程

通过反规范化过程，沿着外键到主键的链接，收集与所有加入过程中的实体相关的链接，并递归地选择这些表中的最多nnest个实体。这个过程可以高效地在数据库上执行，如果为所有主键和外键构建了哈希索引。

4. JSON序列化

选择JSON格式来序列化实体，因为它适合作为表格数据的文本表示，并且可以嵌套来自其他表的行。这减少了LLM进行多跳推理的需求。

5. 度量感知推理

• 对于分类任务，使用LLM输出的正类概率作为预测。
• 对于回归任务，通过采样训练集中的值来计算预测值的中位数。

6. 简单预测头

对于回归任务，除了度量感知推理外，还尝试了在小部分训练文档上训练一个小型多层感知器（MLP）头，以提高预测性能。

7. 实验比较

将提出的方法与RelBench上报告的基线（如LightGBM模型和关系深度学习方法RDL）进行比较，展示了LLMs在关系数据库预测任务中的潜力。

通过这些步骤，论文不仅展示了LLMs在关系数据库预测任务中的有效性，而且还建立了一个新的简单基线，为未来的研究提供了方向。

论文做了哪些实验？

论文中进行的实验主要包括以下几个方面：

1. 实验设置

• 使用了两个不同大小的Llama 3.2模型（1B和3B参数）进行实验。
• 对于每个任务，生成了不同组合的测试集文档，这些组合包括不同的上下文示例（ninc）、相关示例（nrel）、链接表中的嵌套行数（nnest）和关系图遍历深度（d）。
• 进行了实验以比较基础LLM推断和使用训练的MLP头部的方法。

2. 实验结果比较

• 将LLMs的结果与RelBench中的基线结果进行比较，包括LightGBM模型和关系深度学习方法（RDL）。
• 对于分类任务，使用了AUROC（Area Under the Receiver Operating Characteristic curve）作为评估指标；对于回归任务，使用了MAE（Mean Absolute Error）作为评估指标。

3. 文档参数的影响

• 研究了不同的文档生成参数对预测性能的影响，包括ninc、nrel、nnest和d的不同值。
• 对于每个参数组合，进行了单一运行的实验，并报告了使用Llama 3.2 1B模型的结果。对于3B模型，只测试了对1B模型最有效的参数组合。

4. MLP头部训练

• 对于使用MLP头部的方法，使用不同大小的训练集（ntrain）和MLP架构（单隐藏层，大小为10）。
• MLP头部使用Adam优化器进行训练，初始学习率设置为1e-4，并在100个epoch内线性衰减，权重衰减设置为1e-3。

5. 计算资源

• 实验在配备八个Nvidia H100 GPU（每个GPU有80GB内存）的计算节点上进行。所有实验都可以使用单个这样的GPU复现。

6. 扩展实验结果

• 提供了详细的结果，展示了不同文档参数组合下的LLMs性能，以及生成文档的平均令牌数。

这些实验旨在验证LLMs在关系数据库预测任务中的有效性，并与现有的基线方法进行比较。通过这些实验，论文展示了LLMs在这些任务中的潜力，并提出了一种新的方法来构建信息丰富的文档，以便LLMs能够进行有效的预测。

论文的主要内容：

这篇论文主要探讨了如何将大型语言模型（LLMs）应用于关系数据库中的预测任务。以下是论文的主要内容总结：

1. 研究背景与动机

• 尽管LLMs在许多领域表现出色，但在关系数据库预测任务中的应用尚未充分探索。
• 关系数据库因其复杂的表格关系和数据类型，使得传统的机器学习方法难以直接应用。

2. RelBench基准

• 论文使用了RelBench，一个包含多个领域关系的数据库和预测任务的基准，来评估模型性能。

3. 方法论

• 提出了一种将关系数据库预测问题转化为文本文档的方法，包括任务上下文、上下文示例和相关示例。
• 通过反规范化过程，递归地收集与实体相关的信息，并将它们序列化为JSON格式。

4. 度量感知推理

• 对于分类任务，使用LLM输出的正类概率作为预测。
• 对于回归任务，通过采样计算预测值的中位数。

5. 实验

• 将LLMs与现有的基线方法（如LightGBM和关系深度学习方法RDL）进行比较。
• 探索了不同文档生成参数对预测性能的影响。
• 尝试了在小部分训练数据上训练MLP头部以提高回归任务的性能。

6. 结果

• LLMs在分类任务上表现良好，与RDL方法相当。
• 在回归任务上，通过添加MLP头部，LLMs能够达到与RDL相似或更好的性能。
• 展示了不同任务可能需要不同上下文信息的重要性。

7. 结论与未来工作

• 论文证明了LLMs可以成功应用于关系数据库的预测任务，无需额外的微调。
• 提出了未来可能的研究方向，包括训练模型以处理表格和关系数据、智能选择信息以提高性能和减少计算成本等。

总体而言，这篇论文为LLMs在关系数据库预测任务中的应用提供了新的视角，并建立了一个新的基线，为未来的研究提供了方向。