大型语言模型（LLM）和预训练基础模型（PFM）在自然语言处理（NLP）、计算机视觉（CV）等领域有广泛应用。时间序列和时空数据本质上都是时间数据，将这两个广泛且内在联系的数据类别的研究结合起来至关重要。尽管深度学习和自监督预训练方法在时间序列和时空数据分析领域逐渐取得进展，但统计模型仍占主导地位。
时间序列分析是一个重要领域，涵盖从天气预报和到使用心电图检测不规则心跳，再到识别异常软件部署等一系列广泛应用。
像 ChatGPT 这样的大型语言模型（LLM）是在过去几年中开发的深度神经网络模型。它们引领了自然语言处理（NLP）的新时代。在大型语言模型出现之前，传统方法擅长于分类任务，如电子邮件垃圾分类和可以通过手工制作的规则或简单模型捕获的简单模式识别。然而，在需要复杂理解和生成能力的语言任务方面，例如解析详细说明、进行上下文分析或创建连贯且上下文适当的原始文本时，它们通常表现不佳。例如，以前的语言模型无法根据关键字列表编写电子邮件-这对于当代 LLM 来说是微不足道的任务。
研究数据集以查看哪些变量具有相关性时，这是我首先执行的任务之一。这使我更好地了解我正在处理的数据。这也是培养对数据的兴趣并建立一些初步问题以尝试回答的好方法。
选自arXiv 作者：Timo Schick等 机器之心编译 编辑：袁铭怿、小舟 单一的大型语言模型或许无法实现 AGI，但如果它学会使用其他工具呢？ 在自然语言处理任务中，大型语言模型在零样本和少样本学习方面取得了令人印象深刻的结果。然而，所有模型都存在固有的局限性，往往只能通过进一步扩展来部分解决。具体来讲，模型的局限性包括无法访问最新信息、会对事实产生「信息幻觉」、低资源语言理解困难、缺乏进行精确计算的数学技能等等。 解决这些问题的一种简单方法就是给模型配备外部工具，如搜索引擎、计算器或日历。然而，现
本杂志开源（GitHub: ShixiangWang/weekly[1]），欢迎提交 issue，投稿或推荐生信相关内容。
10 月 2 日，深度学习领域顶级会议 ICLR 2021 论文投稿结束，一篇将 Transformer 应用于图像识别的论文引起了广泛关注。
数据集可以讲述很多故事。要想了解这些故事的展开，最好的方法就是从检查变量之间的相关性开始。在研究数据集时，我首先执行的任务之一是查看哪些变量具有相关性。这让我更好地理解我正在使用的数据。这也是培养对数据的兴趣和建立一些初始问题来尝试回答的好方法。简单地说，相关性是非常重要的。
在GEO公共数据检索的时候，发现有一个数据集想要分析，但是发现是二代测序的数据，没有相关的原始数据处理经验，要怎么办呢？
语言建模的新时代已经到来，大型语言模型（LLM）能力非凡，不仅能理解自然语言，甚至能根据用户需求生成定制代码。
似乎在一夜之间，每个IT企业的待办事项清单以及招聘启事都包含了生成式AI，基于大模型的应用已经在改变人们的工作、学习、写作、设计、编码、旅行和购物的方式，而且可能只是冰山一角。
今天我们介绍由北京邮电大学网络和交换技术国家重点实验室的王光宇等学者发表在arXiv上的工作，该工作提出ClinicalGPT，一个明确为临床场景设计和优化的语言模型。通过在培训过程中整合广泛和多样化的真实世界数据，如医疗记录、特定领域知识和多轮对话咨询，ClinicalGPT可以更好地处理多种临床任务。此外，该工作还引入了一个综合评估框架，包括医学知识问答、医学检查、患者咨询和医疗记录的诊断分析。结果表明，ClinicalGPT在这些任务中的表现明显优于其他模型，突出了ClinicalGPT在将大型语言模型适应医疗保健关键领域方面的有效性。
但是由于缺乏大型且整合的公开时间序列数据，所以在时间序列数据上预训练大型模型具有挑战性。为了应对这些挑战，MOMENT团队整理了一个庞大而多样的公共时间序列集合，作者将其称为Time-series Pile。代码地址我们会在文章的最后贴出来。
本文提供了一个使用开源神经影像数据集的协议。涵盖了一个公开数据项目的所有阶段，包括数据的下载到结果的撰写，以及在公共存储库和预印本上共享数据和结果。
---- 新智元报道 编辑：LRS 【新智元导读】OpenAI发布全新隐式text-to-3D模型Shap-E，速度依然炸裂，不过生成性能略有不足。 去年12月，OpenAI曾发布Point-E模型，只需几秒钟即可根据文本生成3D资产，相比竞品模型DreamFusion提速大约600倍。 最近OpenAI再次发布了一款升级模型Shap-E，相比基于点云的显式生成模型Point-E，Shap-E直接生成隐函数的参数来渲染纹理网格和神经辐射场，收敛速度更快，在更高维的多表示输出空间中实现了更好的样本质
大型语言模型（LLM）在理解自然语言和生成程序代码方面展现出了非凡的性能，程序员们也开始在编码过程中使用Copilot工具辅助编程，或是要求LLM生成解决方案。
这个数据集常用于数据概述、可视化和聚类模型。它包括三个鸢尾花品种，每个品种有50个样本，以及一些属性。其中一个花种与其他两个花种是线性可分离的，但其他两个花种之间不是线性可分离的。
论文: An Image is Worth 16x16 Words: Transformers for Image Recognition at Scale
16S流程的选择还真不少，除了引用最多的qiime流程，u/vsearch（usearch是一人一已之力单挑学术界）和mothur（用的人越来越少的感觉），最近又发现了一两个流程，一并分享给大家。
距离EMNLP2023放榜已经有两周了，相关接收论文也正在陆陆续续地更新。虽迟但到，最近抽时间看了下已接收的论文，整理了十篇还不错的文章给大家分享一下，主要涉及：大模型微调（微调7B模型性能堪比175B）、中文拼写检查、数据合成、问题生成、开放QA问答、Transformer改进（涉及MASFormer、SRformer）、多跳QA问答、知识反思等。
时间序列预测问题是预测建模问题中的一种困难类型（点击文末“阅读原文”获取完整代码数据）。
OpenKG地址：http://openkg.cn/dataset/rjua-qadatasets
选自arXiv 机器之心编译 参与：刘晓坤、路雪 本文通过在深度神经网络中引入一种新型众包层（crowd layer），通过反向传播方式，直接利用噪声标签实现端到端的训练。该方法可获取不同标注者的可信
模型表现差异很大的可能原因是什么？换句话说，为什么在别人评估我们的模型时会失去稳定性？
作者：Molly Ruby 翻译：张睿毅校对：闫晓雨 本文约3000字，建议阅读5分钟简要介绍让你耳朵听到起茧的聊天机器人背后的直觉和方法论。 这篇对赋能ChatGPT的机器学习模型的简要介绍，将从大型语言模型(LLM)开始，进而探讨使GPT-3得到训练的革命性的自注意力机制 (self-attention mechanism)，之后研究人类反馈强化学习 (Reinforcement Learning From Human Feedback, RLHF)——使ChatGPT与众不同的创新技术。 大型语
就易用性而言，对比传统的MapReduce API，Spark的RDD API有了数量级的飞跃并不为过。然而，对于没有MapReduce和函数式编程经验的新手来说，RDD API仍然存在着一定的门槛。
机器之心报道 机器之心编辑部 如果你有 100 万个 GPU hour，你会训练什么样的语言模型？ 到昨天为止，大模型「BigScience」已训练了 5%。 这个模型仅 bf16 权重就有 329GB，正在用 384 块 A100 进行训练，吞吐量每秒约 150TFLOPS。 好消息是，训练损失正在下降： 与很多公司未开源大模型不同的是，BigScience 模型训练的参数所有人都可见，根据项目组织者的预测，距离完成目标还有三个月的时间。 人工智能给人类社会带来了根本性的影响，但与互联网的兴起不同，
在当前的数据驱动时代，大量的数据需要在不同系统和应用程序之间进行交换和共享。这些数据可能来自于不同的源头，如传感器、数据库、文件等，具有不同的格式、大小和结构；不同系统和编程语言的运行环境也可能存在差异，如操作系统、硬件架构等，进一步增加了数据交换的复杂度和难度。为了将这些数据有效地传输和处理，需要一个高性能的数据交换格式，以提高数据交换和处理的速度和效率。传统上，数据交换通常采用文本格式，如CSV、XML、JSON等，但它们存在解析效率低、存储空间占用大、数据类型限制等问题，对于大规模数据的传输和处理往往效果不佳。因此，需要一种高效的数据交换格式，可以快速地将数据从一个系统或应用程序传输到另一个系统或应用程序，并能够支持不同编程语言和操作系统之间的交互。
TLDR: 针对当前利用大语言模型来执行推荐任务时存在的不能有效处理ID信息的挑战，本文提出了一种高效可扩展的大语言模型序列推荐框架，其能够高效的结合传统基于ID的推荐模型。实验展示了其有效性、高效性和可扩展性。
文章：i-Octree: A Fast, Lightweight, and Dynamic Octree for Proximity Search
摘要 背景：前列腺癌是男性中第二常见的癌症。发展基于基因的分类方法是迫切的要求。我们的目标是建立基因分型。 方法：我们使用了四个前列腺癌数据集。癌症基因组图谱（TCGA）RNA-Seq数据用于训练分类器。基于分类器的三个亚型被测试是否具有临床数据存在显着差异。其他三组按分类器分类并验证。 结果：分类器有183个基因。前列腺癌亚型1（PCS1）的特征是高 GSTP1的表达，Gleason评分较低（P <0.001）。 PCS2有更高的Gleason评分，更多的淋巴淋巴结侵袭（P = 0.005）和病理T期（
计算的发展为探索天然产物的潜在多样性提供了新手段，揭示了其药物研发方面的新潜力。 与此同时，人工智能方法同样也突飞猛进，在生物活性预测和药物设计领域都取得了很大的进展。本文介绍一篇发表于9月11日的综述。主要介绍了当前天然产物领域AI的发展以及面临的挑战。
今天为大家介绍的是来自James J. Collins团队的一篇论文。自动化机器学习（AutoML）算法可以解决将ML应用于生命科学时面临的许多挑战。然而，由于这些算法通常不明确处理生物序列（如核苷酸、氨基酸或糖肽序列），且不容易与其他AutoML算法进行比较，它们在系统和合成生物学研究中很少被使用。在这里，作者介绍了BioAutoMATED，这是一个用于生物序列分析的AutoML平台，将多个AutoML方法集成到一个统一的框架中。用户可以自动获得分析、解释和设计生物序列的相关技术。BioAutoMATED可以预测基因调控、肽-药物相互作用和糖肽注释，并设计优化的合成生物学组件，揭示突出的序列特征。通过自动化序列建模，BioAutoMATED使生命科学家更容易将ML应用到他们的工作中。
近日，阿里 AI 开源了新一代人机对话模型 Enhanced Sequential Inference Model（ESIM）。ESIM 是一种专为自然语言推断而生的加强版 LSTM，据阿里介绍，该算法模型自 2017 年被提出之后，已被谷歌、facebook 在内的国际学术界在论文中引用 200 多次，更曾在国际顶级对话系统评测大赛（DSTC7）上获得双料冠军，并将人机对话准确率的世界纪录提升至 94.1%。
时间序列预测在零售、金融、制造业、医疗保健和自然科学等各个领域无处不在：比如说在零售场景下中，「提高需求预测准确性」可以有显著降低库存成本并增加收入。
作者 | 费棋 近日， ApolloScape 宣布开放了大规模自动驾驶数据集。 它是 Apollo 自动驾驶项目的一个研究型项目，旨在促进自动驾驶的各方面创新，号称是世界上最大自主驾驶技术开源数据集。 根据 ApolloScape 官方介绍，它开放了对像素级标注的场景解析数据集和仿真工具的访问，并将定期添加新的数据集和新功能。 ▌场景解析数据集 场景解析是自动驾驶的核心能力，他们通过高精度车载传感器采集并标注了大量道路场景。ApolloScape 发布的整个数据集包含数十万帧逐像素语义分割标注的高分辨
这篇论文是 2017 年在 IEEE 神经系统与康复工程学报上发布的一篇关于睡眠分阶的论文。这篇论文的主要贡献有：
文章：TJ4DRadSet: A 4D Radar Dataset for Autonomous Driving
机器翻译是一项具有挑战性的任务，包含一些使用高度复杂的语言知识开发的大型统计模型。 神经机器翻译的工作原理是——利用深层神经网络来解决机器翻译问题。 在本教程中，你将了解如何开发一个神经机器翻译系统，
Lag-Llama 是由 LLaMA 团队开发的时间序列基础模型，于2023年发布后迅速受到人工智能界的关注。这些预训练的模型经过大量时间序列数据的预训练，具备了存储不同频率和长度的时间序列数据的一般数据模式的能力，因此能够识别未见过的数据模式，且无需进行大量的微调。对于大型时间序列基础模型进行进一步微调，可以使它们实现与非基础模型相当的预测能力。
TableBank 开源地址：https://github.com/doc-analysis/TableBank
本文共3400字，建议阅读10+分钟。 本文介绍了ARIMA的概念，并带你用Python和R训练一个数据集实现它。
来源：机械鸡（ID:jixieji2017） 本文长度为3216字，建议阅读6分钟 本文为你介绍八个短时间可以完成的趣味机器学习项目。 抽时间做项目是最好的一种投资方式，在项目中你会享受学习、保持积极性并能获得更快的进展。没有任何理论可以代替实践，虽然教材和课程能让你掌握一些基本原理，但在尝试应用时，你会发现具体操作起来比较困难。 因此项目有助于提高应用机器学习的技巧，此外在找工作中也会给自己增添一些筹码。 以下将具体介绍这八个项目，每个项目都能在一个周末完成，如果你喜欢的话，可以对其进行相关的扩展。
卫星的应用十分广泛，许多行业每天都依赖其运作。我们通常会根据高度把人造地球卫星运行的轨道简单地分类为低轨道（200千米～2000千米）、中轨道（2000千米～20000千米）和高轨道（20000千米以上）。
这项工作已获得Creative Commons Attribution-ShareAlike 4.0 International协议的许可。这意味着您可以复制，共享和修改作品，只要结果以相同的许可证分发即可。本教程由Mobolaji Adeolu（adeolum@mcmaster.ca），John Parkinson（john.parkinson@utoronto.ca）和Xuejian Xiong（xuejian@sickkids.ca）制作。
同时定位与地图重建（Simultaneous Localization and Mapping, SLAM）,是机器人领域中的一项基础的底层技术，其希望机器人能在一个陌生的环境下实现自身的实时定位，同时能够重建出有关于环境的地图。随着近年无人驾驶、增强现实、虚拟现实等应用的兴起，作为实现这些应用的SLAM技术也越发引人注目。SLAM技术主要完成两项任务：自身定位与环境建图，也是让机器知道自己在哪里，已经周围的环境是啥。然而，如果想要精确的实现定位任务就不可避免的需要高精度的地图，而高精度的地图重建是需要以更为精确的自身定位作为基础的。 近年以来，除了传统的激光SLAM解决方案，基于视觉，基于惯性传感器等等的解决方案也在不断变多，整个SLAM领域整体呈现百花齐放的态势。 一. 目前在SLAM领域中的关键问题： 1、数据关联：SLAM技术在未来的发展过程中必然会有一个方向是将SLAM系统中集成多传感器，进行多传感器的融合任务。但是显而易见的是不同的传感器之间具有不同的特征，目前的很多SLAM研究人员都转向了研究多传感器SLAM中的传感器校准（例如自校准或者快速标定等内容），状态估计和后端BA优化。 2、 多机SLAM联合建图：目前在小范围内已有的若干SLAM系统大多都能获得比较好的效果，但是面对大规模，长时间的SLAM问题，如果只采用单机SLAM系统则获得良好的效果，此时通过分散的多机SLAM系统来解决大场景，长时间的SLAM任务将会是一个比较合适的选择，属于比较前沿的SLAM研究方向。 3、 高清晰度、信息量丰富的地图：SLAM技术作为机器人领域的一项底层基础技术，需要根据上层应用程序需要提供一张具有丰富信息的地图，其中比较具有代表性的地图形式就是拓扑地图，语义地图，以及点云地图等等；同时当SLAM系统的面对大场景，长时间的情况时，采用何种方式来存储更新地图也将是一个迫切需要解决的问题。 3、目前SLAM技术仍然面对着更强适应性、鲁棒性、可扩展性的要求。 4、适合的SLAM应用：目前SLAM技术具有广泛的应用场景，但是许多SLAM系统依然处在实验室研究阶段，缺乏合适的工程工具进行封装，需要我们继续完善SLAM的应用生态。 二. SLAM领域中的经典数据集： 1.KITTI数据集（单目视觉 ,双目视觉, velodyne, POS 轨迹）
教科书和课程会让你误以为精通，因为材料就在你面前。但当你尝试去应用它时，可能会发现它比看起来更难。而「项目」可帮助你快速提高应用的 ML 技能，同时让你有机会探索有趣的主题。
领取专属 10元无门槛券
手把手带您无忧上云
云服务器
ICP备案
实时音视频
即时通信 IM
对象存储
