谱聚类算法是一种常用的无监督机器学习算法,其性能优于其他聚类方法。 此外,谱聚类实现起来非常简单,并且可以通过标准线性代数方法有效地求解。 在谱聚类算法中,根据数据点之间的相似性而不是k-均值中的绝对位置来确定数据点属于哪个类别下。具体区别可通过下图直观看出:
当机器学习工具 Scikit-Learn 遇上了可视化工具 Matplotlib,就衍生出 Scikit-Plot。
从今天开始,用 21 天精通单细胞数据分析。我们将理论联系实际,边学边练,本文先从理论开始。
本篇想和大家介绍下层次聚类,先通过一个简单的例子介绍它的基本理论,然后再用一个实战案例Python代码实现聚类效果。
谱聚类(spectral clustering)是一种基于图论的聚类方法,主要思想是把所有的数据看做空间中的点,这些点之间可以用边连接起来。距离较远(或者相似度较低)的两个点之间的边权重值较低,而距离较近(或者相似度较高)的两个点之间的边权重值较高,通过对所有数据点组成的图进行切图,让切图后不同的子图间边权重和尽可能的低,而子图内的边权重和尽可能的高,从而达到聚类的目的。
层级聚类(Hierarchical Clustering)是一种基于树形结构的聚类算法,通过将数据点逐步合并成簇,最终形成一棵树形的聚类结构。层级聚类算法可以分为两种:自底向上聚类(Agglomerative Clustering)和自上向下聚类(Divisive Clustering)
本文提供了运行分布滞后非线性模型的示例,同时描述了预测变量和结果之间的非线性和滞后效应,这种相互关系被定义为暴露-滞后-反应关联。
HAVING通过在每个组的所有行上应用一些条件来过滤组。我们将其解释为只保留具有某些条件的组的一种方式。请注意WHERE和HAVING之间的区别:我们使用WHERE来过滤行,而我们使用HAVING来过滤组。在 SQL 执行查询时,WHERE在HAVING之前。
自小世界网络的概念被首次使用高聚类系数和短路径长度的结合被定量定义以来,已经过去了将近20年;大约10年前,作为连接组学新领域快速发展的一部分,这种复杂网络拓扑度量开始广泛应用于神经影像和其他神经科学数据的分析。本文简要回顾了图论方法和小世界网络生成的基本概念,并详细考虑了最近使用高分辨率轨迹追踪方法绘制猕猴和小鼠解剖网络的研究的意义。在本文章中需要区分二进制或未加权图的拓扑分析和加权图的拓扑之间的重要方法区别,前者在过去为脑网络分析提供了一种流行但简单的方法,后者保留了更多的生物学相关信息,更适合于先进的图分析和其他成像研究中出现的越来越复杂的脑连接数据。最后,本文强调了加权小世界进一步发展的一些可能的未来趋势,将此作为哺乳动物皮层各区域之间强弱联系的拓扑和功能价值研究的一部分进行了更深更广泛的讨论。本文发表在The Neuroscientist杂志。
这个工作来自于上海交通大学,发表于CVPR 2022。我们知道,三维点云配准是三维视觉以及点云相关任务中的一个关键课题。早期最具有代表性的三维点云配准的工作是ICP,其根据点匹配估计输入点云的相对位姿。近年来随着深度学习技术的发展进步,基于深度学习的三维点云配准方法成为研究的主流,并随之诞生了DeepVCP、DGR、Predator等著名的方法。但这个工作重新聚焦于非学习的策略,通过聚类策略实现了先进的性能。同时,这个工作提出了一个新颖的点云配准问题设定,称为multi-instance point cloud registration,即同时估计某个instance的源点云与多个目标instance组成的目标点云中的每个instance的相对位姿。
SCALE全称是Single-Cell ATAC-seq analysis vie Latent feature Extraction, 从名字中就能知道这个软件是通过隐特征提取的方式分析单细胞ATAC-seq数据。
最近我们被客户要求撰写关于分布滞后非线性模型(DLNM)的研究报告,包括一些图形和统计输出。
最近我们被客户要求撰写关于DLNM的研究报告,包括一些图形和统计输出。 本文提供了运行分布滞后非线性模型的示例,同时描述了预测变量和结果之间的非线性和滞后效应,这种相互关系被定义为暴露-滞后-反应关联 ( 点击文末“阅读原文”获取完整代码数据******** ) 。
执行此步骤是为了修复条形码(barcode,细胞的标识)中偶尔出现的测序错误,从而使片段与原始条形码相关联,从而提高数据质量。16bp条形码序列是从“I2”索引读取得到的。每个条形码序列都根据正确的条形码序列的“白名单”进行检查,并计算每个白名单条形码的频率。我们试图纠正不在白名单上的条形码,方法是找出所有白名单上的条形码,它们与观察到的序列之间的2个差异(汉明距离(Hamming distance)<= 2),并根据reads数据中条形码的丰度和不正确碱基的质量值对它们进行评分。如果在此模型中,未出现在白名单中的观察到的条形码有90%的概率是真实的条形码,则将其更正为白名单条形码。
2.3. 聚类 未标记的数据的 Clustering(聚类) 可以使用模块 sklearn.cluster 来实现。 每个 clustering algorithm (聚类算法)有两个变体: 一个是 class, 它实现了 fit 方法来学习 train data(训练数据)的 clusters(聚类),还有一个 function(函数),是给定 train data(训练数据),返回与不同 clusters(聚类)对应的整数标签 array(数组)。对于 class(类),training dat
判别分析是在已知研究对象分成若干类型并已经取得各种类型的一批已知样本的观测数据,在此基础上根据某些准则建立判别式,然后对未知类型的样品进行判别分析。
虽然互联网上有很多关于 OpenCV 的 Haar Cascade 对象检测模块这方面的技术资料,但这篇文章的重点是通俗易懂地解释这些概念,希望这能帮助初学者以简单的方式理解 Python 的 OpenCV 库。
Spectral Networks and Deep Locally Connected Networks on Graphs
导读:本文作者为我们详细讲述了 ICLR 2016 的最佳论文 Deep Compression 中介绍的神经网络压缩方法。
通过过去的十年的发展,普通人越来越容易进入股票市场,每天进出市场的资金量创历史新高。
NGS系列文章包括NGS基础、转录组分析 (Nature重磅综述|关于RNA-seq你想知道的全在这)、ChIP-seq分析 (ChIP-seq基本分析流程)、单细胞测序分析 (重磅综述:三万字长文读懂单细胞RNA测序分析的最佳实践教程 (原理、代码和评述))、DNA甲基化分析、重测序分析、GEO数据挖掘(典型医学设计实验GEO数据分析 (step-by-step) - Limma差异分析、火山图、功能富集)等内容。
曾老师给我分享了一篇数据挖掘的文章,里面的WGCNA非常奇怪,我之前没见过这样的模块与表型的相关性热图
聚类分析用于发现局部强相关的对象组,而异常检测用来发现不与其他对象强相关的对象。 因此,聚类分析可以用于离散度检测。
spectral clustering,称之为谱聚类算法,和近邻传播AP算法一样,也是基于图论的算法,都是将样本点两两相连,构成图这一数据结构,不同的是,谱聚类是通过切图的方式来划分不同的cluster, 其思想是使得子cluster内部边的权重之和尽可能高,而不同子cluster之间边的权重之和尽可能低。
为了消除数据特征之间的量纲影响,我们需要对特征进行归一化处理,使得不同指标之间具有可比性。例如,分析一个人的身高和体重对健康的影响,如果使用米(m)和千克(kg)作为单位,那么身高特征会在1.6~1.8m的数值范围内,体重特征会在50~100kg的范围内,分析出来的结果显然会倾向于数值差别比较大的体重特征。想要得到更为准确的结果,就需要进行特征归一化(Normalization)处理,使各指标处于同一数值量级,以便进行分析。
小编邀请您,先思考: 1 有哪些算法可以聚类?各自有什么特点? 2 聚类算法的效果如何评价? 1 定义 聚类是数据挖掘中的概念,就是按照某个特定标准(如距离)把一个数据集分割成不同的类或簇,使得同一个簇内的数据对象的相似性尽可能大,同时不在同一个簇中的数据对象的差异性也尽可能地大。也即聚类后同一类的数据尽可能聚集到一起,不同类数据尽量分离。 2 聚类过程 数据准备:包括特征标准化和降维; 特征选择:从最初的特征中选择最有效的特征,并将其存储于向量中; 特征提取:通过对所选择的特征进行转换形成新的突出特征;
时间分辨多变量模式分析(MVPA)是一种分析磁和脑电图神经成像数据的流行技术,它量化了神经表征支持相关刺激维度识别的程度和时间过程。随着脑电图在婴儿神经成像中的广泛应用,婴儿脑电图数据的时间分辨MVPA是婴儿认知神经科学中一个特别有前途的工具。最近,MVPA已被应用于常见的婴儿成像方法,如脑电图和fNIRS。在本教程中,我们提供并描述了代码,以实现婴儿脑电图数据的MVPA分析。来自测试数据集的结果表明,在婴儿和成人,这种方法具有较高的准确性。同时,我们对分类方法进行了扩展,包括基于几何和基于精度的表示相似度分析。由于在婴儿研究中,每个参与者贡献的无伪影脑电图数据量低于儿童和成人研究,我们还探索和讨论了不同参与者水平的纳入阈值对这些数据集中产生的MVPA结果的影响。
多模态磁共振成像(MRI)通过促进对大脑跨多尺度和活体大脑的微结构、几何结构、功能和连接组的分析,加速了人类神经科学。然而,多模态神经成像的丰富性和复杂性要求使用处理方法来整合跨模态的信息,并在不同的空间尺度上整合研究结果。在这里,我们提出了micapipe,一个开放的多模态MRI数据集的处理管道。基于符合bids的输入数据,micapipe可以生成i)来自扩散束造影的结构连接组,ii)来自静息态信号相关性的功能连接组,iii)量化皮层-皮层邻近性的测地线距离矩阵,以及iv)评估皮层髓鞘代理区域间相似性的微观结构轮廓协方差矩阵。上述矩阵可以在已建立的18个皮层包裹(100-1000个包裹)中自动生成,以及皮层下和小脑包裹,使研究人员能够轻松地在不同的空间尺度上复制发现。结果是在三个不同的表面空间上表示(native, conte69, fsaverage5)。处理后的输出可以在个体和组层面上进行质量控制。Micapipe在几个数据集上进行了测试,可以在https://github.com/MICA-MNI/micapipe上获得,使用说明记录在https://micapipe.readthedocs.io/,并可封装作为BIDS App http://bids-apps.neuroimaging.io/apps/。我们希望Micapipe将促进对人脑微结构、形态、功能、和连接组的稳健和整合研究。
看这个之前,可以先看WGCNA的一些理论背景知识 看完整个之后可以去看WGCNA关键模块和hub基因筛选
无监督学习(Unsupervised Learning)是一类机器学习任务,其中算法在没有标签的情况下,从未标记的数据中学习模式和结构。与有监督学习不同,无监督学习不依赖于预定义的输出,而是从数据本身提取信息,用于发现数据的内在规律和特征。
BIRCH(Balanced Iterative Reducing and Clustering using Hierarchies)是一种用于大规模数据集上的层次聚类算法。该算法于1996年首次提出,目的是在不牺牲聚类质量的前提下,减少大数据聚类问题的计算复杂性。
本系列是机器学习课程的系列课程,主要介绍机器学习中分类回归和聚类算法中的评价函数。
校园的温情关怀是智慧校园的一项重要内容。通过大数据与数据挖掘技术对学生日常校园内的消费信息进行快速筛选和比对,建立大数据模型,对校园内需要帮助的同学进行精准识别,为高校温情关怀提供有效的数据依据。
加权基因表达网络分析(Weighted gene co-expression network analysis, WGCNA),又叫权重基因共表达网络分析,其根本思想是根据基因表达模式的不同,挖掘出相似表达模式的基因,定义为模块(module)的一种算法。具有相似表达模式的基因很可能是紧密共调控的,功能紧密相关的或同一条信号通路或过程的成员,有其特定的生理意义。芯片原始数据由R语言预处理后,得到基因表达数据,然后由maSigPro包处理得到整个肝再生过程和肝癌发生发展过程中的差异表达用来构建加权基因共表达网络。然后根据基因表达的相似性(共表达的基因)把网络分成几个模块,把每个模块和外部特征(比如时间点,病理进程等)进行关联,同时和maSigPro结果进行对比,鉴定模块中的关键基因(driver gene或hub gene),进行可视化。
图像包含大量冗余信息,这使得在大规模上高效地从图像中学习表示变得具有挑战性。最近的工作通过在视觉-语言对比学习过程中 Mask 图像块来解决这个问题[15, 33, 36, 70]。一种简单的方法是随机丢弃大量图像块,通过减少每次训练迭代的计算成本和内存使用来提高训练效率[36]。另一种策略是 Mask 语义相关的图像块集合[15, 33, 70],比如属于同一物体的块。这迫使学习到的模型从上下文中预测描述缺失场景结构的单词,从而改进了学习的表示。然而,这种方法需要单独的机制来将语义相关的块分组在一起,这增加了学习过程的复杂性并且计算成本高昂。
用功能磁共振研究任务依赖的功能连接(FC)的调制对于揭示认知过程的神经性基质非常关键。目前大多研究方法假设任务期间是持续的FC,但最近研究发现这种假设太局限。虽然很多研究聚焦于静息态的功能动态,但基于任务的研究仍没有完全揭开网络调制。 此处,我们提出一个基于种子的方法通过揭示共激活模式的心理生理交互(PPI-CAPs)来探测任务依赖的脑活动调节。这个基于点过程的方法将任务调制的连接时间上分解为动态模块,这种动态模块当前的方法都无法捕捉,如PPI或动态因果模型。另外,它确定了单个frame分辨率共激活模式的出现,而非基于窗的方法。 在一个受试者看电视节目的自然设置中,我们找到了以后扣带回(PCC)为种子的共激活的几个模式,其发生率和极性在种子活动上或两者之间的交互上随观看的内容而改变。另外,我们发现跨时间和受试者的有效连接的一致性,让我们得以揭示PPI-CAPs和包含在视频中具体刺激之间的联系。 我们的研究表明,明确地追踪瞬态连接模式对于促进我们理解大脑不同区域在接收到一系列线索时是如何动态沟通的至关重要。
经典的聚类算法K-means是通过指定聚类中心,再通过迭代的方式更新聚类中心的方式,由于每个点都被指派到距离最近的聚类中心,所以导致其不能检测非球面类别的数据分布。虽然有DBSCAN(density-based spatial clustering of applications with noise)对于任意形状分布的进行聚类,但是必须指定一个密度阈值,从而去除低于此密度阈值的噪音点。
1. 聚类的基本概念 1.1 定义 聚类是数据挖掘中的概念,就是按照某个特定标准(如距离)把一个数据集分割成不同的类或簇,使得同一个簇内的数据对象的相似性尽可能大,同时不在同一个簇中的数据对象的差异性也尽可能地大。也即聚类后同一类的数据尽可能聚集到一起,不同类数据尽量分离。 1.2 聚类与分类的区别 Clustering (聚类),简单地说就是把相似的东西分到一组,聚类的时候,我们并不关心某一类是什么,我们需要实现的目标只是把相似的东西聚到一起。因此,一个聚类算法通常只需要知道如何计算相似度就可以开
全称 IEEE Transactions on Visualization and Computer Graphics (TVCG),是计算机图形学领域仅次于TOG (ACM Transactions on Graphics) 的顶级期刊
FateID是用于定量单细胞转录组数据集中细胞命运偏倚的方法,所述数据集包含从共同祖先(Herman,Sagar和 Grün2018)产生的不同细胞类型。预期祖先群体是数据集的一部分,并且FateID算法被设计用于学习每个祖细胞对一个或多个替代终端命运的预先存在的偏差。该算法的策略是应用迭代随机森林分类(Breiman 2001),以便使用在先前迭代中被分类为训练集的细胞来量化越来越年幼的祖细胞中的命运偏倚。
从非结构化数据中提取有用的信息一直是研究界极为关注的话题。图像就是一种这样的非结构化数据,图像数据分析在商业的各个方面都有应用。
单细胞RNA测序技术的发展加深了我们对于细胞作为功能单元的理解,不仅能基于成百到成千上万个单细胞的基因表达谱得到新的结论,还能发现新的具有特异基因表达谱的细胞群(这在传统转录组测序数据中是很难发现的)。
常见的为欧式距离(L1 norm)&&p=2,拓展的可以有闵可夫斯基距离(L2 norm)&&p=1:
它是一款由Intel公司俄罗斯团队发起并参与和维护的一个计算机视觉处理开源软件库。
机器学习算法已经被广泛应用于自动驾驶各种解决方案,电控单元中的传感器数据处理大大提高了机器学习的利用率,也有一些潜在的应用,比如利用不同外部和内部的传感器的数据融合(如激光雷达、雷达、摄像头或物联网),评估驾驶员状况或为驾驶场景分类等。 在KDnuggets网站最近发表的一篇文章中,作者Savaram Ravindra将自动驾驶中机器学习算法主要分为四类,即决策矩阵算法、聚类算法、模式识别算法和回归算法。 我们跟他一起看看,这些算法都是怎样应用的。 算法概览 我们先设想这样一个自动驾驶场景——汽车的信息
利用聚类分析方法进行图像分类使用较多的是动态聚类法。在系统聚类法中,对于那些先前已被“错误”聚类的样本,将不再提供重新聚类的机会,而动态聚类法却允许样本从一个类移动到另一个类中。此外与建立在距离矩阵基础上的系统聚类法相比,动态聚类具有计算量小,占用计算机内存较少和方法简单的优点。
安妮 唐旭 编译自 KDnuggets 量子位出品 | 公众号 QbitAI 机器学习算法已经被广泛应用于自动驾驶各种解决方案,电控单元中的传感器数据处理大大提高了机器学习的利用率,也有一些潜在的应用,比如利用不同外部和内部的传感器的数据融合(如激光雷达、雷达、摄像头或物联网),评估驾驶员状况或为驾驶场景分类等。 在KDnuggets网站最近发表的一篇文章中,作者Savaram Ravindra将自动驾驶中机器学习算法主要分为四类,即决策矩阵算法、聚类算法、模式识别算法和回归算法。 我们跟他一起看看,这些算
机器学习算法已经被广泛应用于自动驾驶各种解决方案,电控单元中的传感器数据处理大大提高了机器学习的利用率,也有一些潜在的应用,比如利用不同外部和内部的传感器的数据融合(如激光雷达、雷达、摄像头或物联网),评估驾驶员状况或为驾驶场景分类等。在KDnuggets网站发表的一篇文章中,作者Savaram Ravindra将自动驾驶中机器学习算法主要分为四类,即决策矩阵算法、聚类算法、模式识别算法和回归算法。我们跟他一起看看,这些算法都是怎样应用的。
最近我们被客户要求撰写关于有限混合模型聚类FMM的研究报告,包括一些图形和统计输出。
广义的基因有6w+个,包括lncRNA、miRNA等等,每年可能都有个别基因增增减减的情况,累计在一起,就存在基因库版本的差异,10年前查到的和今年的可能不一样,所以旧的数据仍然可以有新的解释,同一个数据集也可以在和其他数据集用不同的思路分析
领取专属 10元无门槛券
手把手带您无忧上云