umap：一个小巧而强大的Python库，探索高维数据的降维与可视化

Python兴趣圈

发布于 2024-02-28 17:56:25

1.2K0

发布于 2024-02-28 17:56:25

文章被收录于专栏：翩翩白衣少年

引言

在数据科学和机器学习领域，我们经常面对高维数据的挑战。高维数据不仅难以理解和可视化，而且会增加计算复杂性。

为了解决这一问题，我们可以利用降维技术 将高维数据映射到低维空间，以便更好地理解数据结构和进行进一步分析。

本篇文章小编将为小伙伴们介绍umap库，这是一个强大的Python第三方库，用于降维和可视化高维数据。

介绍

umap（Uniform Manifold Approximation and Projection） 是一种非线性降维技术，它能够在保留数据结构的同时将高维数据映射到低维空间。

工作原理：

umap基于一种称为“流形学习”的技术，该技术假设高维数据存在于一个低维流形上。通过在低维空间中找到数据的最佳表示。

umap算法结合了局部邻域结构和全局拓扑信息，能够更好地捕捉数据的非线性结构。并且提供了简单易用的接口，可以帮助用户快速进行数据降维和可视化操作。

它核心算法基于一种随机邻域嵌入（Random Neighborhood Embedding，RNE）方法。该方法通过构建数据点的邻域图，并在低维空间中找到保持邻域关系的最优映射。

主要功能：

• 降维：将高维数据映射到低维空间，同时保留数据的全局结构。
• 可视化：通过将降维后的数据映射到二维或三维空间，可以创建数据的可视化表示。
• 邻域保留：umap 试图保留数据点之间的邻域关系，从而保持数据的局部结构。
• 可扩展性：umap 可以处理大规模数据集，并且在计算效率方面表现良好。

使用及应用

首先，我们需要安装umap库。可以使用pip来进行安装：

pip install umap-learn

接下来，我们可以使用UMAP库来对高维数据进行降维和可视化。下面是一个简单的示例代码：

import umap
from sklearn.datasets import load_digits
from sklearn.datasets import make_moons
import matplotlib.pyplot as plt

# 手写数字数据集
digits = load_digits()
data = digits.data
target = digits.target

# 使用UMAP进行降维
reducer = umap.UMAP()
embedding = reducer.fit_transform(data)

# 可视化降维后的数据
plt.scatter(embedding[:, 0], embedding[:, 1], c=target, cmap='Spectral', s=5)
plt.colorbar()
plt.show()


# 生成一个包含两个聚类的模拟数据集
X, y = make_moons(n_samples=2000, noise=0.05)

# 使用 UMAP 进行降维
reducer = umap.UMAP(n_components=2)
embedding = reducer.fit_transform(X)

# 可视化降维结果
plt.figure(figsize=(8, 6))
plt.scatter(embedding[:, 0], embedding[:, 1], c=y, cmap='viridis')
plt.title('UMAP Projection of Moon Data')
plt.show()

通过上面的代码，我们可以将手写数字数据集降维到二维空间，并用散点图展示数据的分布情况。

它还提供了许多参数和选项，可以根据具体需求对降维过程进行调整和优化。

umap在数据分析、聚类、分类、异常检测等领域都有广泛的应用。通过降维和可视化高维数据，我们可以更好地理解数据特征和结构，从而为后续的分析和建模工作提供更好的基础。