人工不智能之sklearn聚类
线性回归是一种有监督算法，提供了输入数据x和参考目标值y，参考目标提供了一种纠错机制，是对预测结果y_的监督，如果y和y_相差过大，说明拟合的模型可能存在问题。线性回归有明确的损失函数，用来衡量参考目标值和预测值的差异，模型的目标就是最小化损失函数的值。
聚类是无监督算法，只提供了输入数据x，而没有参考目标y。聚类的目标就是将输入数据进行分类，距离接近的放到一个分类，距离远的就分开。那如何用数学语言来衡量聚类的目标呢？
聚类算法中最简单也是最常见的算法就是Kmeans算法。Kmeans算法将聚类的目标定义为寻找最佳的K个中心点。就好比你要在K个城市开肯德基，你应该选择每个城市中心地点来开设，这样距离人群的平均距离最近。一旦有了K个中心点，那么对于任意输入数据，我们计算它和所有中心点之间的距离，取最近的中心点作为其类别即可。也就是说客户总是要要选择最近的肯地基点去用餐。
Kmeans算法必须由人工指定聚类的数量K，然后算法会自动去寻找最佳的K个中心点，并将输入数据点归类。至于如何确定K，真实的数据往往是不能像上图那样肉眼就可以观察出有几个分类。真实的数据往往是多维数据结构，难以使用图形来直接呈现的。
Kmeans算法必须由人工指定初始中心，然后算法使用迭代的方式来移动这K个中心点，最终收敛到最佳中心点位置。这个最佳中心点是和初始点的位置相关的，也就是说初始的选择会影响到最终的中心点的结果。
确定初始中心也有相应的算法，不过不在本文的讨论范围。
那K到底该如何确定呢？这个也不在本文的讨论范围，小编后续再讲。这里就假设我们已经知道了K是多少，然后使用Kmeans算法来把输入数据点划分为最佳的K个堆。
接下来，我们使用sklearn提供的KMeans模块来实践一下。KMeans模块默认提供了确定初始中心点的算法，用户可以不必关心中心点初始化的问题，但是用户必须指定K值。
我们先随机构造出K个数据堆，并用图形呈现出来。
- 先随机出K个中心点
- 对每个中心点周围再随机出N个点
# -*- coding: utf-8 -*-
import random
import matplotlib.pyplot as plt
k = 5
# 先随机出中心点
centerx = []
for i in range(k):
x = 100 * random.random()
y = 100 * random.random()
centerx.append((x, y))
points = []
# 然后在每个中心点的周围随机100个点
for x, y in centerx:
for i in range(100):
px = x + random.random() * 20 - 10
py = y + random.random() * 20 - 10
points.append((px, py))
plt.scatter([px for px, py in points], [py for px, py in points], marker='.')
plt.scatter([x for x, y in centers], [y for x, y in centers], marker='+')
plt.show()这个程序并不总是能随机出边界比较清晰的5个数据堆，多试几次，甚至要试很多次。
然后我们用KMeans模块来聚类这个数据堆。
# -*- coding: utf-8 -*-
import random
import matplotlib.pyplot as plt
from sklearn.cluster import KMeans
k = 5
centers = []
for i in range(k):
x = 100 * random.random()
y = 100 * random.random()
centers.append((x, y))
points = []
for x, y in centers:
for i in range(100):
px = x + random.random() * 20 - 10
py = y + random.random() * 20 - 10
points.append((px, py))
plt.scatter([px for px, py in points], [py for px, py in points], marker='.')
plt.scatter([x for x, y in centers], [y for x, y in centers], marker='+')
# Kmeans模型只需要设置聚类数量，初始中心点已经有默认算法提供了
model = KMeans(n_clusters=5)
model.fit(points) # 拟合数据点
centers_ = model.cluster_centers_
# 显示聚类中心
plt.scatter([x for x, y in centers_], [y for x, y in centers_], marker='^')
clusters = []
for i in range(k):
clusters.append([])
# 预测所有网格点的类别，不同类别的网格点放在不同的数组中
grids = [(x, y) for x in range(-10, 110, 5) for y in range(-10, 110, 5)]
for i, n in enumerate(model.predict(grids)):
clusters[n].append(grids[i])
# 显示所有类别的网格点
for i in range(k):
plt.scatter([x for x, y in clusters[i]], [y for x, y in clusters[i]], marker='x')
plt.show()
我们看到网格之间形成了很明显的分界线。同颜色的网格点属于同一个类别。这些网格点所属的类别就是模型对世界的预测。
因为plt.scatter方法每调用一次都会随机出不同的颜色，所以网格呈现出了鲜明的颜色块。
每个蓝色的数据堆中心有一个绿色的点和一个不明显的橙色的加号分别代表原始随机的中心点和模型聚类出来的中心点，它们非常接近，说明算法计算出的中心点还是比较准确的。