我正在尝试对一个数据集进行聚类,该数据集有100多万个数据点。一列有文本,另一列有对应的数值。我面临的问题是,它被卡住了,永远也不会完成。我试着使用大约100000个较小的数据集,它的工作速度相当快,但是当我开始增加数据点时,它就开始减速,并且有一百万的数据集从未完成和挂起。最初,我认为这可能是因为我有一个文本的tfidf矩阵,并且有100个维度,所以需要很长的时间。然后,我尝试了基于数量的聚类,这只是每个数据点的一个值,但它仍然没有完成。下面是代码片段。知道我做错了什么吗?我看到人们使用更大的数据集,没有问题。
Y=data['amount'].values
Y=Y.reshape(-1,1)
dbscan = DBSCAN(eps=0.3, min_samples= 10, algorithm='kd_tree')
dbscan.fit_predict(Y)
labels = dbscan.labels_
print(labels.size)
clusters = labels.tolist()
#printing the value and its label
for a, b in zip(labels, Y):
print(a, b)
发布于 2018-09-30 06:00:14
很可能你的感受器太大了。
如果大多数点位于大多数其他点的epsilon内,则运行时将是二次O(n平方)。所以从小值开始吧!
您不能只是添加/删除特性而保持epsilon不变。
发布于 2018-09-29 21:55:42
用更多的核心。
使用n_jobs
参数。n_jobs=-1
**inside** DBSCAN
将其定义为:类.
示例:
Y=data['amount'].values
Y=Y.reshape(-1,1)
dbscan = DBSCAN(eps=0.3, min_samples= 10, algorithm='kd_tree', n_jobs=-1)
dbscan.fit_predict(Y)
labels = dbscan.labels_
print(labels.size)
clusters = labels.tolist()
#printing the value and its label
for a, b in zip(labels, Y):
print(a, b)
https://stackoverflow.com/questions/52560683
复制相似问题