层次聚类算法使用数据的联結规则，对数据集合进行层次似的聚类。层次聚类可以分为两大类，自顶向下的分裂聚类和自顶而上的合并聚类。分裂聚类是将所有的对象看成一个聚类，然后将其不断分解直至满足终止条件。后者与前者相反，它先将每个对象各自作为一个原子聚类，然后对这些原子聚类逐层进行聚类，直至满足终止条件。代表算法有：CURE、CHAMELEON、ROCK、Hierarchical等

      对于层次聚类常用的距离度量方法主要有最大距离、最小距离、平均距离等。一个算法使用最大距离度量距离的时候，称为最远邻聚类算法。一个算法使用最小距离度量距离的时候，称为邻聚类算法。使用最小距离度量的聚合增长算法也称为最小生成树算法。当最近族的距离超过某个阀值时算法停止，称为全连接算法。平均距离是对最大最小距离度量的折中，可以有效克服噪音和奇异点的影响。

算法：（以合并算法为例）

 setp1:每个样本作为单独一类（c1,c2,...cn）

setp2:计算每2类的距离d

setp3:找出最小的d，合并这2类

setp4:判断剩余类数是否是达到预类数（可以自己设置），没有达到，返回setp2,达到，跳出循环，输出每层类别

优点：1，距离和规则的相似度容易定义，限制少；2，不需要预先制定聚类数；3，可以发现类的层次关系；4，可以聚类成其它形状5.适用于任意形状和任意属性的数据集；灵活控制不同层次的聚类粒度，强聚类能力

缺点：1，计算复杂度太高；2，奇异值也能产生很大影响；3，算法很可能聚类成链状4.大大延长了算法的执行时间，不能回溯处理；4.需要预设类别数

代码：hierarchical为例

from sklearn.cluster import AgglomerativeClustering

from sklearn import datasets

from dask.array.learn import predict

import numpy as np

iris = datasets.load_iris()

X = iris.data

y = iris.target

print(y)

clf=AgglomerativeClustering(n_clusters=3)

predicted=clf.fit_predict(X)

print(predicted)

k2y = np.array([1,0,2])

print(k2y[predicted])

print((k2y[predicted] == y).astype(int).mean())

这样的聚类精度为0.893

Biech算法

from sklearn.cluster import Birch

from sklearn import datasets

from dask.array.learn import predict

import numpy as np

iris = datasets.load_iris()

X = iris.data

y = iris.target

print(y)

clf=Birch(n_clusters=3)

predicted=clf.fit_predict(X)

print(predicted)

k2y = np.array([2,1,0])

print(k2y[predicted])

print((k2y[predicted] == y).astype(int).mean())

聚类精度为0.813