聚類算法——k均值和層次聚類

通過樹型圖的結構，我們能更深入了解數據集的結構。在上面的案例中，我們看到了兩個主要的分支，一個分支是 HW 和 FW，另一個是 BD、RD、PW、KW。

在生物進化學中，通常會使用包含更多物種和測量的大型數據集推斷這些物種之間的分類學關係。在生物學之外，層次聚類也在機器學習和數據挖掘中使用。

重要的是，使用這種方法並不需要像 K-均值聚類那樣設定分組的數量。你可以通過給定高度「切割」樹型以返回分割成的集群。高度的選擇可以通過幾種方式進行，其取決於我們希望對數據進行聚類的解析度。

例如上圖，如果我們在高度等於 10 的地方畫一條線，就將兩個主分支切開分為兩個子圖。如果我們從高度等於 2 的地方分割，就會生成三個聚類。

更多細節：

對於這裡給出的層次聚類算法（hierarchical clustering algorithms），其有三個不同的方面。

最根本的方法就是我們所使用的集聚（agglomerative）過程，通過該過程，我們從單個數據點開始迭代，將數據點聚合到一起，直到成為一個大型的聚類。另外一種（更高計算量）的方法從巨型聚類開始，然後將數據分解為更小的聚類，直到獨立數據點。

還有一些可以計算距離矩陣的方法，對於很多情況下，歐幾裡德距離（參考畢達哥拉斯定理）就已經夠了，但還有一些可選方案在特殊的情境中更加適用。

最後，連接標準（linkage criterion）也可以改變。聚類根據它們不同的距離而連接，但是我們定義「近距離」的方式是很靈活的。在上面的案例中，我們通過測量每一聚類平均值（即形心（centroid））之間的距離，並與最近的聚類進行配對。但你也許會想用其他定義。

例如，每個聚類有幾個離散點組成。我們可以將兩個聚類間的距離定義為任意點間的最小（或最大）距離，就如下圖所示。還有其他方法定義連接標準，它們可能適應於不同的情景。