如何衡量数据点之间的相似或相异程度是聚类算法的基础问题，会直接影响聚类分析的效果，最直观的方法是使用距离函数或者相似性函数。
常见的相似或相异程度计算方法。
1.计算公式
1.Minkowski distance
很多距离计算方法都可以归结为基于向量p范数的距离，即Minkowski distance。
\(d_{ij} = ({sum_{h=1}^{s}|x_{ih}-x_{jh}|^{p}})^{1/p}\)
2.Euclidean distance
参数p = 2，Minkowski distance退化为Euclidean distance，使用Euclidean distance的聚类算法大多只能发现低维空间中呈超球分布的数据，并且对数据集中的噪声比较敏感。
\(d_{ij} = ({sum_{h=1}^{s}|x_{ih}-x_{jh}|^{2}})^{1/2}\)
3.City-block distance
参数p = 1，Minkowski distance演变为City-block distance，City-block distance可以有效提高模糊聚类算法对噪声或者孤立点的鲁棒性。
\(d_{ij} = {sum_{h=1}^{s}|x_{ih}-x_{jh}|}\)
4.Sup distance
参数p = 无穷，Minkowski distance演变为Sup distance。
\(d_{ij} = max_{h}|x_{ih}-x_{jh}|\)
5.Cosine similarity
\(s_{ij} = \frac{x_{i}^{T}x_{j}}{||x_{i}||||x_{j}||}\)
6.Mahalanobis distance
Mahalanobis distance为原特征空间中的数据在线性投影空间欧式距离，使用Mahalanobis distance能够使得聚类算法成功发现数据集里成超椭球型分布的类簇，但是Mahalanobis distance会带来较大的计算量。
\(d_{ij} = (x_{i} - x_{j})^{T}S^{-1}(x_{i} - x_{j})\)
7.Alternative distance
Alternative distance对数据集里的噪声不敏感。
\(d_{ij} = 1 - exp(-\beta||x_{i} - x_{j}||^{2})\)
8.Feature weighted distance
\(d_{ij} = (sum_{h=1}^{s}w_{h}^{a}|x_{ih} - x_{jh}|)^{1/2}\)
2.代码
代码，
import numpy as np
a = np.array([1,2,3,4])
b = np.array([4,3,2,1])
print a
print b
#Euclidean distance
distEu = np.sqrt(np.sum((a-b)**2))
print "Euclidean distance = ",distEu
#City-block distance
distCb = np.sum(np.abs(a-b))
print "City-block distance = ",distCb
#Sup distance
distSup = max(np.abs(a-b))
print "Sup distance = ",distSup
#Cosine similarity
cosineSimi = np.dot(a,b) / (np.sqrt(np.sum(a**2)) * np.sqrt(np.sum(b**2)))
print "Cosine similarity = ",cosineSimi
#Alternative distance
beta = 0.5
distAlter = 1 - np.exp(-beta * np.sqrt(np.sum((a - b)**2)))
print "Alternative distance = ",distAlter
#Feature weighted distance
weigh = np.array([0.5,0.3,0.1,0.1])
distFea = np.sqrt(np.dot(weigh,np.abs(a-b)))
print "Feature weighted distance = ",distFea
输出，
[1 2 3 4]
[4 3 2 1]
Euclidean distance = 4.472135955
City-block distance = 8
Sup distance = 3
Cosine similarity = 0.666666666667
Alternative distance = 0.89312207434
Feature weighted distance = 1.48323969742
3.Reference
王骏,王士同,邓赵红.聚类分析研究中的若干问题[J].控制与决策，2012年第3期，Vol27 No.3;
