跳到主要内容
版本:v2.6.x

度量类型

相似度量用于衡量向量之间的相似性。选择合适的距离度量有助于显著提高分类和聚类性能。

目前,Milvus 支持这些类型的相似性度量:欧氏距离 (L2)、内积 (IP)、余弦相似度 (COSINE)、JACCARD,HAMMINGBM25 (专门为稀疏向量的全文搜索而设计)。

下表总结了不同字段类型与相应度量类型之间的映射关系。

字段类型

维度范围

支持的度量类型

默认度量类型

FLOAT_VECTOR

2-32,768

COSINE,L2IP

COSINE

FLOAT16_VECTOR

2-32,768

COSINE,L2IP

COSINE

BFLOAT16_VECTOR

2-32,768

COSINE,L2IP

COSINE

INT8_VECTOR

2-32,768

COSINE,L2IP

COSINE

SPARSE\_FLOAT\_VECTOR

无需指定维度。

IP,BM25 (仅用于全文搜索)

IP

BINARY_VECTOR

8-32,768*8

HAMMING,JACCARDMHJACCARD

HAMMING

说明
  • 对于SPARSE\_FLOAT\_VECTOR 类型的向量字段,仅在执行全文搜索时使用BM25 公制类型。有关详细信息,请参阅全文搜索

  • 对于BINARY_VECTOR 类型的向量字段,维度值 (dim) 必须是 8 的倍数。

下表总结了所有支持的度量类型的相似性距离值特征及其取值范围。

度量类型

相似性距离值的特征

相似性距离值范围

L2

值越小表示相似度越高。

[0, ∞)

IP

值越大,表示相似度越高。

[-1, 1]

COSINE

数值越大,表示相似度越高。

[-1, 1]

JACCARD

值越小,表示相似度越高。

[0, 1]

MHJACCARD

根据 MinHash 签名位估算 Jaccard 相似度;距离越小 = 越相似

[0, 1]

HAMMING

值越小表示相似度越高。

[0,dim(向量)

BM25

根据术语频率、反转文档频率和文档规范化对相关性进行评分。

[0, ∞)

说明

要在 "结构数组 "字段中索引向量字段,应根据存储在这些字段中的 Embedding,将MAX_SIM 作为上述度量类型集的前缀。例如

  • 对于存储FLOAT_VECTOR,FLOAT16_VECTOR,BFLOAT16_VECTOR, 或INT8_VECTOR 类型的 Embedding 的向量字段,可以使用MAX_SIM_COSINE,MAX_SIM_IP, 或MAX_SIM_L2 作为度量类型。

  • 对于存储BINARY_VECTOR 类型的 Embedding 的向量字段,可以使用MAX_SIM_JACCADRMAX_SIM_HAMMING 作为度量类型。

欧氏距离(L2)

从本质上讲,欧氏距离测量的是连接两点的线段的长度。

欧氏距离的计算公式如下:

Euclidean Metric欧氏公制

其中**a = (a0,a1,...,an-1)b = (b0,b1,...,bn-1)**是 n 维欧几里得空间中的两点。

这是最常用的距离度量,在数据连续时非常有用。

说明

当选择欧氏距离作为距离度量时,Milvus 只计算应用平方根之前的值。

内积(IP)

两个 Embedding 之间的 IP 距离定义如下:

IP FormulaIP 公式

如果需要比较非标准化数据,或者需要考虑幅度和角度,IP 会更有用。

说明

如果使用 IP 计算嵌入式之间的相似性,必须对嵌入式进行归一化处理。归一化后,内积等于余弦相似度。

假设 X' 是由嵌入式 X 归一化而来:

Normalize Formula归一化公式

两个嵌入式之间的相关性如下:

Correlation Between Embedding嵌入式之间的相关性

余弦相似性

余弦相似度使用两组向量之间角度的余弦来衡量它们的相似程度。你可以把两组向量看成从同一点(如 [0,0,...])出发,但指向不同方向的线段。

要计算两组向量A = (a0,a1,...,an-1)B = (b0,b1,...,bn-1) 之间的余弦相似度,请使用下面的公式:

Cosine Similarity余弦相似度

余弦相似度总是在区间**[-1, 1]** 内。例如,两个正比向量的余弦相似度为1,两个正交向量的余弦相似度为0,两个相反向量的余弦相似度为**-1**。余弦越大,两个向量之间的夹角越小,说明这两个向量之间的相似度越高。

用 1 减去它们的余弦相似度,就可以得到两个向量之间的余弦距离。

JACCARD 距离

JACCARD 距离系数衡量两个样本集之间的相似性,其定义为定义集的交集的卡方值除以它们的联合的卡方值。它只能应用于有限样本集。

JACCARD Similarity Coefficient FormulaJACCARD 相似度系数公式

JACCARD 距离测量数据集之间的不相似性,用 1 减去 JACCARD 相似系数即可得到。

JACCARD Distance FormulaJACCARD 距离公式

MHJACCARD

MinHash Jaccard(MHJACCARD) 是一种度量类型,用于在大型 Collection(如文档单词集、用户标签集或基因组 k-mer 集)上进行高效、近似的相似性搜索。MHJACCARD 不直接比较原始集,而是比较MinHash 签名MinHash 签名是专为高效估计 Jaccard 相似性而设计的紧凑表示法。

这种方法比计算精确的 Jaccard 相似性要快得多,尤其适用于大规模或高维场景。

适用向量类型

  • BINARY_VECTOR,其中每个向量存储一个 MinHash 签名。每个元素都对应于应用于原始 Collection 的一个独立哈希函数下的最小哈希值。

距离定义

MHJACCARD 衡量两个 MinHash 签名中匹配位置的数量。匹配率越高,说明底层集越相似。

Milvus 报告:

  • 距离 = 1 - 估计相似度(匹配率)

距离值从 0 到 1 不等:

  • 0表示 MinHash 签名完全相同(估计 Jaccard 相似度 = 1)

  • 1表示任何位置都不匹配(估计的 Jaccard 相似度 = 0)

有关技术细节的信息,请参阅MINHASH_LSH

HAMMING 距离

HAMMING 距离测量二进制数据字符串。两个长度相等的字符串之间的距离是比特不同的比特位置数。

例如,假设有两个字符串:1101 1001 和 1001 1101。

11011001 ⊕ 10011101 = 01000100.由于其中包含两个 1,因此 HAMMING 距离 d (11011001, 10011101) = 2。

BM25 相似性

BM25 是一种广泛使用的文本相关性测量方法,专门用于全文搜索。它结合了以下三个关键因素:

  • **术语频率 (TF):**衡量术语在文档中出现的频率。虽然较高的频率通常表示较高的重要性,但 BM25 使用饱和参数 k1k_1k1 来防止过于频繁的术语主导相关性得分。

  • **反向文档频率(IDF):**反映术语在整个语料库中的重要性。在较少文档中出现的术语会获得较高的 IDF 值,这表明其对相关性的贡献更大。

  • **文档长度归一化:**较长的文档由于包含较多的术语,往往得分较高。BM25 通过对文档长度进行归一化处理来减轻这种偏差,参数 bbb 控制这种归一化处理的强度。

BM25 评分的计算方法如下:

score(D,Q)=∑i=1nIDF(qi)⋅TF(qi,D)⋅(k1+1)TF(qi,D)+k1⋅(1−b+b⋅∣D∣avgdl)score(D, Q)=\sum_{i=1}^{n}IDF(q_i)\cdot {{TF(q_i,D)\cdot(k_1+1)}\over{TF(q_i, D)+k_1\cdot(1-b+b\cdot {{|D|}\over{avgdl}})}}score(D,Q)=i=1∑nIDF(qi)⋅TF(qi,D)+k1⋅(1−b+b⋅avgdl∣D∣)TF(qi,D)⋅(k1+1)

参数描述

  • QQ Q:用户提供的查询文本。

  • DD D:被评估的文档。

  • TF(qi,D)TF(q_i, D) TF(qi, D):术语频率,表示术语 qiq_iqi 在文档 DD D 中出现的频率。

  • IDF(qi)IDF(q_i)IDF(qi):反向文档频率,计算公式为

    IDF(qi)=log⁡(N−n(qi)+0.5n(qi)+0.5+1)IDF(q_i)=\log({N-n(q_i)+0.5\over n(q_i)+0.5} + 1)IDF(qi)=log(n(qi)+0.5N−n(qi)+0.5+1)

    其中 NNN 是语料库中的文档总数,n(qi)n(q_i)n(qi) 是包含术语 qiq_i qi 的文档数。

  • ∣D∣|D|∣D∣:文档长度 DDD(术语总数)。

  • avgdlavgdlavgdl:语料库中所有文档的平均长度。

  • k1k_1 k1 :控制词频对评分的影响。数值越大,词频越重要。典型的范围是 [1.2, 2.0],而 Milvus 允许的范围是 [0, 3]。

  • bb b:控制长度归一化的程度,范围从 0 到 1。当值为 0 时,不进行归一化处理;当值为 1 时,进行完全归一化处理。