跳到主要内容
版本：v3.0.x

度量类型

相似度量用于衡量向量之间的相似性。选择合适的距离度量有助于显著提高分类和聚类性能。

目前，Milvus 支持这些类型的相似度度量：欧氏距离 (L2)、内积 (IP)、余弦相似度 (COSINE)、JACCARD,HAMMING 和BM25 （专门为稀疏向量的全文搜索而设计）。

下表总结了不同字段类型与相应度量类型之间的映射关系。

| 字段类型

|

维度范围

|

支持的度量类型

|

默认度量类型

| | --- | --- | --- | --- | |

FLOAT_VECTOR

|

2-32,768

|

COSINE,L2 、IP

|

COSINE

| |

FLOAT16_VECTOR

|

2-32,768

|

COSINE,L2 、IP

|

COSINE

| |

BFLOAT16_VECTOR

|

2-32,768

|

COSINE,L2 、IP

|

COSINE

| |

INT8_VECTOR

|

2-32,768

|

COSINE,L2 、IP

|

COSINE

| |

SPARSE\_FLOAT\_VECTOR

|

无需指定维度。

|

IP,BM25 （仅用于全文搜索）

|

IP

| |

BINARY_VECTOR

|

8-32,768*8

|

HAMMING,JACCARD 、MHJACCARD

|

HAMMING

|

说明

  • 对于SPARSE\_FLOAT\_VECTOR 类型的向量字段，仅在执行全文搜索时使用BM25 公制类型。有关详细信息，请参阅全文搜索。

  • 对于BINARY_VECTOR 类型的向量字段，维度值 (dim) 必须是 8 的倍数。

下表总结了所有支持的度量类型的相似性距离值特征及其取值范围。

| 度量类型

|

相似性距离值的特征

|

相似性距离值范围

| | --- | --- | --- | |

L2

|

值越小表示相似度越高。

|

[0, ∞)

| |

IP

|

值越大，表示相似度越高。

|

[-1, 1]

| |

COSINE

|

数值越大，表示相似度越高。

|

[-1, 1]

| |

JACCARD

|

值越小，表示相似度越高。

|

[0, 1]

| |

MHJACCARD

|

根据 MinHash 签名位估算 Jaccard 相似度；距离越小 = 越相似

|

[0, 1]

| |

HAMMING

|

值越小表示相似度越高。

|

[0，dim(向量)

| |

BM25

|

根据术语频率、反转文档频率和文档规范化对相关性进行评分。

|

[0, ∞)

|

说明

要在 "结构数组 "字段中索引向量字段，应根据存储在这些字段中的 Embedding，将MAX_SIM 作为上述度量类型集的前缀。例如

  • 对于存储FLOAT_VECTOR,FLOAT16_VECTOR,BFLOAT16_VECTOR, 或INT8_VECTOR 类型的 Embedding 的向量字段，可以使用MAX_SIM_COSINE,MAX_SIM_IP, 或MAX_SIM_L2 作为度量类型。

  • 对于存储BINARY_VECTOR 类型 Embedding 的向量字段，可以使用MAX_SIM_JACCADR 或MAX_SIM_HAMMING 作为度量类型。

欧氏距离（L2）​

从本质上讲，欧氏距离测量的是连接两点的线段的长度。

欧氏距离的计算公式如下：

Euclidean Metric欧氏公制

其中**a = (a0,a1,...,an-1)和b = (b0,b1,...,bn-1)**是 n 维欧几里得空间中的两点。

这是最常用的距离度量，在数据连续时非常有用。

说明

当选择欧氏距离作为距离度量时，Milvus 只计算应用平方根之前的值。

内积（IP）​

两个 Embedding 之间的 IP 距离定义如下：

IP FormulaIP 公式

如果需要比较非标准化数据，或者需要考虑幅度和角度，IP 会更有用。

说明

如果使用 IP 计算嵌入式之间的相似性，必须对嵌入式进行归一化处理。归一化后，内积等于余弦相似度。

假设 X' 是由嵌入式 X 归一化而来：

Normalize Formula归一化公式

两个嵌入式之间的相关性如下：

Correlation Between Embedding嵌入式之间的相关性

余弦相似性​

余弦相似度使用两组向量之间角度的余弦来衡量它们的相似程度。你可以把两组向量看成从同一点（如 [0,0,...]）出发，但指向不同方向的线段。

要计算两组向量A = (a0,a1,...,an-1)和B = (b0,b1,...,bn-1) 之间的余弦相似度，请使用下面的公式：

Cosine Similarity余弦相似度

余弦相似度总是在区间**[-1, 1]** 内。例如，两个正比向量的余弦相似度为1，两个正交向量的余弦相似度为0，两个相反向量的余弦相似度为**-1**。余弦越大，两个向量之间的夹角越小，说明这两个向量之间的相似度越高。

用 1 减去它们的余弦相似度，就可以得到两个向量之间的余弦距离。

JACCARD 距离​

JACCARD 距离系数衡量两个样本集之间的相似性，其定义为定义集的交集的卡方值除以它们的联合的卡方值。它只能应用于有限样本集。

JACCARD Similarity Coefficient FormulaJACCARD 相似度系数公式

JACCARD 距离测量数据集之间的不相似性，用 1 减去 JACCARD 相似系数即可得到。

JACCARD Distance FormulaJACCARD 距离公式

MHJACCARD​

MinHash Jaccard(MHJACCARD) 是一种度量类型，用于在大型 Collection（如文档单词集、用户标签集或基因组 k-mer 集）上进行高效、近似的相似性搜索。MHJACCARD 不直接比较原始集，而是比较MinHash 签名，MinHash 签名是专为高效估计 Jaccard 相似性而设计的紧凑表示法。

这种方法比计算精确的 Jaccard 相似性要快得多，尤其适用于大规模或高维场景。

适用向量类型

  • BINARY_VECTOR，其中每个向量存储一个 MinHash 签名。每个元素都对应于应用于原始 Collection 的一个独立哈希函数下的最小哈希值。

距离定义

MHJACCARD 衡量两个 MinHash 签名中匹配位置的数量。匹配率越高，说明底层集越相似。

Milvus 报告：

  • 距离 = 1 - 估计相似度（匹配率）

距离值从 0 到 1 不等：

  • 0表示 MinHash 签名完全相同（估计 Jaccard 相似度 = 1）

  • 1表示任何位置都不匹配（估计的 Jaccard 相似度 = 0）

有关技术细节的信息，请参阅MINHASH_LSH。

HAMMING 距离​

HAMMING 距离测量二进制数据字符串。两个长度相等的字符串之间的距离是比特不同的比特位置数。

例如，假设有两个字符串：1101 1001 和 1001 1101。

11011001 ⊕ 10011101 = 01000100.由于其中包含两个 1，因此 HAMMING 距离 d (11011001, 10011101) = 2。

BM25 相似性​

BM25 是一种广泛使用的文本相关性测量方法，专门用于全文搜索。它结合了以下三个关键因素：

  • **术语频率 (TF)：**衡量术语在文档中出现的频率。虽然较高的频率通常表示较高的重要性，但 BM25 使用饱和参数 k1k_1k1 来防止过于频繁的术语主导相关性得分。

  • **反向文档频率（IDF）：**反映术语在整个语料库中的重要性。在较少文档中出现的术语会获得较高的 IDF 值，这表明其对相关性的贡献更大。

  • **文档长度归一化：**较长的文档由于包含较多的术语，往往得分较高。BM25 通过对文档长度进行归一化处理来减轻这种偏差，参数 bbb 控制这种归一化处理的强度。

BM25 评分的计算方法如下：

score(D,Q)=∑i=1nIDF(qi)⋅TF(qi,D)⋅(k1+1)TF(qi,D)+k1⋅(1−b+b⋅∣D∣avgdl)score(D, Q)=\sum_{i=1}^{n}IDF(q_i)\cdot {{TF(q_i,D)\cdot(k_1+1)}\over{TF(q_i, D)+k_1\cdot(1-b+b\cdot {{|D|}\over{avgdl}})}}score(D,Q)=i=1∑nIDF(qi)⋅TF(qi,D)+k1⋅(1−b+b⋅avgdl∣D∣)TF(qi,D)⋅(k1+1)

参数描述

  • QQ Q：用户提供的查询文本。

  • DD D：被评估的文档。

  • TF(qi,D)TF(q_i, D) TF(qi, D)：术语频率，表示术语 qiq_iqi 在文档 DD D 中出现的频率。

  • IDF(qi)IDF(q_i)IDF(qi)：反向文档频率，计算公式为

    IDF(qi)=log⁡(N−n(qi)+0.5n(qi)+0.5+1)IDF(q_i)=\log({N-n(q_i)+0.5\over n(q_i)+0.5} + 1)IDF(qi)=log(n(qi)+0.5N−n(qi)+0.5+1)

    其中 NNN 是语料库中的文档总数，n(qi)n(q_i)n(qi) 是包含术语 qiq_i qi 的文档数。

  • ∣D∣|D|∣D∣：文档长度 DDD（术语总数）。

  • avgdlavgdlavgdl：语料库中所有文档的平均长度。

  • k1k_1 k1 ：控制词频对评分的影响。数值越大，词频越重要。典型的范围是 [1.2, 2.0]，而 Milvus 允许的范围是 [0, 3]。

  • bb b：控制长度归一化的程度，范围从 0 到 1。当值为 0 时，不进行归一化处理；当值为 1 时，进行完全归一化处理。