跳到主要内容
版本:v2.5.x

二进制向量

二进制向量是一种特殊的数据表示形式,它将传统的高维浮点向量转换成只包含 0 和 1 的二进制向量。这种转换不仅压缩了向量的大小,还降低了存储和计算成本,同时保留了语义信息。当对非关键特征的精度要求不高时,二进制向量可以有效保持原始浮点向量的大部分完整性和实用性。

二进制向量有着广泛的应用,尤其是在计算效率和存储优化至关重要的情况下。在搜索引擎或推荐系统等大规模人工智能系统中,实时处理海量数据是关键所在。通过减小向量的大小,二进制向量有助于降低延迟和计算成本,而不会明显牺牲准确性。此外,二进制向量在移动设备和嵌入式系统等资源受限的环境中也很有用,因为在这些环境中,内存和处理能力都很有限。通过使用二进制向量,可以在这些受限环境中实现复杂的人工智能功能,同时保持高性能。

二进制向量概述

二进制向量是一种将复杂对象(如图像、文本或音频)编码为固定长度二进制值的方法。在 Milvus 中,二进制向量通常表示为比特数组或字节数组。例如,一个 8 维二进制向量可以表示为[1, 0, 1, 1, 0, 0, 1, 0]

下图显示了二进制向量如何表示文本内容中关键词的存在。在这个例子中,用一个 10 维二进制向量来表示两个不同的文本**(文本 1文本 2**),其中每个维度对应词汇表中的一个词:1 表示文本中存在该词,0 表示文本中没有该词。

Binary Vector二进制向量

二进制向量具有以下特点:

  • **高效存储:**每个维度只需 1 位存储空间,大大减少了存储空间。

  • **快速计算:**使用 XOR 等位运算可以快速计算向量间的相似性。

  • **固定长度:**无论原始文本的长度如何,向量的长度保持不变,从而使索引和检索更加容易。

  • **简单直观:**直接反映关键词的存在,适合某些专业检索任务。

二进制向量可以通过各种方法生成。在文本处理中,可以使用预定义的词汇表,根据词的存在设置相应的位。在图像处理中,感知哈希算法(如pHash)可以生成图像的二进制特征。在机器学习应用中,可对模型输出进行二进制化,以获得二进制向量表示。

二进制向量化后,数据可以存储在 Milvus 中,以便进行管理和向量检索。下图显示了基本流程。

Use Binary Vector使用二进制向量

说明

虽然二进制向量在特定场景中表现出色,但其表达能力存在局限性,难以捕捉复杂的语义关系。因此,在实际应用场景中,二进制向量通常与其他向量类型一起使用,以平衡效率和表达能力。更多信息,请参阅稠密向量稀疏向量

使用二进制向量

添加向量字段

要在 Milvus 中使用二进制向量,首先要在创建 Collection 时定义一个用于存储二进制向量的向量字段。这一过程包括

  1. datatype 设置为支持的二进制向量数据类型,即BINARY_VECTOR

  2. 使用dim 参数指定向量的维数。请注意,dim 必须是 8 的倍数,因为二进制向量在插入时必须转换成字节数组。每 8 个布尔值(0 或 1)将打包成 1 个字节。例如,如果dim=128 ,插入时需要一个 16 字节数组。

from pymilvus import MilvusClient, DataType

client = MilvusClient(uri="http://localhost:19530")

schema = client.create_schema(
auto_id=True,
enable_dynamic_fields=True,
)

schema.add_field(field_name="pk", datatype=DataType.VARCHAR, is_primary=True, max_length=100)
schema.add_field(field_name="binary_vector", datatype=DataType.BINARY_VECTOR, dim=128)

在此示例中,添加了一个名为binary_vector 的向量字段,用于存储二进制向量。该字段的数据类型为BINARY_VECTOR ,维数为 128。

为向量字段设置索引参数

为了加快搜索速度,必须为二进制向量字段创建索引。索引可以大大提高大规模向量数据的检索效率。

index_params = client.prepare_index_params()

index_params.add_index(
field_name="binary_vector",
index_name="binary_vector_index",
index_type="AUTOINDEX",
metric_type="HAMMING"
)

在上面的示例中,使用AUTOINDEX 索引类型为binary_vector 字段创建了名为binary_vector_index 的索引。metric_type 设置为HAMMING ,表示使用汉明距离进行相似性测量。

Milvus 提供多种索引类型,以获得更好的向量搜索体验。AUTOINDEX 是一种特殊的索引类型,旨在平滑向量搜索的学习曲线。有很多索引类型可供您选择。详情请参阅 xxx。

此外,Milvus 还支持二进制向量的其他相似度度量。更多信息,请参阅 "度量类型"。

创建 Collection

二进制向量和索引设置完成后,创建一个包含二进制向量的 Collection。下面的示例使用create_collection 方法创建了一个名为my_collection 的 Collection。

client.create_collection(
collection_name="my_collection",
schema=schema,
index_params=index_params
)

插入数据

创建 Collection 后,使用insert 方法添加包含二进制向量的数据。请注意,二进制向量应以字节数组的形式提供,其中每个字节代表 8 个布尔值。

例如,对于 128 维的二进制向量,需要一个 16 字节的数组(因为 128 位 ÷ 8 位/字节 = 16 字节)。下面是插入数据的示例代码:

def convert_bool_list_to_bytes(bool_list):
if len(bool_list) % 8 != 0:
raise ValueError("The length of a boolean list must be a multiple of 8")

byte_array = bytearray(len(bool_list) // 8)
for i, bit in enumerate(bool_list):
if bit == 1:
index = i // 8
shift = i % 8
byte_array[index] |= (1 << shift)
return bytes(byte_array)

bool_vectors = [
[1, 0, 0, 1, 1, 0, 1, 1, 0, 1, 0, 1, 0, 1, 0, 0] + [0] _ 112,
[0, 1, 0, 1, 0, 1, 0, 0, 1, 1, 0, 0, 1, 1, 0, 1] + [0] _ 112,
]

data = [{"binary_vector": convert_bool_list_to_bytes(bool_vector) for bool_vector in bool_vectors}]

client.insert(
collection_name="my_collection",
data=data
)

相似性搜索是 Milvus 的核心功能之一,可以根据向量间的距离快速找到与查询向量最相似的数据。要使用二进制向量执行相似性搜索,请准备好查询向量和搜索参数,然后调用search 方法。

在搜索操作过程中,还必须以字节数组的形式提供二进制向量。确保查询向量的维度与定义dim 时指定的维度相匹配,并且每 8 个布尔值转换为 1 个字节。

search_params = {
"params": {"nprobe": 10}
}

query_bool_list = [1, 0, 0, 1, 1, 0, 1, 1, 0, 1, 0, 1, 0, 1, 0, 0] + [0] \* 112
query_vector = convert_bool_list_to_bytes(query_bool_list)

res = client.search(
collection_name="my_collection",
data=[query_vector],
anns_field="binary_vector",
search_params=search_params,
limit=5,
output_fields=["pk"]
)

print(res)

# Output
# data: ["[{'id': '453718927992172268', 'distance': 10.0, 'entity': {'pk': '453718927992172268'}}]"]

有关相似性搜索参数的更多信息,请参阅基本 ANN 搜索