跳到主要内容
版本:v3.0.x

Query

除了 ANN Search,Milvus 还支持通过 Query 过滤元数据。本页介绍如何使用 Query、Get 和 QueryIterators 检索 Entity、过滤元数据、对查询结果排序以及聚合标量值。

说明

如果在创建 Collection 后添加新字段,包含这些字段的 Query 会针对未显式设置值的 Entity 返回定义的默认值或 NULL。有关详细信息,请参阅 Alter Collection Schema

Collection 概述

Collection 可以存储各种类型的标量字段。你可以让 Milvus 根据一个或多个标量字段过滤实体。Milvus 提供三种类型的查询:查询、获取和查询迭代器。下表比较了这三种查询类型。

获取

Query

QueryIterator

适用情况

查找持有指定主键的实体。

查找符合自定义筛选条件的所有实体或指定数量的实体

在分页查询中查找满足自定义筛选条件的所有实体。

过滤方法

通过主键

通过过滤表达式

通过过滤表达式

必填参数

  • Collection 名称

  • 主键

  • Collection 名称

  • 过滤表达式

  • Collection 名称

  • 过滤表达式

  • 每次查询返回的实体数量

可选参数

  • Partition 名称

  • 输出字段

  • Partition 名称

  • 要返回的实体数量

  • 输出字段

  • Partition 名称

  • 要返回的实体总数

  • 输出字段

返回值

返回指定 Collection 或 Partition 中持有指定主键的实体。

返回指定 Collection 或 Partition 中符合自定义筛选条件的所有实体或指定数量的实体。

通过分页查询返回指定 Collection 或 Partition 中符合自定义过滤条件的所有实体。

有关元数据过滤的更多信息,请参阅 布尔表达式规则

使用获取

当需要通过主键查找实体时,可以使用 Get 方法。以下代码示例假定在 Collection 中有三个字段,分别名为 idvectorcolor

Python
[
{"id": 0, "vector": [0.3580376395471989, -0.6023495712049978, 0.18414012509913835, -0.26286205330961354, 0.9029438446296592], "color": "pink_8682"},
{"id": 1, "vector": [0.19886812562848388, 0.06023560599112088, 0.6976963061752597, 0.2614474506242501, 0.838729485096104], "color": "red_7025"},
{"id": 2, "vector": [0.43742130801983836, -0.5597502546264526, 0.6457887650909682, 0.7894058910881185, 0.20785793220625592], "color": "orange_6781"},
{"id": 3, "vector": [0.3172005263489739, 0.9719044792798428, -0.36981146090600725, -0.4860894583077995, 0.95791889146345], "color": "pink_9298"},
{"id": 4, "vector": [0.4452349528804562, -0.8757026943054742, 0.8220779437047674, 0.46406290649483184, 0.30337481143159106], "color": "red_4794"},
{"id": 5, "vector": [0.985825131989184, -0.8144651566660419, 0.6299267002202009, 0.1206906911183383, -0.1446277761879955], "color": "yellow_4222"},
{"id": 6, "vector": [0.8371977790571115, -0.015764369584852833, -0.31062937026679327, -0.562666951622192, -0.8984947637863987], "color": "red_9392"},
{"id": 7, "vector": [-0.33445148015177995, -0.2567135004164067, 0.8987539745369246, 0.9402995886420709, 0.5378064918413052], "color": "grey_8510"},
{"id": 8, "vector": [0.39524717779832685, 0.4000257286739164, -0.5890507376891594, -0.8650502298996872, -0.6140360785406336], "color": "white_9381"},
{"id": 9, "vector": [0.5718280481994695, 0.24070317428066512, -0.3737913482606834, -0.06726932177492717, -0.6980531615588608], "color": "purple_4976"},
]

您可以通过它们的 ID 获取实体,如下所示。

Python
from pymilvus import MilvusClient

client = MilvusClient(
uri="http://localhost:19530",
token="root:Milvus"
)

res = client.get(
collection_name="my_collection",
ids=[0, 1, 2],
output_fields=["vector", "color"]
)

print(res)

使用查询

基本查询

当您需要通过自定义过滤条件查找实体时,请使用 Query 方法。以下代码示例假定有三个字段,分别名为 idvectorcolor,并返回从 red 开始持有 color 值的实体的指定数目。

Python
from pymilvus import MilvusClient

client = MilvusClient(
uri="http://localhost:19530",
token="root:Milvus"
)

res = client.query(
collection_name="my_collection",
filter="color like \"red%\"",
output_fields=["vector", "color"],
limit=3
)

对查询结果排序

默认情况下,Query 会以未指定的顺序返回结果。使用 order_by 参数可按一个或多个标量字段对结果排序。使用 order_by 时,请注意

  • order_by 必须与 limit 一起使用。

  • 支持的字段类型 INT8,INT16,INT32,INT64,FLOAT,DOUBLE, 和 VARCHAR。不支持按向量、JSONARRAY 字段排序。

  • 按空值字段排序时,NULL 值将放在升序的末尾(NULLS LAST)和降序的开头(NULLS FIRST)。

基本排序

order_by 参数传递 "field_name:direction" 字符串列表,其中 directionasc (升序)或 desc (降序)。注意 ascdesc 区分大小写。

Python
from pymilvus import MilvusClient

client = MilvusClient(
uri="http://localhost:19530",
token="root:Milvus"
)

# Sort results by id in ascending order
res = client.query(
collection_name="my_collection",
filter="color like \"red%\"",
output_fields=["vector", "color"],
limit=3,
order_by=["id:asc"],
)

多字段排序

您可以同时按多个字段排序。排序结果首先按列表中的第一个字段排序。当两个行的该字段值相同时,第二个字段将决定它们的排序,依此类推。

Python
# Sort by rating descending, then by price ascending for ties
res = client.query(
collection_name="my_collection",
filter="",
output_fields=["color", "rating", "price"],
limit=10,
order_by=["rating:desc", "price:asc"],
)

分页排序

order_bylimitoffset 结合使用,可对排序结果进行分页。例如,在多个页面上显示按价格排序的产品列表,每个页面都会按正确的价格顺序显示下一批项目,不会出现重复或空白。

Python
# Page 1
page1 = client.query(
collection_name="my_collection",
filter="color like \"red%\"",
output_fields=["color", "price"],
limit=5,
offset=0,
order_by=["price:asc"],
)

# Page 2
page2 = client.query(
collection_name="my_collection",
filter="color like \"red%\"",
output_fields=["color", "price"],
limit=5,
offset=5,
order_by=["price:asc"],
)

汇总查询结果

您可以按一个或多个标量字段对查询结果进行分组,并计算每个分组的聚合结果。支持的聚合运算符有 count,min,max,sumavg

使用 group_by_fields 时,请注意

  • group_by_fields 支持的字段类型 INT8,INT16,INT32,INT64,VARCHAR, 和 TIMESTAMPTZ。按 FLOATDOUBLE、向量、JSONARRAY 字段分组将返回错误。

  • sumavg 只适用于数值字段。您可以将它们应用到数字字段,包括 FLOATDOUBLE,但将它们应用到 VARCHAR 字段会返回错误。

要启用聚合,请将 group_by_fields 传递到 query(),并将聚合表达式 (count(*),count(<field>),min(<field>),max(<field>),sum(<field>),avg(<field>)) 添加到 output_fields

下面的示例按 color 字段对实体进行分组,并返回每个颜色组中实体的数量:

Python
from pymilvus import MilvusClient

client = MilvusClient(
uri="http://localhost:19530",
token="root:Milvus"
)

res = client.query(
collection_name="my_collection",
filter="",
group_by_fields=["color"],
output_fields=["color", "count(*)"],
)

# [{'color': 'red', 'count(*)': 10},
# {'color': 'orange', 'count(*)': 10},
# {'color': 'yellow', 'count(*)': 10},
# {'color': 'green', 'count(*)': 10},
# {'color': 'blue', 'count(*)': 10}]

您可以在一次调用中请求多个聚合表达式。下面的示例按 color 进行分组,并返回每个组的实体数、平均价格和最高评级:

Python
res = client.query(
collection_name="my_collection",
filter="",
group_by_fields=["color"],
output_fields=["color", "count(*)", "avg(price)", "max(rating)"],
)

# [{'color': 'red', 'count(*)': 10, 'avg(price)': 65.22, 'max(rating)': 5},
# {'color': 'orange', 'count(*)': 10, 'avg(price)': 48.67, 'max(rating)': 5},
# {'color': 'yellow', 'count(*)': 10, 'avg(price)': 64.15, 'max(rating)': 3},
# {'color': 'green', 'count(*)': 10, 'avg(price)': 58.28, 'max(rating)': 5},
# {'color': 'blue', 'count(*)': 10, 'avg(price)': 50.20, 'max(rating)': 5}]

group_by_fields 传递多个字段以计算复合分组。下面的示例按 (color, rating) 分组,并计算每个组的价格范围:

Python
res = client.query(
collection_name="my_collection",
filter="",
group_by_fields=["color", "rating"],
output_fields=["color", "rating", "min(price)", "max(price)"],
)

# [{'color': 'red', 'rating': 5, 'min(price)': 34.51, 'max(price)': 70.90},
# {'color': 'orange', 'rating': 2, 'min(price)': 12.39, 'max(price)': 81.99},
# {'color': 'yellow', 'rating': 2, 'min(price)': 22.62, 'max(price)': 88.24},
# {'color': 'green', 'rating': 1, 'min(price)': 18.35, 'max(price)': 59.53},
# {'color': 'blue', 'rating': 4, 'min(price)': 21.23, 'max(price)': 82.45},
# ...]

您还可以将 group_by_fieldslimit 结合使用,以限制返回的分组数量。当一个字段的 Cardinal 数量较多,而您只需要一个组的样本时,这很有用:

Python
res = client.query(
collection_name="my_collection",
filter="",
group_by_fields=["color"],
output_fields=["color", "avg(price)", "count(*)"],
limit=5,
)

# [{'color': 'red', 'avg(price)': 65.22, 'count(*)': 10},
# {'color': 'orange', 'avg(price)': 48.67, 'count(*)': 10},
# {'color': 'yellow', 'avg(price)': 64.15, 'count(*)': 10},
# {'color': 'green', 'avg(price)': 58.28, 'count(*)': 10},
# {'color': 'blue', 'avg(price)': 50.20, 'count(*)': 10}]

使用查询迭代器

当您需要通过分页查询按自定义过滤条件查找实体时,可创建一个 QueryIterator 并使用其 next() 方法遍历所有实体,以查找满足过滤条件的实体。以下代码示例假定有三个字段,分别名为 idvectorcolor,并从 red 开始返回持有 color 值的所有实体。

Python
iterator = client.query_iterator(
"my_collection",
batch_size=10,
filter="color like \"red%\"",
output_fields=["color"]
)

results = []

while True:
result = iterator.next()
if not result:
iterator.close()
break

print(result)
results += result

Partition 中的查询

您还可以通过在 Get、Query 或 QueryIterator 请求中包含 Partition 名称,在一个或多个 Partition 中执行查询。以下代码示例假定 Collection 中有一个名为 PartitionA 的 Partition。

Python
res = client.get(
collection_name="my_collection",
partitionNames=["partitionA"],
ids=[10, 11, 12],
output_fields=["vector", "color"]
)

res = client.query(
collection_name="my_collection",
partitionNames=["partitionA"],
filter="color like \"red%\"",
output_fields=["vector", "color"],
limit=3
)

# Use QueryIterator
iterator = client.query_iterator(
"my_collection",
partition_names=["partitionA"],
batch_size=10,
filter="color like \"red%\"",
output_fields=["color"]
)

results = []
while True:
result = iterator.next()
if not result:
iterator.close()
break

print(result)
results += result

使用查询进行随机抽样

要从 Collection 中提取具有代表性的数据子集用于数据探索或开发测试,请使用 RANDOM_SAMPLE(sampling_factor) 表达式,其中 sampling_factor 是介于 0 和 1 之间的浮点数,代表要采样的数据百分比。

说明

有关详细用法、高级示例和最佳实践,请参阅 随机抽样

Python
# Sample 1% of the entire collection
res = client.query(
collection_name="my_collection",
filter="RANDOM_SAMPLE(0.01)",
output_fields=["vector", "color"]
)

print(f"Sampled {len(res)} entities from collection")

# Combine with other filters - first filter, then sample
res = client.query(
collection_name="my_collection",
filter="color like \"red%\" AND RANDOM_SAMPLE(0.005)",
output_fields=["vector", "color"],
limit=10
)

print(f"Found {len(res)} red items in sample")

为查询临时设置时区

如果您的 Collection 有 TIMESTAMPTZ 字段,您可以通过在查询调用中设置 timezone 参数,为单次操作临时覆盖数据库或 Collection 的默认时区。这将控制 TIMESTAMPTZ 值在操作过程中的显示和比较方式。

timezone 的值必须是有效的 IANA 时区标识符 (例如,Asia/ShanghaiAmerica/ChicagoUTC)。有关如何使用 TIMESTAMPTZ 字段的详细信息,请参阅 TIMESTAMPTZ 字段

下面的示例展示了如何为查询操作临时设置时区:

Python
# Query data and display the tsz field converted to "America/Havana"
results = client.query(
"my_collection",
filter="id <= 10",
output_fields=["id", "tsz", "vec"],
limit=2,
timezone="America/Havana",
)