前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >pymilvus创建向量索引

pymilvus创建向量索引

原创
作者头像
melodyshu
发布2024-04-03 11:06:19
3490
发布2024-04-03 11:06:19
举报
文章被收录于专栏:milvus数据库

索引简介

索引的作用是加速大型数据集上的查询。

目前,向量字段仅支持一种索引类型,即只能创建一个索引。

milvus支持的向量索引类型大部分使用近似最近邻搜索算法(ANNS,approximate nearest neighbors search) 。ANNS 的核心思想不再局限于返回最准确的结果,而是仅搜索目标的邻居。 ANNS 通过在可接受的范围内牺牲准确性来提高检索效率。

索引分类

milvus支持内存索引、磁盘索引。

根据实现方法,ANNS向量索引可以分为4类:

  • 基于树的索引
  • 基于图的索引
  • 基于哈希的索引
  • 基于量化的索引

根据数据类型,支持2种类型的索引:

  • floating-point embeddings

SCANN、IVF_FLAT、IVF_PQ、IVF_SQ8、FLAT、HNSW、ANNOY、AUTOINDEX、DISKANN

  • binary embeddings

BIN_FLAT、BIN_IVF_FLAT

创建索引

使用attu创建hnsw索引

索引类型选择HNSW。

度量类型有3种:

  • L2(欧式距离)

本质上,欧几里得距离测量连接 2 个点的线段的长度。

  • IP(内积,点积)

如果您使用 IP 来计算相似度,则必须对其进行标准化。归一化后,内积等于余弦相似度。

  • COSINE(余弦相似度)

余弦相似度使用两组向量之间的角度的余弦来衡量它们的相似程度。

使用pymilvus创建索引

在向量字段创建一个hnsw类型的索引:

代码语言:python
代码运行次数:0
复制
from pymilvus import (
    connections,
    Collection,
)

collection_name = "hello_milvus"
host = "192.168.230.71"
port = 19530
username = ""
password = ""

print("start connecting to Milvus")
connections.connect("default", host=host, port=port,user=username,password=password)

coll = Collection(collection_name, consistency_level="Bounded",shards_num=1)

print("Start creating index")
index_params = {
    "index_type": "HNSW",
    "metric_type": "L2",
    "params": {
        "M": 16,
        "efConstruction": 60
    }
}

coll.create_index(
  field_name="embeddings",
  index_params=index_params,
  index_name="idx_em"
)

print("done")

原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。

如有侵权,请联系 cloudcommunity@tencent.com 删除。

原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。

如有侵权,请联系 cloudcommunity@tencent.com 删除。

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • 索引简介
  • 索引分类
  • 创建索引
    • 使用attu创建hnsw索引
      • 使用pymilvus创建索引
      相关产品与服务
      向量数据库
      腾讯云向量数据库(Tencent Cloud VectorDB)是一款全托管的自研企业级分布式数据库服务,专用于存储、检索、分析多维向量数据。该数据库支持多种索引类型和相似度计算方法,单索引支持千亿级向量规模,可支持百万级 QPS 及毫秒级查询延迟。腾讯云向量数据库不仅能为大模型提供外部知识库,提高大模型回答的准确性,还可广泛应用于推荐系统、自然语言处理等 AI 领域。
      领券
      问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档