Skip to main content

基于向量存储的检索器 vectorstore

LangChain

向量存储检索器是一种使用向量存储来检索文档的检索器。它是对向量存储类的轻量级封装,以使其符合检索器接口。 它使用向量存储中实现的搜索方法,如相似性搜索和 MMR,在向量存储中查询文本。

一旦构建了一个向量存储,构建一个检索器非常容易。让我们通过一个例子来说明。

from langchain.document_loaders import TextLoader
loader = TextLoader('../../../state_of_the_union.txt')
from langchain.text_splitter import CharacterTextSplitter
from langchain.vectorstores import FAISS
from langchain.embeddings import OpenAIEmbeddings

documents = loader.load()
text_splitter = CharacterTextSplitter(chunk_size=1000, chunk_overlap=0)
texts = text_splitter.split_documents(documents)
embeddings = OpenAIEmbeddings()
db = FAISS.from_documents(texts, embeddings)
    Exiting: Cleaning up .chroma directory
retriever = db.as_retriever()
docs = retriever.get_relevant_documents("what did he say about ketanji brown jackson")

最大边际相关性检索 (Maximum Marginal Relevance Retrieval)

默认情况下,向量存储检索器使用相似性搜索。如果底层的向量存储支持最大边际相关性搜索,您可以指定该搜索类型。

retriever = db.as_retriever(search_type="mmr")
docs = retriever.get_relevant_documents("what did he say abotu ketanji brown jackson")

相似性分数阈值检索 (Similarity Score Threshold Retrieval)

您还可以指定一个检索方法,该方法设置一个相似性分数阈值,并只返回分数高于该阈值的文档

retriever = db.as_retriever(search_type="similarity_score_threshold", search_kwargs={"score_threshold": .5})
docs = retriever.get_relevant_documents("what did he say abotu ketanji brown jackson")

指定 top k

您还可以指定搜索参数,例如 k,在执行检索时使用。

retriever = db.as_retriever(search_kwargs={"k": 1})
docs = retriever.get_relevant_documents("what did he say abotu ketanji brown jackson")
len(docs)
    1