LangChain 模板
LangChain 模板是构建生产就绪 LLM 应用程序的最简单和最快的方式。 这些模板作为各种流行的 LLM 使用案例的参考架构。 它们都采用标准格式,可以使用 LangServe 轻松部署它们。
🚩 我们将发布 LangServe 的托管版本,以便一键部署 LangChain 应用程序。在此注册 加入等待列表。
快速开始
要使用,首先安装 LangChain CLI。
pip install -U langchain-cli
接下来,创建一个新的 LangChain 项目:
langchain app new my-app
这将创建一个名为 my-app
的新目录,其中包含两个文件夹:
app
: 这是 LangServe 代码所在的位置packages
: 这是您的链或代理所在的位置
要将现有模板作为包拉入,请先进入新项目:
cd my-app
然后将模板作为项目添加进来。
在本入门指南中,我们将添加一个简单的 pirate-speak
项目。
此项目的作用是将用户输入转换为海盗语。
langchain app add pirate-speak
这将把指定的模板拉入 packages/pirate-speak
然后会提示您是否要安装它。
这相当于运行 pip install -e packages/pirate-speak
。
通常应该接受这一点(或者稍后运行相同的命令)。
我们使用 -e
进行安装,以便如果您修改模板(您可能会这样做),则更新更改。
之后,它会询问您是否要为此项目生成路由代码。 这是您需要添加到应用程序中以开始使用此链的代码。 如果我们接受,将会看到生成以下代码:
from pirate_speak.chain import chain as pirate_speak_chain
add_routes(app, pirate_speak_chain, path="/pirate-speak")
现在您可以编辑您拉取下来的模板了。
您可以更改 packages/pirate-speak
中的代码文件以使用不同的模型、不同的提示、不同的逻辑。
请注意,上述代码片段始终期望最终链可作为 from pirate_speak.chain import chain
导入,
因此您应该保持包的结构足够相似以尊重该要求,或者准备好更新该代码片段。
一旦您完成了所需的修改,接下来要做的是
为了使 LangServe 使用此项目,您需要修改 app/server.py
。
具体来说,您应该将上面的代码片段添加到 app/server.py
中,使文件看起来像这样:
from fastapi import FastAPI
from langserve import add_routes
from pirate_speak.chain import chain as pirate_speak_chain
app = FastAPI()
add_routes(app, pirate_speak_chain, path="/pirate-speak")
(可选)现在让我们配置 LangSmith。 LangSmith 将帮助我们跟踪、监视和调试 LangChain 应用程序。 LangSmith 目前处于私有测试阶段,您可以在 此处 注册。 如果您没有访问权限,可以跳过此部分
export LANGCHAIN_TRACING_V2=true
export LANGCHAIN_API_KEY=<your-api-key>
export LANGCHAIN_PROJECT=<your-project> # 如果未指定,默认为 "default"
对于特定应用程序,我们将使用 OpenAI 作为 LLM,因此我们需要导出我们的 OpenAI API 密钥:
export OPENAI_API_KEY=sk-...
然后您可以通过运行以下命令来启动生产就绪的端点,以及一个游乐场:
langchain serve
现在您可以获得一个完全部署的 LangServe 应用程序。 例如,您可以在 http://127.0.0.1:8000/pirate-speak/playground/ 上立即获得一个游乐场:
在 http://127.0.0.1:8000/docs 上访问 API 文档:
使用 LangServe Python 或 JS SDK 与 API 交互,就像它是一个常规的 Runnable 一样。
from langserve import RemoteRunnable
api = RemoteRunnable("http://127.0.0.1:8000/pirate-speak")
api.invoke({"text": "hi"})
快速入门到此结束! 您已成功下载了第一个模板,并使用 LangServe 部署了它。
额外资源
模板索引
探索可用于使用的许
多模板 - 从高级 RAG 到代理。
贡献
想要贡献您自己的模板吗?这相当容易!这些说明介绍了如何操作。
从包中启动 LangServe
您还可以直接从包中启动 LangServe(无需创建新项目)。 这些说明涵盖了如何操作。
请注意,以上翻译仅包含标题、段落和列表的内容,且驼峰和下划线单词不被翻译。