Skip to main content

CoNLL-U

CoNLL-U 是 CoNLL-X 格式的修订版本。说明以纯文本文件的格式进行编码（UTF-8 编码，规范化为 NFC 格式，仅使用 LF 字符作为换行符，并在文件末尾包含一个 LF 字符），包含三种类型的行：

  • 单词行，包含用单个制表符分隔的 10 个字段的单词/标记的注释；请参考下文。
  • 空行，标记句子边界。
  • 以井号（#）开头的注释行。

这是如何加载 CoNLL-U 格式文件的示例。整个文件被视为一个文档。示例数据（conllu.conllu）基于标准的 UD/CoNLL-U 示例之一。

from langchain.document_loaders import CoNLLULoader
loader = CoNLLULoader("example_data/conllu.conllu")
document = loader.load()
document

[Document(page_content='They buy and sell books.', metadata={'source': 'example_data/conllu.conllu'})]