疏忽高效的大模子检索增强系统LightRAG牛奶姐姐 足交，香港大学黄超团队最新盘问闭幕。

开源两周期间在 GitHub 上得回快要 5k 标星，并登上趋势榜。

该模子不仅概况全面知道实体之间的复杂关系，从而处理更复杂的问题，还大幅镌汰了大模子检索增强系统的本钱。总体而言，LightRAG 具备以下上风：

疏忽快速的大模子检索增强生成（RAG）系统

全面知道复杂实体依赖关系的信息检索

通过双层检索范式已毕高效的信息检索

快速适合动态数据变化

检索增强生成（RAG）系统通过集成外部学问源来增强妄言语模子（LLM），从而提供更准确且适合高下文的反应，得志用户需求。然而，现存的 RAG 系统存在权贵局限性，包括依赖平面数据暗示和虚浮全局的高下文感知，导致回答零碎，难以捕捉复杂的依赖关系。

为了处理这些问题，团队提议 LightRAG，它在文本索引和检索经由中引入了图结构。该革命框架经受双层检索系统，增强了从低线索和高线索学问的全面信息检索。

此外，图结构与向量暗示的结合有助于高效地检索关系实体偏激复杂的关联关系，大幅提高了反应速率，同期保抓高下文的关系性。此外，该系统概况高效地在动态环境里处理数据的更新变化，使其在快速变化的数据环境中仍然保抓快速有用的反应才智。

LightRAG 框架基于图的文本索引

图增强的实体和关系抽取

LightRAG 将文档分段为较小的块，哄骗妄言语模子（LLM）识别和抽取各式实体（如名字、日历、地点和事件）偏激之间的关系。通过这也曾由汇集的信息用于构建一个全面的学问图谱，展示通盘文档聚合中的勾通关系。咱们将该图生成模块体式化地暗示如下：

其中，  代表生成的学问图。为了创建这些数据，咱们对原始文本文档    进行了三个主要的处理门径，这些门径哄骗妄言语模子（LLM）进行文分内析和处理：

抽取实体偏激关联关系 ：该函数哄骗妄言语模子（LLM）从文本数据中识别实体（节点）偏激关系（边）。举例，它不错从"腹黑病医师评估症状以识别潜在的腹黑问题"中抽取"腹黑病医师"和"腹黑病"等实体，以及"腹黑病医师会诊腹黑病"这么的关系。为了提高效率，原始文本    被分割成多个块  。

LLM 生成键值对分析 ：咱们哄骗妄言语模子（LLM）的分析功能    为每个实体节点    和关系边   生成文本键值对  。每个索引键是一个词或短语，用于高效检索，而相应的值则是文本形色，转头了来自外部数据的关系片断，以便于后续的文本生成。实体常常仅使用其称号手脚索引键，而关系则可能通过 LLM 的增强，包含来自关系实体的全局主题，从而生成多个索引键。

图文本是以去重  : 终末，咱们已毕了去重功能  ，概况识别并统一来自不同文本片断    的相通实体和关系。通过减少图的大小，这也曾由有用镌汰了在学问图    上进行操作的支出，从而提高了数据处理效率。

LightRAG 通过其基于图的文本索引范式具备两个权贵上风：

全面的信息知道 :  构建的图结构概况从多跳勾通关系中索取全局信息，大大辅助了 LightRAG 对复杂实体关联性的知道才智， 以针对复杂查询提供高下文更丰富的生成才智。

增强的检索性能 :  图中生成的键值数据结构经过优化，概况已毕快速且精确的检索。这比拟于现存循序中不够精确的镶嵌匹配和效率低下的文本块遍历工夫，提供了更优的替代决议。

快速适合动态增量学问库

为了高效适合不停变化的数据并确保反应的准确性和关系性，LightRAG 通过增量更新学问库，而无需再行处理通盘外部数据库关于新文档  ，增量更新算法使用与之前相通的基于图的索引门径    进行处理，生成  。随后，通过对节点集    和    以及边集    和    进行并集操作，将新的图数据与原始数据结合起来。

LightRAG 已毕的动态增量学问库处理循序旨在得志以下场所：

无缝整合新数据：增量更新模块通过一致的循序处理新信息，使其概况在不破损现存图结构的情况下整合新的外部数据库。此循序保抓了既有勾通的竣工性，确保历史数据可看望，同期丰富了图结构，幸免了突破或冗余的产生。

镌汰盘算支出：通过放弃重建通盘索引图的需求，该循序权贵减少了盘算支出，加快了新数据的罗致。因此，LightRAG 概况保抓系统的准确性，提供最新信息，并从简资源，确保用户概况实时得回更新，从而辅助举座 RAG 系统的有用性。

‍

双层检索范式

为了从特定文档片断偏激复杂依赖关系中检索关系信息，LightRAG 提议了在详备和抽象层面生成查询键的政策。

具体查询：这些查询防备细节，常常参考图中的特定实体，条款精确检索与特定节点或边关系的信息。举例，一个具体查询可能是："《高傲与偏见》的作家是谁？"

抽象查询：与具体查询比拟，抽象查询愈加见识化，涵盖粗拙的主题或转头，而不是径直与特定实体关系。举例，一个抽象查询的例子是："东谈主工智能何如影响当代教导？"

为了适合不同类型的查询，LightRAG 在双层检索范式中经受了两种不同的检索政策。该想象确保概况有用处理具体问题，同期应酬抽象查询，从而为用户提供量身定制的关系反应。

Low-Level 信息检索：这一线索主要聚焦于检索特定实体偏激关系属性或关系。低线索检索中的查询防备细节，场所是索取图中特定节点或边的精确信息。

High-Level 信息检索：该线索针对更粗拙的主题和总体见识。高线索检索蕴蓄多个关系实体和关系的信息牛奶姐姐 足交，提供对更高线索见识和转头的视力，而非具体细节。

交融图结构和向量暗示以已毕高效检索

通过将图结构与向量暗示相结合，模子概况更深远地知道实体之间的相互关系。这种协同作用使检索算法概况有用地哄骗局部和全局要道词，简化搜索经由并提高闭幕的关系性。

查询要道词索取：关于给定的查询  ，最初索取局部查询要道词    和全局查询要道词  。

要道词匹配：算法使用高效的向量数据库，将局部查询要道词与候选实体匹配，全局查询要道词与与全局键关联的关系匹配。

引入高阶关联性：为了增强查询与高阶关联性的结合，LightRAG 进一步汇集已检索图元素的局部子图中的相邻节点。此经由触及聚合  ，其中    和    划分代表已检索节点   和边    的一跳相邻节点。

这种双层检索范式不仅通过要道词匹配已毕了高效的关系实体和关系检索，还通过结合构建的学问图谱中的关绑缚构信息，辅助了闭幕的全面性。

基于大模子的检索增强生成

哄骗检索到的信息  ，LightRAG 通过妄言语模子（LLM）生成谜底。这些数据包括由分析函数    生成的关系实体和关系  ，其中包含实体和关系的称号、形色以及原始文本中的纲目。

高下文整合与谜底生成

通过将查询与多源文本融合，LLM 生成适合用户需求的谜底，确保与查询意图一致。该循序通过将高下文和查询整合到 LLM 模子中，简化了谜底生成的经由。

LightRAG 框架的复杂度分析

团队对提议的 LightRAG 框架的复杂度进行了具体分析，主要分为两个部分。

索引阶段：在这一阶段，咱们使用妄言语模子（LLM）从每个文本块中索取实体和关系。因此，LLM 需要调用    次。值得扎眼的是，这个经由莫得额外支出，使得咱们的循序在处理新文本更新时止境高效。

检索阶段：关于每个查询，团队最初哄骗 LLM 生成关系的要道词。与现存的检索增强生成（RAG）系统雷同，团队的检索机制依赖于基于向量的检索。然而，与传统 RAG 系统检索文本块不同，团队专注于检索实体和关系。比拟于 GraphRAG 中基于社区遍历的循序，这种样式权贵减少了检索支出。

模子评估评估数据集

为了对 LightRAG 进行全面分析，团队从 UltraDomain Benchmark 中礼聘了四个数据集。UltraDomain 数据开头于 428 本大学教科书，涵盖 18 个不同范围，包括农业、社会科学和东谈主文体科。在这些范围中，团队礼聘了农业、盘算机科学、法律和搀杂范围的数据集。每个数据集包含 60 万到 500 万之间的 tokens。以下是实验中使用的四个范围的具体先容：

农业：该范围专注于农业实施，涵盖主题包括养蜂、蜂箱经管、作物坐褥以及疾病防治等。

盘算机科学：该范围主要聚焦于盘算机科学，涵盖数据科学和软件工程的要道范围，异常强调机器学习和大数据处理，实质包括推选系统、分类算法以及使用 Spark 进行的实期间析。

法律：该范围以企业法律实施为中心，触及企业重组、法律公约、监管合规和治理，要点和蔼法律与金融范围的杂乱。

搀杂范围：该范围包含丰富各种的文体、列传和玄学文本，涵盖文化、历史和玄学等粗拙学科。

评估问题生成

为了评估 RAG 系统在高线索意旨建构任务中的有用性，团队将每个数据集的整个文本实质整合为高下文，并经受 GraphRAG 中形色的生成循序。具体而言，团队诱骗 LLM 生成五个 RAG 用户，每个用户提议五个任务。每个生成的用户齐附有形色，证明其专科学问及提议问题的动机。同期，每个用户任务也有相应的形色，强调用户在使用 RAG 系统时的潜留意图。关于每个用户任务组合，LLM 会生成五个需要融和会盘语料库的问题。最终，每个数据集生成 125 个问题。

现存循序对比

LightRAG 在所稀有据集上与以下最新循序进行了比较：

Naive RAG：此模子手脚现存 RAG 系统的代表循序。它将原始文分内割为多个块，并使用文本镶嵌将它们存储在向量数据库中。关于查询，Naive RAG 生成向量化暗示，并阐述暗示的相通性径直检索文本块，确保高效且疏忽的匹配。

**RQ-RAG：该循序哄骗 LLM 将输入查询明白为多个子查询。这些子查询通过显式的工夫（如重写、明白和消歧）来增强检索的准确性。

HyDE：该循序哄骗 LLM 基于输入查询生成假定文档，然后使用这些生成的文档检索关系文本块，终末将这些文本块用于生成最终谜底。

GraphRAG：这是一个图增强的 RAG 系统，哄骗 LLM 从文本中索取实体和关系，将它们暗示为节点和边，并为这些元素生成相应的形色。它将节点团聚成社区，并生成社区求教以捕捉全局信息。在处理高线索查询时，GraphRAG 通过遍历这些社区来检索更全面的信息。

为复杂高线索语义查询界说准确的"实在谜底"是一项极具挑战性的任务。为了处理这一问题，团队基于现存的 GraphRAG 职责，经受了基于 LLM 的多维比较循序。团队使用 GPT-4o-mini 对每个基线模子与团队的 LightRAG 进行一双一比较，悉数设定了四个评估维度，包括：

全面性：谜底在多猛进程上涵盖了问题的各个方面和细节？

各种性：谜底提供的不同视角和关系视力有多丰富？

赋能性：谜底在多猛进程上匡助读者知道主题并作念出理智的判断？

举座发扬：该维度评估前三个轨范的详细发扬，以细目最好的总体谜底。

LLM 径直比较每个维度中的两个谜底，并礼聘每个轨范的优厚谜底。在细目三个维度的优厚谜底后，LLM 将这些闭幕组合起来，以细目举座发扬更好的谜底。为了确保评估的公谈性，并减少由于谜底在领导中呈现端正可能产生的偏差，团队瓜代转化每个谜底的位置，并阐述此盘算胜率，最终得出闭幕。

评估闭幕

阐述表中评估闭幕，团队得出以下论断：

图增强 RAG 系统在大范围语料库中的上风：  在处理大批 tokens 和复杂查询时，图增强的 RAG 系统（如 LightRAG 和 GraphRAG）历久优于纯块检索循序，如 Naive RAG、HyDE 和 RQ-RAG。跟着数据集范围的加多，这种性能差距尤为显著。举例，在最大的法律数据齐集，差距权贵扩大，基线循序的胜率仅约为 20%，而 LightRAG 占据主导地位。这一趋势突显了图增强 RAG 系统在捕捉大范围语料库中复杂语义依赖关系的上风，有助于更全面地知道学问并辅助泛化性能。

LightRAG 生成闭幕各种性： 与其他循序比拟，LightRAG 在各种性筹备上发扬出权贵上风，尤其是在较大的法律数据齐集。其在这一范围的一贯越过，突显了 LightRAG 在生成各种化生成闭幕方面的有用性，异常是在需要各种实质的场景中。团队将这种上风归因于 LightRAG 的双层检索范式，该范式促进了从低线索和高线索维度进行全面的信息检索。通过图增强的文本索引，该循序有用捕捉了查询的竣工高下文。

LightRAG 联系于 GraphRAG 的上风：  诚然 LightRAG 和 GraphRAG 齐经受基于图的检索机制，但 LightRAG 在性能上历久优于 GraphRAG，尤其是在包含复杂话语高下文的大型数据齐集。在农业、盘算机科学和法律数据齐集（每个数据集包含数百万个 tokens），LightRAG 知道出显著的上风，权贵超过 GraphRAG，突显了其在各种化环境中对信息全面知道的刚劲才智。

消融实验

团队还进行了消融盘问，以评估双层检索范式的影响以及 LightRAG 中基于图的文本索引的有用性。闭幕如表所示。

双层检索范式的有用性

团队最初分析了低线索和高线索检索范式的效果，比较了两种消融模子（划分去掉一个模块）与竣工的 LightRAG 在四个数据集上的发扬。以下是团队对不同变体的主要不雅察闭幕：

仅 Low-Level 检索：去掉高线索检索的 -High 变体导致竟然所稀有据集和筹备上的性能权贵下落。这一下落主如果由于该变体过于强调特定信息，齐集于实体偏激径直邻居。尽管这种循序概况深远探索径直关系的实体，但在处理需要全面视力的复杂查询时发扬欠安。

仅 High-Level 检索：去掉低线索检索的 -Low 变体通过哄骗实体间的关系来捕捉更粗拙的实质，而非专注于具体实体。这种循序在全面性方面具有权贵上风，概况获取更各种化和粗拙的信息。然而，其代价是对特定实体的深远分析较少，这终局了其提供高度详备视力的才智。因此，这种仅高线索的检索循序在需要精确、详备谜底的任务中可能发扬欠佳。

搀杂模式：搀杂模式，即 LightRAG 的竣工版块，结合了低线索和高线索检索循序的上风。它既能检索更粗拙的关系，又能深远探索具体实体。这种双层循序在检索经由中兼具广度和深度，概况提供数据的全面视图。因此，LightRAG 在多个维度上发扬出风雅的均衡。

构建语义图在 RAG 中的上风

团队在检索经由中去掉了对原始文本的使用。令东谈主不测的是，闭幕知道的变体 -Origin 在整个四个数据集上并莫得权贵的性能下落。在某些情况下，这一变体以致发扬出辅助（举例在农业和搀杂数据齐集）。团队将这一情状归因于基于图的索引经由有用地索取了要道信息，提供了满盈的高下文往返答查询。此外，原始文本常常包含无关信息，这可能在反应中引入杂音。

模子支出分析

团队从两个要道角度比较了 LightRAG 与发扬最优的对比循序 GraphRAG 的本钱。最初，团队教养了在索引和检索经由中使用的 tokens 数目和 API 调用次数。其次，团队分析了这些筹备在处理动态环境中的数据变化时的发扬。法律数据集上的评估闭幕如表所示。在此配景下，  代表实体和关系抽取的 token 支出，暗示每次 API 调用允许的最大 token 数目，而    则代表抽取所需的 API 调用次数。

检索阶段：GraphRAG 生成了 1399 个社区，其中 610 个二级社区在本实验中被用于检索。每个社区的平均求教为 1000 个 tokens，总 token 破钞为 610000 个 tokens（610 个社区 × 每个社区 1000 个 tokens）。此外，GraphRAG 需要逐一遍历社区，这导致了数百次 API 调用，权贵加多了检索支出。比拟之下，LightRAG 优化了这也曾由，仅使用少于 100 个 tokens 进行要道词生成和检索，且通盘经由只需要一次 API 调用。这种效率收成于团队整合图结构和向量化暗示的检索机制，从而放弃了事前处理大批信息的需求。

增量数据更新阶段：该阶段旨在应酬动态施行场景中的数据变化。在实体和关系抽取上，两个模子发扬出雷同的支出。然而，GraphRAG 在处理新增数据时知道出权贵的低效性。当引入与法律数据集同等范围的新数据集时，GraphRAG 必须拔除其现存的社区结构以整合新实体和关系，随后再行生成社区结构。这也曾由产生了梗概每个社区求教 5000 个 tokens 的浩繁支出。筹商到有 1399 个社区，GraphRAG 需要梗概 1399 × 2 × 5000 个 tokens 来重建原有和新的社区求教——这一腾贵的代价突显了其低效性。比拟之下，LightRAG 无缝地将新抽取的实体和关系整合到现存图中，无需透顶重建。这种循序在增量更新经由中权贵镌汰了支出，展现出其迥殊的效率和本钱效益。

转头

本盘问通过引入基于图的索引循序，对检索增强生成（RAG）进行了阅兵，从而辅助了信息检索的效率和知道才智。LightRAG 哄骗全面的学问图，促进快速且关系的文档检索，匡助用户更深远地知道复杂查询。其双层检索范式概况索取具体和抽象的信息，以得志各种化的用户需求。此外，LightRAG 的无缝增量更新功能确保系统概况随时反应新信息，保抓历久的有用性。总体而言，LightRAG 在效率和效力上发扬迥殊，权贵辅助了信息检索和生成的速率与质地，同期大幅度镌汰了基于 LLM 检索生成本钱。

技俩流畅：https://github.com/HKUDS/LightRAG

港大数据智能实验室：https://sites.google.com/view/chaoh/group-join-us

—  完  —

投稿请发邮件到：

ai@qbitai.com

标题注明【投稿】，告诉咱们：

你是谁，从哪来，投稿实质‍

附上论文 / 技俩主页流畅，以及议论样式哦

咱们会（尽量）实时回应你

点这里� � 和蔼我，铭记标星哦～

一键三连「共享」、「点赞」和「在看」

科技前沿进展日日再见 ~