GROUP MEETING · 2026.09.14

从不完整知识图谱
到鲁棒多跳问答

26 篇文献的阅读脉络,以及 GLKMD 框架在这条脉络中的位置
文献库26 篇 · 7 个主题
深讲16 篇代表作
核心数据CWQ / WebQSP · 20%–80% 缺边
方法GLKMD
GLKMD · GROUP MEETING按 → 翻页 · 按 T 打开目录
目录 / 整场汇报的推进逻辑
02
六幕,一条从「问题」到「我的工作」的线
每一幕都回答上一幕留下的一个问题——不停在「这个方法很好」,而要落到「它还剩什么没解决」。
01问题图谱为什么会缺东西?缺一条边会怎样?—— KAR · PullNet · BRINK03
02路线一让大模型在图上游走 —— ToG · RoG · GCR10
03路线二把缺的知识补回来 —— GoG · CogMG · Enrich-on-Graph15
04路线三把问题拆小、只取要的子图 —— DecomP · DARA · KELDaR · SubgraphRAG19
05路线四让多个模型互相质疑 —— DoG · DoM · Demystifying MAD24
06GLKMD四条路线留下的缺口,以及我的缝合方式30
07实验数据、四张图,以及「数据没说什么」37
08科研流水线上面这些内容是怎么被一套工具跑出来的44
09收尾其余文献总览 · 结论 · 可能被问到的六个问题50
GLKMD · GROUP MEETING02
01
ACT ONE
图谱为什么会缺东西?
缺一条边,会怎样?
先把问题本身讲清楚——这是后面所有方法的共同起点。 这一节不要求任何背景知识。
Knowledge-Aware Reader · PullNet · BRINK
第一幕 · 问题03
第一幕 · 问题 / 先把场景讲清楚
04
知识图谱是一张「事实地图」,多跳问答是沿着它走路
不懂这个方向也没关系——这一页只需要记住一件事:答案是沿着边一步步走出来的。
知识图谱(KG)长什么样

它把事实存成 (头实体,关系,尾实体) 这样的三元组,也就是图里的一条边。

(巴拉克·奥巴马, 毕业于, 哈佛法学院)
(哈佛法学院, 隶属于, 哈佛大学)
(哈佛大学, 所在地, 剑桥市)

好处是:答案能追溯。系统说「剑桥市」,你能看到它经过了哪两条边。

多跳问答(Multi-hop QA)在做什么

问题不是直接问一条边,而是要靠串起好几条边才能答。

例:

「奥巴马毕业的那所法学院,在哪个城市?」

必须走完:奥巴马 →毕业于→ 哈佛法学院 →隶属于→ 哈佛大学 →所在地→ 剑桥市

中间任何一步断了,就走不到终点。这就是多跳的代价。

这一场汇报的核心问题

现实里的图谱并不完整。那么——当中间那条边根本不存在的时候,系统该怎么办?

第一幕 · 问题04
第一幕 · 问题 / 为什么「不完整」是致命的
05
缺一条边,不是「少答一题」,而是整条链断掉
完整图谱 CKG —— 三步都走得通
HOP 1
奥巴马
起始实体
HOP 2
哈佛法学院
毕业于
HOP 3
哈佛大学
隶属于
答案
剑桥市
所在地
不完整图谱 IKG —— 中间断了一环
HOP 1
奥巴马
起始实体
HOP 2
缺失 ✕
这条边不在图里
HOP 3
不可达
后续全部失效
答案
无法得出
—
为什么叫「链式放大」

多跳推理是一条串行依赖:第 2 跳的起点是第 1 跳的终点。所以缺一条边的损失不等于「少了一条信息」,而是它后面所有跳全部作废。缺边率每涨一点,性能就会掉得比线性更快。

图谱为什么会缺东西
  • 开放世界假设:没写进来 ≠ 不存在
  • 知识更新滞后:新事实还没来得及入库
  • 抽取误差:长尾实体、稀疏关系最容易漏
第一幕 · 问题05
第一幕 · 问题 / 早期方案
06
Improving Question Answering over Incomplete KBs with Knowledge-Aware Reader
用「知识感知阅读器」改进不完整知识库上的问答
ACL 2019 早期方案 文本证据补充 思想源头
它想解决知识库永远不完整,很多答案根本没被存进去;而网上文本虽然覆盖广,却噪音大、难判断哪段真正相关。这篇要解决的是:怎么把不完整 KB 的结构化知识和外部文本证据合起来答题。
怎么做的两个部件。① 子图阅读器:用图注意力网络,从问题实体周围的小子图里收集邻居信息(同时看「邻居的关系与问题是否相关」和「邻居是不是问题里提到的实体」),把知识压成实体向量。② 知识感知阅读器:拿这些向量去「改写」问题的隐空间表示(把主题实体的知识注入进去),再用一个以问题为条件的门控过滤文本 token。最后把两边证据聚合出答案。
关键结论WebQSP 上把 KB 随机下采样模拟缺失。KB 只剩 30% 时,只用 KB 的 Hit@1 是 35.9,加上文本阅读器升到 42.6;50% 时 49.2 → 52.7。而 KB 完整(100%)时是 67.2,与最强的纯图方法 GN-EF(67.8)基本持平——加文本没带来好处。
留下的问题证据聚合还只是简单拼接/平均。KB 充足时文本阅读器反而引入噪声,把错误答案排到前面——论文自己统计有约 16.8% 的样本比纯 KB 版本更差。另外只在 WebQSP 一个数据集上验证过。
对 GLKMD 的意义 —— 这一页藏着 GLKMD 全部论证的雏形

2019 年这篇就已经观察到了 GLKMD 今天要讲的那个模式:知识完整时,额外的补充机制不划算、甚至有害;知识缺失时,它才有价值。我在表 1 里报告的「完整图谱上 GLKMD 与 GoG 持平、在 WebQSP 上还低于 ToG」不是失败,而是和这条 2019 年的证据同源的现象。

第一幕 · 问题06
第一幕 · 问题 / 早期方案
07
PullNet: Open Domain Question Answering with Iterative Retrieval on Knowledge Bases and Text
PullNet:在知识库与文本上做迭代检索的开放域问答
EMNLP-IJCNLP 2019 早期方案 迭代检索 思想源头
它想解决上一类做法是「先把子图捞完整,再开始推理」,但问题相关的事实可能分散在好几处,一次捞不全。PullNet 问的是:能不能边推理边决定下一步去哪儿补?
怎么做的从只含问题文本和问题实体的小子图出发,迭代扩充。每一轮用一个图卷积网络给实体节点打分,挑出最该被扩展的节点,对它执行一次「拉取(pull)」:从语料里按 IDF 检索相关句子、从 KB 里检索相关三元组,把抽出的新实体加进子图。子图长够了,再用另一个图卷积网络从里面选答案实体。全程只监督「问题–答案对」,不需要标注真实推理路径(弱监督)。
关键结论MetaQA 三跳问题上,只用 KB 时 Hits@1 从之前最好的 62.5% 提到 91.4%;把 KB 删掉一半再配上文本语料,仍有 85.2%(比纯语料系统高 7 个点、比纯 KB 系统高 25 个点以上)。代价是训练慢:每轮约 114 分钟,对比 GRAFT-Net 的 31.9 分钟。
留下的问题它训练时靠「在完整 KB 上求最短路径」来造弱监督标签——一旦 KB 真的不完整,这套监督本身就不可靠了。这是个很微妙的循环依赖。
对 GLKMD 的意义

PullNet 的「迭代拉取」和 GLKMD 的「原子问题串行推进」结构同构:前一步的结果决定下一步查什么。区别在于 PullNet 靠图网络隐式决定方向,不可读;GLKMD 把每一步用自然语言显式写出来,因此每一步都可以被质疑。

第一幕 · 问题07
第一幕 · 问题 / 最新基准 · 关键
08
What Breaks Knowledge Graph based RAG? Benchmarking and Empirical Insights into Reasoning under Incomplete Knowledge
基于知识图谱的 RAG 坏在哪里?——不完整知识下推理的基准与实证洞察
EACL 2026 ★ 直接冲击实验设计 评测基准
它想解决现有 KG-RAG 评测有两个大漏洞:① 很多题的答案在图谱里有现成三元组,模型「直接查到」就行,根本没考察推理;② 指标不统一、答案匹配太宽松(生成文本里出现答案就算对),导致数字没法互相比较,性能被虚高。
怎么做的先用规则挖掘工具 AMIE3 从图谱里挖出高置信度的 Horn 逻辑规则(如 hasParent ∧ hasChild ⇒ hasSibling),然后把「能被规则推出来的那条头部三元组」从图里删掉、但保留推理所需的其他三元组——于是答案查不到,只能推出来。再用 GPT-4 依据被删的三元组生成自然语言问题。评测时把所有实体名替换成随机数字 ID,防止模型靠记忆答题;并提出严格的新指标 Hits@Any、Hits@Hard、HHR。
关键结论六个代表性方法(RoG、G-Retriever、GNN-RAG、PoG、StructGPT、ToG)从完整 KG 换到不完整 KG 后,HHR 全部大幅下跌。RoG 从 69.54 掉到 62.97,PoG 从 57.59 掉到 45.26。适配的 GoG 在 Family 上 HHR 从 0.96 崩到 0.28。错误分析显示检索失败 : 推理失败 ≈ 7 : 3——检索才是主要瓶颈。
最扎心的一条给实体加上文本标签能显著提升成绩,而换成官方 ID 还是随机 ID 表现几乎一样——说明模型很大程度上在靠内部记忆答题,而不是符号推理。
对 GLKMD 的三条硬约束

① 我用的 Hits@1 区分不了「推理得到 / 直接查到 / 参数里记得」,所以我在论文里只声称「随机缺失压力下的鲁棒性」,绝不外推。② BRINK 说主瓶颈是检索失败(7:3)——这恰好支持 GLKMD 把力气花在原子分解 + LKDL 双向检索上。③ BRINK 的 Hits@Hard / HHR 是我后续应该补上的评测平台,我在局限一节里写明了这一点。

第一幕 · 问题08
第一幕 · 问题 / 小结
09
问题的三层,一层比一层难回答
第一层 —— 事实层

图谱里确实缺了那条边。这是数据问题,任何推理策略都变不出来。

KAR / PullNet 的回答:去找外部文本补(2019 年)。

第二层 —— 推理层

边在,但搜不到。搜索策略太笨、路径太长、关系方向搞反了,都会让本可走通的路走不通。

这是第二、三、四幕所有方法的主战场。

第三层 —— 评测层

你以为系统在推理,其实它在背答案。BRINK 证明了这一层不解决,前两层的工作就无法被公正评价。

接下来的四条路线,本质上都是在第二层想办法;
而 GLKMD 想做的是——把第二层和第三层一起处理。

第一幕 · 问题09
02
ACT TWO — ROUTE 1
让大模型
在图上游走
既然图谱是张图,那就让大模型当向导,沿着边走。
这条路解决了「搜不到」,但解决不了「根本没有」。
Think-on-Graph · Reasoning on Graphs · Graph-constrained Reasoning
第二幕 · 路线一10
第二幕 · 路线一 / 图上推理
11
Think-on-Graph: Deep and Responsible Reasoning of Large Language Model on Knowledge Graph
图思考:让大语言模型在知识图谱上做深度且负责任的推理
ICLR 2024 核心基线 免训练
它想解决以前接图谱的做法只是让大模型把问题翻译成查询语句去查库——模型自己不参与推理,而且一次查不出就得重来。ToG 想让模型真正走进图里,一步一步探索。
怎么做的把大模型当智能体,在图谱上做集束搜索。每一跳两步:先「关系探索」——列出当前实体所有连出去的边,让模型打分剪枝,留下最相关的 top-N;再「实体探索」——对候选实体同样打分。得到 top-N 条推理路径后,模型自问「信息够了吗」,不够就再跳一跳,够了就作答。默认束宽 3、最大深度 3。
关键结论9 个数据集、GPT-4、完全免训练 → 6 个取得 SOTA。WebQSP Hits@1 82.6、GrailQA 81.4、Creak 95.6;CWQ 上 67.6(ToG-R 变体 69.5)。
留下的问题论文自己举了反例:图谱里存着过期或错误的旧事实时,ToG 会一本正经地给出错误答案。它高度依赖图谱质量,没有应对「边不存在」的机制。
对 GLKMD 的意义

ToG 是 GLKMD 原实验的核心基线。看表 1 就知道:完整图谱上 ToG 打 47.2,一旦边被删到 80%,它掉到 31.4——掉了 15.8 个百分点。这个陡坡正是 GLKMD 要削平的对象。

第二幕 · 路线一11
第二幕 · 路线一 / 图上推理
12
Reasoning on Graphs: Faithful and Interpretable Large Language Model Reasoning
图上的推理:忠实且可解释的大语言模型推理
ICLR 2024 基线 需微调 路径规划
它想解决大模型会因为知识过时或缺失而幻觉。之前的方法只把图谱当「事实仓库」去检索答案,忽略了一个关键信息:图的结构本身(哪些关系能接哪些关系)才是多跳推理的骨架。
怎么做的「规划 → 检索 → 推理」三段式。① 规划:让模型先产出一条关系路径当计划(如「结婚→父亲」:先找配偶、再找配偶的父亲),且这条路径必须是图谱里真实存在的关系组合;② 检索:按这条计划在图里做受限广度优先搜索,捞出真实的推理路径;③ 推理:把路径喂回模型,让它作答并给出理由。用两个指令微调任务把「规划」和「基于路径作答」训练出来。
关键结论主干 LLaMA2-Chat-7B,WebQSP Hits@1 85.7、CWQ Hits@1 62.6,均为当时 SOTA。规划模块可即插即用:让 ChatGPT 在 WebQSP 上从 66.8 提到 81.5。
留下的问题后续工作(GCR)统计发现:RoG 的推理路径里约 33% 是幻觉,只有约 67% 忠实于图谱。而且它需要指令微调、有训练成本,同样假设图谱是完整的。
对 GLKMD 的意义

RoG 的「规划」本质上就是一次关系级的问题分解——这是 GLKMD 原子问题分解的直接对标物。GLKMD 的差异在于:分解后要沿依赖链逐步执行并回填上下文,而不是一次性规划完再去检索。

第二幕 · 路线一12
第二幕 · 路线一 / 图上推理 · 最新进展
13
Graph-constrained Reasoning: Faithful Reasoning on Knowledge Graphs with Large Language Models
图约束推理:大语言模型在知识图谱上的忠实推理
ICML 2025 强竞品 约束解码 零幻觉
它想解决RoG 还有 33% 的路径是编的。检索式方法要配好检索器、吃不到图结构;智能体式方法(ToG)要反复和图交互,又慢又贵。能不能让模型根本编不出来?
怎么做的把图谱变成一棵前缀树索引 KG-Trie,把问题实体出发 L 跳内的所有合法路径都编码进去。解码时做图约束解码:只要下一个 token 不是合法前缀,就直接屏蔽掉——模型在物理上无法生成图谱之外的路径。再用一个轻量 KG 专用模型(微调后的 Llama-3.1-8B)在约束下束搜索生成 K 条路径和假设答案,交给通用大模型做归纳推理出最终答案。
关键结论WebQSP Hit 92.6、CWQ Hit 72.7(GPT-4o-mini 时 CWQ 达 75.8),均为 SOTA;推理路径100% 忠实。效率惊人:平均 3.60 秒 / 2 次调用 / 231 token,对比 ToG 的 16.14 秒 / 11.6 次调用 / 7069 token。
留下的问题论文自己界定得很清楚:「零幻觉」= 生成的路径能在图谱里找到。所以当图谱本身不完整或含错时,它照样会答错——论文的失败案例正是「图谱缺信息导致无法作答」。
这是最需要正面对待的一篇

它把「忠实性」这条路做到了极致(100% 路径忠实),GLKMD 在忠实度上几乎不可能超越它。但它把不完整图谱的失败明确留在了门外——这正是 GLKMD 的立足点。也就是说:我不跟它比忠实,我跟它比「缺边时还能不能答」。

第二幕 · 路线一13
第二幕 · 路线一 / 小结
14
这条路走到极致,会撞上一堵叫「图里没有」的墙
它解决了什么
  • 把「搜索」从一次性查询变成多步探索
  • 用图结构约束模型,幻觉从「不可控」压到 33% → 0%
  • 推理路径可读、可解释,答案能追溯
它没解决什么
  • 三篇都假设关键事实能从图里访问到
  • 图约束越强,越依赖图完整——约束反而放大了缺失的伤害
  • GCR 的失败案例就是「图谱缺信息,无法作答」

一句话:它们优化的是「怎么走」,而缺边问题问的是「路没了怎么办」。
于是有了第三条思路——既然图里没有,那就从别处把知识补进来。

第二幕 · 路线一14
03
ACT THREE — ROUTE 2
把缺的
补回来
既然图里没有,那就让大模型把缺失的事实生成出来。
这条路解决了「根本没有」,但引入了一个更麻烦的问题:你怎么知道它编的是对的?
Generate-on-Graph · CogMG · Enrich-on-Graph
第三幕 · 路线二15
第三幕 · 路线二 / IKGQA 的任务定义来源
16
Generate-on-Graph: Treat LLM as both Agent and KG for Incomplete Knowledge Graph Question Answering
图上生成:把大模型同时当作智能体与知识图谱,用于不完整知识图谱问答
EMNLP 2024 核心基线 IKGQA 定义来源 免训练
它想解决以前所有 KGQA 都在「图谱是完整的」这个假设下评测——图里已经含了答题所需的全部三元组,模型只要进去找就行。但现实图谱经常缺关键边,只做检索的方法直接找不到答案。GoG 要解决的就是:关键事实缺了,怎么把「图里的知识」和「模型脑子里的知识」合起来用。
怎么做的思考–搜索–生成三阶段,把 LLM 既当图上的智能体、又当图谱本身。① Thinking:拆子问题,并决定下一步该「搜」还是该「生成」;② Searching:用 SPARQL 探索图,先取回一个实体的全部关系,再让模型筛出最相关的 top-N;③ Generating:图里查不到时,让模型生成缺失的事实三元组(重复生成 n 次以减少幻觉),再由模型自己 Verify 一遍,把新实体链回图谱 ID。循环直到信息够了就输出答案。
关键结论GPT-3.5 基座:CWQ 完整图 55.7 → 缺 40% 44.3;WebQSP 78.7 → 66.6。GPT-4 基座:CWQ 75.2 → 60.4,WebQSP 84.4 → 80.3。消融:去掉 Generate 动作,WebQSP 完整图上从 77.9 掉到 74.7——生成确实在起作用。
留下的问题作者自己承认两条:① Generate 仍可能幻觉;② 图谱极度不完整时,GoG 甚至不如纯 CoT 不用图谱。更要紧的是第三条——新生成的三元组只靠 LLM 自己 Verify,没有任何外部证据或独立审计。「模型生成的知识可不可信、能不能追溯」并没有被真正解决。
对 GLKMD 的意义 —— 这是我要正面回答的那个问题

GoG 的 Thinking-Searching-Generating 和 GLKMD 的 原子分解 + 检索几乎一一对应,也是我表 1 的核心基线。GLKMD 唯一能声称的差异就是:GoG 用一个模型自己审自己,GLKMD 在证据不足时换成几个不同模型互相审。这个差异到底值不值几个点,是我实验必须回答的问题(第 43 页会诚实说明:目前还没有做这个消融)。

第三幕 · 路线二16
第三幕 · 路线二 / 协同增强与查询–图对齐
17
CogMG: Collaborative Augmentation Between Large Language Model and Knowledge Graph
CogMG:大语言模型与知识图谱之间的协同增强
ACL 2024 · System Demos 方法同源 有人工复核
问题用图谱消幻觉有两个被忽视的坑:覆盖不完整(图存不下全部事实)和更新错位(传统补全是无目标无边界的,补的跟用户真实需求对不上)。
方法单轮三步:① 把问题拆成子步骤、转成 KoPL 查询图谱;② 命中就给详细答案,没命中就让模型显式「拆出」缺失的三元组(未知部分写成问号),用参数知识补全;③ 图谱演化:对补全的三元组做 RAG 外部文档验证(Wikipedia + BM25)并修正,再由管理员决定入库。带 human-in-the-loop。
结论KQA Pro 人工评测 50 题:直接用底座模型 40% → 删掉三元组改用参数知识补 44% → 把补全知识回填图谱后再答 86%。
局限评测规模很小(仅 50 题人工评估);现实里无人干预地把知识自动并入图谱仍很困难。
Enrich-on-Graph: Query-Graph Alignment for Complex Reasoning with LLM Enriching
图上丰富:借助大模型增强实现查询与图谱的对齐,用于复杂推理
EMNLP 2025 同域竞品 高性价比
问题把幻觉根因归结为「查询与图谱的语义鸿沟」:关注点错配(用户目标明确,图里却全是噪声)+ 结构错配(查询要 2 跳,图里给的是 4 跳,且实体没有层级结构)。ToG/RoG/DoG 都在原始图上硬做复杂推理,开销大又没解决这个鸿沟。
方法三阶段:① 解析——把查询拆成子查询集合,并把三元组转写成「图查询」,让查询和图进入同一语义格式;② 剪枝——关注点感知的多通道剪枝,对每条三元组分别掩掉头/尾/两者形成三个召回通道打分,保留 top-300;③ 丰富——用关系的相似性、对称性、传递性把冗余多跳化简为直接关系,并生成实体的层级本体三元组(如 is-a Politician)消除歧义。
结论CWQ Hit@1 70.8、F1 65.1;WebQSP Hit@1 85.0、F1 74.1。相对 RoG,CWQ 的 Hits@1 与 F1 分别提升 13.1% 与 15.8%。当插件用:RoG+EoG 让 CWQ 从 62.2 升到 75.4。每条查询仅 4 次 LLM 调用(比 ToG 省 45.8%、比 DoG 省 83.6% token)。
局限它用 LLM「凭空」生成新关系(反向关系、传递化简、is-a 层级)来丰富图谱,这些生成内容同样没有外部证据核验或人工审计,却会被当作事实用于后续推理。
两篇合起来说明的事

CogMG 认真对待了「生成知识可不可信」,所以它加了 RAG 外部验证 + 人工复核——但人工这一步没法规模化。EoG 走了另一条路:不验证,而是把生成的边界收紧(只做关系化简和本体层级这类结构性生成)。GLKMD 的异构辩论,本质上是想在「不引入人工」的前提下,把 CogMG 那步验证自动化。

第三幕 · 路线二17
第三幕 · 路线二 / 小结
18
补知识解决了「图里没有」,却制造了一个新问题:凭什么信它
收益是真实的
  • GoG 去掉 Generate 动作就掉点(77.9→74.7)
  • CogMG 把补全知识回填图谱后,准确率 44% → 86%
  • EoG 用 4 次调用就拿到 CWQ 70.8,性价比极高
代价也是真实的
  • GoG:极度不完整时不如纯 CoT,且只靠模型自己 Verify
  • EoG:生成的「新关系」直接当事实用,无核验
  • CogMG:靠人工复核兜底,规模上不去
于是浮现出 GLKMD 真正要回答的那个问题

这些方法的共同结构是:先无差别地调用模型能力,再看结果好不好。
GLKMD 想问的是反过来的一件事:能不能只在「证据真的不够」的时候,才调用模型能力?
——这就是我在第 31/34 页要讲的「证据门控」。它既不新(GoG 的 Thinking 就在做类似判断),也不完整(我还没做消融),但它是这套框架的组织原则。

第三幕 · 路线二18
04
ACT FOUR — ROUTE 3
把问题拆小
只取要的那块图
不试图一次回答整个复杂问题,而是拆成一个个原子问题,每次只捞一小块子图。
这是和我工作重叠最深的一条线——必须讲清楚我到底哪里不一样。
Decomposed Prompting · DARA · KELDaR · SubgraphRAG
第四幕 · 路线三19
第四幕 · 路线三 / 分解思想的源头与落地
20
Decomposed Prompting: A Modular Approach for Solving Complex Tasks
分解提示:一种求解复杂任务的模块化方法
ICLR 2023 通用方法 分解思想源头
问题任务一复杂,few-shot 就不够用了——模型学不会全部推理步骤。
方法一个分解器只负责把任务写成「程序」,每个子任务交给专门的处理器。处理器可以继续往下拆,也可以直接换成检索这类外部函数——像软件库一样模块化。
结论第 k 个字母拼接任务:DecomP 98.0 EM vs CoT 22.7;MultiArith 78→95;GSM8K 36→50.6。长度泛化明显更好。
局限分解结构靠人工设计,错误会在模块间传播。
DARA: Decomposition-Alignment-Reasoning Autonomous Language Agent for Question Answering over Knowledge Graphs
DARA:面向知识图谱问答的「分解–对齐–推理」自主语言智能体
Findings of ACL 2024 KGQA 分解路线
问题用 GPT-4 做 KGQA 智能体又贵又慢、还有隐私顾虑,而开源微调智能体效果又差一截。
方法高层做迭代式分解——一次只生成一个子任务,看结果再决定下一步(不是一次拆完);低层把子任务对齐到图谱上的可执行逻辑式,选关系时用「先略读再深读」两段式。
结论仅 768 条轨迹微调,GrailQA F1 77.71(Llama-2-7B)超 GPT-4 的 65.89 十一个点;成本约 20.51 美元 vs GPT-4 方案的 1276 美元。
局限不具备纠错能力,分解错了无法自修;中间表示难以迁移到 Wikidata。
对 GLKMD 的意义 —— 注意 DARA 的「迭代式分解」

DARA 明确说了「一次只生成一个子任务,根据上一步结果决定是否继续」。这和 GLKMD 第 4.2 节的 qk+1 = Decompose(Q, e | C) 几乎一样。所以我不能在论文里把「迭代分解」当创新点——我的差异只能在后面两步(LKDL 双向检索 + 证据门控后触发异构辩论)。这一点我在相关工作和第 43 页都主动写明了。

第四幕 · 路线三20
第四幕 · 路线三 / 与我的工作重叠最深
21
A Framework of Knowledge Graph-Enhanced Large Language Model Based on Question Decomposition and Atomic Retrieval
基于问题分解与原子检索的知识图谱增强大语言模型框架
Findings of EMNLP 2024 ★ 高度重叠 · 必须正面区分 免训练
它想解决已有方法无论单轮还是多轮,都是拿整个原问题去检索和推理,不做任何拆分。结果每一步检索都缺乏针对性、效率低,也没利用问题内部的推理逻辑。
怎么做的问题分解树 + 原子检索。先让模型判断问题难易:复杂问题被拆成有序子问题串(用 [#j] 引用前面子问题的答案),递归求解再整合;叶子节点那种「原子级简单问题」走原子检索——从主题实体出发抽两跳内、经剪枝的候选子图,再「检索 + 重排」取出少量最相关事实喂给模型。全程不训练不微调。
关键结论WebQSP EM 79.4、CWQ EM 53.6(KELDaR-rel*,关系型检索 + 金标准主题)。相比 IO 基线(64.8 / 34.4)提升 14.6% 和 19.2%;相比此前最佳推理型基线再提 5.0% 和 12.0%。两跳优于一跳,关系型检索优于三元组型。
留下的问题① 难度分类器会误判——把简单问题当成复杂问题,凭空多出步骤和错误(WebQSP 上就出现过);② 最大分解深度写死为 1,更深的嵌套分解没验证;③ 效果仍受主题实体链接质量拖累。
这是我最需要小心的一篇 —— 它已经做了「问题分解 + 原子检索」

KELDaR 的「分解树 → 叶子节点原子问题 → 原子检索相关子图」和 GLKMD 的第一阶段结构上高度同构。所以在论文里:① 我不声称「首次提出原子分解」;② 我的差异必须落在 LKDL 的双向关系(KELDaR 只单向取两跳子图)和 证据不足时的异构模型辩论(KELDaR 只靠单一大模型作答)上;③ KELDaR 面对 Freebase 完整图谱,我做的是不完整图谱——这是任务设定的差别。

第四幕 · 路线三21
第四幕 · 路线三 / 子图检索的工程答案
22
Simple is Effective: The Roles of Graphs and Large Language Models in Knowledge-Graph-Based Retrieval-Augmented Generation
简单即有效:图与大语言模型在基于知识图谱的检索增强生成中的作用
ICLR 2025 竞品 · 检索端 并行打分
它想解决KG-RAG 的两难:检索太多无关三元组,模型会「迷失在中间」并幻觉;检索太少又覆盖不到关键证据。多轮迭代检索又太贵。
怎么做的用一个轻量 MLP 对三元组做并行打分——把子图概率分解成每个三元组独立概率的乘积,于是可以并行取 top-K,拼出任意形状、可调大小的子图(而不是固定路径)。还编码了方向性结构距离 DDE:从主题实体沿正向和反向同时做多轮特征传播,刻画结构远近。大模型端不微调,用带解释示例的提示作答。
关键结论三元组召回 0.883 / 0.865(WebQSP / CWQ),远超 RoG 的 0.388 / 0.298;检索耗时 6 秒 / 12 秒,RoG 要 948 秒 / 2327 秒(快一到两个数量级)。GPT-4o 下 WebQSP Hit 89.80、CWQ Hit 66.69。
留下的问题跨数据集泛化会掉(CWQ→WebQSP 召回 0.865→0.776);训练信号来自「主题–答案最短路径」这种弱监督,不够精确;未处理需要迭代检索的超难问题。
对 GLKMD 的直接压力 —— 出在证据评分这一环

SubgraphRAG 用学习到的、双向传播的、可调规模的三元组打分;而 GLKMD 用的是 S = 0.45A + 0.35R + 0.20C 这样一组固定权重 + 硬阈值 θ=0.6的离散规则。这是明显的代差。更要紧的是:这个公式在我自己的稿子里存在数值冲突(见第 34 页,我会当场说明)。

第四幕 · 路线三22
第四幕 · 路线三 / 小结
23
它们把「怎么问」和「取哪块」都做到了,但都假设图是完整的
这条路线的成熟度
  • 分解:从通用任务(DecomP)→ KGQA 迭代分解(DARA)→ 分解树 + 原子检索(KELDaR),已经做透了
  • 检索:SubgraphRAG 把三元组打分做成了可学习、可调规模、快两个数量级
  • 两者结合的效果非常好(KELDaR 在 CWQ 上 +19.2%)
共同的隐含前提
  • 全部在 Freebase 完整图谱上评测
  • 检索只解决「找得到」,不解决「压根没有」
  • KELDaR 的误判问题说明:分解本身也需要被验证,而它没有验证机制
所以 GLKMD 能站住的位置只有两个

① 任务换掉——从「完整图谱上答得更准」换成「图谱缺 20%–80% 时退化更慢」;② 补上验证环——分解、检索拿到证据之后,如果证据不够,系统要能察觉并触发别的机制,而不是硬着头皮让同一个模型生成。

第二点,就接到了下一条路线:让多个模型互相质疑。

第四幕 · 路线三23
05
ACT FIVE — ROUTE 4
让多个模型
互相质疑
一个模型可能错,但如果让几个不同角色独立作答、互相反驳、再由裁判定夺呢?
这条路是 GLKMD 顶层结构的直接来源,也是最危险的地方。
Debate-on-Graph · Debate over Mixed-knowledge · Demystifying MAD
第五幕 · 路线四24
第五幕 · 路线四 / 图上多角色辩论
25
Debate on Graph: A Flexible and Reliable Reasoning Framework for Large Language Models
图上辩论:面向大语言模型的一种灵活且可靠的推理框架
AAAI 2025 竞品 · 同模型多角色 有消融
它想解决KGQA 有两个毛病:① 推理路径太长,一股脑塞给模型,模型抓不住关键信息,反而凭内部先验答错;② 「假阳性关系」——下一步推理时又选回了上一步已经用过的关系,导致证据路径残缺。
怎么做的两个核心机制。① 子图聚焦:每推理一步拿到一条三元组后,就让大模型试着回答当前问题,判断这条证据够不够——从而不被冗长路径干扰。② 多角色辩论团队:证据不够时,三个角色逐个发言来把复杂问题化简——问题简化专家先给初步化简(可能出错)、批评者指出并修正错误、语言学家再去掉已解决子问题的冗余。于是 K 跳问题逐步变成 K−1 跳,用上一步的尾实体作下一步起点。
关键结论GPT-3.5 基座:WebQSP 88.6、CWQ 58.2、GrailQA 77.8、WebQuestions 78.2、MetaQA 三跳 90.9。消融很有说服力:把三个角色合并成单智能体(不做辩论),平均掉 10.3%;去掉子图聚焦与问题化简则从 +19.6 掉回 0。另外——一轮辩论效果最好,轮数增多反而变差。
留下的问题错误分析显示最常见的是关系过滤错误(实体关联关系太多导致选错),其次是迭代停止错误(过早或过晚结束)。三个角色全部用同一个 ChatGPT,只是角色分工不同——不是异构模型。
两个必须记住的数字,都在同一基座(GPT-3.5)下

DoG 在 WebQSP 完整图谱上打 88.6,而我的 GLKMD 在 WebQSP 完整图谱上是 73.5;DoG 在 CWQ 上是 58.2,我是 55.7。也就是说:在完整图谱上,DoG 明显强于我。我的表 1 只对比了 ToG 和 GoG,没有对比 DoG——这是组会上很可能被问到的地方,我会在第 44 页主动交代。

第五幕 · 路线四25
第五幕 · 路线四 / 最直接的竞品
26
Debate over Mixed-knowledge: A Robust Multi-Agent Reasoning Framework for Incomplete Knowledge Graph Question Answering
混合知识辩论:一种面向不完整知识图谱问答的鲁棒多智能体推理框架
AAAI 2026 ★★ 最直接竞品 · 必须正面对比 三阶段
它想解决真实图谱不完整,于是有了 IKGQA。现有做法要么只在图内做链接补全(抓不住外部世界的变化),要么引入外部信息却缺乏「自适应、结合上下文地融合多源知识」的能力,发挥不出不同知识源的互补优势。
怎么做的三阶段。① 初始化:把原问题分解成一串语义连贯的子问题,并用记忆 M 保存中间结果。② 子问题推理:两个独立检索代理——KG Agent 做实体链接、用 SPARQL 迭代取当前实体的正向与逆向关系、选 top-k 逐步扩证据(链接失败就退回 CoT 兜底);RAG Agent 面向 Wikipedia 文本取 top-k 段落作答。两者各自给出候选答案与推理链,再由 Judge Agent(裁判)评估比较、整合出该子问题的中间答案。③ 最终答案生成:汇总记忆 M 输出全局答案。此外作者用「真实知识更新」重造了新数据集 IKGWQ。
关键结论基座 DeepSeek-v3、每数据集 1000 题:IKGWQ 84.5、CWQ(IKG-40%) 62.0、WebQSP(IKG-40%) 81.7。同设置下 GoG 为 49.5 / 60.4 / 78.1,ToG 为 46.5 / 52.0 / 70.2。IKGWQ 上比最强基线相对提升 70.7%。消融:单独 KG Agent 或单独 RAG Agent 都不如两者经裁判整合。
为什么它是「最危险」的一篇

它同时覆盖了 GLKMD 的几乎全部要素:面向 IKGQA ✓ · 问题分解成子问题 ✓ · 结构化 KG 检索 ✓ · 连"正向 + 逆向关系"都有了 ✓ · 多代理 + 裁判辩论 ✓ · 甚至还有证据不足退回 CoT 的兜底 ✓。我原稿里"首次引入辩论/首次做双向关系检索"这类表述,在这一篇面前全部不成立。

第五幕 · 路线四26
第五幕 · 路线四 / 把最难的问题先自己讲出来
27
DoM 已经覆盖了我的大部分故事。那我剩下什么?
对比项DoM (AAAI 2026)GLKMD(我的)
任务设定IKGQA ✓IKGQA ✓ (同)
问题分解分解成子问题串 ✓原子子问题 + 依赖关系 ✓ (同)
关系方向SPARQL 取正向 + 逆向LKDL 显式双向标记 # / *
辩论触发每个子问题都跑双代理 + 裁判只在证据不足时触发
模型同构性所有角色同一个基座异构模型 MA/MB/MC
外部知识源依赖 Wikipedia 文本 RAG以图谱为主,模型知识按需补充
四个可能的差异点,按「能不能站住」排序
  1. 触发时机(证据门控)——最像「机制」,但还没做消融,只能说「更省」,不能说「更准」
  2. 模型异构——有 Demystifying MAD 的理论支撑,但也没有同预算对照
  3. LKDL 双向表示——DoM 只是顺带取逆向边,这属于表示层差异,较弱
  4. 以图谱为主、更节制——是设计取向,不是可测的性能主张
数字上的正面冲突(必须承认)
CWQIKG-40%
DoM62.0
GoG60.4
ToG52.0
GLKMD53.1

在 CWQ IKG-40% 这一格,DoM 比我高 8.9 个点。

但有两个不能忽略的前提差异

① 基座不同:DoM 用 DeepSeek-v3,我的表 1 用 GPT-3.5。
② 缺失定义不同:DoM 删的是金标路径上的关键三元组(精准打击,更难);我删的是问题相关图谱里的三元组(更宽松)。

这两个差异是「解释」,不是「借口」。要真正回应,唯一办法是同基座、同缺失构造重跑 DoM 和 GLKMD——已写进投稿前必做清单。

我现在的贡献边界是:不是「首次提出」,而是「在随机缺失压力下,用一套带门控的双向检索 + 异构辩论管线,获得了更平缓的退化曲线」——并且我把这个限定条件明明白白写在摘要里。

第五幕 · 路线四27
第五幕 · 路线四 / 辩论到底有没有用
28
Demystifying Multi-Agent Debate: The Role of Confidence and Diversity
解密多智能体辩论:置信度与多样性的作用
Findings of ACL 2026 理论分析 给 GLKMD 的辩论设计提供依据
它想解决多智能体辩论被广泛用来做「测试时扩展」,但它常常还不如简单的多数投票,却烧掉更多算力。已有理论指出:在同质智能体、无权重信念更新的条件下,辩论对信念轨迹是一个 「鞅」(martingale)——期望正确率不会随时间系统性上升。换句话说:辩论期望上「不帮忙也不添乱」。那要补上什么,它才真的有用?
怎么做的补两个缺失要素。① 多样性感知初始化:不再独立采样 N 个答案,而是先采样一个更大候选池(Ncand=10),再用贪心挑出 N 个彼此差异最大的答案作为辩论起点——只改起点,不改后续动力学。② 置信度调制辩论:让每个智能体输出 0–10 的置信度,并用强化学习训练「校准的置信度表达」和「感知并使用他人置信度」;置信度不改答案内容,只在聚合时加权——把「鞅」变成了「上鞅」(submartingale),使信念期望逐轮系统性向正确答案漂移。
关键结论多样性初始化把初始轮 Pass@5 从 0.7921 提到 0.9097(Qwen),0.7423 → 0.9026(Llama)。置信度调制在几乎所有数据集上超过多数投票:GPQA 上 Qwen 从 0.335 → 0.361,GSM8K 上 0.908 → 0.932。初始答案多样性与最终准确率显著正相关(n=26624),且辩论在更难的数据集上收益更大。
留下的问题理论基于同质智能体的简化模型,忽略了位置偏差、自我反思等真实行为;置信度调制依赖「校准置信度与正确性正相关」,而大模型置信度误校准本身就是难题;实验限于同质智能体与英文 QA 基准。
这一篇同时是 GLKMD 的「支持证据」和「警告」

支持:它证明了辩论要有效,初始观点必须足够多样,否则会坍缩到初始多数、退化成多数投票。这正好是 GLKMD 用异构模型(而不是同一个模型换角色)的理论依据。警告:① 光有异构还不够,还要加置信度通信与校准,否则轮数再多也不提升;② 辩论不是免费的,DoG 也发现「一轮最好、轮数多了反而变差」——所以 GLKMD 里那套 Ak+1/Bk+1 的多轮公式,实际实现必须控制轮数。

第五幕 · 路线四28
第五幕 · 路线四 / 小结
29
四条路线走到这里,已经汇成同一个形状了
路线一
图上搜索
ToG · RoG · GCR
+
路线二
知识补全
GoG · CogMG · EoG
+
路线三
分解 + 子图
DecomP · KELDaR · SubgraphRAG
+
路线四
多智能体辩论
DoG · DoM · MAD 分析
▼

「分解成子问题 → 检索 KG → 不够就用多代理辩论」
这个组合,已经有人做过了——而且是 2026 年 AAAI 的 DoM。

所以我要放弃「组合式创新」的叙事

原稿里「首次」「独立提出」这类词,在 DoG、DoM、KELDaR 面前都站不住。我在论文里已经全部删掉,改成限定性表述。

我改用的叙事是「受限的实证主张」

不声称发明了组件,而是声称:在随机删边压力测试下,这套管线呈现出比基线更平缓的退化曲线,并同时报告完整图谱上的持平与负结果。

第五幕 · 路线四29
06
ACT SIX — MY WORK
四条路线
留下的缺口
上面 25 页不是背景介绍,它们决定了 GLKMD 能声称什么、不能声称什么。
这一节我把框架讲清楚,同时把每一处「站不住」的地方标出来。
GLKMD — Logical Retrieval & Heterogeneous Model Debate
第六幕 · GLKMD30
第六幕 · GLKMD / 先讲清楚我不想声称什么
31
我不声称「首次组合」,我声称的是「受限条件下的退化更慢」
✕ 不能声称的(前五幕已经证明)
  • 「首次把问题分解成原子子问题」 → KELDaR(EMNLP 2024)、DARA(ACL 2024)已有
  • 「首次在 KGQA 中引入辩论」 → DoG(AAAI 2025)已有
  • 「首次面向 IKGQA 做分解 + 混合知识辩论」 → DoM(AAAI 2026)已有
  • 「首次做双向关系检索」 → DoM 的 KG Agent 已取正向 + 逆向关系
  • 「辩论天然优于单模型」 → Demystifying MAD 证明这是错的
✓ 可以声称的(限定条件下的实证主张)
  • 在 CWQ / WebQSP 的 20%–80% 随机三元组删除设置下,GLKMD 的 Hits@1 退化幅度小于 ToG 和 GoG
  • CWQ 下降 7.4 个点(ToG 15.8 / GoG 21.3);WebQSP 下降 8.3 个点(ToG 21.0 / GoG 22.2)
  • 相对同设置最强基线的增益:CWQ +8.8 ~ +14.7,WebQSP +1.4 ~ +8.7
  • 同时报告完整图谱上的持平与负结果——这是这个主张可信度的一部分
这个定位来自哪里 —— 一个 2019 年就观察到的模式

Knowledge-Aware Reader(第 06 页)在 2019 年就发现:KB 完整时,外加的文本证据不划算甚至有害(16.8% 的样本更差);KB 一旦缺失,它才开始有价值。GLKMD 在表 1 里呈现的「完整图谱不占优、缺边时领先」,是同一个模式在 2026 年的复现——这不是实验失败,这是方法的适用范围。

第六幕 · GLKMD31
第六幕 · GLKMD / 整体数据流
32
五个连续环节:结构化证据优先,参数知识按需补充
蓝色 = 结构化知识路径 · 绿色 = 参数知识协作
GLKMD 方法流程
STEP 1
原子问题分解
复杂问题 → 带依赖的原子子问题
STEP 2
LKDL 查询生成
统一表达实体元/关系元,标出双向
STEP 3
双向关系检索
同时考虑实体在头/尾两侧
STEP 4
证据评分与门控
证据够?走结构化路径
STEP 5
异构模型辩论
不够?MA 提出 · MB 反驳 · MC 裁决

分工很清楚:STEP 1–3 负责「把该查的查全」,STEP 4 负责「诚实地判断够不够」,STEP 5 负责「不够时带着对抗性地补」。GLKMD 的独特性只在 STEP 4→5 这个切换条件上,而不是在任何单个环节本身。

第六幕 · GLKMD32
第六幕 · GLKMD / STEP 1
33
原子问题分解:把一条长链,切成一步步走得动的小步
原子子问题的三个条件
  1. 只围绕一个主题实体
  2. 表达一项不可继续拆分的关系约束
  3. 答案能作为后续子问题的中间变量,或作为最终输出

这三条保证了每一步检索都是「可验证的最小单元」——不必一次猜完整条路径。

初始状态与主题实体选择

S0 = ⟨ Q, ℰ, ∅ ⟩  ℰ = {e₁, e₂, …, en} 为候选实体
e* = argmax frel(ei, Q)  q₁ = Decompose(Q, e*)
第三项 ∅ 表示:当前还没有中间推理上下文

关键设计:允许「沿下去」和「换主题」两条分支

当已有上下文 C ≠ ∅ 时:

分支 A —— 语义连续(gcont(ei, C) = true)
qk+1 = Decompose(Q, ei | C) 沿着当前实体继续往下问

分支 B —— 需要切换主题
ej = argmax frel(e, C),qk+1 = Decompose(Q, ej | C)

终止条件 ψ(C) = true 时输出 Output,否则继续 Search(qi)。

诚实标注:这一步的原创性有限

「前一步检索结果更新 C 后再决定下一步实体」——DARA(ACL 2024)的「迭代式分解」已经这么做了(第 20 页)。GLKMD 的差异只在于分支 A/B 的显式切换条件 gcont。这一条我写在论文 2.2 节,不当作独立贡献。

第六幕 · GLKMD33
第六幕 · GLKMD / STEP 2–3
34
LKDL 双向关系检索:不让「方向写反了」白白丢掉一条边
它要解决的问题

标准三元组查询区分头实体和尾实体。如果现实语义里关系近似对称,但图谱只存了一个方向,那么只以指定实体为头结点去查,就会漏掉反向连接。

在多跳场景下这更致命:一次遗漏会阻断后面整条路径。

类比:你要找「谁和张三同姓」,但图谱里只存了「张三 → 姓 → 张」。正向查不到「张 → 还有谁」,反向一查就有了。

LKDL 怎么做:给关系两个方向标记

LKDL 统一表达实体元、关系元和知识元,为关系提供两个方向:

#
左关系
「实体具有某关系」
*
右关系
「某关系包含实体」

张三 # 姓氏  → 属性方向
姓氏 * 张   → 取值方向

对原子问题 qi,生成 LKDL 查询,同时考虑实体处于三元组头部和尾部两种情况,合并为候选集 Ti。

诚实标注:我还没有验证 LKDL 本身的收益

论文里写得很明确:「当前实验没有单独比较 LKDL 与 SPARQL 的查询成功率、延迟或表达长度,因此本文不据此宣称 LKDL 在一般场景中必然更快或更完整。」而且 DoM 的 KG Agent 已经用 SPARQL 顺带取了正向 + 逆向关系——「双向」本身不是我的发明,我的差异只在表示层。这是四个差异点里最弱的一个。

第六幕 · GLKMD34
第六幕 · GLKMD / STEP 4 · 整个框架的开关
35
证据门控:决定「继续走结构化路径」还是「触发模型协作」
原稿定义的相关性评分(三部分加权)

问题 Q 与候选三元组 T = ⟨h, r, t⟩ 的相关性拆成三块:A 实体直接对齐、R 关系匹配、C 上下文连接。

S(Q,T) = 0.45·A + 0.35·R + 0.20·C

分项取值规则
A核心实体完全匹配 0.4 · 覆盖过半实体 0.3 · 仅匹配一个 0.1 · 不匹配 0
R关系显式匹配 0.3 · 隐式匹配 0.2 · 不匹配 0
C连接多个问题实体 0.1 · 连接一个 0.05 · 无连接 0

阈值 θ = 0.6:保留 S ≥ θ 的三元组作为结构化证据;若集合为空,按相关性取 Top-N 作为回退证据,交给 STEP 5。

⚠ 我必须当场说明一个数值冲突

按原稿这套数值算,S 的理论最大值只有:

0.45×0.4 + 0.35×0.3 + 0.20×0.1
= 0.305 < θ = 0.6

也就是说:永远不可能有任何一个三元组达标,门控会 100% 走回退分支。

更麻烦的是:现有实验代码里的 relevance_score 实际表现为语言模型筛选,不是这个固定公式。

所以表 1 的数字验证的是「整个系统的端到端表现」,不能把增益单独归因于这个评分公式。

框架意图是清楚的(证据够就继续结构化推理,不够才交给模型),但实现细节必须统一:子分数尺度、加权方式、阈值 θ 和 Top-N 取值,都要以产生最终结果的那份代码为准。已列为投稿前第 1 优先事项。

第六幕 · GLKMD35
第六幕 · GLKMD / STEP 5
36
异构辩论:三个角色,生成 → 反驳 → 裁决
角色 MA
提出观点
接收原子问题 Q 与证据子图 Ge,生成初始观点 A0
角色 MB
反驳 / 质疑
在相同证据下检查观点,生成反方观点 B0
可选多轮
交互
达到最大轮数 K 或满足一致性停止条件
角色 MC
裁决
依完整讨论序列与证据输出 C*
形式化

A0 = MA(Q, Ge)   ← 初始观点
B0 = MB(Q, Ge, A0) ← 反方观点
Ak+1 = MA(Q, Ge, Bk),Bk+1 = MB(Q, Ge, Ak+1)
C* = MC( {Ai, Bi}ki=0, Ge ) ← 裁决

裁决原则:MC 应优先检查候选观点是否与检索到的实体和关系一致,而不是仅凭文本流畅度选答案——这是防止辩论退化成「谁说得漂亮听谁的」。

⚠ 三条必须承认的限制
  • 没有做过「有 / 无辩论」的消融。表 2 比较的是骨干模型与知识条件,不是辩论的开关。
  • 没有同预算对照。缺了「多数投票 / 自一致性 / 同构代理」这三个关键对照组。
  • 最大轮数 K、停止阈值、实际是一轮还是多轮,都还没和代码统一。

所以论文里我只把辩论写成「框架的组成部分」,不声称它单独贡献了表 1 里的全部增益。

第六幕 · GLKMD36
07
ACT SEVEN — EVIDENCE
数据说了什么
以及数据没说什么
这一节我会把两组主结果、四张图全部放出来,
然后用一页专门讲完整图谱上的负结果和我发现的三个问题。
RQ1 · RQ2 · RQ3 — CWQ / WebQSP,20%–80% 随机三元组删除
第七幕 · 实验37
第七幕 · 实验 / 设置
38
三个研究问题,两个数据集,四档缺失率
RQ1

随着三元组缺失率上升,GLKMD 能否减缓 Hits@1 的性能退化?

RQ2

相对同一设置下最强基线的优势,如何随数据集和缺失率变化?

RQ3

在不同骨干模型和知识条件下,结果模式是否保持一致?

数据集与不完整图谱的构造

Complex WebQuestions(CWQ)——含组合约束、多跳链更长。

WebQuestionsSP(WebQSP)——以相对较短的知识库查询为主。

各随机抽取 1000 个问题。为控制缺失强度,随机删除每个问题相关图谱中 20% / 40% / 60% / 80% 的三元组,得到 IKG-20% 至 IKG-80%;不删除记为 CKG(完整图谱)。另外报告不提供图谱证据的 NKG 设置。

CKG
完整
0% 删除
IKG
20%
—
IKG
40%
—
IKG
60%
—
IKG
80%
极端
基线、指标与实现

基线:ToG(LLM 引导的图搜索)与 GoG(面向不完整 KG、搜索中允许生成缺失事实)。

指标:Hits@1,即排名第一的预测答案与标准答案匹配的样本比例。

骨干:主实验统一用 GPT-3.5,以减少骨干差异对方法比较的干扰;另报告 Qwen-2 与 Llama-3 两个标签。

解码设置:最大生成长度 256、温度 0.7。

这一页必须先说清楚的三件事(否则后面的数字会被误读)

① 现有材料未给出随机种子、是否每个问题独立采样、重复构图次数和结果方差,所以本文不报告置信区间和显著性;② 只报告绝对百分点差异,不使用「统计显著」这类措辞;③ 原稿记录的各版本模型参数规模存在冲突,因此结果表沿用最终表格的标签,不推断未确认的版本。

第七幕 · 实验38
第七幕 · 实验 / RQ1 + RQ2 · 主结果
39
不同三元组缺失率下的 Hits@1(%)
数据集方法CKGIKG-20%IKG-40%IKG-60%IKG-80%
CWQToG47.240.537.933.731.4
GoG55.744.944.336.234.4
GLKMD55.754.753.150.948.3
WebQSPToG76.970.361.460.655.9
GoG78.770.866.662.656.5
GLKMD73.572.271.167.765.2

粗体 = 同一数据集与知识条件下的最高值。CWQ 的 CKG 一列,GLKMD 与 GoG 并列 55.7;WebQSP 的 CKG 一列,GLKMD(73.5)低于 GoG(78.7)——这两格就是「完整图谱上不占优」的直接证据。

读表要抓的两个模式

① 看每一行从 CKG 到 IKG-80% 掉了多少:

CWQ降幅
ToG−15.8
GoG−21.3
GLKMD−7.4
WebQSP降幅
ToG−21.0
GoG−22.2
GLKMD−8.3

GLKMD 的曲线明显更平缓。

② 看 GLKMD 什么时候开始领先

CWQ 从 IKG-20% 起、WebQSP 从 IKG-20% 起(+1.4)。缺失越严重,领先越多——WebQSP 的增益从 +1.4 一路涨到 +8.7(见第 41 页)。

第七幕 · 实验39
第七幕 · 实验 / RQ1 · 退化曲线
40
CWQ 与 WebQSP 上随三元组缺失率变化的 Hits@1
知识缺失鲁棒性曲线
RQ1 的答案

三种方法都随缺失率上升而下降,但 GLKMD 的曲线更平缓。0% 表示 CKG,20%–80% 表示随机删除对应比例的三元组。

这张图不能证明的事

它只说明在随机删边这一种缺失模式下退化更慢。随机删除不等价于现实缺失——它可能删掉大量与答案无关的边,也可能偶然删掉唯一关键路径(见第 43 页)。

第七幕 · 实验40
第七幕 · 实验 / RQ2 · 增益分解
41
GLKMD 相对每个设置中 max(ToG, GoG) 的绝对百分点差异
GLKMD 相对最强基线的 Hits@1 绝对增益
缺失条件下:增益随缺失率增大

CWQ:IKG-20% +9.8 → 40% +8.8 → 60% +14.7 → 80% +13.9
WebQSP:IKG-20% +1.4 → 40% +4.5 → 60% +5.1 → 80% +8.7

完整图谱(零线处):负结果

CWQ 上与 GoG 持平(0);WebQSP 上比 GoG 低 5.2 个百分点。所以数据支持的是「知识缺失时退化更慢」,不是「在所有场景准确率更高」。

第七幕 · 实验41
第七幕 · 实验 / RQ3 · 骨干稳健性
42
三个骨干模型标签在 CKG、IKG-40% 和 NKG 下的 Hits@1(%)
数据集骨干CKGIKG-40%NKG
CWQGPT-3.555.753.150.9
Qwen-257.349.545.2
Llama-353.648.944.3
WebQSPGPT-3.573.571.167.7
Qwen-275.874.373.5
Llama-377.975.671.6
NKG = 不提供知识图谱证据。模型名称沿用最终结果表;具体版本需在投稿前统一。
不同骨干模型下的结果
⚠ 这张表不能当作辩论模块的消融证据

表 2 同时改变了知识条件和骨干模型,却没有给出「关闭辩论 / 同构代理 / 多数投票 / 单模型多采样」的对照。更稳妥的结论是:GLKMD 管线能在所报告的三个模型标签上得到可比较的结果,而各模块对性能的独立贡献仍待验证。另外,CWQ 三个骨干从 CKG 到 NKG 分别下降 4.8 / 12.1 / 9.3,WebQSP 下降 5.8 / 2.3 / 6.3——由于没有参数记忆探测,这个差异不能直接解释为某模型组合推理更强。

第七幕 · 实验42
第七幕 · 实验 / 这一页是最重要的
43
五个我不能回避的问题
① 缺失机制的外部有效性

只用按比例随机删除三元组,没覆盖关系类型偏置、实体长尾、跨源冲突、时间变化。随机删除可能删掉大量与答案无关的边,不同问题的有效难度未必随名义缺失率线性变化。所以结果只支持「随机缺失压力测试下的结论」。

② 统计不确定性

没有多随机种子重复、标准差、置信区间或显著性检验。因此只报告绝对百分点差异,不使用「统计显著」措辞。

③ 模块归因不足

缺少问题分解、LKDL、三元组筛选、辩论的逐项消融,也没有同预算的多数投票 / 自一致性 / 单模型多采样对照。表 1 的增益不能被分解到任何单一模块。

④ 实现与方法描述不一致

原稿评分尺度与阈值存在数学冲突(最大值 0.305 达不到 θ=0.6),而现有代码用模型筛选三元组。骨干版本、Top-N、辩论轮数、停止条件也未完全统一。投稿前必须以产生最终结果的实际代码为准。

⑤ 参数记忆与证据忠实度

模型在 NKG 或 IKG 下答对,可能来自参数记忆而非补全推理。Hits@1 无法区分「答案正确但证据错误」「答案直接记忆」「真正的多跳组合推理」。BRINK(第 08 页)指出的正是这一层。

已经写进论文的处理方式

① 摘要里明确限定「随机缺失压力测试」;② 同时报告完整图谱上的持平与负结果;③ 主动引用 BRINK、DoM 并承认交叉;④ 投稿前必做清单的第一条就是统一评分与辩论模块的真实实现。

第七幕 · 实验43
08
ACT EIGHT — THE PIPELINE
上面这 43 页
是怎么做出来的
我搭了一套 AI 科研流水线,把读文献 → 提 Gap → 跑实验 → 写初稿 → 审稿 → 出图 → 做 PPT
串成了一条可复现的链路。这一节讲它长什么样,以及它在 GLKMD 上实际产出了什么。
academic-research-suite · codex-autoresearch · scientific-toolkit · research-writing · office-academic
第八幕 · 科研流水线44
第八幕 · 科研流水线 / 全景
45
一条从「读文献」到「答辩 PPT」的完整链路
academic-research-suite 科研总控 · 负责编排与交接
文献 / Gap
▼
26 篇文献到一张 Gap 清单

检索 → 下载 → 文件类型与页数校验 → 按主题归档 → 生成 BibTeX → 逐条核验定位。

产出:7 个主题目录 + .bib + 核验记录

实验
▼
把「改模型」变成可回滚的实验

假设 → 改动 → 测量 → 学习 → 保留或回滚 → 重复。控制脚本负责测量、提交、回滚和事件历史,我负责提假设。

配套:scientific-toolkit 做统计、数据处理与出版级图表

论文
▼
从底稿到初稿,再到自我审稿

research-writing-skill 负责中文正文的起草与修改;awesome-ai-research-writing 再做一轮逻辑、语言、去 AI 味和严格审稿。

产出:GLKMD_revised_zh.md + revision_audit.md

DELIVERABLE A
academic-figure-generator
Framework 图 / 架构图 / 论文插图
DELIVERABLE B
office-academic-skill
组会 PPT / 答辩 PPT / Word 报告
第八幕 · 科研流水线45
第八幕 · 科研流水线 / 第 1–2 环节
46
academic-research-suite
科研总控 —— 负责编排与其他技能的交接
Codex skill科研编排
定位ARS-Codex 工作流,覆盖文献综述、系统综述、研究问题精炼、论文起草与修改、引用与诚信检查、审稿人模拟、研究到论文的完整管线、实验执行规划。
怎么用一组命令别名把长流程拆成可单独调用的步骤:/ars-plan(计划)· /ars-outline(提纲)· /ars-lit-review(文献综述)· /ars-citation-check(引用核验)· /ars-reviewer(模拟审稿)· /ars-full(全流程)。
在 GLKMD 上它负责把「先做什么」定下来:先做文献核验(phase2),再做背景与相关工作底稿(phase3),再动实验和正文。顺序错了,后面的工作全要重来。
codex-autoresearch
自主实验 —— 把「调模型」变成可回滚的科学实验
Codex skill可回滚实验
定位朝一个数值目标反复做「可测量、可回滚」的 Git 实验:提假设 → 改代码 → 测量 → 学习 → 保留或回滚 → 重复。不做一次性修改。
职责切分这是它最值得学的一点——模型负责提假设和改代码;控制脚本拥有测量、提交、回滚和事件历史。也就是说,「实验结果好不好」不由改代码的那一方说了算。
为什么重要它正好对应我在第 43 页承认的问题:模块归因不足。有了这套机制,「加辩论到底涨不涨点」这种消融才是可自动跑的,而不是靠人工反复改脚本、记结果。
但要说清楚:工具不能替代判断

第 27 页那张「DoM 比我高 8.9 个点」的对比表、第 35 页那个「评分公式最大值只有 0.305」的发现,都不是工具自动产出的,是我逐篇读论文、逐行核对稿件找出来的。流水线解决的是规模和一致性,不解决「这个结论到底站不站得住」。

第八幕 · 科研流水线46
第八幕 · 科研流水线 / 第 3–4 环节
47
scientific-toolkit-skill
科研计算工具箱 —— 统计、数据处理、出版级图表
Codex skill计算与出图
覆盖MATLAB / Octave;Python 科学栈(NumPy、SciPy、pandas、matplotlib、seaborn、scikit-learn、statsmodels、SymPy);统计与探索性数据分析、信号与图像处理、仿真、优化、出版级图表、时序数据;以及文献检索、引用元数据、BibTeX 与参考文献核验。
在 GLKMD 上这一节的 4 张图(流程图、鲁棒性曲线、增益柱状图、骨干稳健性)全部来自 figures/scripts/plot_results.py,读取 figures/data/experiment_results.csv 生成,并且带单元测试(figures/tests/)。数据改了,图能一键重出——而不是在 PPT 里手改数字。
一个细节它同时管 BibTeX 核验,所以文献库里那 26 条引用不是手抄的,是核验过 DOI 与页码的。
research-writing-skill
学术写作 —— 中文优先的正文起草与修改
Codex skill论文正文
定位中文优先的学术论文写作、修改、润色、章节起草、rebuttal、审稿回应、学位论文行文改进和论证规划。适用产物是正文、LaTeX、Markdown、稿件文本。
三条硬约束① 默认中文表达;② 保留英文标题、公式、变量、方法名、软件名、引用和参考文献条目;③ 不编造数据、DOI、期刊细节、实验设置、结果或作者主张——区分「原文/已有数据」「用户确认内容」「根据上下文推断」「建议性扩展」。
为什么这条重要第 3 条正好解释了这份汇报里为什么到处是「原文未明确」「需投稿前统一」的标注——这不是我偷懒,是这条规则要求所有不确定的地方必须显式标出,而不能顺手补一个看起来合理的数字。
第八幕 · 科研流水线47
第八幕 · 科研流水线 / 第 5–7 环节
48
awesome-ai-research-writing
逻辑 · 语言 · 去 AI 味 · 严格审稿
资源库自我审稿
干什么在初稿之后加一轮对抗性检查:论证逻辑是否闭合、语言是否符合学术规范、是否有明显的「AI 腔」,以及用严格审稿人的视角审自己。
在 GLKMD 上产出 revision_audit.md。第 27 页承认 DoM 覆盖了我的故事、第 35 页的评分公式冲突、第 43 页的五条局限——都是这一环逼出来的。原稿里「首次」「独立提出」这类表述也是在这里被删掉的。
对汇报的价值它让「被老师问倒」变成「我主动讲出来」。这一整份 PPT 里最扎实的几页,都是这一环的产物。
academic-figure-generator
Framework 图 · 架构图 · 工作流图
Codex skill论文插图
干什么把方法描述渲染成可直接进论文的 Framework / 架构 / 工作流图,而不是在 PowerPoint 里用方块手拼。
在 GLKMD 上第 32 页那张 GLKMD 五步流程图,以及第一幕里「缺一条边导致链式失效」的示意,都是按这个思路产出的——矢量输出、配色统一、能被论文和 PPT 复用。
office-academic-skill
组会 / 答辩 PPT · Word 报告
Codex skill你正在看的这一份
干什么中文优先的学术 Word / PowerPoint 工作流:论文阅读报告、组会与答辩 PPT、可编辑 DOCX/PPTX 生成、Office 文件检查、模板匹配、演讲者备注、版式质量检查。
保留规则同样要求保留英文论文标题、公式、变量名、软件命令和参考文献——所以这份 PPT 里每篇论文都是「中文译名 + 英文原标题 + 会议」三件套。
在 GLKMD 上就是你现在看的这份。它不生成内容,它负责把已经核验过的内容排版成能讲的形式。
第八幕 · 科研流水线48
第八幕 · 科研流水线 / 落到实处
49
这套流水线在 GLKMD 上,具体产出了什么
环节技能实际产物(都在项目目录里)对应本次汇报
文献检索
与核验
ARS + scientific-toolkitliterature/ 下 7 个主题目录、26 份 PDF
00_index/GLKMD_references.bib
phase2_investigation/literature_search_and_verification.md
第 03–29 页的 16 篇深讲
+ 第 50–51 页总览
Gap 分析与
背景底稿
academic-research-suitephase3_analysis/background_and_related_work_draft_zh.md每一幕末尾的
「留下了什么问题」
实验执行
与回滚
codex-autoresearch可回滚的实验迭代与事件历史(提假设 → 改 → 测 → 保留/回滚)第 38–42 页的数据来源
统计与图表scientific-toolkit-skillfigures/data/experiment_results.csv · figures/scripts/plot_results.py
figures/output/ 下 4 组 SVG/PDF/PNG · figures/tests/test_plot_results.py
第 32、40、41、42 页
的四张图
论文正文research-writing-skillmanuscript/GLKMD_revised_zh.md第 31–36 页的方法
与第 39 页的表格
严格审稿awesome-ai-research-writingmanuscript/revision_audit.md第 27、35、43 页
——最扎实的三页
出图与交付academic-figure-generator
+ office-academic-skill
框架流程图 + 这份 HTML PPT第 32 页与全场
这套流水线真正解决的问题

一致性。26 篇文献的会议、年份、数字不会前后矛盾;数据改了图能一键重出;引用条目经过 DOI 核验而非手抄。这些正是人工处理 26 篇时最容易出错的地方。

它没有解决的问题

「这个故事到底成不成立」。DoM 比我强、评分公式自相矛盾、缺模块消融——这些都是我自己读出来、核对出来的。流水线放大判断力,不替代判断力。

第八幕 · 科研流水线49
收尾 / 完整文献库 · 1/2
50
其余 10 篇(上):它们在这条主线里的位置
论文(中文译名 / 原标题)会议主题在这条主线里的作用
KG-GPT
A General Framework for Reasoning on Knowledge Graphs Using LLMs
Findings of
EMNLP 2023
LLM+KG把推理分成句子分割、图检索、推理多阶段,是「分阶段调用图」这一路线的早期代表。与第 11–13 页的图上推理同源。
StructGPT
A General Framework for LLM to Reason over Structured Data
EMNLP 2023LLM+KG用「调用—读取—推理」组织结构化数据访问,是接口层的奠基工作。GLKMD 的 LKDL 查询生成属于同一层。
ChatKBQA
A Generate-then-Retrieve Framework for KBQA
Findings of
ACL 2024
语义解析先生成逻辑形式、再检索实体关系的范式。BRINK 指出它在缺失知识下从 76.5 掉到 39.3——是「语义解析路线扛不住缺失」的证据。
FRAG
A Flexible Modular Framework for RAG based on KGs
Findings of
ACL 2025
子图检索把 KG-RAG 拆成可替换的检索与生成模块,提供系统级比较框架。与第 22 页 SubgraphRAG 同属检索端工程化路线。
Chain-of-Question
A Progressive Question Decomposition Approach for Complex KBQA
Findings of
ACL 2024
问题分解渐进式生成并回答子问题。与 DARA、KELDaR 共同构成分解路线的三篇代表作(第 20–21 页)。

上半部分的共同点:它们都在「图谱可用」的前提下,优化「怎么问」和「怎么取」——也就是第一幕说的第二层(推理层)问题。没有一篇处理第一层(事实缺失)或第三层(评测混淆)。

收尾50
收尾 / 完整文献库 · 2/2
51
其余 10 篇(下):它们在这条主线里的位置
论文(中文译名 / 原标题)会议主题在这条主线里的作用
Divergent Thinking via MAD
Encouraging Divergent Thinking in LLMs through Multi-Agent Debate
EMNLP 2024辩论「观点多样性」的原始出处。是 GLKMD 采用异构模型(而非同模型换角色)的理论依据之一,与第 28 页呼应。
Sparse Communication Topology
Improving Multi-Agent Debate with Sparse Communication Topology
Findings of
EMNLP 2024
辩论辩论拓扑与成本控制,提示「不是通信越密越好」。对应第 28 页「辩论不是免费的」。
RAIN-TF
Fusing Essential Text for QA over Incomplete Knowledge Base
Electronics
2025
不完整 KG关键文本筛选与关系感知图融合。是第 06–07 页「用外部文本补缺失」这条线在 2025 年的延续。
LLM-assisted KG Engineering
Experiments with ChatGPT
Springer
2024
综述/工程LLM 辅助知识图谱构建的工程实践——说明图谱本身是怎么被造出来的,也就解释了长尾实体为什么会漏(呼应第 05 页)。
LLMs Meet KGs for QA
Synthesis and Opportunities
EMNLP 2025综述LLM + KGQA 的分类与综述,是 GLKMD 相关工作一节的分类依据(知识表示 / 检索 / 推理 / 答案生成)。

下半部分对应三条支线:辩论的方法论(前两篇)、不完整知识问答的另一条延续(RAIN-TF)、图谱本身的工程与综述(后两篇)。加上前面深讲的 16 篇,文献库 26 篇就覆盖完了。

收尾51
收尾 / 把这条线收起来
52
图谱不完整是常态 → 多跳推理会链式失效 → 四条路线各有边界 → GLKMD
三句话总结
  1. 问题是真的。低完整度图谱上,ToG 和 GoG 的性能下降 15–22 个百分点,而 GLKMD 只下降 7–8 个点。曲线平滑这件事本身是稳定的。
  2. 贡献是受限的。GLKMD 的价值集中在不完整知识条件:完整图谱上它在 CWQ 与 GoG 持平、在 WebQSP 还低 5.2 个点。我不用「全面领先」来包装它。
  3. 论证是不完整的。缺模块消融、缺同预算对照、缺统计重复、评分公式还有数学冲突。投稿前的第一件事是把这些补上,而不是继续加模块。
下一步(按优先级)
  1. 统一实现——评分公式、阈值、辩论轮数,以产生最终结果的代码为准
  2. 同基座同设置重跑 DoM——这是最尖锐的对标(第 27 页)
  3. 补消融——分解 / LKDL / 评分 / 辩论逐项关掉,并加多数投票、自一致性、同构代理对照
  4. 换缺失模式——关系偏置、长尾实体、时间更新,而不只是随机删边
  5. 补忠实度指标——证据召回、路径忠实度、参数记忆探测(回应 BRINK)

这一轮读文献最大的收获,不是找到了 GLKMD 的卖点,而是找到了它的边界。
DoM 在 AAAI 2026 已经覆盖了叙事的大部分,这件事早知道比晚知道好——它把接下来的工作从「再想一个创新点」变成了「把已有的声明坐实」。

收尾52
收尾 / 提前准备
53
可能会被问到的六个问题,以及我准备好的回答
Q1 · DoM 已经做了几乎一样的事,你的创新点是什么?

组合层面确实没有创新。差异只在四点(触发时机、模型异构、LKDL 表示、以图为主),其中只有前两点可能构成机制差异,但都还没有消融证据。现阶段我声称的是受限的实证结果,不是方法新颖性。

Q2 · 为什么完整图谱上你的方法不如基线?

这是预期行为,不是失败。完整图谱上,额外的分解、筛选和模型协作会引入错误传播和不必要的生成;GoG 和 ToG 的直接图探索更高效。KAR(ACL 2019)在 2019 年就报告过同样的现象(16.8% 的样本加文本反而更差)。

Q3 · 辩论到底有没有用?

目前不知道。没有做「有 / 无辩论」消融,也没有多数投票、自一致性、同构代理的同预算对照。而且 Demystifying MAD 证明朴素辩论可能不如多数投票。所以我把辩论定位成框架组件,不声称它贡献了全部增益。

Q4 · 随机删边能代表真实的知识缺失吗?

不能。随机删除可能删掉大量与答案无关的边,也可能偶然删掉唯一关键路径,有效难度不随名义缺失率线性变化。所以我把结论限定为「随机缺失压力测试下的鲁棒性」,并计划加入关系偏置、长尾实体、时间更新等更现实的缺失模式。

Q5 · 模型是不是在靠记忆答题?

很可能有一部分是。BRINK 发现给实体加文本标签后成绩显著上升、而官方 ID 与随机 ID 表现几乎一样——说明模型很大程度上靠内部记忆而非符号推理。Hits@1 区分不了这三种情况,我需要补参数记忆探测和证据忠实度指标。

Q6 · 你这套 AI 流水线,结果可信吗?

流水线只保证一致性(会议、年份、数字不矛盾,图表可从数据一键重出,引用经 DOI 核验),不保证结论正确——DoM 的威胁、评分公式的冲突、消融的缺失,都是人工读出来核对出来的。而且 research-writing 这条技能明确禁止编造数据、DOI 和实验结果。

收尾53
THANK YOU · 讨论

谢谢,请批评

今天最想听到的不是「这个方法不错」,而是两个问题:
① GLKMD 剩下的那点差异,值不值得做下去?
② 如果要投稿,应该先补消融,还是先换更真实的缺失模式?
文献库literature/ · 26 篇 · 7 个主题
方法稿manuscript/GLKMD_revised_zh.md
数据与图figures/ · 可一键重出
本 PPTliterature/presentation/index.html
GLKMD · GROUP MEETING54 / 54
1 / 1 ← → 空格 · T 目录