1. 方法定位
当前方法是一个面向多跳问答的图检索方法。它不把检索建模为独立文档排序,而是先把语料组织成文档-实体二部图,再在查询条件下进行路径搜索。当前主线采用 entity-doc transition policy:每一步不只选择桥接实体,而是直接选择一个二元动作:
a_t=(e_t,d_{t+1}),
其中 (e_t) 是从当前文档出发的桥接实体,(d_{t+1}) 是通过该实体连接到的下一篇文档。
当前方法已经回退到原始主线训练方式:用 shortest-path imitation 构造预训练标签。也就是说,训练时不再使用 support-coverage 标签,也不把所有 remaining gold documents 的可达动作合并为正样本。
2. 任务定义
给定文档集合:
\mathcal{D}=\{d_1,d_2,\ldots,d_N\},
以及查询:
q\in\mathcal{Q},
系统输出一个文档排序:
\pi_q=(\hat d_1,\hat d_2,\ldots,\hat d_N).
评价时只取前 (K) 篇文档:
\operatorname{Top}_K(q)=\{\hat d_1,\hat d_2,\ldots,\hat d_K\}.
每个问题有一个 gold supporting document 集合:
\mathcal{Y}^{\star}(q)\subseteq\mathcal{D}.
方法目标是让 (\operatorname{Top}_K(q)) 尽可能覆盖完整支持集,而不仅是找回某一篇相关文档。
3. 文档-实体二部图
对每篇文档 (d),抽取得到实体集合:
\mathcal{E}(d)=\{e_1,e_2,\ldots,e_m\}.
系统构造异构二部图:
\mathcal{G}=(\mathcal{V}_D\cup\mathcal{V}_E,\mathcal{R}),
其中:
\mathcal{V}_D=\{v_d:d\in\mathcal{D}\},
\mathcal{V}_E=\{v_e:e\in\mathcal{E}\}.
若实体 (e) 出现在文档 (d) 中,则加入一条文档-实体边:
(v_d,v_e)\in\mathcal{R}.
每条边带有权重:
w(d,e)\in\mathbb{R}_{\ge 0},
用于表示实体在文档中的重要程度。这个图只依赖实体-文档共现,不依赖显式关系三元组。因此它避免了 relation extraction 中的关系类型错误和关系缺边问题。
4. 查询子图与初始文档
对于查询 (q),系统先获得查询实体集合:
\mathcal{E}_q=\operatorname{ExtractEntity}(q).
同时通过语义、词法和实体匹配等种子打分机制,为文档计算初始相关性:
s_{\mathrm{seed}}(d\mid q)=\phi_{\mathrm{seed}}(q,d).
初始文档集合取分数较高的若干文档:
\mathcal{S}_D(q)=\operatorname{TopSeedDocs}(q).
需要注意:当前主线的初始状态是文档 seed,而不是直接以查询实体作为搜索节点。查询实体主要用于构造查询子图、实体种子分数和后续桥接约束。
围绕种子文档、查询实体及其邻域,系统得到查询相关子图:
\mathcal{G}_q=(\mathcal{V}_q,\mathcal{R}_q)\subseteq\mathcal{G}.
后续搜索只在 (\mathcal{G}_q) 上进行。
5. 搜索状态
第 (t) 步搜索状态写为:
\xi_t=(q,d_t,H_t),
其中 (d_t) 是当前文档,(H_t) 是历史路径:
H_t=\big((d_0,e_0),(d_1,e_1),\ldots,(d_{t-1},e_{t-1})\big).
直观上,(H_t) 表示系统已经经过哪些文档、通过哪些实体走到当前文档。
6. 候选动作
在当前文档 (d_t) 上,候选动作集合定义为:
\mathcal{A}(\xi_t)
=
\{(e,d')\mid (d_t,e)\in\mathcal{R}_q,\ (e,d')\in\mathcal{R}_q,\ d'\notin H_t\}.
每个动作同时指定桥接实体和下一篇文档。当前配置会对候选动作做窗口限制:
|\mathcal{A}(\xi_t)|\le M,
其中当前主线中:
M=64.
对每个实体最多保留若干连接文档:
M_{\mathrm{doc/entity}}=5.
候选动作不是任意枚举全图,而是先按下一文档 seed 分数和图边权重进行局部筛选,再交给 policy 打分。
7. Policy 的输入和输出
当前 policy 的输入是一个搜索状态及其候选动作集合:
\left(q,d_t,H_t,\mathcal{A}(\xi_t)\right).
对每个候选动作 (a=(e,d')),policy 输出一个实数分数:
s_\theta(a\mid\xi_t)\in\mathbb{R}.
因此 policy 的输出不是文档列表,也不是单个实体分数,而是候选动作分数向量:
\mathbf{s}_t=
\left[
s_\theta(a_1\mid\xi_t),
s_\theta(a_2\mid\xi_t),
\ldots,
s_\theta(a_m\mid\xi_t)
\right].
其中:
a_i=(e_i,d_i').
8. Policy 表示计算
令文本编码器为:
\operatorname{Enc}(\cdot).
查询、当前文档、候选实体、候选下一文档分别编码并投影到同一隐空间:
\mathbf{z}_q=W_q\operatorname{Enc}(q),
\mathbf{z}_{d_t}=W_d\operatorname{Enc}(d_t),
\mathbf{z}_{e}=W_e\operatorname{Enc}(e),
\mathbf{z}_{d'}=W_d\operatorname{Enc}(d').
当前状态表示为:
\mathbf{z}_{\mathrm{state}}
=
\mathbf{z}_q+\mathbf{z}_{d_t}.
历史路径中每一步 ((d_i,e_i)) 被编码为:
\mathbf{h}_i
=
W_h[\mathbf{z}_{d_i};\mathbf{z}_{e_i}].
经过位置编码和注意力聚合后得到路径表示:
\mathbf{z}_H
=
\operatorname{AttnPool}
\left(
\operatorname{PE}(\mathbf{h}_0,\mathbf{h}_1,\ldots,\mathbf{h}_{t-1})
\right).
对于候选动作 (a=(e,d')),动作表示为:
\mathbf{z}_a
=
W_a
\left[
\operatorname{LN}(\mathbf{z}_e);
\lambda\operatorname{LN}(\mathbf{z}_{d'})
\right].
当前主线使用:
\lambda=0.3.
也就是说,动作表示中保留下一文档信息,但用较小权重弱化文档嵌入,避免 policy 过度依赖局部文档相似度。
最终打分函数为:
s_\theta(a\mid\xi_t)
=
\operatorname{MLP}
\left(
\left[
\mathbf{z}_{\mathrm{state}};
\mathbf{z}_a;
\mathbf{z}_{\mathrm{state}}\odot\mathbf{z}_a;
\mathbf{z}_H
\right]
\right).
这里 (\odot) 表示逐元素乘积,用于显式建模状态和动作之间的交互。
9. 训练数据构造
训练阶段使用带有 supporting documents 标注的问题。对每个问题 (q),设 gold 文档集合为:
\mathcal{Y}^{\star}(q)=\{g_1,g_2,\ldots,g_r\}.
从初始 seed 文档集合 (\mathcal{S}_D(q)) 到 gold 文档集合 (\mathcal{Y}^{\star}(q)),在图 (\mathcal{G}) 上寻找 shortest paths:
P(q)=
\operatorname{ShortestPaths}
\left(
\mathcal{S}_D(q),
\mathcal{Y}^{\star}(q),
\mathcal{G}
\right).
一条路径可以写成:
p=(d_0,e_0,d_1,e_1,\ldots,e_{L-1},d_L).
对路径中的第 (t) 步,构造训练状态:
\xi_t=(q,d_t,H_t).
对应的正动作是 shortest path 上的下一跳:
a_t^+=(e_t,d_{t+1}).
候选动作集合仍为当前状态下可行动作:
\mathcal{A}(\xi_t)=\{a_1,a_2,\ldots,a_m\}.
若 (a_t^+\in\mathcal{A}(\xi_t)),则生成一个训练样本:
\left(
\xi_t,
\mathcal{A}(\xi_t),
a_t^+
\right).
当前回退后的训练目标是单正样本 softmax imitation:
\mathcal{L}(\theta)
=
-
\log
\frac{
\exp(s_\theta(a_t^+\mid\xi_t))
}{
\sum_{a\in\mathcal{A}(\xi_t)}
\exp(s_\theta(a\mid\xi_t))
}.
这表示 policy 学习的是:在给定当前文档和历史路径的条件下,模仿 shortest path 的下一跳动作。
10. 推理阶段的束搜索
推理时,首先按照 seed 分数选取初始 beam:
\mathcal{B}_0
=
\operatorname{Top}_B
\left(
\{d\in\mathcal{S}_D(q)\},
s_{\mathrm{seed}}(d\mid q)
\right).
当前主线评估配置中:
B=4.
对每个 beam 状态 (\xi_t),系统枚举候选动作集合 (\mathcal{A}(\xi_t)),由 policy 得到动作分数:
s_\theta(a\mid\xi_t),\quad a\in\mathcal{A}(\xi_t).
每个状态最多展开:
M_b=10
个高分动作。若选择动作:
a_t=(e_t,d_{t+1}),
则路径更新为:
p_{t+1}=p_t\oplus(e_t,d_{t+1}).
路径分数累积为:
S(p_{t+1})
=
S(p_t)+s_\theta(a_t\mid\xi_t).
每轮展开后,系统根据路径分数进行去重和选择,保留前 (B) 条 beam:
\mathcal{B}_{t+1}
=
\operatorname{Top}_B
\left(
\{p_{t+1}\},
S(p_{t+1})
\right).
路径长度按文档数限制:
|p|_D\le L_{\max},
当前默认:
L_{\max}=5.
最终保留若干条高分路径:
\mathcal{P}_q=\operatorname{TopPaths}(q).
当前 beam4 主线配置中:
|\mathcal{P}_q|=12.
11. 从路径到文档排序
搜索结束后,系统不会只返回路径末端文档,而是将多类证据聚合成文档分数。
对每个候选文档 (d),记录以下信号:
- seed 分数:
F_{\mathrm{seed}}(d)=s_{\mathrm{seed}}(d\mid q).
- 路径分数:
F_{\mathrm{path}}(d)
=
\max_{p\in\mathcal{P}_q,\ d\in p} S(p).
- bridge 扩散分数:
F_{\mathrm{bridge}}(d)
=
\operatorname{Bridge}(d\mid q,\mathcal{G}_q).
- 证据命中次数:
F_{\mathrm{hit}}(d)
=
\operatorname{PathHit}(d)+\operatorname{BridgeHit}(d).
最终文档分数为:
S_{\mathrm{doc}}(d)
=
\alpha F_{\mathrm{seed}}(d)
+
\log(1+\max(F_{\mathrm{path}}(d),0))
+
\log(1+\max(F_{\mathrm{bridge}}(d),0))
+
\eta\log(1+F_{\mathrm{hit}}(d)).
当前默认配置中:
\alpha=1.0.
文档按 (S_{\mathrm{doc}}(d)) 降序排列:
\pi_q=\operatorname{Sort}_{d\in\mathcal{D}}\left(S_{\mathrm{doc}}(d)\right).
这一步体现了当前方法的基本思想:policy 负责控制图上路径如何展开,最终排序仍然聚合 seed、path 和 bridge 三类 graph-native 信号。
12. 评价指标
对单个问题,文档召回率定义为:
\operatorname{R@}K(q)
=
\frac{
|\mathcal{Y}^{\star}(q)\cap\operatorname{Top}_K(q)|
}{
|\mathcal{Y}^{\star}(q)|
}.
完整支持集召回定义为:
\operatorname{FR@}K(q)
=
\mathbb{I}
\left[
\mathcal{Y}^{\star}(q)
\subseteq
\operatorname{Top}_K(q)
\right].
数据集级指标为:
\operatorname{R@}K
=
\frac{1}{|\mathcal{Q}|}
\sum_{q\in\mathcal{Q}}
\operatorname{R@}K(q),
\operatorname{FR@}K
=
\frac{1}{|\mathcal{Q}|}
\sum_{q\in\mathcal{Q}}
\operatorname{FR@}K(q).
其中 (\operatorname{FR@}K) 比 (\operatorname{R@}K) 更严格,因为它要求一个问题的所有 supporting documents 都出现在 top-(K) 内。
13. 当前方法流程总结
整体流程可以写成:
文档语料
-> 文档-实体二部图
-> 查询实体与 seed 文档
-> 查询子图
-> beam 初始化
-> policy 对候选 (entity, next_doc) 动作打分
-> 选择动作并扩展路径
-> 聚合 seed/path/bridge 信号
-> 文档排序
-> R@K / FR@K 评价
更紧凑地,可以写为:
\mathcal{D}
\rightarrow
\mathcal{G}
\rightarrow
\mathcal{G}_q
\rightarrow
\mathcal{P}_q
\rightarrow
S_{\mathrm{doc}}
\rightarrow
\pi_q.
当前方法的核心不是让模型直接端到端输出文档排序,而是把学习能力集中在最关键的多跳转移决策上:
(q,d_t,H_t)
\mapsto
\operatorname{Score}\big((e,d')\big).
这样做的好处是保留图检索的可控性和可解释路径,同时让 policy 学习如何在复杂图结构中选择更有效的桥接实体和下一文档。
14. 当前方法边界
当前方法仍然有一个重要边界:训练目标是 shortest-path imitation,而不是直接优化 (\operatorname{FR@}10)。因此,policy 学到的是“沿 gold shortest path 走下一步”的局部决策,而不是显式学习“如何让完整 support set 尽早进入 top-10”。
形式化地,当前训练目标优化的是:
\max_\theta
\sum_t
\log
P_\theta(a_t^+\mid\xi_t),
而最终评价关注的是:
\mathbb{I}
\left[
\mathcal{Y}^{\star}(q)
\subseteq
\operatorname{Top}_{10}(q)
\right].
二者之间存在目标错位。这也是 MuSiQue 上继续提升 (\operatorname{FR@}10) 时需要重点解决的问题。