1. 方法定位

当前方法是一个面向多跳问答的图检索方法。它不把检索建模为独立文档排序,而是先把语料组织成文档-实体二部图,再在查询条件下进行路径搜索。当前主线采用 entity-doc transition policy:每一步不只选择桥接实体,而是直接选择一个二元动作:

a_t=(e_t,d_{t+1}),

其中 (e_t) 是从当前文档出发的桥接实体,(d_{t+1}) 是通过该实体连接到的下一篇文档。

当前方法已经回退到原始主线训练方式:用 shortest-path imitation 构造预训练标签。也就是说,训练时不再使用 support-coverage 标签,也不把所有 remaining gold documents 的可达动作合并为正样本。

2. 任务定义

给定文档集合:

\mathcal{D}=\{d_1,d_2,\ldots,d_N\},

以及查询:

q\in\mathcal{Q},

系统输出一个文档排序:

\pi_q=(\hat d_1,\hat d_2,\ldots,\hat d_N).

评价时只取前 (K) 篇文档:

\operatorname{Top}_K(q)=\{\hat d_1,\hat d_2,\ldots,\hat d_K\}.

每个问题有一个 gold supporting document 集合:

\mathcal{Y}^{\star}(q)\subseteq\mathcal{D}.

方法目标是让 (\operatorname{Top}_K(q)) 尽可能覆盖完整支持集,而不仅是找回某一篇相关文档。

3. 文档-实体二部图

对每篇文档 (d),抽取得到实体集合:

\mathcal{E}(d)=\{e_1,e_2,\ldots,e_m\}.

系统构造异构二部图:

\mathcal{G}=(\mathcal{V}_D\cup\mathcal{V}_E,\mathcal{R}),

其中:

\mathcal{V}_D=\{v_d:d\in\mathcal{D}\},
\mathcal{V}_E=\{v_e:e\in\mathcal{E}\}.

若实体 (e) 出现在文档 (d) 中,则加入一条文档-实体边:

(v_d,v_e)\in\mathcal{R}.

每条边带有权重:

w(d,e)\in\mathbb{R}_{\ge 0},

用于表示实体在文档中的重要程度。这个图只依赖实体-文档共现,不依赖显式关系三元组。因此它避免了 relation extraction 中的关系类型错误和关系缺边问题。

4. 查询子图与初始文档

对于查询 (q),系统先获得查询实体集合:

\mathcal{E}_q=\operatorname{ExtractEntity}(q).

同时通过语义、词法和实体匹配等种子打分机制,为文档计算初始相关性:

s_{\mathrm{seed}}(d\mid q)=\phi_{\mathrm{seed}}(q,d).

初始文档集合取分数较高的若干文档:

\mathcal{S}_D(q)=\operatorname{TopSeedDocs}(q).

需要注意:当前主线的初始状态是文档 seed,而不是直接以查询实体作为搜索节点。查询实体主要用于构造查询子图、实体种子分数和后续桥接约束。

围绕种子文档、查询实体及其邻域,系统得到查询相关子图:

\mathcal{G}_q=(\mathcal{V}_q,\mathcal{R}_q)\subseteq\mathcal{G}.

后续搜索只在 (\mathcal{G}_q) 上进行。

5. 搜索状态

第 (t) 步搜索状态写为:

\xi_t=(q,d_t,H_t),

其中 (d_t) 是当前文档,(H_t) 是历史路径:

H_t=\big((d_0,e_0),(d_1,e_1),\ldots,(d_{t-1},e_{t-1})\big).

直观上,(H_t) 表示系统已经经过哪些文档、通过哪些实体走到当前文档。

6. 候选动作

在当前文档 (d_t) 上,候选动作集合定义为:

\mathcal{A}(\xi_t) = \{(e,d')\mid (d_t,e)\in\mathcal{R}_q,\ (e,d')\in\mathcal{R}_q,\ d'\notin H_t\}.

每个动作同时指定桥接实体和下一篇文档。当前配置会对候选动作做窗口限制:

|\mathcal{A}(\xi_t)|\le M,

其中当前主线中:

M=64.

对每个实体最多保留若干连接文档:

M_{\mathrm{doc/entity}}=5.

候选动作不是任意枚举全图,而是先按下一文档 seed 分数和图边权重进行局部筛选,再交给 policy 打分。

7. Policy 的输入和输出

当前 policy 的输入是一个搜索状态及其候选动作集合:

\left(q,d_t,H_t,\mathcal{A}(\xi_t)\right).

对每个候选动作 (a=(e,d')),policy 输出一个实数分数:

s_\theta(a\mid\xi_t)\in\mathbb{R}.

因此 policy 的输出不是文档列表,也不是单个实体分数,而是候选动作分数向量:

\mathbf{s}_t= \left[ s_\theta(a_1\mid\xi_t), s_\theta(a_2\mid\xi_t), \ldots, s_\theta(a_m\mid\xi_t) \right].

其中:

a_i=(e_i,d_i').

8. Policy 表示计算

令文本编码器为:

\operatorname{Enc}(\cdot).

查询、当前文档、候选实体、候选下一文档分别编码并投影到同一隐空间:

\mathbf{z}_q=W_q\operatorname{Enc}(q),
\mathbf{z}_{d_t}=W_d\operatorname{Enc}(d_t),
\mathbf{z}_{e}=W_e\operatorname{Enc}(e),
\mathbf{z}_{d'}=W_d\operatorname{Enc}(d').

当前状态表示为:

\mathbf{z}_{\mathrm{state}} = \mathbf{z}_q+\mathbf{z}_{d_t}.

历史路径中每一步 ((d_i,e_i)) 被编码为:

\mathbf{h}_i = W_h[\mathbf{z}_{d_i};\mathbf{z}_{e_i}].

经过位置编码和注意力聚合后得到路径表示:

\mathbf{z}_H = \operatorname{AttnPool} \left( \operatorname{PE}(\mathbf{h}_0,\mathbf{h}_1,\ldots,\mathbf{h}_{t-1}) \right).

对于候选动作 (a=(e,d')),动作表示为:

\mathbf{z}_a = W_a \left[ \operatorname{LN}(\mathbf{z}_e); \lambda\operatorname{LN}(\mathbf{z}_{d'}) \right].

当前主线使用:

\lambda=0.3.

也就是说,动作表示中保留下一文档信息,但用较小权重弱化文档嵌入,避免 policy 过度依赖局部文档相似度。

最终打分函数为:

s_\theta(a\mid\xi_t) = \operatorname{MLP} \left( \left[ \mathbf{z}_{\mathrm{state}}; \mathbf{z}_a; \mathbf{z}_{\mathrm{state}}\odot\mathbf{z}_a; \mathbf{z}_H \right] \right).

这里 (\odot) 表示逐元素乘积,用于显式建模状态和动作之间的交互。

9. 训练数据构造

训练阶段使用带有 supporting documents 标注的问题。对每个问题 (q),设 gold 文档集合为:

\mathcal{Y}^{\star}(q)=\{g_1,g_2,\ldots,g_r\}.

从初始 seed 文档集合 (\mathcal{S}_D(q)) 到 gold 文档集合 (\mathcal{Y}^{\star}(q)),在图 (\mathcal{G}) 上寻找 shortest paths:

P(q)= \operatorname{ShortestPaths} \left( \mathcal{S}_D(q), \mathcal{Y}^{\star}(q), \mathcal{G} \right).

一条路径可以写成:

p=(d_0,e_0,d_1,e_1,\ldots,e_{L-1},d_L).

对路径中的第 (t) 步,构造训练状态:

\xi_t=(q,d_t,H_t).

对应的正动作是 shortest path 上的下一跳:

a_t^+=(e_t,d_{t+1}).

候选动作集合仍为当前状态下可行动作:

\mathcal{A}(\xi_t)=\{a_1,a_2,\ldots,a_m\}.

若 (a_t^+\in\mathcal{A}(\xi_t)),则生成一个训练样本:

\left( \xi_t, \mathcal{A}(\xi_t), a_t^+ \right).

当前回退后的训练目标是单正样本 softmax imitation:

\mathcal{L}(\theta) = - \log \frac{ \exp(s_\theta(a_t^+\mid\xi_t)) }{ \sum_{a\in\mathcal{A}(\xi_t)} \exp(s_\theta(a\mid\xi_t)) }.

这表示 policy 学习的是:在给定当前文档和历史路径的条件下,模仿 shortest path 的下一跳动作。

10. 推理阶段的束搜索

推理时,首先按照 seed 分数选取初始 beam:

\mathcal{B}_0 = \operatorname{Top}_B \left( \{d\in\mathcal{S}_D(q)\}, s_{\mathrm{seed}}(d\mid q) \right).

当前主线评估配置中:

B=4.

对每个 beam 状态 (\xi_t),系统枚举候选动作集合 (\mathcal{A}(\xi_t)),由 policy 得到动作分数:

s_\theta(a\mid\xi_t),\quad a\in\mathcal{A}(\xi_t).

每个状态最多展开:

M_b=10

个高分动作。若选择动作:

a_t=(e_t,d_{t+1}),

则路径更新为:

p_{t+1}=p_t\oplus(e_t,d_{t+1}).

路径分数累积为:

S(p_{t+1}) = S(p_t)+s_\theta(a_t\mid\xi_t).

每轮展开后,系统根据路径分数进行去重和选择,保留前 (B) 条 beam:

\mathcal{B}_{t+1} = \operatorname{Top}_B \left( \{p_{t+1}\}, S(p_{t+1}) \right).

路径长度按文档数限制:

|p|_D\le L_{\max},

当前默认:

L_{\max}=5.

最终保留若干条高分路径:

\mathcal{P}_q=\operatorname{TopPaths}(q).

当前 beam4 主线配置中:

|\mathcal{P}_q|=12.

11. 从路径到文档排序

搜索结束后,系统不会只返回路径末端文档,而是将多类证据聚合成文档分数。

对每个候选文档 (d),记录以下信号:

  1. seed 分数:
F_{\mathrm{seed}}(d)=s_{\mathrm{seed}}(d\mid q).
  1. 路径分数:
F_{\mathrm{path}}(d) = \max_{p\in\mathcal{P}_q,\ d\in p} S(p).
  1. bridge 扩散分数:
F_{\mathrm{bridge}}(d) = \operatorname{Bridge}(d\mid q,\mathcal{G}_q).
  1. 证据命中次数:
F_{\mathrm{hit}}(d) = \operatorname{PathHit}(d)+\operatorname{BridgeHit}(d).

最终文档分数为:

S_{\mathrm{doc}}(d) = \alpha F_{\mathrm{seed}}(d) + \log(1+\max(F_{\mathrm{path}}(d),0)) + \log(1+\max(F_{\mathrm{bridge}}(d),0)) + \eta\log(1+F_{\mathrm{hit}}(d)).

当前默认配置中:

\alpha=1.0.

文档按 (S_{\mathrm{doc}}(d)) 降序排列:

\pi_q=\operatorname{Sort}_{d\in\mathcal{D}}\left(S_{\mathrm{doc}}(d)\right).

这一步体现了当前方法的基本思想:policy 负责控制图上路径如何展开,最终排序仍然聚合 seed、path 和 bridge 三类 graph-native 信号。

12. 评价指标

对单个问题,文档召回率定义为:

\operatorname{R@}K(q) = \frac{ |\mathcal{Y}^{\star}(q)\cap\operatorname{Top}_K(q)| }{ |\mathcal{Y}^{\star}(q)| }.

完整支持集召回定义为:

\operatorname{FR@}K(q) = \mathbb{I} \left[ \mathcal{Y}^{\star}(q) \subseteq \operatorname{Top}_K(q) \right].

数据集级指标为:

\operatorname{R@}K = \frac{1}{|\mathcal{Q}|} \sum_{q\in\mathcal{Q}} \operatorname{R@}K(q),
\operatorname{FR@}K = \frac{1}{|\mathcal{Q}|} \sum_{q\in\mathcal{Q}} \operatorname{FR@}K(q).

其中 (\operatorname{FR@}K) 比 (\operatorname{R@}K) 更严格,因为它要求一个问题的所有 supporting documents 都出现在 top-(K) 内。

13. 当前方法流程总结

整体流程可以写成:

文档语料
  -> 文档-实体二部图
  -> 查询实体与 seed 文档
  -> 查询子图
  -> beam 初始化
  -> policy 对候选 (entity, next_doc) 动作打分
  -> 选择动作并扩展路径
  -> 聚合 seed/path/bridge 信号
  -> 文档排序
  -> R@K / FR@K 评价

更紧凑地,可以写为:

\mathcal{D} \rightarrow \mathcal{G} \rightarrow \mathcal{G}_q \rightarrow \mathcal{P}_q \rightarrow S_{\mathrm{doc}} \rightarrow \pi_q.

当前方法的核心不是让模型直接端到端输出文档排序,而是把学习能力集中在最关键的多跳转移决策上:

(q,d_t,H_t) \mapsto \operatorname{Score}\big((e,d')\big).

这样做的好处是保留图检索的可控性和可解释路径,同时让 policy 学习如何在复杂图结构中选择更有效的桥接实体和下一文档。

14. 当前方法边界

当前方法仍然有一个重要边界:训练目标是 shortest-path imitation,而不是直接优化 (\operatorname{FR@}10)。因此,policy 学到的是“沿 gold shortest path 走下一步”的局部决策,而不是显式学习“如何让完整 support set 尽早进入 top-10”。

形式化地,当前训练目标优化的是:

\max_\theta \sum_t \log P_\theta(a_t^+\mid\xi_t),

而最终评价关注的是:

\mathbb{I} \left[ \mathcal{Y}^{\star}(q) \subseteq \operatorname{Top}_{10}(q) \right].

二者之间存在目标错位。这也是 MuSiQue 上继续提升 (\operatorname{FR@}10) 时需要重点解决的问题。