GRAB模型:用潜在桥接技术提升多表问答性能

arXiv·21 天前

近日,arXiv发布了一项针对表格问答任务的新研究《Latent Bridges for Multi-Table Question Answering》。该工作提出名为GRAB的构造器-编码器-桥接流水线,专门解决多表关系数据的问答难题。

GRAB的核心创新在于三步处理流程:首先将关系数据转换为异构图结构,接着通过消息传递机制进行编码,最后仅通过少量查询条件化的潜在令牌,将结构化信号传输给大语言模型。这种方法为大模型提供了紧凑且任务相关的结构表征,同时保留原始文本信息。

关键技术突破在于:研究团队保持LLM完全冻结状态,仅训练轻量级图编码器和潜在桥接模块(总计9100万参数)。这种设计既保留了大型语言模型的通用推理能力,又实现了高效的全流程训练。实验表明,该方案在关系型问答任务上表现显著提升,尤其在复杂的多表场景中优势最为明显。

这项研究为连接关系型深度学习与大语言模型提供了高效且原理清晰的新路径,有望推动结构化数据与生成式AI的深度融合应用。

表格问答多表推理图神经网络大语言模型潜在表示

原文来源:https://arxiv.org/abs/2606.28916

相关阅读

AI_LectureNote:英语医学术语还原与语义保真度研究
大模型生成文本的“文学无风格”现象
大语言模型中的问题顺序效应:QQ等式审计揭示机制特性与饱和陷阱
首个吉尔吉斯语大模型基准发布:揭示低资源语言评估挑战
Scope3Trace:基于证据的Scope 3温室气体排放识别与提取框架

← 返回