GRAB模型:用潜在桥接技术提升多表问答性能
近日,arXiv发布了一项针对表格问答任务的新研究《Latent Bridges for Multi-Table Question Answering》。该工作提出名为GRAB的构造器-编码器-桥接流水线,专门解决多表关系数据的问答难题。
GRAB的核心创新在于三步处理流程:首先将关系数据转换为异构图结构,接着通过消息传递机制进行编码,最后仅通过少量查询条件化的潜在令牌,将结构化信号传输给大语言模型。这种方法为大模型提供了紧凑且任务相关的结构表征,同时保留原始文本信息。
关键技术突破在于:研究团队保持LLM完全冻结状态,仅训练轻量级图编码器和潜在桥接模块(总计9100万参数)。这种设计既保留了大型语言模型的通用推理能力,又实现了高效的全流程训练。实验表明,该方案在关系型问答任务上表现显著提升,尤其在复杂的多表场景中优势最为明显。
这项研究为连接关系型深度学习与大语言模型提供了高效且原理清晰的新路径,有望推动结构化数据与生成式AI的深度融合应用。