Dynamic Hierarchical Reasoning with Language Model and Knowledge Graph for Question Answering

2023-10-27

本文是LLM系列文章,针对《Dynamic Hierarchical Reasoning with Language Model and Knowledge Graph for Question Answering》的翻译。

DRLK:基于语言模型和知识图谱的动态层次推理

摘要

近年来,具有增强知识图谱(KG)的图神经网络(GNN)方法在问答(QA)任务中表现良好。一个关键的挑战是如何有效地利用QA上下文和KG之间的交互。然而,现有的工作只采用相同的QA上下文表示来与多层KG交互,这导致了有限的交互。在本文中,我们提出了DRLK(具有语言模型和知识图谱的动态层次推理),这是一种利用QA上下文和KG之间的动态层次交互进行推理的新模型。DRLK提取QA上下文中的动态分层特征,并在每次迭代中执行层间和层内交互,允许KG表示以QA上下文的分层特征为基础。我们在医学QA和常识推理的四个基准数据集上进行了广泛的实验。实验结果表明,DRLK在两个基准数据集上都达到了最先进的性能,在其他数据集上表现有竞争力。

1 引言

2 相关工作

3 方法

4 实验设置

5 结果与分析

6 结论

在本文中,我们提出了一种新的模型,该模型通过QA上下文和KG之间的分层交互实现精确推理。与基于微调的LM和KG增强方法相比,DRLK在两个医学QA基准数据集上实现了SOTA性能。在常识推理基准数据集上,DRLK的表现具有竞争力。实验结果表明,动态层次交互在处理复杂知识关系方面具有优越性。此外,在不同领域上的结果表明,DRLK对问答任务具有推广作用。

7 局限性

为了验证DRLK的有效性,我们在四个不同领域和规模的基准数据集上进行了广泛的实验。四个数据集的结果表明,DRLK在两个数据集上实现了SOTA性能,仅略低于其他数据集。尽管如此,DRLK依赖于域KG,其中KG的缺失或低质量将直接影响DRLK的性能。
此外,我们跟随冯等人为每个问题提取了一个具有200个节点的知识子图。由于GPU资源的限制,我们没有测试不同知识子图尺度的效果,因为这不是DRLK的主要问题。针对上述两个局限性,我们将在未来进行进一步的研究。

本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系:hwhale#tublm.com(使用前将#替换为@)

Dynamic Hierarchical Reasoning with Language Model and Knowledge Graph for Question Answering 的相关文章

随机推荐

  • Dynamics 365 CRM 接入统一身份认证平台(单点登录集成)

    打算将D365 CRM接入公司统一身份认证平台 前提 D365 已IFD部署 因为要借助ADFS来完成单点登录 登录ADFS服务器 打开ADFS 本次集成 统一身份认证为上游 ADFS是下游 因为要设置统一身份认证系统添加到ADFS的声明提
  • 深入学习前端开发,掌握HTML、CSS、JavaScript等技术

    课程链接 链接 https pan baidu com s 1WECwJ4T8UQfs2FyjUMbxig pwd i654 提取码 i654 复制这段内容后打开百度网盘手机App 操作更方便哦 来自百度网盘超级会员v4的分享 课程介绍 第
  • 【项目设计】负载均衡在线OJ

    Linux 博客主页 一起去看日落吗 分享博主的在Linux中学习到的知识和遇到的问题 博主的能力有限 出现错误希望大家不吝赐教 分享给大家一句我很喜欢的话 看似不起波澜的日复一日 一定会在某一天让你看见坚持的意义 祝我们都能在鸡零狗碎里找
  • 信息学奥赛C++语言:最高分数的学生姓名

    题目描述 输入学生的人数 然后再输入每位学生的分数和姓名 求获得最高分数的学生的姓名 输入 第一行输入一个正整数N N 100 表示学生人数 接着输入N行 每行格式 分数 姓名 分数是一个非负整数 且小于等于100 姓名为一个连续的字符串
  • catkin_make出现CMake Error: The source directory “/home/ming/catkin_ws_test/src“ does not ex

    问题 catkin make出现CMake Error The source directory home ming catkin ws test src does not exist 解决 删除与src同目录下的编译文件夹build和de
  • 豆瓣api访问流程

    豆瓣api访问流程 1 https api douban com 2 通过文档查找接口Resources URI 如 v2 movie in theaters添加到1后面 3 将 apikey 0b2bdeda43b5688921839c8
  • UE中FRotator和Pitch(Roll,Yaw)以及相对朝向的关系

    前几天 看人宅的塔防视频教程 他使用了塔的成员变量rotator 我可能在哪里少写了 所以 老是朝向不对 跟踪调试了下 发现FRotator是由pitch roll yaw三个部分组成 而pitch roll yaw是局部坐标系中的朝向 那
  • 雷达水位计安装细节注意点

    近年来 随着国家防汛抗旱工作对中小河流水文监测的要求不断提高 许多流域及大中型水库 电站逐步建立了水情自动测报系统 而水位监测则是测报系统的重要组成部分 水位传感器的适用性是建立系统的重要因素 随着自动测报系统的发展 各类水位传感器在不同的
  • 卡特尔16PF性格测试与答案

    大学生在职业生涯规划时 必须充分注意到自己的性格和职业的适宜性 性格是指一个人在生活中形成的对现实的稳定的态度和行为方式 研究表明 性格影响着一个人的职业取向 由于性格的不同 每个人对工作和职业的态度也是不同的 一定的性格必然适合从事一定的
  • Java多线程实现

    Java多线程 多线程的创建方式 方式一 继承Thread类 创建一个继承Thread类的子类 重写Thread类中的run方法 创建Thread子类对象 通过此对象调用start 方法 public class ThreadDemo1 p
  • 蓝桥杯超时?给你一些小技巧

    自己在敲代码的时候碰到了超时的情况 总结了一下 1 统一定义变量 不要在循环内定义局部变量 2 把函数定义放在main函数之前 可以减少在main函数内的声明 3 循环尽量增设break条件 对循环进行剪枝可以减少不必要循环 4 尽量省略头
  • Django框架 - 路由配置全解

    Django框架学习笔记 路由配置全解 文章目录 1 初始配置 2 路由配置 2 1 一般路由 命名路由与reverse 函数 2 2 子路由 命名空间与reverse 函数 2 3 带参路由 reverse 函数 自定义path转换器 2
  • LeetCode周赛159

    1232 Check If It Is a Straight Line 检查是否为直线 暴力算斜率 但要注意分母为0的情况 class Solution public bool checkStraightLine vector
  • 重新审视Faster RCNN:优缺点与改进

    重新审视Faster RCNN Faster RCNN优点 Faster RCNN缺点 对于Faster RCNN的改进算法 特征融合 HyperNet 实例分割 Mask RCNN 全卷机网络 R FCN 级联网络 Cascade RCN
  • 使用Qt实现简单的日志记录功能(qInstallMessageHandler)

    前言 相信大家在软件开发的过程中 都有记录软件运行日志的需求 凭借日志信息来分析软件的运行状况 或者是查找 定位软件存在的未知Bug 基于C 的日志工具有log4cplus log4cxx Log4Qt等 但如果只是并非复杂的环境使用 其实
  • ubuntu18.04安装后没有wifi图标,并且无法安装wifi驱动

    网上绝大部分的解决方案是安装wifi驱动 当你发现无法安装wiifi驱动时 可以试试这个办法 1 给笔记本电脑插入网线 联网 或着采用手机USB网络共享功能 给笔记本联网 2 打开 软件与更新 选择更新源 将软件更新一下 在 开发者选项 那
  • 软件工程综合实训日志

    前期准备阶段 1 注册 heroku com 在注册heroku时需要爬墙 2 注册github 在注册github时 由于电脑网络问题出现注册不成功 还有密码问题一定不要设置自己最常用的数字 不然也会注册不成功 3 安装git bash
  • Win 2003系统传真功能的配置及使用

    传真在现 公中应用极为广泛 随着电脑的普及 我们可用电脑方便地进行传真的收发 下面以Windows 2003系统为例介绍其传真的使用 供需要的朋友参考 注意 首先要正确安装了调制解调器 并确保您的调制解调器支持传真功能 操作系统 Windo
  • 汇编指令之MOV

    汇编指令之 MOV 传送字或字节 学习来自 汇编语言MOV指令 mov指令详解 Assembly Addressing Modes 汇编用户指南 MOV 简单格式 mov dst src 扩展格式1 MOV S cond Rd Operan
  • Dynamic Hierarchical Reasoning with Language Model and Knowledge Graph for Question Answering

    本文是LLM系列文章 针对 Dynamic Hierarchical Reasoning with Language Model and Knowledge Graph for Question Answering 的翻译 DRLK 基于语