CCKS2023-面向金融领域的主体事件检测-亚军方案分享

本文主要是介绍CCKS2023-面向金融领域的主体事件检测-亚军方案分享，希望对大家解决编程问题提供一定的参考价值，需要的开发者们随着小编来一起学习吧！

赛题分析

大赛地址

https://tianchi.aliyun.com/competition/entrance/532098/introduction?spm=a2c22.12281925.0.0.52b97137bpVnmh

任务描述

主体事件检测是语言文本分析和金融领域智能应用的重要任务之一，如在金融风控领域往往会对公司主体进行风险事件的检测。基于句子粒度的上下文进行公司事件检测，事件包含事件类型和主体要素（即公司主体），句中可能存在多个事件，多个公司主体且每个公司都可能存在多个事件类型标签，并且各类型标注样本分布不均匀，部分类型样本量较少，我们希望检测出文本中包含的所有主体事件。本次评测任务的文本语料来自于互联上的公开新闻、报告。

数据描述

输入：一段文本X

输出：文本X中所有的事件类型及对应的公司主体

示例：

输入：{"text_id": "123456", "text": "播州城投多次被列为被执行人，同时涉及一系列诉讼案件并多次被纳入失信被执行人名单；由于公司债务逾期规模大，区域债务负担重， 7月母公司遵义道桥建设(集团)有限公司（"遵义道桥"）开始进行债务重组并将银行类债权延期 10年"}

输出：{"text_id": "123456", "events": [{"type":"被列为失信被执行人" ,"entity":"播州城投"} ， {"type": "债务违约","entity": "播州城投"}, {"type": "债务重组", "entity": "遵义道桥建设(集团)有限公司"}, {"type": "债务重组", "entity": "遵义道桥"}]}

方案陈述

整体方案的模型架构

结构图如下所示：

传统模型：主要依赖传统的信息抽取方法来做，包括 bert+crf、 bert+span 和 bert+global pointer等方案；
LLMs：依赖已经预训练好的大模型，包括 mt5、mt0、Ziya-LLaMA、 chatglm 等，微调方式包括全量指令微调以及基于 Lora 的指令微调；
后处理：针对预测的数据进行异常符、原文修正、大小写修正、繁体简体修正等；
融合：采用加权投票融合；

下面依次介绍每个方案的细节。

传统方案之bert-crf

crf这么基础的内容这里就不说了，用的就是原生的crf，没有进行魔改，需要说明一点的就是，这个任务中同一个公司主体如果有多个事件类型，crf这个方案是解决不了的，好在这个任务中这种一个公司主体对应多个事件类型的情况不多。

传统方案之bert-span

上文也说了，这个任务中存在一个公司主体对应多个事件类型的情况，为了兼容这种情况，我对原来的span编码解码框架稍稍进行了魔改，结构图如下：

原生的span结构以双指针的形式替代 CRF 模块，可以解决实体嵌套问题，首尾指针可以截取一个实体，首位指针的类型指代这个截取的实体的标签类型，但是在本次任务中，为了解决一个公司主体对应多个事件类型的情况，我们改变了首尾指针的形式，融入多标签的思想，基于多标签的span指针可以轻松实现一个实体(公司主体)指向多个类型(事件类型)。

传统方案之bert-gp

gp用的就是苏剑林原生的方案，没有进行改动，所以呢，我也不想废话了，估计你们也不想听我废话，你们直接看苏神的讲解吧。苏剑林科学空间：https://spaces.ac.cn/archives/8265

大模型(LLM)方案

本次任务我们将大模型用在了事件检测任务上，主要尝试了mt5、chatglm、以及llma模型，训练方式是全参数微调和Lora微调。

指令构造

指令 1：

使用自然语言抽取二元组,请从句子中抽取出所有的事件类型及对应的公司主体, 句中可能存在多个事件、多个公司主体且每个公司都可能存在多个事件类型标签,最后以 (公司主体,事件类型)的形式回答。

例子：

"instruction":"使用自然语言抽取二元组,请从句子中抽取出所有的事件类型及对应的公司主体,句中可能存在多个事件、多个公司主体且每个公司都可能存在多个事件类型标签,最后以(公司主体,事件类型)的形式回答。","input":"而在此之前，从 2013 开始至 2018 年连续 5 年时间，苏州银行的核心一级资本充足率、一级资本充足率均在下降，资本充足率在 2015 年出现回升后也再度连续三年下降","output":"(苏州银行,资本充足不足)

指令 2：

这是一个金融实体抽取的任务，请从以下句子抽取公司主体以及相应的事件类型，按(公司主体,事件类型)的形式回答。

例子：

这是一个金融实体抽取的任务，请从以下句子抽取公司主体以及相应的事件类型，按(公司主体,事件类型)的形式回答。例子："instruction":"这是一个金融实体抽取的任务，请从以下句子抽取公司主体以及相应的事件类型，按(公司主体,事件类型)的形式回答。","input":"而在此之前，从 2013 开始至 2018 年连续 5 年时间，苏州银行的核心一级资本充足率、一级资本充足率均在下降，资本充足率在 2015 年出现回升后也再度连续三年下降 ","output":"(苏州银行,资本充足不足)