一种结合组合范畴语法的端到端方面情感识别方法
摘要文本
本发明涉及情感识别技术领域,公开了一种结合组合范畴语法的端到端方面情感识别方法,通过完成训练的情感识别模型识别出给定的文本的情感标签;情感识别模型的训练过程包括:通过编码器提取文本的文本特征;通过词汇范畴标签解码模块对文本特征进行处理,预测得到词汇范畴标签;应用注意力模块对文本特征进行处理得到加权和向量,进而得到平衡后的文本隐藏向量;将平衡后的文本隐藏向量输入到标签预测模块,生成情感标签;基于总体损失和反向传播算法更新情感识别模型的参数。本发明利用组合范畴语法包含的句法和语义信息,明确区分并相应地利用重要的上下文信息;通过门控模块,情感识别模型可以提高对语义信息的处理能力。
申请人信息
- 申请人:中国科学技术大学
- 申请人地址:230026 安徽省合肥市包河区金寨路96号
- 发明人: 中国科学技术大学
专利详细信息
| 项目 | 内容 |
|---|---|
| 专利名称 | 一种结合组合范畴语法的端到端方面情感识别方法 |
| 专利类型 | 发明申请 |
| 申请号 | CN202410090128.5 |
| 申请日 | 2024/1/23 |
| 公告号 | CN117633239A |
| 公开日 | 2024/3/1 |
| IPC主分类号 | G06F16/35 |
| 权利人 | 中国科学技术大学 |
| 发明人 | 宋彦; 田元贺; 张勇东 |
| 地址 | 安徽省合肥市包河区金寨路96号 |
专利主权项内容
1.一种结合组合范畴语法的端到端方面情感识别方法,通过完成训练的情感识别模型识别出给定的文本的情感标签/>;情感识别模型的训练过程具体包括以下步骤:步骤一,通过编码器提取文本的文本特征/>:
;其中,表示编码器;步骤二,通过词汇范畴标签解码模块对文本特征进行处理,预测得到词汇范畴标签/>:
;
;其中,表示词汇范畴解码中间向量,/>和/>分别代表可训练矩阵和偏置向量,表示基于/>函数的分类器;在训练中,通过比较词汇范畴标签/>和真实标签/>,计算词汇范畴标签损失/>,使编码器能够学习组合范畴语法信息,使得编码器输出的文本特征/>携带组合范畴语法信息;词汇范畴标签损失/>为:
;其中CE表示交叉熵损失,表示批处理;步骤三:应用注意力模块对文本特征进行处理得到加权和向量/>,将加权和向量/>、文本特征/>输入到门控模块,得到平衡后的文本隐藏向量/>;步骤四:将平衡后的文本隐藏向量输入到标签预测模块,生成情感标签/>,并计算方面情感损失/>:
;
;其中,和/>分别代表情感预测可训练矩阵和偏置向量,/>表示真实标签;步骤五:基于词汇范畴标签损失和方面情感损失/>计算总体损失/>:
;基于总体损失和反向传播算法更新情感识别模型的参数,直至情感识别模型收敛或者达到设定的停止条件。