买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉浙江工商大学申请的专利一种基于BERT和实体位置信息的实体关系抽取方法获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN116167379B 。

龙图腾网通过国家知识产权局官网在2026-05-01发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202310168595.0，技术领域涉及：G06F40/295；该发明授权一种基于BERT和实体位置信息的实体关系抽取方法是由胡智文;黄章秋设计研发完成，并于2023-02-10向国家知识产权局提交的专利申请。

本一种基于BERT和实体位置信息的实体关系抽取方法在说明书摘要公布了：本发明公开了属于自然语言处理领域的一种基于BERT和实体位置信息的实体关系抽取方法，该方法包括以下步骤：步骤1：获取包含实体位置标记信息的实体关系抽取文本数据集，划分为训练集、验证集和测试集；步骤2：考虑实体位置对句子文本特征的影响，构建一个结合BERT，BiLSTM和注意力机制的实体关系抽取复合模型；步骤3：利用步骤1中确定的数据集中的训练集对模型进行训练，验证集确定训练的停止轮次，其结果供测试集评估使用；步骤4：利用测试集对模型进行评估，分析模型的合理性。本发明实现了更精准，更高效的挖掘效果，提供了一种新颖的挖掘实体间潜在关系的方式，带来了良好的通用性和实用价值。

本发明授权一种基于BERT和实体位置信息的实体关系抽取方法在权利要求书中公布了：1.一种基于BERT和实体位置信息的实体关系抽取方法，其特征在于，包括如下步骤： 步骤1：获取包含实体位置标记信息的实体关系抽取文本数据集，划分为训练集、验证集和测试集； 步骤2：考虑实体位置对句子文本特征的影响，构建一个结合BERT,BiLSTM和注意力机制的实体关系抽取复合模型； 步骤2-1：将训练集中的文本，经过BERT层进行词嵌入，BERT预训练模型采用Huggingface提供的BERT-base-uncased版本，向量X=[batch_size,src_len,input_dim]，其中batch_size是批次大小，src_len是句子的长度,input_dim是设定的词向量的维度； 步骤2-2：将经过BERT编码的向量输入BiLSTM中，得到输入向量H=[batch_size,src_len,enc_hid_dim*2]，其中enc_hid_dim是LSTM的隐藏层向量；其中，输入BiLSTM后，经过前向传播和后向传播的特征学习过程，得到前向的隐藏状态和后向的隐藏状态和，随后将二者合并起来作为BiLSTM网络层的最终输出的特征向量； 步骤2-3，利用实体的el标记获取实体的位置，并通过位置索引，获取到实体对应的实体的向量信息，并分别对两个实体信息求平均，如下所示： 其中i~j是头实体所对应的句子位置索引，m~n是尾实体对应的句子位置索引，表示实体1对应BERT向量的平均值，表示实体2对应BERT向量的平均值； 步骤2-4，利用上述求出的两个实体位置的平均值向量求得注意力e，具体的公式为 其中V和W都是带训练的参数矩阵，其中三个向量进行叠加的时候，对，进行广播运算，使得每一个时刻的输出向量都和，进行叠加，最终生成注意力向量e=[batch_size,src_len,1]，为了使e能够和上下文特征向量H能够进行对应位置的相乘运算，将e最后一个维度去掉，由此e=[batch_size,src_len]； 步骤2-5，根据公式生成融合实体信息注意力权重的向量O，具体的公式为： Softmax函数将O进行归一化处理，得到输出结果，其中； 步骤3：利用步骤1中确定的数据集中的训练集对模型进行训练，验证集确定训练的停止轮次，其结果供测试集评估使用； 步骤4：利用测试集对模型进行评估，分析模型的合理性。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人浙江工商大学，其通讯地址为：310018 浙江省杭州市下沙高教园区学正街18号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。