卓望数码技术(深圳)有限公司苏晓暄获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉卓望数码技术(深圳)有限公司申请的专利文本分类模型的训练方法、文本生成方法及相关设备获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN121166931B 。
龙图腾网通过国家知识产权局官网在2026-05-01发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202511705302.3,技术领域涉及:G06F16/353;该发明授权文本分类模型的训练方法、文本生成方法及相关设备是由苏晓暄;徐朋;王晓波;包红琦设计研发完成,并于2025-11-20向国家知识产权局提交的专利申请。
本文本分类模型的训练方法、文本生成方法及相关设备在说明书摘要公布了:本发明公开了文本分类模型的训练方法、文本生成方法及相关设备,文本分类模型的训练方法包括:通过嵌入层将问题文本转化为嵌入序列,通过编码层有效提取文本中的编码特征,利用多尺度卷积捕捉不同粒度的文本特征,增强了对长文本的理解能力,且自注意力机制被引入卷积特征和池化特征的加权处理中,有效提升了重要特征的权重,减小冗余特征的影响,优化了意图分类的准确性,最终,通过输出层生成的分类结果,并依据分类结果实现模型训练得到训练好的文本分类模型,有效提升了文本分类的准确性,且智能客服系统能够将训练好的文本分类模型输出的分类结果作为答复的依据,从而在资源有限的条件下,有效提升智能客服系统的答复效率与答复准确性。
本发明授权文本分类模型的训练方法、文本生成方法及相关设备在权利要求书中公布了:1.一种文本分类模型的训练方法,其特征在于,所述方法包括: 获取待训练的文本分类模型以及文本数据集,所述文本数据集包括样本问题文本以及所述样本问题文本的分类标签,所述待训练的文本分类模型包括嵌入层、编码层、字符卷积层、池化层与输出层; 通过所述嵌入层将所述样本问题文本转化为嵌入序列,并通过所述编码层对所述嵌入序列进行编码处理,得到编码特征; 将所述编码特征输入所述字符卷积层,进行多尺度字符级卷积,得到卷积特征,并基于自注意力机制计算所述卷积特征中各特征单元的注意力权重并进行加权处理,得到加权特征; 将所述加权特征输入所述池化层进行最大池化处理,得到池化特征,并基于自注意力机制调整所述池化特征中各特征单元的注意力权重,得到目标加权特征; 将所述目标加权特征输入所述输出层,得到所述样本问题文本的分类结果; 基于所述分类结果与所述分类标签,对所述待训练的文本分类模型进行参数迭代,得到训练好的文本分类模型; 所述编码层包括依次连接的多个子编码层,每个子编码层包括注意力子层、残差连接子层以及归一化层,所述注意力子层为简化注意力层或完整注意力层,所述简化注意力层由前馈计算单元组成,所述完整注意力层由多头注意力单元组成,所述通过所述编码层对所述嵌入序列进行编码处理,得到编码特征,包括: 针对每个子编码层,若所述子编码层为首个子编码层,则输入特征为所述嵌入序列,若所述子编码层为非首个子编码层,则输入特征为上一层子编码层输出的特征向量; 当所述子编码层的注意力子层为简化注意力层时,通过前馈计算单元对输入特征执行逐位置的线性变换与非线性激活,得到前馈特征;所述简化注意力层由前馈计算单元组成,通过逐位置的线性变换与非线性激活实现语义特征的提取;在简化注意力层中,模型移除了自注意力机制中的Q、K、V计算,以前馈网络替代; 当所述子编码层的注意力子层为完整注意力层时,通过多头注意力单元计算输入特征中各位置间的注意力权重,并将所述权重应用于输入特征以得到加权特征;在完整注意力层中,模型采用多头注意力单元执行全局注意力计算,能够同时捕获输入序列中不同位置间的全局依赖关系;通过计算各位置特征间的注意力权重矩阵,并将权重应用于输入特征实现加权组合,从而生成融合上下文信息的特征表示; 将所述前馈特征或所述加权特征经所述残差连接子层与输入特征进行特征叠加,并经所述归一化层进行尺度归一化处理,输出当前子编码层的特征向量;整个编码层通过交替方式堆叠两类子层,即F-F-A-F-F-A……的结构形式,其中F代表简化注意力层,A代表完整注意力层; 将最后一个子编码层输出的特征向量作为所述编码特征。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人卓望数码技术(深圳)有限公司,其通讯地址为:518000 广东省深圳市南山区粤海街道科技园社区科发路3号中电长城大厦A座9层;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励