买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉深圳市知引科技有限公司申请的专利一种需要少量标注数据提升大模型诚实性的训练方法及系统获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN120706550B 。

龙图腾网通过国家知识产权局官网在2026-05-01发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202510786331.0，技术领域涉及：G06N5/04；该发明授权一种需要少量标注数据提升大模型诚实性的训练方法及系统是由雷元怡;陈璐;唐敏设计研发完成，并于2025-06-12向国家知识产权局提交的专利申请。

本一种需要少量标注数据提升大模型诚实性的训练方法及系统在说明书摘要公布了：本发明公开了一种需要少量标注数据提升大模型诚实性的训练方法及系统，新增了一个轻量级网络，用于辅助LLM对数据进行自标注，从而在有限的标注数据基础上，显著扩大可用于模型训练的数据规模，使得模型能够在数据资源有限的情况下，依然能够得到充分的训练和优化。轻量级网络与LLM之间形成了紧密的协同工作机制，轻量级网络通过对LLM生成的回答进行诚实性评估，为未标注数据生成可靠的标注信息，这一过程不仅充分利用了LLM自身的概率评估能力，还结合了轻量级网络对诚实性的量化评估，使得模型能够在有限的数据条件下，学习到更加诚实的回答策略，实现了利用少量的数据增强LLM的诚实性的目的。

本发明授权一种需要少量标注数据提升大模型诚实性的训练方法及系统在权利要求书中公布了：1.一种需要少量标注数据提升大模型诚实性的训练方法，其特征在于，具体步骤包括： 步骤一，使用预定数量的标注数据对LLM进行监督微调，规范LLM的输出格式； 步骤二，采集微调后LLM在标注数据上的输出，以及每条回复对应的隐藏状态； 步骤三，对收集到的每条回复，使用诚实性指标进行标注，构建偏好数据； 步骤四，使用偏好数据训练轻量级网络；训练一个轻量级网络，以隐藏状态为输入，预估对应回复的诚实性分数； 步骤五，对每个未标注问题，选择轻量级网络的预测分数和LLM的概率加权最高的回答作为标注数据； 步骤六，使用标注数据对LLM进行训练，通过训练，使LLM学习满足诚实性要求； 其中，所述步骤一，使用预定数量的标注数据对LLM进行监督微调，规范LLM的输出格式的具体步骤包括： 步骤1.1，设置标注数据的格式为，其中，为问题，为回复； 步骤1.2，选择预训练模型，将标注数据引入该预训练模型； 步骤1.3，对于模型能够正确回答的问题，直接使用模型的回复，对于模型不能够正确回答的问题，需要在原有模型回复的后面加入”Iamnotsure.”字符串； 所述步骤三，对收集到的每条回复，使用诚实性指标进行标注，构建偏好数据的具体步骤包括： 步骤3.1，建立标注策略，依据模型的回复是否正确和是否含有不确定性表述，设定不同的权重； 步骤3.2，依据标注策略，对每条回复进行诚实性指标标注； 步骤3.3，进行数据格式优化，将同一输入对应的不同输出组成对比组，构建偏好数据。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人深圳市知引科技有限公司，其通讯地址为：518000 广东省深圳市南山区粤海街道高新区社区粤兴二道6号武汉大学深圳产学研大楼A802-II；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。