上海交通大学;上海期智研究院冷静文获国家专利权
买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！
龙图腾网获悉上海交通大学;上海期智研究院申请的专利实时量化单元的内存优化方法、系统及电子设备获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN119902707B 。
龙图腾网通过国家知识产权局官网在2026-04-24发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202411962852.9，技术领域涉及：G06F3/06；该发明授权实时量化单元的内存优化方法、系统及电子设备是由冷静文;胡洧铭;过敏意设计研发完成，并于2024-12-30向国家知识产权局提交的专利申请。
本实时量化单元的内存优化方法、系统及电子设备在说明书摘要公布了：本申请提供一种实时量化单元的内存优化方法、系统及电子设备，所述方法包括：在KV缓存量化过程中，获取分组数据方差并基于所述方差获取分组量化系数；在预填充阶段，基于所述分组量化系数分别将所述KV缓存中的K缓存和V缓存量化为对应的数据类型；在解码阶段，K缓存每一次迭代中获取整个分组的数据，从而实现实时量化；为V缓存配置处理窗口，并基于所述处理窗口为所述V缓存进行实时量化。本申请可以支持KV缓存的动态自适应数据类型量化，优化实时量化单元的内存，以提高模型推理的效率。
本发明授权实时量化单元的内存优化方法、系统及电子设备在权利要求书中公布了：1.一种实时量化单元的内存优化方法，其特征在于：所述方法包括： 在KV缓存量化过程中，获取分组数据方差并基于所述方差获取分组量化系数； 在预填充阶段，基于所述分组量化系数分别将所述KV缓存中的K缓存和V缓存量化为对应的数据类型； 在解码阶段，K缓存每一次迭代中获取整个分组的数据，从而实现实时量化；为V缓存配置处理窗口，并基于所述处理窗口为所述V缓存进行实时量化； 所述为V缓存配置处理窗口，并基于所述处理窗口为所述V缓存进行实时量化包括： 将解码阶段中的每G次迭代定义为V缓存的一个处理窗口；其中，G为分组大小； 对V缓存进行量化处理，直至所述处理窗口被填满； 当所述处理窗口被填满时，计算当前数据的量化系数，并基于当前数据的量化系数为所述V缓存进行实时量化。
如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人上海交通大学;上海期智研究院，其通讯地址为：200240 上海市闵行区东川路800号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。
开放平台
担保交易
惠及多方
会员特惠
专属平台
适合多方
数据共享
功能齐全
皖公网安备 34010402703815号
请提出您的宝贵建议，有机会获取IP积分或其他奖励