浪潮(北京)电子信息产业有限公司刘邦国获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉浪潮(北京)电子信息产业有限公司申请的专利键值缓存数据的传输方法及设备获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN121542074B 。
龙图腾网通过国家知识产权局官网在2026-04-24发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202610069557.3,技术领域涉及:G06F9/54;该发明授权键值缓存数据的传输方法及设备是由刘邦国;张政设计研发完成,并于2026-01-19向国家知识产权局提交的专利申请。
本键值缓存数据的传输方法及设备在说明书摘要公布了:本发明公开了一种键值缓存数据的传输方法及设备,涉及人工智能技术领域,该方法在预填充节点的计算单元上申请连续的内存作为第一共享内存,在解码节点的计算单元上申请连续的内存作为第二共享内存。预填充节点将键值缓存数据拷贝到第一共享内存,通过将键值缓存数据由第一共享内存传输到解码节点申请的第二共享内存,键值缓存数据仅需传输一次即可实现将键值缓存数据由预填充节点传输到解码节点,可以极大的提升传输效率。
本发明授权键值缓存数据的传输方法及设备在权利要求书中公布了:1.一种键值缓存数据的传输方法,其特征在于,应用于预填充节点,包括: 在所述预填充节点的计算单元上申请连续的内存作为第一共享内存;所述第一共享内存专门用于键值缓存数据的传输; 接收分发服务发送的请求,并根据所述请求在所述计算单元上分配预填充推理使用的内存空间; 执行预填充推理,并在所述内存空间缓存预填充推理生成的键值缓存数据; 将所述内存空间中的键值缓存数据拷贝到所述第一共享内存,以便将所述键值缓存数据由所述第一共享内存传输到第二共享内存;所述第二共享内存为解码节点在所述解码节点的计算单元上申请的连续的内存;所述第二共享内存专门用于键值缓存数据的传输; 将所述键值缓存数据由所述第一共享内存传输到第二共享内存包括: 将所述第一共享内存中的键值缓存数据写入所述第二共享内存; 通知所述解码节点所述键值缓存数据已写入所述第二共享内存,以使所述解码节点将所述第二共享内存中的键值缓存数据拷贝到计算单元上解码推理使用的内存空间; 或者,将所述键值缓存数据由所述第一共享内存传输到第二共享内存包括: 通知所述解码节点所述键值缓存数据已写入所述第一共享内存,以使所述解码节点从所述第一共享内存读取所述键值缓存数据并写入所述第二共享内存以及将所述第二共享内存中的键值缓存数据拷贝到计算单元中解码推理使用的内存空间; 所述预填充节点与所述解码节点之间通过套接字通信的方式通信。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人浪潮(北京)电子信息产业有限公司,其通讯地址为:100085 北京市海淀区上地信息路2号2-1号C栋1层;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励