买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉中国移动通信集团设计院有限公司;中国移动通信集团有限公司申请的专利模型推理的调度方法、装置、系统、介质、产品及设备获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN118869816B 。

龙图腾网通过国家知识产权局官网在2026-05-08发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202410856703.8，技术领域涉及：H04L67/60；该发明授权模型推理的调度方法、装置、系统、介质、产品及设备是由朱明伟;卜忠贵;冯征;刘蕾;周维;吴倩;翟振辉设计研发完成，并于2024-06-28向国家知识产权局提交的专利申请。

本模型推理的调度方法、装置、系统、介质、产品及设备在说明书摘要公布了：本申请公开了一种模型推理的调度方法、装置、系统、介质、产品及设备，该方法包括：接收来自于推理请求端的第一调度请求消息，第一调度请求消息用于指示至少一个地域及其各自的推理请求数量；基于第一调度请求消息，从待调度服务端中确定出第一目标服务端；返回第一调度响应消息给推理请求端，第一调度响应消息携带第一目标服务端的第一信息，从而使得调度端能够因应推理请求端针对所需完成的推理任务的关于不同地域及其推理请求数量的需求来选出合适的第一目标服务端以供推理请求端完成推理任务，也可以实现推理请求端只需发送一次第一调度请求消息即可完成针对一个或多个地域的推理任务的地域批量调度以降低地域批量调度场景下的调度延迟。

本发明授权模型推理的调度方法、装置、系统、介质、产品及设备在权利要求书中公布了：1.一种模型推理的调度方法，其特征在于，应用于调度端，所述方法包括： 接收来自于推理请求端的第一调度请求消息，其中，所述第一调度请求消息用于指示至少一个地域及其各自的推理请求数量； 基于所述第一调度请求消息，从待调度服务端中确定出第一目标服务端； 返回第一调度响应消息给所述推理请求端，其中，所述第一调度响应消息携带所述第一目标服务端的第一信息； 接收来自于所述推理请求端的第二调度请求消息，其中，所述第二调度请求消息携带所述推理请求端的第二参数信息； 基于所述第二参数信息，从所述待调度服务端中确定出第二目标服务端； 返回第二调度响应消息给所述推理请求端，其中，所述第二调度响应消息携带所述第二目标服务端的第二信息，所述第二调度响应消息用于指示所述推理请求端判断所述第二信息是否满足所述第二调度请求消息所指示的要求，并在判定满足时反馈第二确认调度消息； 其中，所述第二参数信息包括所述推理请求端的地理位置，所述基于所述第二参数信息，从所述待调度服务端中确定出第二目标服务端，包括：基于所述地理位置，从所述待调度服务端中查找出对应的第一亲和性调度服务端；在所述第一亲和性调度服务端的数量大于1的情况下，采用负载均衡算法对所述第一亲和性调度服务端进行筛选，得到第二亲和性调度服务端以作为所述第二目标服务端；在所述第一亲和性调度服务端的数量等于1的情况下，将所述第一亲和性调度服务端作为所述第二目标服务端。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人中国移动通信集团设计院有限公司;中国移动通信集团有限公司，其通讯地址为：100080 北京市海淀区丹棱街甲16号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。