买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉北京可利邦信息技术股份有限公司申请的专利基于系统性能拐点的显存实际占用推断方法、设备及介质获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN121478596B 。

龙图腾网通过国家知识产权局官网在2026-05-01发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202610008437.2，技术领域涉及：G06F11/30；该发明授权基于系统性能拐点的显存实际占用推断方法、设备及介质是由焦耀光;万莉;蒋堃;崔家新;郭圣杰;魏铎设计研发完成，并于2026-01-06向国家知识产权局提交的专利申请。

本基于系统性能拐点的显存实际占用推断方法、设备及介质在说明书摘要公布了：本发明涉及一种基于系统性能拐点的显存实际占用推断方法、设备及介质。方法包括获取实际用户请求；根据实际获取时间、目标监控时区、每个实际用户请求对应的词元信息以及词元延迟标准曲线检测是否满足整体超标条件；若满足整体超标条件，根据每个实际用户请求的词元信息确定是否存在滞后效应，其中，滞后效应包括目标百分比的实际用户请求在同一词元序号的词元上存在滞后效应；若存在滞后效应，根据目标监控时区的平均请求并发量、模型权重、单块大小估算系统性能拐点时的显存实际占用，从而确定当前预分配显存是否合理。

本发明授权基于系统性能拐点的显存实际占用推断方法、设备及介质在权利要求书中公布了：1.一种基于系统性能拐点的显存实际占用推断方法，其特征在于，所述方法包括： 获取实际用户请求，其中，所述实际用户请求包括所述实际用户请求的实际获取时间； 根据所述实际获取时间、目标监控时区、每个实际用户请求对应的词元信息以及词元延迟标准曲线检测是否满足整体超标条件，其中，所述词元信息包括多个按序排列的词元以及每个词元的生成所需时间，并且还包括： 在所述目标监控时区内，根据每秒的实际用户请求的瞬时并发数以及所述目标监控时区的总时长确定所述目标监控时区内、实际用户请求的平均瞬时并发数；根据每个所述实际用户请求的实际处理时间以及目标监控时区，从所述实际用户请求中筛选目标实际用户请求，其中，所述目标实际用户请求包括在所述目标监控时区内处理完成的实际用户请求；根据所述目标实际用户请求的总处理时间以及词元总量确定所述目标监控时区对应的平均词元延迟；根据所述平均瞬时并发数、平均词元延迟以及词元延迟标准曲线确定是否满足整体超标条件，其中，所述词元延迟标准曲线包括多个标准瞬时并发数以及每个标准瞬时并发数对应的标准词元延迟，并且还包括： 根据所述平均瞬时并发数从所述词元延迟标准曲线中查询与该平均瞬时并发数相匹配的目标标准瞬时并发数，将所述目标标准瞬时并发数对应的标准词元延迟作为目标标准词元延迟；若所述目标标准词元延迟与所述平均词元延迟之间的差值等于或大于目标阈值，确定满足所述整体超标条件； 若满足所述整体超标条件，根据每个所述实际用户请求的词元信息确定是否存在滞后效应，其中，所述滞后效应包括目标百分比的实际用户请求在同一词元序号的词元上存在滞后效应，并且还包括： 根据每个所述实际用户请求的词元信息确定所述实际用户请求对应的目标词元序号，其中，所述目标词元序号对应的生成所需时间与该目标词元序号之前的词元序号对应的生成所需时间之间的差值等于或大于目标差值； 确定具有相同的目标词元序号的实际用户请求；若具有相同的目标词元序号的实际用户请求的数量达到所有实际用户请求的目标百分比，确定存在所述滞后效应； 若存在所述滞后效应，根据所述目标监控时区的平均请求并发量、模型权重、单块大小估算系统性能拐点时的显存实际占用，从而确定当前预分配显存是否合理，并且还包括： 获取所述目标监控时区的平均请求并发量，并将所述平均请求并发量作为活跃块数量；根据所述活跃块数量、单块大小以及模型权重确定所述显存实际占用； 其中，所述词元延迟标准曲线是通过以下方法确定的： 在系统空闲时间，基于并发请求序列模拟发送不同瞬时并发数的模拟用户请求； 对于每个瞬时并发数，在所有模拟用户请求处理完成后，根据每个所述模拟用户请求的模拟处理时间以及词元总量确定该模拟用户请求的平均词元延迟；根据每个平均词元总量以及瞬时并发数确定该瞬时并发数对应的标准词元延迟； 根据多个瞬时并发数以及每个瞬时并发数对应的标准词元延迟生成所述延迟标准曲线。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人北京可利邦信息技术股份有限公司，其通讯地址为：102400 北京市房山区长阳万兴路86号B座11号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。