深存科技(无锡)有限公司请求不公布姓名获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉深存科技(无锡)有限公司申请的专利基于计算加速芯片的大模型系统获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN120765446B 。
龙图腾网通过国家知识产权局官网在2026-05-01发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202510945066.6,技术领域涉及:G06T1/20;该发明授权基于计算加速芯片的大模型系统是由请求不公布姓名;请求不公布姓名;请求不公布姓名;请求不公布姓名设计研发完成,并于2025-07-09向国家知识产权局提交的专利申请。
本基于计算加速芯片的大模型系统在说明书摘要公布了:本申请公开基于计算加速芯片的大模型系统,涉及大模型领域。包括若干计算加速单元和管理服务器组成和实现片间及片外数据交互网络;计算加速单元的混合显存搭配SSD形成多源存储模式;计算芯片内设归一化片上网络、互联传输系统、存储控制系统、以及若干计算加速核;归一化片上网络能够基于存储控制系统读取目标位置的模型参数并送入计算加速核进行计算和回存;基于互联传输系统与管理服务器和其余计算加速单元进行交互,读取和回存外部模型参数及片间模型参数。通过混合显存架构与归一化片上网络的协同设计,结合多级路由控制与动态配置机制,有效解决了传统方案中显存容量不足、硬件成本过高及传输带宽受限的技术问题。
本发明授权基于计算加速芯片的大模型系统在权利要求书中公布了:1.一种基于计算加速芯片的大模型系统,其特征在于,包括P个带有直接访问Memory显存组和外部SSD存储的计算加速单元,以及Q个管理服务器;所述Memory显存组为HBM、GDDR、DDR、以及LPDDR的混合显存,与外部SSD存储用于存取模型参数; P个所述计算加速单元接入片间互联交换系统,进行片间数据交互;P个所述计算加速单元和Q个所述管理服务器分别接入以太网交换系统,目标管理服务器通过所述太网交换系统将指令与任务发送至目标计算加速单元,并进行外部数据交互;所述计算加速单元内设计算加速芯片,通过SSD接口连接外部SSD存储,通过网络端口接入所述片间互联交换系统,通过片间互联端口接入片间互联交换系统; 所述计算芯片内设归一化片上网络、与所述归一化片上网络连接的互联传输系统、存储控制系统、以及若干计算加速核;所述归一化片上网络基于所述存储控制系统读取目标位置的模型参数并送入所述计算加速核进行计算和回存模型数据;所述归一化片上网络基于所述互联传输系统与所述管理服务器和其余计算加速单元进行交互,读取和回存外部模型参数及片间模型参数; 所述归一化片上网络包含存储路由、计算路由、M个与所述存储控制系统相连的片内归一化模块、与所述互联传输系统相连的N-2个片间归一化模块和至少2个片外归一化模块;所述存储路由分别与M个所述片内归一化模块、至少2个片外归一化模块,以及所述计算路由相连,分别用于存取片内模型数据、片外模型数据,以及向所述计算路由收发各种模型数据;所述计算路由与N-2个所述片间归一化模块和所述计算加速核连接,分别用于收发片间模型数据,将接收的各种模型数据送入所述计算加速核并获取输出数据; 所述存储路由包含至少M+2级纵向分布节点流水环,各级所述节点流水环中包含有M+2个首尾依次级联形成环形结构的路由节点;各级路由节点连接有一个上行节点与一个下行节点,通过下行节点接收模型数据,通过上行节点发送模型数据;顶层节点流水环通过上行节点与下行节点连接N-2个所述片间归一化模块和至少2个所述片外归一化模块,收发片间模型数据和片外模型数据,底层节点流水环通过上行节点与下行节点连接所述计算路由; M+2级所述节点流水环中,同级路由节点的下行节点按纵向深度流水级联,将片间模型数据和片外模型数据送入所述计算路由;同级所述路由节点的上行节点按纵向深度逆流水级联,将所述计算路由输出的模型数据送至所述片间归一化模块和所述片外归一化模块。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人深存科技(无锡)有限公司,其通讯地址为:214000 江苏省无锡市新吴区弘毅路10号金乾座401、402室;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励