中国移动通讯集团浙江有限公司恳求根据大言语模型的事务处理专利明显节约算力资源
中国移动通讯集团浙江有限公司恳求根据大言语模型的事务处理专利明显节约算力资源
时间:2025-01-04
来源:华体汇app官网下载-鱼类
金融界2024年10月24日音讯,国家知识产权局信息数据显现,中国移动通讯集团浙江有限公司恳求一项名为“根据大言语模型的事务处理办法及设备”的专利,公开号 CN 118796505 A,恳求日期为2024年5月。
专利摘要显现,本发明供给一种根据大言语模型的事务处理办法及设备,其间办法有:根据算力网络接纳方针事务恳求;算力网络根据预先存储的事务恳求与适配器之间映射联系,从多个适配器中确认方针事务恳求对应的方针适配器;算力网络根据基座大言语模型以及方针适配器,构建方针事务恳求的方针推理服务,并根据方针推理服务,处理方针事务恳求。本发明供给的根据大言语模型的事务处理办法及设备,经过算力网络仅需求布置一个完好基座大言语模型,根据多个适配器之间的切换就能够完结推理才能的切换,明显节约算力资源,使得不一样的适配器能够在同一推理使命中协同作业,大幅度提高处理功率。