技术编号:36609721
提示:您尚未登录,请点 登 陆 后下载,如果您还没有账户请点 注 册 ,登陆完成后,请刷新本页查看技术详细信息。本申请涉及人工智能领域,尤其是涉及一种大语言模型的调度与训练方法、系统、设备及介质。背景技术、当大语言模型的参数量增大时,大参数量的模型会对计算资源与训练样本有着更高的要求。为了解决大参数量的模型中存在的问题,目前主要通过模型压缩、模型剪枝或模型量化等技术将大参数量的模型进行压缩,得到轻量级的模型,以减少大参数量的模型对计算资源的消耗。、然而轻量级的模型在表示能力上与大参数量的模型相比存在着较大的差距,因此,在实际应用中,需要根据具体的需求和场景来选择适合的模型大小,在大参数模型的资源需求和...
注意:该技术已申请专利,请尊重研发人员的辛勤研发付出,在未取得专利权人授权前,仅供技术研究参考不得用于商业用途。
该专利适合技术人员进行技术研发参考以及查看自身技术是否侵权,增加技术思路,做技术知识储备,不适合论文引用。
请注意,此类技术没有源代码,用于学习研究技术思路。