技术编号:29632946
提示:您尚未登录,请点 登 陆 后下载,如果您还没有账户请点 注 册 ,登陆完成后,请刷新本页查看技术详细信息。.本发明涉及自然语言处理技术领域,具体而言,涉及一种模型蒸馏方法、系统以及文本检索方法。背景技术.文本检索需求常常是线上文本检索,需要进行线上部署;研究发现,采用对比学习的方式对文本检索模型进行训练,能够得到更好的文本检索效果。但当前对比学习的模型均采用预训练模型,预训练模型体量很大,计算过于复杂,导致响应速度慢,服务器负载过高;为了解决这些问题,本申请结合对比训练方式提出一种模型蒸馏方式,将经过对比学习后的预训练模型蒸馏到一个小模型上,使得小模型能够学习到预训练模型的文本检索能力,且解决线...
注意:该技术已申请专利,请尊重研发人员的辛勤研发付出,在未取得专利权人授权前,仅供技术研究参考不得用于商业用途。
该专利适合技术人员进行技术研发参考以及查看自身技术是否侵权,增加技术思路,做技术知识储备,不适合论文引用。
请注意,此类技术没有源代码,用于学习研究技术思路。