技术编号:31693088
提示:您尚未登录,请点 登 陆 后下载,如果您还没有账户请点 注 册 ,登陆完成后,请刷新本页查看技术详细信息。.本披露一般地涉及数据处理领域。更具体地,本披露涉及一种数据处理装置、执行神经网络模型的方法、芯片和板卡。背景技术.目前,变换器(transformer)模型已经广泛应用于自然语言处理(nlp)领域,例如机器翻译、问答系统、文本摘要和语音识别等等。transformer模型采用了编码器-解码器架构,并且编码器和解码器中都包括注意力机制。.transformer模型在推理过程中,解码器会缓存每一时间步的键(k,key)信息和值(v,value)信息。解码器采用集束搜索(beam search...
注意:该技术已申请专利,请尊重研发人员的辛勤研发付出,在未取得专利权人授权前,仅供技术研究参考不得用于商业用途。
该专利适合技术人员进行技术研发参考以及查看自身技术是否侵权,增加技术思路,做技术知识储备,不适合论文引用。
请注意,此类技术没有源代码,用于学习研究技术思路。