一种浮点矩阵定点化方法、装置及相关设备与流程

技术总结
本申请提供了一种浮点矩阵定点化方法、装置及相关设备，方法包括：获取目标浮点矩阵；依据目标浮点矩阵中的元素，确定定点化标值；利用定点化标值将目标浮点矩阵转换为定点矩阵。在本申请中，通过以上方式可以减少将目标浮点矩阵转换为定点矩阵时的数据精度损失。矩阵转换为定点矩阵时的数据精度损失。矩阵转换为定点矩阵时的数据精度损失。


技术研发人员：陈孝良 陈天峰 冯大航
受保护的技术使用者：北京声智科技有限公司
技术研发日：2019.08.30
技术公布日：2021/3/4