用于强化学习的模型训练方法及装置、电子设备、介质与流程

文档序号:39748219发布日期:2024-10-25 13:19阅读:34来源:国知局
用于强化学习的模型训练方法及装置、电子设备、介质与流程

所属的技术人员能够理解,本公开的各个方面可以实现为系统、方法或程序产品。因此,本公开的各个方面可以具体实现为以下形式,即:完全的硬件实施方式、完全的软件实施方式(包括固件、微代码等),或硬件和软件方面结合的实施方式,这里可以统称为“电路”、“模块”或“系统”。下面参照图8来描述根据本公开的这种示例性实施例的电子设备800。图8显示的电子设备800仅仅是一个示例,不应对本公开实施例的功能和使用范围带来任何限制。如图8所示,电子设备800以通用计算设备的形式表现。电子设备800的组件可以包括但不限于:上述至少一个处理单元810、上述至少一个存储单元820、连接不同系统组件(包括存储单元820和处理单元810)的总线830、显示单元840。其中,存储单元存储有程序代码,程序代码可以被处理单元810执行,使得处理单元810执行本说明书上述“示例性方法”部分中描述的根据本公开各种示例性实施方式的步骤。例如,处理单元810可以执行图1所示的步骤等。存储单元820可以包括易失性存储单元形式的可读介质,例如随机存取存储单元(ram)821和/或高速缓存存储单元822,还可以进一步包括只读存储单元(rom)823。存储单元820还可以包括具有一组(至少一个)程序模块825的程序/实用工具824,这样的程序模块825包括但不限于:操作系统、一个或者多个应用程序、其它程序模块以及程序数据,这些示例中的每一个或某种组合中可能包括网络环境的实现。总线830可以为表示几类总线结构中的一种或多种,包括存储单元总线或者存储单元控制器、外围总线、图形加速端口、处理单元或者使用多种总线结构中的任意总线结构的局域总线。电子设备800也可以与一个或多个外部设备900(例如键盘、指向设备、蓝牙设备等)通信,还可与一个或者多个使得用户能与该电子设备800交互的设备通信,和/或与使得该电子设备800能与一个或多个其它计算设备进行通信的任何设备(例如路由器、调制解调器等等)通信。这种通信可以通过输入/输出(i/o)接口850进行。并且,电子设备800还可以通过网络适配器860与一个或者多个网络(例如局域网(lan),广域网(wan)和/或公共网络,例如因特网)通信。如图所示,网络适配器860通过总线830与电子设备800的其它模块通信。应当明白,尽管图中未示出,可以结合电子设备800使用其它硬件和/或软件模块,包括但不限于:微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、raid系统、磁带驱动器以及数据备份存储系统等。通过以上的实施方式的描述,本领域的技术人员易于理解,这里描述的示例实施方式可以通过软件实现,也可以通过软件结合必要的硬件的方式来实现。因此,根据本公开实施方式的技术方案可以以软件产品的形式体现出来,该软件产品可以存储在一个非易失性存储介质(可以是cd-rom,u盘,移动硬盘等)中或网络上,包括若干指令以使得一台计算设备(可以是个人计算机、服务器、终端装置、或者网络设备等)执行根据本公开示例性实施例的方法。本公开的示例性实施例还提供了一种计算机可读存储介质,其上存储有能够实现本说明书上述方法的程序产品。在一些可能的实施方式中,本公开的各个方面还可以实现为一种程序产品的形式,其包括程序代码,当程序产品在终端设备上运行时,程序代码用于使终端设备执行本说明书上述“示例性方法”部分中描述的根据本公开各种示例性实施方式的步骤。本公开的示例性实施例还提供了一种用于实现上述方法的程序产品,其可以采用便携式紧凑盘只读存储器(cd-rom)并包括程序代码,并可以在终端设备,例如个人电脑上运行。然而,本公开的程序产品不限于此,在本文件中,可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。程序产品可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以为但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括:具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(ram)、只读存储器(rom)、可擦式可编程只读存储器(eprom或闪存)、光纤、便携式紧凑盘只读存储器(cd-rom)、光存储器件、磁存储器件、或者上述的任意合适的组合。计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了可读程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。可读信号介质还可以是可读存储介质以外的任何可读介质,该可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于无线、有线、光缆、rf等等,或者上述的任意合适的组合。可以以一种或多种程序设计语言的任意组合来编写用于执行本公开操作的程序代码,程序设计语言包括面向对象的程序设计语言—诸如java、c++等,还包括常规的过程式程序设计语言—诸如“c”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中,远程计算设备可以通过任意种类的网络,包括局域网(lan)或广域网(wan),连接到用户计算设备,或者,可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。此外,上述附图仅是根据本公开示例性实施例的方法所包括的处理的示意性说明,而不是限制目的。易于理解,上述附图所示的处理并不表明或限制这些处理的时间顺序。另外,也易于理解,这些处理可以是例如在多个模块中同步或异步执行的。应当注意,尽管在上文详细描述中提及了用于动作执行的设备的若干模块或者单元,但是这种划分并非强制性的。实际上,根据本公开的示例性实施例,上文描述的两个或更多模块或者单元的特征和功能可以在一个模块或者单元中具体化。反之,上文描述的一个模块或者单元的特征和功能可以进一步划分为由多个模块或者单元来具体化。本领域技术人员在考虑说明书及实践这里公开的发明后,将容易想到本公开的其他实施例。本技术旨在涵盖本公开的任何变型、用途或者适应性变化,这些变型、用途或者适应性变化遵循本公开的一般性原理并包括本公开未公开的本中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的,本公开的真正范围和精神由权利要求指出。应当理解的是,本公开并不局限于上面已经描述并在附图中示出的精确结构,并且可以在不脱离其范围进行各种修改和改变。本公开的范围仅由所附的权利要求来限定。


背景技术:

1、随着科技的飞速进步和时代的高速发展,基于强化学习算法的智能机器人已经广泛应用于家庭服务、抢险搜寻、仓储管理等领域,执行诸如定点移动、物体搜寻、导航寻路等任务。强化学习是一种机器学习方法,旨在通过与环境的交互学习如何做出最优决策以获得最大的累积奖励。在强化学习中,奖励信号起着至关重要的作用,它用于指导智能体学习并调整其行为策略。然而,在许多复杂任务的现实世界中,获取精确的稠密奖励信号往往非常困难或昂贵。

2、稀疏奖励问题指的是在强化学习中,智能体在与环境交互的过程中只偶尔获得奖励信号的情况。这意味着在大部分时间步上,智能体无法得知其行为的好坏,从而导致学习过程变得困难。在这种情况下,智能体很难确定哪些行为是正确的,以及如何优化策略以获得最大的累积奖励。

3、然而,解决稀疏奖励问题核心在于如何在探索与利用之间取得平衡,设计有效的奖励函数,并提高模型的鲁棒性以适应真实世界的复杂环境。因此,如何客服强化学习场景中的奖励稀疏问题,提高强化学习训练的准确性和效率,是现有技术亟待解决的问题。

4、需要说明的是,在上述背景技术部分公开的信息仅用于加强对本公开的背景的理解,因此可以包括不构成对本领域普通技术人员已知的现有技术的信息。


技术实现思路

1、本公开提供了一种用于强化学习的模型训练方法、用于强化学习的模型训练装置、电子设备及计算机可读存储介质,进而至少在一定程度上克服现有技术难以保证强化学习的模型训练的有效性和准确性的问题。

2、本公开的其他特性和优点将通过下面的详细描述变得显然,或部分地通过本公开的实践而习得。

3、根据本公开的一个方面,提供一种用于强化学习的模型训练方法,包括:获取样本库;所述样本库至少包括多个连续的样本状态信息;从所述样本库获取第一样本状态信息并输入第一预测模型,得到第一样本预测值,根据所述第一样本预测值和所述第一样本状态信息对应的标签信息确定第一损失值;从所述样本库获取第二样本状态信息和/或第三样本状态信息,根据所述第二样本状态信息和/或所述第三样本状态信息确定第二损失值;所述第二损失值包括状态预测损失值和/或状态记忆损失值;所述状态预测损失值包括:基于状态预测模型对所述第二样本状态信息的下一状态信息进行预测的损失值;所述状态记忆损失值包括:根据所述第三样本状态信息与状态信息聚类中心的距离确定的损失值;所述状态信息聚类中心是对早于所述第三样本状态信息的多个状态信息进行聚类得到的聚类中心;基于所述第一损失值和所述第二损失值更新所述第一预测模型的参数。

4、根据本公开的一个方面,提供一种用于强化学习的模型训练装置,包括:样本库获取模块,用于获取样本库;所述样本库至少包括多个连续的样本状态信息;第一损失值确定模块,用于从所述样本库获取第一样本状态信息并输入第一预测模型,得到第一样本预测值,根据所述第一样本预测值和所述第一样本状态信息对应的标签信息确定第一损失值;第二损失值确定模块,用于从所述样本库获取第二样本状态信息和/或第三样本状态信息,根据所述第二样本状态信息和/或所述第三样本状态信息确定第二损失值;所述第二损失值包括状态预测损失值和/或状态记忆损失值;所述状态预测损失值包括:基于状态预测模型对所述第二样本状态信息的下一状态信息进行预测的损失值;所述状态记忆损失值包括:根据所述第三样本状态信息与状态信息聚类中心的距离确定的损失值;所述状态信息聚类中心是对早于所述第三样本状态信息的多个状态信息进行聚类得到的聚类中心;预测模型参数更新模块,用于基于所述第一损失值和所述第二损失值更新所述第一预测模型的参数。

5、根据本公开的一个方面,提供一种电子设备,包括:处理器;以及存储器,用于存储所述处理器的可执行指令;其中,所述处理器配置为经由执行所述可执行指令来执行上述用于强化学习的模型训练方法。

6、根据本公开的一个方面,提供一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现上述用于强化学习的模型训练方法。

7、本公开的示例性实施例具有以下有益效果:

8、获取样本库;样本库至少包括多个连续的样本状态信息;从样本库获取第一样本状态信息并输入第一预测模型,得到第一样本预测值,根据第一样本预测值和第一样本状态信息对应的标签信息确定第一损失值;从样本库获取第二样本状态信息和/或第三样本状态信息,根据第二样本状态信息和/或第三样本状态信息确定第二损失值;第二损失值包括状态预测损失值和/或状态记忆损失值;状态预测损失值包括:基于状态预测模型对第二样本状态信息的下一状态信息进行预测的损失值;状态记忆损失值包括:根据第三样本状态信息与状态信息聚类中心的距离确定的损失值;状态信息聚类中心是对早于第三样本状态信息的多个状态信息进行聚类得到的聚类中心;基于第一损失值和第二损失值更新第一预测模型的参数。一方面,本示例性实施例提出一种新的用于强化学习的模型训练方法,第一预测模型的参数,根据第一损失值和第二损失值进行更新,其中,第一损失值由第一样本预测值和第一样本状态信息对应的标签信息确定,第二损失值由状态预测损失值和状态记忆损失值确定,保证本示例性实施例能够从不同维度考虑,对第一预测模型进行更新,提高了第一预测模型训练的准确性和有效性;另一方面,第二损失值可以从状态预测与状态记忆两个方面的信息差距进行考虑,通过类信息差的融合结果确定的第二损失值,能够更好的反映模型训练过程中产生的信息误差,进一步的,考虑第二损失值对第一预测模型的参数进行更新,能够更好的克服环境的稀疏性,增强学习系统的鲁棒性。

9、应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,并不能限制本公开。

当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1