对抗攻击的推荐方法及装置、平台、存储介质与流程

本技术实施例涉及人工智能领域，涉及但不限于一种对抗攻击的推荐方法及装置、平台、存储介质。

背景技术：

1、对抗样本的现象指在正常样本中加入不可被人感知的扰动，从而使神经网络做出置信度很高的错误预测。对抗攻击是生成对抗样本的算法，对抗攻击在理解深度模型决策，提升模型的鲁棒性，以及预估模型部署风险的方面有重要的作用。

技术实现思路

1、有鉴于此，本技术实施例提供一种对抗攻击的推荐方法及装置、平台、存储介质。

2、本技术实施例的技术方案是这样实现的：

3、第一方面，本技术实施例提供一种对抗攻击的推荐方法，所述方法包括：对获取的对抗问题进行分析，得到分析结果；将所述分析结果与对抗攻击算法库中对抗攻击算法的预设范围进行比对，得到比对结果；基于所述比对结果，从所述对抗攻击算法库中确定出适用于所述对抗问题的目标攻击算法；将所述目标攻击算法作为推荐内容进行展示。

4、通过上述方式，能够解决用户需要手动选择对抗攻击算法，从而容易造成攻击误用的问题。

5、在一些实施例中，所述方法还包括：确定针对所述对抗问题实际使用的对抗攻击算法；在所述实际使用的对抗攻击算法不属于所述目标攻击算法的情况下，发出提示信息，并退出当前操作；其中，所述提示信息用于提示用户实际使用的对抗攻击算法语义不正确。

6、通过上述方式，能够减少用户浪费资源在语义上不正确的攻击上的问题。

7、在一些实施例中，所述对获取的对抗问题进行分析，得到分析结果，包括：确定筛选的维度；其中，所述维度至少包括以下一种或多种：目标场景、攻击指标、攻击能力和攻击知识；基于每一所述维度对获取的对抗问题进行分析，得到不同维度的分析结果；所述将所述分析结果与对抗攻击算法库中对抗攻击算法的预设范围进行比对，得到比对结果，包括：将所述不同维度的分析结果与对抗攻击算法库中对抗攻击算法的预设范围进行比对，得到不同维度的比对结果。

8、通过上述方式，能够将对抗攻击的兼容问题转化为筛选问题，从而为不同的对抗攻击算法提供统一的平台。

9、在一些实施例中，在所述维度包括目标场景的情况下，所述基于每一所述维度对获取的对抗问题进行分析，得到不同维度的分析结果，包括：基于目标场景的维度对获取的对抗问题进行分析，确定被攻击模型的输入形式和所述被攻击模型的输出形式；其中，所述被攻击模型的输入形式包括视频、图像、文本、语音中的至少一种，所述被攻击模型的输出形式与所述被攻击模型自身的功能相关。

10、通过上述方式，能够从目标场景这一维度对对抗问题进行筛选。

11、在一些实施例中，在所述维度包括攻击指标的情况下，所述基于每一所述维度对获取的对抗问题进行分析，得到不同维度的分析结果，包括：基于攻击指标的维度对获取的对抗问题进行分析，确定在对抗攻击的攻击结果为成功的情况下对应的攻击模式；其中，所述攻击模式包括无目标攻击模式和目标攻击模式中的一种。

12、通过上述方式，能够从攻击指标这一维度对对抗问题进行筛选。

13、在一些实施例中，在所述维度包括攻击能力的情况下，所述基于每一所述维度对获取的对抗问题进行分析，得到不同维度的分析结果，包括：基于攻击能力的维度对获取的对抗问题进行分析，确定生成对抗样本时扰动的类型和扰动的范围；其中，所述扰动的类型包括样本中全局的扰动和样本中部分区域的扰动中的一种，所述扰动的范围包括像素变化的单位数量。

14、通过上述方式，能够从攻击能力这一维度对对抗问题进行筛选。

15、在一些实施例中，在所述维度包括攻击知识的情况下，所述基于每一所述维度对获取的对抗问题进行分析，得到不同维度的分析结果，包括：基于攻击知识的维度对获取的对抗问题进行分析，确定进行对抗攻击时攻击者的模型知识；其中，所述模型知识包括白盒攻击和黑盒攻击中的一种。

16、通过上述方式，能够从攻击知识这一维度对对抗问题进行筛选。

17、在一些实施例中，所述将所述不同维度的分析结果与对抗攻击算法库中对抗攻击算法的预设范围进行比对，得到不同维度的比对结果，包括：将所述不同维度的分析结果与对抗攻击算法库中每一对抗攻击算法的预设范围进行比对，得到不同维度下每一对抗攻击算法的比对结果；所述基于所述比对结果，从所述对抗攻击算法库中确定出适用于所述对抗问题的目标攻击算法，包括：基于所述每一对抗攻击算法的比对结果，确定所述每一对抗攻击算法是否适用于所述对抗问题；将所述对抗攻击算法库中适用于所述对抗问题的对抗攻击算法，确定为目标攻击算法。

18、通过上述方式，能够对对抗问题进行细节的定义，根据特定的问题筛选可以被使用的攻击算法。

19、在一些实施例中，所述将所述不同维度的分析结果与对抗攻击算法库中对抗攻击算法的预设范围进行比对，得到不同维度的比对结果，包括：将所述不同维度的分析结果与对抗攻击算法库中第一对抗攻击算法的预设范围进行比对，得到不同维度下所述第一对抗攻击算法的比对结果；所述基于所述比对结果，从所述对抗攻击算法库中确定出适用于所述对抗问题的目标攻击算法，包括：在所述第一对抗攻击算法的比对结果为成功的情况下，在所述对抗攻击算法库中确定与所述第一对抗攻击算法属于同一类的第二对抗攻击算法；将所述第一对抗攻击算法和第二对抗攻击算法确定为目标攻击算法。

20、通过上述方式，能够更加快速地根据特定的问题筛选可以被使用的攻击算法。

21、在一些实施例中，所述对抗攻击算法库通过以下步骤实现：获取至少两个对抗攻击算法；确定所述至少两个对抗攻击算法中每一对抗攻击算法在不同维度的取值信息；根据每一对抗攻击算法在不同维度的取值信息，对所述至少两个对抗攻击算法进行分类，得到分类结果；基于所述分类结果，将所述至少两个对抗攻击算法存储在对抗攻击算法库中。

22、通过上述方式，能够容纳统一大部分的对抗攻击算法，具有现有算法库无法比拟的延展性和快速工业部署的能力。

23、在一些实施例中，所述根据每一对抗攻击算法在不同维度的取值信息，对所述至少两个对抗攻击算法进行分类，得到分类结果，包括：将所述不同维度的取值信息进行排列组合，得到排列组合结果；基于所述排列组合结果对所述至少两个对抗攻击算法进行分类，得到多类对抗攻击算法；所述基于所述分类结果，将所述至少两个对抗攻击算法存储在对抗攻击算法库中，包括：确定所述多类对抗攻击算法中每一类对抗攻击算法的接口；基于所述接口将所述多类对抗攻击算法存储在对抗攻击算法库中，以使被攻击模型能够通过所述接口与对抗攻击算法进行适配。

24、通过上述方式，能够为每一类对抗攻击算法定义一个统一的接口，从而模型只要符合这个攻击的接口，就可以用这个接口下所有的对抗攻击算法。

25、第二方面，本技术实施例提供一种对抗攻击的推荐装置，所述装置包括：分析单元，用于对获取的对抗问题进行分析，得到分析结果；比对单元，用于将所述分析结果与对抗攻击算法库中对抗攻击算法的预设范围进行比对，得到比对结果；确定单元，用于基于所述比对结果，从所述对抗攻击算法库中确定出适用于所述对抗问题的目标攻击算法；展示单元，用于将所述目标攻击算法作为推荐内容进行展示。

26、第三方面，本技术实施例提供一种对抗攻击平台，包括存储器和处理器，所述存储器存储有可在处理器上运行的计算机程序，所述处理器执行所述程序时实现上述对抗攻击的推荐方法中的步骤。

27、第四方面，本技术实施例提供一种计算机可读存储介质，其上存储有计算机程序，该计算机程序被处理器执行时实现上述对抗攻击的推荐方法中的步骤。

28、本技术实施例提供一种对抗攻击的推荐方法及装置、平台、存储介质，通过对获取的对抗问题进行分析，得到分析结果；将所述分析结果与对抗攻击算法库中对抗攻击算法的预设范围进行比对，得到比对结果；基于所述比对结果，从所述对抗攻击算法库中确定出适用于所述对抗问题的目标攻击算法；将所述目标攻击算法作为推荐内容进行展示，如此，能够解决用户需要手动选择对抗攻击算法，从而容易造成攻击误用的问题。