一种数据处理的方法及装置与流程

文档序号:25586755发布日期:2021-06-22 17:02阅读:69来源:国知局
一种数据处理的方法及装置与流程

本说明书涉及自然语言处理技术领域,尤其涉及一种数据处理的方法及装置。



背景技术:

目前,针对节日、大型赛事活动举办等时间或事件,在其时间点临近时,第三方平台通常会向用户提供与时间点对应的热门商户、热门商品等信息,以便于用户通过第三方平台快速获取服务,提高用户体验。

一般情况下,基于海量的文本信息,通过人工根据经验或者采用数据统计等方式,可确定出与时间点具有相关关系的词汇,即,用户在时间点前后的常用词汇,基于这些词汇,第三方平台可确定与时间点对应的热门商户、热门商品等信息。

因此,如何准确高效地确定出与时间点具有相关关系的词汇,成为亟需解决的问题。



技术实现要素:

本说明书实施例提供一种数据处理的方法及装置,以部分地解决现有技术存在的上述问题。

本说明书实施例采用下述技术方案:

本说明书提供的一种数据处理的方法,所述方法包括:

确定目标时间点,并根据所述目标时间点以及预设的时间区间长度,确定所述目标时间点对应的时间区间,获取产生于所述目标时间点对应的时间区间内的文本数据;

确定所述文本数据中包含的文本词汇,并针对每个文本词汇,确定该文本词汇在所述文本数据中的第一统计特征;

根据各文本词汇的第一统计特征,在各文本词汇中,选择若干个文本词汇作为所述目标时间点对应的待定词汇;

针对各待定词汇,确定该待定词汇在历史上被选择作为待定词汇的第二统计特征;

根据各待定词汇对应的第二统计特征,对各待定词汇进行筛选,得到由若干个待定词汇组成的词汇集合;

对所述词汇集合中各待定词汇进行数据处理。

可选地,获取产生于所述目标时间点对应的时间区间内的文本数据,具体包括:

将所述目标时间点对应的时间区间划分为第一子区间以及第二子区间;

获取发布时间位于所述第一子区间内的第一文本数据以及位于所述第二子区间内的第二文本数据。

可选地,确定该文本词汇在所述文本数据中的第一统计特征,具体包括:

确定该文本词汇在所述第一文本数据中的子统计特征、以及在所述第二文本数据中的子统计特征。

可选地,根据各文本词汇的第一统计特征,在各文本词汇中,选择若干个文本词汇作为所述目标时间点对应的待定词汇,具体包括:

针对各文本词汇,确定该文本词汇的第一统计特征包含的两个子统计特征之间的差异,根据所述差异,确定该文本词汇的置信度,所述置信度与所述差异正相关;

根据各文本词汇的置信度,在各文本词汇中选择各待定词汇。

可选地,所述第一子区间为当前时刻,所述第二子区间为所述当前时刻之前指定时间长度的时间区间;

根据各文本词汇的第一统计特征,在各文本词汇中,选择若干个文本词汇作为所述目标时间点对应的待定词汇,具体包括:

针对各文本词汇,确定该文本词汇对应的所述当前时刻对应的子统计特征、所述当前时刻之前的若干个历史时刻对应的子统计特征;

将各子统计特征按照时间进行排序,并根据排序结果,对相邻的两个子统计特征进行对比;

根据对比结果,确定该文本词汇对应的选择结果。

可选地,根据各待定词汇对应的第二统计特征,对各待定词汇进行筛选,得到由若干个待定词汇组成的词汇集合,具体包括:

根据各待定词汇对应的第二统计特征,在各待定词汇中,确定基准词汇;

针对除所述基准词汇之外的其他各待定词汇,确定该待定词汇与所述基准词汇的相关程度,其中,所述相关程度包括文本相似度、语义相似度、词频共现信息中的至少一种;

根据各待定词汇与所述基准词汇的相关程度,在各待定词汇中,选择若干个待定词汇,并确定由选择的各待定词汇以及所述基准词汇组成所述词汇集合。

可选地,对所述词汇集合中各待定词汇进行数据处理,具体包括:

针对所述词汇集合中任意两个待定词汇,确定该两个待定词汇的相关程度;

根据各待定词汇之间的相关程度,对所述词汇集合中的各待定词汇进行聚类,得到若干个词汇簇;

针对各词汇簇,根据该词汇簇中包含的各待定词汇,在各指定信息中,选择该词汇簇对应的指定信息,并将选择的指定信息提供给用户。

本说明书提供一种数据处理的装置,包括:

第一确定模块,用于确定目标时间点,并根据所述目标时间点以及预设的时间区间长度,确定所述目标时间点对应的时间区间,获取产生于所述目标时间点对应的时间区间内的文本数据;

第二确定模块,用于确定所述文本数据中包含的文本词汇,并针对每个文本词汇,确定该文本词汇在所述文本数据中的第一统计特征;

选择模块,用于根据各文本词汇的第一统计特征,在各文本词汇中,选择若干个文本词汇作为所述目标时间点对应的待定词汇;

第三确定模块,用于针对各待定词汇,确定该待定词汇在历史上被选择作为待定词汇的第二统计特征;

筛选模块,用于根据各待定词汇对应的第二统计特征,对各待定词汇进行筛选,得到由若干个待定词汇组成的词汇集合;

处理模块,用于对所述词汇集合中各待定词汇进行数据处理。

本说明书提供的一种计算机可读存储介质,所述存储介质存储有计算机程序,所述计算机程序被处理器执行时实现上述数据处理的方法。

本说明书提供的一种电子设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,所述处理器执行所述程序时实现上述数据处理的方法。

本说明书实施例采用的上述至少一个技术方案能够达到以下有益效果:

本说明书可确定目标时间点,并根据目标时间点以及预设的时间区间长度,确定目标时间点对应的时间区间,获取产生于目标时间点对应的时间区间内的文本数据,然后,确定文本数据中包含的文本词汇,并针对每个文本词汇,确定该文本词汇在文本数据中的第一统计特征,根据各文本词汇的第一统计特征,在各文本词汇中,选择若干个文本词汇作为目标时间点对应的待定词汇,针对各待定词汇,确定该待定词汇在历史上被选择作为待定词汇的第二统计特征,根据各待定词汇对应的第二统计特征,对各待定词汇进行筛选,得到由若干个待定词汇组成的词汇集合,可对词汇集合中各待定词汇进行数据处理。通过上述方法,本说明书可准确高效地从文本数据中确定与目标时间点具有相关关系的词汇集合,从而无需通过人工等方式确定,便于后续基于与目标时间点具有相关关系的词汇集合进行数据处理。

附图说明

此处所说明的附图用来提供对本说明书的进一步理解,构成本说明书的一部分,本说明书的示意性实施例及其说明用于解释本说明书,并不构成对本说明书的不当限定。在附图中:

图1为本说明书实施例提供的一种数据处理的方法流程图;

图2为本说明书实施例提供的一种对待定词汇进行数据处理的示意图;

图3为本说明书实施例提供的一种基于目标时间点对应的词汇进行数据处理框架图;

图4为本说明书实施例提供的一种数据处理的装置的结构示意图;

图5为本说明书实施例提供的实现上述数据处理的方法的电子设备示意图。

具体实施方式

为使本说明书的目的、技术方案和优点更加清楚,下面将结合本说明书具体实施例及相应的附图对本说明书技术方案进行清楚、完整地描述。显然,所描述的实施例仅是本说明书一部分实施例,而不是全部的实施例。基于本说明书中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本说明书保护的范围。

通常情况下,针对节假日等时间点或者大型赛事活动举办等事件,在节假日到来时或者在事件发生时,用户会购买与之相关的产品,因此,为了更好地服务于用户,第三方平台可有针对性地向用户提供这些产品的信息或者相关商家的信息等。例如,中秋节到来时,用户会购买诸如月饼等商品,第三方平台可在中秋节到来时,向用户展示各种品牌的月饼信息、提供月饼的商家的信息等,以便于用户在线下单进行购买。

因此,第三方平台需要预先确定每个节假日或者事件对应的用户需求(即,用户所需要购买的产品等需求),以便于基于用户需求,确定与用户需求对应的产品或商家等信息。这里的用户需求,一般可指与节假日或事件对应的产品名称、品牌名称等信息,也可包含描述与节假日或事件的形容词等信息。也即,第三方平台需要预先确定每个时间点对应的词汇,其中,时间点即节假日的日期信息,或者事件发生的时间信息等。

现有的技术方案中,一般采用人工基于经验或者数据统计的方式,来确定时间点对应的词汇。其中,采用人工的方式不仅耗时耗力,增加成本,还会出现难以确定时间点对应的所有词汇的问题。而采用数据统计的方式,从时间点对应的文本数据中,选择出现次数超过预设的次数阈值的词汇作为时间点对应的词汇,同样可能出现词汇漏选等情况,另外,通过这种方式选择的词汇,还需要通过人工进行二次筛选以增加准确性。

因此,本说明书提供一种数据处理的方法,在本说明书中,可准确高效地确定时间点对应的词汇,从而基于时间点对应的词汇,进行诸如产品挖掘、商家挖掘等数据处理。

以下结合附图,详细说明本说明书各实施例提供的技术方案。

图1为本说明书实施例提供的一种数据处理的方法流程图,具体可包括以下步骤:

s100:确定目标时间点,并根据所述目标时间点以及预设的时间区间长度,确定所述目标时间点对应的时间区间,获取产生于所述目标时间点对应的时间区间内的文本数据。

在本说明书中,时间点即节假日、事件发生的时间,目标时间点既可以是某个节日的时间,也可以是某个时间发生的时间。一般节假日有固定的时间,而事件可以是之前发生过的事件,例如,世界杯,此类的事件的发生时间一般可提前获取。

一般情况下,目标时间点对应的词汇,大多数来源于产生于目标时间点前后的语料,因此,可选择目标时间点对应的时间区间内产生的文本数据作为语料,以确定目标时间点对应的词汇。

因此,可预先设置时间区间的长度,根据目标时间点以及预设的时间长度,确定目标时间点对应的时间区间,其中,目标时间点可以是目标时间点对应的时间区间内的任一时间,例如,初始时间点、截止时间点等,也可以是目标时间点对应的时间区间之外的时间,一般在这种情况下,目标时间点与目标时间点所在的时间区间的初始时间点或截止时间点的时间间隔较小。举例来说,预设的时间区间的长度为一周,目标时间点为2月14日,则目标时间点对应的时间区间可以是2月7日至2月13日,也可以使2月8日至2月14日。

在确定目标时间点对应的时间区间之后,可获取产生于目标时间点对应的时间区间内的文本数据,其中,文本数据可包括用户原创内容(usergeneratedcontent,ugc)、商家发布的产品信息等,文本数据的产生时间,既可以是用户、商家等发布文本数据的时间,也可以是从其他数据库中获取的文本数据被展示的时间等。另外,文本数据还可包括其他语料经过处理后的数据,例如,可获取用户在目标时间点对应的时间区间内的搜索关键词,将搜索关键词进行拼接等处理,得到文本数据。

在本说明书中,基于上述内容,可确定目标时间点对应的时间区间以及获取产生于目标时间点对应的时间区间内的文本数据。进一步地,本说明书还可将目标时间点对应的时间区间进行划分,得到第一子区间以及第二子区间,即,目标时间点对应的时间区间至少包括第一子区间以及第二子区间,其中,第一子区间的时间区间长度与第二子区间的时间区间长度可根据具体情况设置,第一子区间的时间区间长度与第二子区间的时间区间长度的和值不大于目标时间点对应的时间区间的长度。

进一步地,本说明书还可预先确定与目标时间点具有相同属性的其他时间点,属性可包括节假日类型属性、事件类型属性等,并可在划分第一子区间以及第二子区间时,将临近于目标时间点和/或与目标时间点具有相同属性的其他时间点的时间段作为第一子区间,将未临近于目标时间点以及与目标时间点具有相同属性的其他时间点的时间段作为第二子区间,其中,第一子区间、第二子区间均可由若干个时间段组成。例如,目标时间点为2月14日,可预先确定与目标时间点具有相同数据的其他时间点包括3月14日等其他月份的14日,目标时间点对应的时间区间为2月14日之前三个月,第一子区间的时间长度为一周,则可将2月14日之前一周作为第一子区间,将目标时间点对应的时间区间内每个14日之前一周之外的其他时间作为第二子区间,此时,第二子区间由三个时间段组成。

相应地,本说明书还可将获取的产生于目标时间区间内的文本数据,划分为第一文本数据以及第二文本数据,即,根据文本数据的产生时间以及第一子区间、第二子区间,可将产生时间位于第一子区间内的文本数据作为第一文本数据,将产生时间位于第二子区间内的文本数据作为第二文本数据。当然,本说明书中,在确定第一子区间以及第二子区间之后,可直接获取产生时间位于第一子区间内的第一文本数据以及位于第二子区间内的第二文本数据,而无需获取产生于目标时间点对应的时间区间内的文本数据,再依据第一子区间以及第二子区间对文本数据进行划分。

s102:确定所述文本数据中包含的文本词汇,并针对每个文本词汇,确定该文本词汇在所述文本数据中的第一统计特征。

在获取文本数据之后,可对文本数据进行词汇挖掘,得到文本数据中包含的文本词汇。这里可参考现有的对文本数据进行词汇挖掘的方法,例如,可将文本数据输入预先训练的词汇挖掘模型,得到词汇挖掘模型输出的文本数据中包含的文本词汇,又如,可对文本数据进行数据清洗、分词、词性标注、去停用词等处理,得到文本数据中包含的文本词汇。由于这里可参考现有的技术方案,因此本说明书中对确定文本数据中包含的文本词汇的具体方式不再赘述。

参考上述内容,由于本说明书中可将文本数据划分为第一文本数据以及第二文本数据,因此,本说明书中,可分别对第一文本数据以及第二文本数据进行词汇挖掘,得到第一文本数据中包含的文本词汇以及第二文本数据中包含的文本词汇,当然,在对产生于目标时间点对应的时间区间内的文本数据进行词汇挖掘后,也可以针对每个文本词汇,根据第一文本数据以及第二文本数据,判断该文本词汇是否出现在第一文本数据中和/或第二文本数据中,根据每个文本词汇对应的判断结果,确定第一文本数据包含的文本数据和/或第二文本数据包含的文本词汇。

在确定各文本词汇之后,本说明书可确定每个文本词汇的第一统计特征。

具体的,针对各文本词汇,可确定该文本词汇在文本数据中的第一统计特征,其中,第一统计特征可包括文本词汇在文本数据中出现的次数、频率等特征,也即,第一统计特征表征文本词汇在文本数据中的数据统计信息。由于文本数据可包括第一文本数据以及第二文本数据,因此,本说明书可确定该文本词汇在第一文本数据中的子统计特征以及在第二文本数据中的子统计特征,也即,第一统计特征可包括第一文本数据中的子统计特征以及在第二文本数据中的子统计特征。例如,可确定该文本词汇在第一文本数据中出现的次数以及在第二文本数据中出现的次数。

s104:根据各文本词汇的第一统计特征,在各文本词汇中,选择若干个文本词汇作为所述目标时间点对应的待定词汇。

在确定各文本词汇的第一统计特征之后,可基于每个文本词汇的第一统计特征,在各文本词汇中进行选择,并将选择的文本词汇作为目标时间点对应的待定词汇。

在本说明书提供的一种较为优选的实施例中,可基于各文本词汇的第一统计特征,对各文本词汇进行排序,根据排序结果,选择文本词汇。例如,第一统计特征表征文本词汇在文本数据中出现的次数,则可根据各文本词汇的第一统计特征,按照次数由高到低的规则,对各文本词汇进行排序,选择排序结果前n个文本词汇。

当然,除了上述实施例之外,本说明书还可根据各文本数据的第一统计特征,通过其他方式选择文本词汇作为目标时间点对应的待定词汇,例如,将各文本词汇以及各文本词汇的统计特征输入预先训练的机器学习模型,得到由机器学习模型在各文本词汇中筛选的文本词汇作为目标时间点对应的待定词汇。关于通过其他方式选择文本词汇的具体过程,本说明书不再赘述。

参考上述内容,由于文本词汇的第一统计特征包含两个子统计特征,基于各文本词汇的第一统计特征还可通过下述两种方式进行文本词汇的选择。

第一种方式为:针对各文本词汇,确定该文本词汇的第一统计特征包含的两个子统计特征之间的差异,根据差异,确定该文本词汇的置信度,置信度与差异正相关,根据各文本词汇的置信度,在各文本词汇中选择各待定词汇。

具体的,文本词汇来源于产生于在历史上目标时间点对应的时间区间的文本数据,即,获取产生于历史上目标时间点对应的第一子区间的第一文本数据以及第二子区间的第二文本数据。因此,针对产生于历史上目标时间点对应的时间区间的文本数据中的各文本词汇,可确定该文本词汇在产生于历史上目标时间点对应的第一子区间的第一文本数据中的子统计特征,以及在产生于历史上目标时间点对应的第二子区间的第二文本数据中的子统计特征。

在确定两个子统计特征的差异之前,可对各文本词汇进行预筛选。即,根据两个子统计特征中的至少一个,对各文本词汇进行排序,根据排序结果,对各文本词汇进行筛选,或者,可根据两个子统计特征中的至少一个以及预设的统计特征阈值,对各文本词汇进行筛选。需要说明的是,在本说明书中,预筛选的步骤可以略过。

因此,在两个子统计特征之间的差异时,可确定两个子统计特征的差值、比值等作为两个子统计特征之间的差异,然后,根据置信度与差异正相关的关系,确定该文本词汇的置信度,即,该文本词汇的两个子统计特征之间的差异越大,则该文本词汇的置信度越大,反之,该文本词汇的两个子统计特征之间的差异越小,则该文本词汇的置信度越小。

然后,根据各文本词汇的置信度以及预设的置信度阈值,在各文本词汇中选择置信度大于置信度阈值的文本词汇作为目标时间点对应的待定词汇,或者,根据各文本词汇的置信度,对各文本词汇进行排序,根据排序结果,在各文本词汇中选择文本词汇。

第二种方式为:当第一子区间为当前时刻,第二子区间为当前时刻之前指定时间长度的时间区间时,可针对各文本词汇,确定该文本词汇对应的当前时刻对应的子统计特征、当前时刻之前的若干个历史时刻对应的子统计特征,将各子统计特征按照时间进行排序,并根据排序结果,对相邻的两个子统计特征进行对比,根据对比结果,确定该文本词汇对应的选择结果。

具体的,随着时间的变化,第一子区间、第二子区间不断发生变化,相应的,获取的第一文本数据、第二文本数据也不断发生变化,因此,第一文本数据以及第二文本数据中包含的文本词汇也可能发生变化。因此,针对当前时刻确定出的各文本词汇,可确定该文本词汇的两个子统计特征,而随着时间的推移,可确定出该文本词汇在若干个时刻的子统计特征,因此,按照时间的先后顺序,可对该文本词汇在若干个时刻的子统计特征进行排序,针对排序结果中的各子统计特征,将该文本词汇在该子统计特征对应的时刻作为指定时刻,可确定该子统计特征与该文本词汇在指定时刻的前一时刻的子统计特征进行对比,将对比结果作为该子统计特征对应的对比结果,例如,判断该子统计特征与该文本词汇在指定时刻的前一时刻的子统计特征的大小等,根据该文本词汇各子统计特征对应的对比结果以及预设的规则,确定该文本词汇的选择结果。例如,可统计子统计特征对应的对比结果为大于的子统计特征的个数,当个数大于预设的个数阈值时,选择该文本词汇作为目标时间点对应的待定词汇。

通过第一种方式,可确定历史上用户在临近目标时间点时关注的词汇,而通过第二种方式,可确定当前临近目标时间点时用户关注的词汇,这些词汇中,可能包括历史上用户关注的词汇,同时还可能包括当前时刻的新词。

s106:针对各待定词汇,确定该待定词汇在历史上被选择作为待定词汇的第二统计特征。

在确定各待定词汇之后,本说明书中,针对各待定词汇,可基于上述内容,确定出该待定词汇在历史上被选择作为历史目标时间点对应的待定词汇的第二统计特征。其中,待定词汇的第二统计特征表征待定词汇在历史上作为待定词汇的历史统计信息。

例如,针对待定词汇“玫瑰花”,也即,基于上述内容,确定“玫瑰花”为今年2月14日对应的待定词汇,同样,基于上述内容,可分别确定去年、前年等今年之前的若干年中每一年的2月14日对应的待定词汇,并分别确定“玫瑰花”在今年之前的若干年中每一年的2月14日对应的待定词汇中出现的次数,这里的次数即为该待定词汇在历史上被选择作为待定词汇的第二统计特征。

s108:根据各待定词汇对应的第二统计特征,对各待定词汇进行筛选,得到由若干个待定词汇组成的词汇集合。

本说明书中,在得到目标时间点对应的待定词汇之后,还可对待定词汇进行筛选,从而得到由筛选后的待定词汇组成的词汇集合作为目标时间点对应的词汇集合。

在一种较为优选的实施例中,根据各待定词汇对应的第二统计特征,在各待定词汇中,确定基准词汇。

具体的,由于第二统计特征表征的是历史统计信息,因此,针对各待定词汇,若该待定词汇的第二统计特征大于预设的统计特征阈值,则可确定该待定词汇为基准词汇,也即,该待定词汇在历史上被多次作为历史目标时间点对应的待定词汇,说明该待定词汇在目标时间点临近时出现的次数较高,与目标时间点具有较强的相关关系,因此,可作为目标时间点对应的基准词汇。

在确定基准词汇之后,可基于基准词汇,在目标时间点对应的除了基准词汇之外的待定词汇中,进行筛选。即,针对除基准词汇之外的其他各待定词汇,确定该待定词汇与基准词汇的相关程度,其中,相关程度包括文本相似度、语义相似度、词频共现信息中的至少一种。

具体的,确定该待定词汇与基准词汇的文本相似度、语义相似度、词频共现信息的内容可参考现有的技术方案,其中,文本相似度表征该待定词汇与基准词汇在词汇所包含的字符维度的相似程度,语义相似度表征该待定词汇的语义信息与基准词汇的语义信息的相似程度,词频共现信息表征该待定词汇与基准词汇同时出现的统计信息。

除此之外,当文本数据来源于用户的搜索日志时,还可基于该待定词汇对应的搜索信息以及基准词汇对应的搜索信息,确定两种搜索信息的相似度,例如,搜索信息中包含相同产品或者相同商家的占比等。

另外,本说明书可确定出多个基准词汇,可确定该待定词汇与任一基准词汇的相关程度,当然,也可以确定该待定词汇与各基准词汇的相关程度,并在各相关程度中选择最大相关程度。

最后,根据各待定词汇与基准词汇的相关程度,在各待定词汇中,选择若干个待定词汇,并确定由选择的各待定词汇以及基准词汇组成词汇集合。

具体的,基于各待定词汇与基准词汇的相关程度选择若干个待定词汇的过程,可参考上述筛选过程,即,可基于各待定词汇与基准词汇的相关程度,对各待定词汇进行排序,根据排序结果,选择排序靠前的若干个待定词汇,或者,可基于各待定词汇与基准词汇的相关程度以及预设的相关程度阈值,选择相关程度大于相关程度阈值的待定词汇。最后,将选择的待定词汇作为目标时间点对应的词汇。

当然,除了上述实施例提供的筛选方式之外,在本说明书中,还可基于各待定词汇对应的第二统计特征,对各待定词汇进行排序,并基于排序结果进行筛选,或者,确定第二统计特征最小阈值,筛选出第二统计特征大于第二统计特征最小阈值的待定词汇作为词汇集合中的词汇。关于对目标时间点对应的待定词汇进行筛选的其他方式,本说明书不再赘述。

s110:对所述词汇集合中各待定词汇进行数据处理。

在确定目标时间点对应的词汇集合后,可对词汇集合中的各词汇进行分类,并基于分类结果,对各词汇进行数据处理。即,针对词汇集合中任意两个待定词汇,确定该两个待定词汇的相关程度,根据各待定词汇之间的相关程度,对词汇集合中的各待定词汇进行聚类,得到若干个词汇簇,针对各词汇簇,根据该词汇簇中包含的各待定词汇,在各指定信息中,选择该词汇簇对应的指定信息,并将选择的指定信息提供给用户。

具体的,确定词汇集合中任意两个待定词汇的相关程度可参考上述关于确定待定词汇与基准词汇的相关程度的内容,基于任意两个待定词汇的相关程度,对各待定词汇进行聚类的方式,可参考诸如k-means聚类算法、基于完全图的聚类算法等,得到若干个词汇簇,每个词汇簇中包括一个或多个待定词汇,针对每个词汇簇,根据该词汇簇中包含的各待定词汇的语义信息、搜索结果等信息,在各指定信息中选择该词汇簇对应的指定信息,其中,指定信息可包括商家的信息、产品的信息、品牌的信息等。

例如,根据该词汇簇中各待定词汇的语义信息,可确定该词汇簇中各待定词汇表征的是商家的信息,则可根据该词汇簇中各待定词汇对应的搜索结果信息,在商家信息中,确定该词汇簇中各待定词汇对应的若干个商家,作为该词汇簇对应的商家,并将该词汇簇对应的商家的信息提供给用户,例如,当用户使用该词汇簇中任意待定词汇进行搜索时,向用户展示该词汇簇对应的商家的信息。

又如,根据该词汇簇中各待定词汇的语义信息,可确定该词汇簇中各待定词汇表征的是地点的信息,则可根据该词汇簇中各待定词汇对应的搜索结果,在各地点的信息中,确定该词汇簇中各待定词汇对应的若干个地点,作为该词汇簇对应的地点,必要时,还可获取该词汇簇对应的地点所在区域的商家、热门打卡活动等信息,并当用户进行搜索时或者当目标时间点到来时,将该词汇簇对应的地点以及与该词汇簇对应的地点相关的信息提供给用户。

基于上述内容,图2为本说明书实施例提供的一种对待定词汇进行数据处理的示意图。在图2中,当目标时间点到来时,第三方平台可在首页展示若干个词汇簇图标,包括热门商家、热门地点等,当用户点击至其中任意一个词汇簇图标时,例如,热门商家,则可跳转至热门商家词汇簇对应的商家信息,向用户展示目标时间点对应的热门商家列表等信息。

基于上述内容,图3为本说明书实施例提供的一种基于目标时间点对应的词汇进行数据处理框架图。在图3中,在确定目标时间点对应的词汇集合后,对词汇集合进行聚类,得到第一词汇簇、第二词汇簇、第三词汇簇,各词汇簇中的词汇分别表征商家的信息、产品的信息以及地点的信息,基于第一词汇簇包含的各词汇,可进行商家挖掘,得到商家列表,基于第二词汇簇包含的各词汇,可进行产品挖掘,得到产品列表,基于第三词汇簇包含的各词汇,可进行地点挖掘,得到地点列表。

基于上述内容所述的数据处理的方法,本说明书实施例还对应提供一种数据处理的装置的结构示意图,如图4所示。

图4为本说明书实施例提供的一种数据处理的装置的结构示意图,所述装置包括:

第一确定模块400,用于确定目标时间点,并根据所述目标时间点以及预设的时间区间长度,确定所述目标时间点对应的时间区间,获取产生于所述目标时间点对应的时间区间内的文本数据;

第二确定模块402,用于确定所述文本数据中包含的文本词汇,并针对每个文本词汇,确定该文本词汇在所述文本数据中的第一统计特征;

选择模块404,用于根据各文本词汇的第一统计特征,在各文本词汇中,选择若干个文本词汇作为所述目标时间点对应的待定词汇;

第三确定模块406,用于针对各待定词汇,确定该待定词汇在历史上被选择作为待定词汇的第二统计特征;

筛选模块408,用于根据各待定词汇对应的第二统计特征,对各待定词汇进行筛选,得到由若干个待定词汇组成的词汇集合;

处理模块410,用于对所述词汇集合中各待定词汇进行数据处理。

通过上述方法,本说明书可准确高效地从文本数据中确定与目标时间点具有相关关系的词汇集合,从而无需通过人工等方式确定,便于后续基于与目标时间点具有相关关系的词汇集合进行数据处理。

可选地,所述第一确定模块400具体用于,将所述目标时间点对应的时间区间划分为第一子区间以及第二子区间;获取发布时间位于所述第一子区间内的第一文本数据以及位于所述第二子区间内的第二文本数据。

可选地,所述第二确定模块402具体用于,确定该文本词汇在所述第一文本数据中的子统计特征、以及在所述第二文本数据中的子统计特征。

可选地,所述选择模块404具体用于,针对各文本词汇,确定该文本词汇的第一统计特征包含的两个子统计特征之间的差异,根据所述差异,确定该文本词汇的置信度,所述置信度与所述差异正相关;根据各文本词汇的置信度,在各文本词汇中选择各待定词汇。

可选地,所述第一子区间为当前时刻,所述第二子区间为所述当前时刻之前指定时间长度的时间区间;

所述选择模块404具体用于,针对各文本词汇,确定该文本词汇对应的所述当前时刻对应的子统计特征、所述当前时刻之前的若干个历史时刻对应的子统计特征;将各子统计特征按照时间进行排序,并根据排序结果,对相邻的两个子统计特征进行对比;根据对比结果,确定该文本词汇对应的选择结果。

可选地,所述筛选模块408具体用于,根据各待定词汇对应的第二统计特征,在各待定词汇中,确定基准词汇;针对除所述基准词汇之外的其他各待定词汇,确定该待定词汇与所述基准词汇的相关程度,其中,所述相关程度包括文本相似度、语义相似度、词频共现信息中的至少一种;根据各待定词汇与所述基准词汇的相关程度,在各待定词汇中,选择若干个待定词汇,并确定由选择的各待定词汇以及所述基准词汇组成所述词汇集合。

可选地,所述处理模块410具体用于,针对所述词汇集合中任意两个待定词汇,确定该两个待定词汇的相关程度;根据各待定词汇之间的相关程度,对所述词汇集合中的各待定词汇进行聚类,得到若干个词汇簇;针对各词汇簇,根据该词汇簇中包含的各待定词汇,在各指定信息中,选择该词汇簇对应的指定信息,并将选择的指定信息提供给用户。

本说明书实施例还提供了一种计算机可读存储介质,该存储介质存储有计算机程序,计算机程序可用于执行上述内容所述的数据处理的方法。

基于上述内容所述的数据处理的方法,本说明书实施例还提出了图5所示的电子设备的示意结构图。如图5,在硬件层面,该电子设备包括处理器、内部总线、网络接口、内存以及非易失性存储器,当然还可能包括其他业务所需要的硬件。处理器从非易失性存储器中读取对应的计算机程序到内存中然后运行,以实现上述内容所述的数据处理的方法。

当然,除了软件实现方式之外,本说明书并不排除其他实现方式,比如逻辑器件抑或软硬件结合的方式等等,也就是说以下处理流程的执行主体并不限定于各个逻辑单元,也可以是硬件或逻辑器件。

在20世纪90年代,对于一个技术的改进可以很明显地区分是硬件上的改进(例如,对二极管、晶体管、开关等电路结构的改进)还是软件上的改进(对于方法流程的改进)。然而,随着技术的发展,当今的很多方法流程的改进已经可以视为硬件电路结构的直接改进。设计人员几乎都通过将改进的方法流程编程到硬件电路中来得到相应的硬件电路结构。因此,不能说一个方法流程的改进就不能用硬件实体模块来实现。例如,可编程逻辑器件(programmablelogicdevice,pld)(例如现场可编程门阵列(fieldprogrammablegatearray,fpga))就是这样一种集成电路,其逻辑功能由用户对器件编程来确定。由设计人员自行编程来把一个数字系统“集成”在一片pld上,而不需要请芯片制造厂商来设计和制作专用的集成电路芯片。而且,如今,取代手工地制作集成电路芯片,这种编程也多半改用“逻辑编译器(logiccompiler)”软件来实现,它与程序开发撰写时所用的软件编译器相类似,而要编译之前的原始代码也得用特定的编程语言来撰写,此称之为硬件描述语言(hardwaredescriptionlanguage,hdl),而hdl也并非仅有一种,而是有许多种,如abel(advancedbooleanexpressionlanguage)、ahdl(alterahardwaredescriptionlanguage)、confluence、cupl(cornelluniversityprogramminglanguage)、hdcal、jhdl(javahardwaredescriptionlanguage)、lava、lola、myhdl、palasm、rhdl(rubyhardwaredescriptionlanguage)等,目前最普遍使用的是vhdl(very-high-speedintegratedcircuithardwaredescriptionlanguage)与verilog。本领域技术人员也应该清楚,只需要将方法流程用上述几种硬件描述语言稍作逻辑编程并编程到集成电路中,就可以很容易得到实现该逻辑方法流程的硬件电路。

控制器可以按任何适当的方式实现,例如,控制器可以采取例如微处理器或处理器以及存储可由该(微)处理器执行的计算机可读程序代码(例如软件或固件)的计算机可读介质、逻辑门、开关、专用集成电路(applicationspecificintegratedcircuit,asic)、可编程逻辑控制器和嵌入微控制器的形式,控制器的例子包括但不限于以下微控制器:arc625d、atmelat91sam、microchippic18f26k20以及siliconelabsc8051f320,存储器控制器还可以被实现为存储器的控制逻辑的一部分。本领域技术人员也知道,除了以纯计算机可读程序代码方式实现控制器以外,完全可以通过将方法步骤进行逻辑编程来使得控制器以逻辑门、开关、专用集成电路、可编程逻辑控制器和嵌入微控制器等的形式来实现相同功能。因此这种控制器可以被认为是一种硬件部件,而对其内包括的用于实现各种功能的装置也可以视为硬件部件内的结构。或者甚至,可以将用于实现各种功能的装置视为既可以是实现方法的软件模块又可以是硬件部件内的结构。

上述实施例阐明的系统、装置、模块或单元,具体可以由计算机芯片或实体实现,或者由具有某种功能的产品来实现。一种典型的实现设备为计算机。具体的,计算机例如可以为个人计算机、膝上型计算机、蜂窝电话、相机电话、智能电话、个人数字助理、媒体播放器、导航设备、电子邮件设备、游戏控制台、平板计算机、可穿戴设备或者这些设备中的任何设备的组合。

为了描述的方便,描述以上装置时以功能分为各种单元分别描述。当然,在实施本说明书时可以把各单元的功能在同一个或多个软件和/或硬件中实现。

本领域内的技术人员应明白,本说明书的实施例可提供为方法、系统、或计算机程序产品。因此,本说明书可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本说明书可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、cd-rom、光学存储器等)上实施的计算机程序产品的形式。

本说明书是参照根据本说明书实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。

这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。

这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。

在一个典型的配置中,计算设备包括一个或多个处理器(cpu)、输入/输出接口、网络接口和内存。

内存可能包括计算机可读介质中的非永久性存储器,随机存取存储器(ram)和/或非易失性内存等形式,如只读存储器(rom)或闪存(flashram)。内存是计算机可读介质的示例。

计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括,但不限于相变内存(pram)、静态随机存取存储器(sram)、动态随机存取存储器(dram)、其他类型的随机存取存储器(ram)、只读存储器(rom)、电可擦除可编程只读存储器(eeprom)、快闪记忆体或其他内存技术、只读光盘只读存储器(cd-rom)、数字多功能光盘(dvd)或其他光学存储、磁盒式磁带,磁带磁磁盘存储或其他磁性存储设备或任何其他非传输介质,可用于存储可以被计算设备访问的信息。按照本文中的界定,计算机可读介质不包括暂存电脑可读媒体(transitorymedia),如调制的数据信号和载波。

还需要说明的是,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、商品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、商品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、商品或者设备中还存在另外的相同要素。

本领域技术人员应明白,本说明书的实施例可提供为方法、系统或计算机程序产品。因此,本说明书可采用完全硬件实施例、完全软件实施例或结合软件和硬件方面的实施例的形式。而且,本说明书可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、cd-rom、光学存储器等)上实施的计算机程序产品的形式。

本说明书可以在由计算机执行的计算机可执行指令的一般上下文中描述,例如程序模块。一般地,程序模块包括执行特定任务或实现特定抽象数据类型的例程、程序、对象、组件、数据结构等等。也可以在分布式计算环境中实践本说明书,在这些分布式计算环境中,由通过通信网络而被连接的远程处理设备来执行任务。在分布式计算环境中,程序模块可以位于包括存储设备在内的本地和远程计算机存储介质中。

本说明书中的各个实施例均采用递进的方式描述,各个实施例之间相同相似的部分互相参见即可,每个实施例重点说明的都是与其他实施例的不同之处。尤其,对于系统实施例而言,由于其基本相似于方法实施例,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。

以上所述仅为本说明书的实施例而已,并不用于限制本说明书。对于本领域技术人员来说,本说明书可以有各种更改和变化。凡在本说明书的精神和原理之内所作的任何修改、等同替换、改进等,均应包含在本说明书的权利要求范围之内。

当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1