举报信息的处理方法及装置制造方法
【专利摘要】本发明公开一种举报信息的处理方法及装置，本发明实施例实时接收举报信息；根据被举报用户信息和举报用户信息，分别调用被举报用户对应的历史数据和举报用户对应的历史数据；解析被举报用户的历史数据、举报用户的历史数据及举报内容，获取解析结果；在解析结果满足实时反馈条件时，设置所述举报内容的可见范围；相较于现有技术中服务器接收到举报信息后，先识别举报信息再采取相应措施的方法，本发明实施例具有及时控制举报信息的可见范围的有益效果，避免了尚未确认的举报信息的传播和扩散。
【专利说明】举报信息的处理方法及装置
【技术领域】
[0001]本发明涉及通信领域，尤其涉及一种举报信息的处理方法及装置。
【背景技术】
[0002]随着SNS (Social Networking Services,社会性网络服务)网络的迅速发展,媒体社交工具如博客、微博以及即时通讯软件如QQ、微信等传播手段越来越丰富且传播时效性也越来越强，这使得色情、诈骗、谣言、恶意广告等不良信息的清理难度也越来越大，为了更有效地维护网络环境，各互联网应用均提供了用户举报接口，供用户举报所遇到的不良信息。现有不良信息的举报方法为用户在看到不良信息之后，通过举报接口将举报的相关数据提交到系统后台，由系统后台或审核人员进行识别判定，且经过识别判定后才会对举报信息进行处理并将反馈给用户，这一过程通常需要一定的时长；而处理期间的时延很可能导致不良信息已被传播并扩散出去，举报信息得不到及时处理。
【发明内容】
[0003]鉴于此，有必要提供一种举报信息的处理方法及装置，以便及时控制举报信息的可见范围，避免尚未确认的举报信息的传播和扩散。
[0004]本发明实施例公开了一种举报信息的处理方法，包括以下步骤:
[0005]实时接收举报信息，所述举报信息包括被举报用户信息、举报内容以及举报用户信息；
[0006]根据所述被举报用户信息和举报用户信息，分别调用被举报用户对应的历史数据和举报用户对应的历史数据；
[0007]解析所述被举报用户的历史数据、举报用户的历史数据及所述举报内容，获取解析结果；
[0008]在所述解析结果满足实时反馈条件时，设置所述举报内容的可见范围。
[0009]本发明实施例还公开了一种举报信息的处理装置，包括:
[0010]数据接收模块，用于实时接收举报信息，所述举报信息包括被举报用户信息、举报内容以及举报用户信息；
[0011]数据调用模块，用于根据所述被举报用户信息和举报用户信息，分别调用被举报用户对应的历史数据和举报用户对应的历史数据；
[0012]数据解析模块，用于解析所述被举报用户的历史数据、举报用户的历史数据及所述举报内容，获取解析结果；
[0013]数据处理模块，用于在所述解析结果满足实时反馈条件时，设置所述举报内容的可见范围。
[0014]本发明实施例实时接收举报信息；根据被举报用户信息和举报用户信息，分别调用被举报用户对应的历史数据和举报用户对应的历史数据；解析被举报用户的历史数据、举报用户的历史数据及举报内容，获取解析结果；在解析结果满足实时反馈条件时，设置所述举报内容的可见范围；相较于现有技术中服务器接收到举报信息后，先识别举报信息再采取相应措施的方法，本发明实施例具有及时控制举报信息的可见范围的有益效果，避免了尚未确认的举报信息的传播和扩散。
【专利附图】
【附图说明】
[0015]图1是本发明举报信息的处理方法第一实施例流程示意图；
[0016]图2是本发明举报信息的处理方法第二实施例流程示意图；
[0017]图3是本发明举报信息的处理方法第三实施例流程示意图；
[0018]图4是本发明举报信息的处理装置第一实施例功能模块示意图；
[0019]图5是本发明举报信息的处理装置第二实施例功能模块示意图；
[0020]图6是本发明举报信息的处理装置第三实施例功能模块示意图。
[0021]本发明实施例目的的实现、功能特点及优点将结合实施例，参照附图做进一步说明。
【具体实施方式】
[0022]以下结合说明书附图及具体实施例进一步说明本发明的技术方案。应当理解，此处所描述的具体实施例仅仅用以解释本发明，并不用于限定本发明。
[0023]图1是本发明举报信息的处理方法第一实施例流程示意图；
[0024]步骤S01、实时接收举报信息；
[0025]服务端响应用户在预先配置的举报程序接口输入的举报指令，实时接收用户的举报信息。由于目前各网络应用均设置了对应的举报程序接口，因此用户一旦发现不良信息或者不健康的内容，便能在第一时间对上述信息进行举报；比如某社交网站在用户A主页的个人信息一栏设置一举报控件，其他用户如用户B认为该用户A的主页上由用户A发布的某一条信息包含不健康内容，则用户B对该条信息进行举报时，只需单击用户A主页上的举报控件，即触发了对用户A的举报指令；服务端便根据接收到举报指令，接收用户B对用户A的举报信息。
[0026]本实施例中，服务端接收的举报信息包括被举报用户信息、举报内容以及举报用户信息；该被举报用户信息包括被举报用户的用户名和特征信息，该特征信息与用户名对应，并唯一确定一个用户名，该用户名也可以理解为被举报用户登录时的个人账号；同样地，举报用户信息包括举报用户的用户名和特征信息，该特征信息与用户名对应，并唯一确定一个用户名，该用户名也可以理解为举报用户登录时的个人账号。举报内容可以理解为举报用户所举报的不符合中华人民共和国相关互联网规范的不良信息；本发明实施例中的举报内容多为UGC (User Generated Content,用户自生成内容)数据中的不良信息。
[0027]步骤S02、根据被举报用户信息和举报用户信息，分别调用被举报用户对应的历史数据和举报用户对应的历史数据；
[0028]服务端根据被举报用户信息，调用数据库中被举报用户对应的历史数据；根据举报用户信息，调用数据库中举报用户对应的历史数据。
[0029]被举报用户的历史数据包括:被举报用户在预设时长(如一周内)产生的行为数据、被举报次数和被举报成功率以及对应的被举报用户的信誉度；举报用户的历史数据包括:举报用户在预设时长(如一周内)产生的行为数据、举报次数和举报成功率以及对应的举报人的信誉度。
[0030]本实施例中的信誉度可以理解为用户在一定时长内(如一个月内或者一周内)的行为对互联网环境所产生的好的影响；信誉度越高，表示该用户在这段时长内所发布的信息起到了积极作用并产生了有益影响；信誉度越低，表示该用户在这段时长内所发布的信息起到了消极并产生了不利影响。信誉度的量化可以根据用户发布该信息后，其他用户针对该信息所发表的评论及对该信息的转载次数等。
[0031]步骤S03、解析被举报用户的历史数据、举报用户的历史数据及举报内容，获取解析结果；
[0032]步骤S04、设置举报内容的可见范围。
[0033]服务端解析被举报用户的历史数据、举报用户的历史数据及举报内容，并对举报内容、举报用户的行为数据和信誉度、被举报用户的行为数据和信誉度、被举报人的个人账号是否被非法盗用等多维度进行综合评估，获取解析结果；并根据解析结果是否满足实时反馈条件，对举报内容进行相应处理。在解析结果满足实时反馈条件时，设置举报内容的可见范围，比如仅设置为被举报用户好友列表中的用户可见，或者仅设置为被举报用户个人可见，或者仅设置为举报用户可见，或者设置为对所有用户均不可见。在实际的应用环境中，若服务端将该被举报内容设置为对被举报用户不可见，则被举报用户为了达到散播非法信息的目的，可能会采用其他账号继续发布该被举报内容，因此为了避免该被举报用户采用其他账号继续发布该被举报内容，同时及时反馈举报用户该举报内容已得到及时处理，服务器可以设置该举报内容仅为被举报用户可见。服务端在接收到举报信息的第一时间即对其进行相应处理，提高了举报内容处理的时效性。
[0034]在解析结果不满足实时反馈条件时，服务端按照正常的处理流程进行处理，比如对上述举报内容进行识别后，再进行处理。
[0035]本实施例中，服务端识别获取的解析结果满足实时反馈条件包括:
[0036]服务端解析出被举报用户在预设时长内被举报次数达到第一预设阈值和/或被举报成功率达到第一预设百分率和/或被举报用户的信誉度低于第一预设信誉度值，则识别解析结果满足实时反馈条件；比如，在一周之内，被举报用户一共被举报次数已超过50次；或者，其他用户对被举报用户进行举报的成功率达到了 80%;或者，被举报用户的信誉度低于50% ;只要满足上述三个条件中的至少一个，则识别解析结果满足实时反馈条件。
[0037]服务端解析出举报用户在预设时长内举报次数小于第二预设阈值和/或举报成功率达到第二预设百分率和/或举报用户的信誉度高于第二预设信誉度值，则解析结果满足实时反馈条件；比如，在一周之内，举报用户举报的总举报次数不超过20次；或者，该举报用户对恶意用户的举报成功率达到了 85% ;或者，该举报用户的信誉度高于90% ;只要满足上述三个条件中的至少一个，则识别解析结果满足实时反馈条件。
[0038]服务端解析出被举报用户在预设时长内产生的行为数据与恶意信息数据库中已存储的数据匹配时，则识别解析结果满足实时反馈条件；比如，服务端解析出举报内容中包含的图片与恶意数据库中已存储的图片的相似度达到90%以上，则认为与恶意数据库中已存储的图片相匹配，则识别解析结果满足实时反馈条件。
[0039]在一典型的应用场景中，比如，微博应用程序中，一举报信誉度高达95%的用户老红军对一些经常发送不良消息的用户进行举报，则服务端接收到老红军发送的举报内容时，会在第一时间内将举报内容设置为被举报人自己可见，控制不良信息不被扩散；同时，在第一时间内向用户反馈处理结果；在维护网络环境的同时，提高了人机的可交互性。
[0040]本发明实施例实时接收举报信息；根据被举报用户信息和举报用户信息，分别调用被举报用户对应的历史数据和举报用户对应的历史数据；解析被举报用户的历史数据、举报用户的历史数据及举报内容，获取解析结果；在解析结果满足实时反馈条件时，设置所述举报内容的可见范围；具有及时控制举报信息的可见范围的有益效果，避免了尚未确认的举报信息的传播和扩散。
[0041]图2是本发明举报信息的处理方法第二实施例流程示意图；本实施例与图1所述实施例的区别是，增加了步骤S05和步骤S06 ;本实施例仅对步骤S05和步骤S06进行描述，有关本发明举报信息的处理方法所涉及的其他步骤请参照图1所述实施例的具体描述，在此不再赘述。
[0042]基于图1所述实施例的具体描述，如图2所示，本发明举报信息的处理方法在步骤S04、设置举报内容的可见范围，之后还包括:
[0043]步骤S05、识别举报内容；
[0044]步骤S06、设置举报内容为正常可见状态。
[0045]服务端对举报用户所举报的内容进行实时响应后，为避免误判，将对举报用户发送的举报内容进行识别；在举报内容为合法信息时，设置举报内容为正常可见状态。
[0046]本实施例中，服务端识别举报内容包括，遍历已存储的恶意数据库，若未查找到任何与举报内容相匹配的数据，则识别该举报内容为合法内容；遍历时，可以采用特征匹配的方法进行识别；比如，识别举报内容中是否包含恶意数据库中存储的关键词、恶意信息的MD5 (Message Digest5,消息摘要)值等。
[0047]进一步地，为了确保识别的准确性，避免漏掉新产生的恶意信息，服务端可以发送通知信息，以提醒后台维护人员进行判断；服务端根据后台维护人员的判断结果进行相应处理；比如，识别举报内容为恶意信息时，设置该恶意信息仅为被举报人可见，并发送禁止传播并删除该恶意信息的提示信息；同时，将该恶意信息添加至恶意信息数据库。
[0048]本实施例设置举报内容的可见范围后，识别举报内容；并在举报内容为合法信息时，设置举报内容为正常可见状态；避免了对举报内容的误判，提高了举报内容处理的准确率。
[0049]图3是本发明举报信息的处理方法第三实施例流程示意图；本实施例与图1所述实施例的区别是，在步骤S04、设置举报内容的可见范围，之后还包括:
[0050]步骤S11、强制被举报用户退出所登录的个人账号。
[0051]基于图3所述实施例的具体描述，如图3所示，本实施例与图1所述实施例的区别是，服务端在获取的解析结果满足实时反馈条件时，设置举报内容的可见范围之后，若获取的解析结果还包括被举报用户非法登录，则服务端强制被举报用户退出当前所登录的个人账号。
[0052]服务端根据解析结果识别被举报用户为非法登录包括，服务端在一定时间内识别该账号信息在多个不同地点登录，比如在两个小时内，根据被举报用户的行为数据，识别被举报用户对应的个人账号分别在广州、西安和北京三个地理位置相距甚远的地方登录，则识别被举报用户为非法登录；或者，服务端监控到被举报用户删除了所登录的个人账号好友列表中的所有好友等异常行为，则识别被举报用户为非法登录。
[0053]为进一步维护良好的互联网环境，服务端强制退出被举报用户所登录的个人账号之后，识别被举报用户利用非法登录的个人账号所发布的所有信息；在识别被举报用户利用非法登录的个人账号所发布的所有信息中有与恶意数据库中已存储的数据匹配的信息时，则删除所有与恶意数据库匹配的信息。
[0054]本实施例在识别被举报用户为非法登录时，强制退出被举报用户所登录的个人账号，在保障互联网良好环境的同时，具有维护用户个人账号安全性的有益效果。
[0055]图4是本发明举报信息的处理装置第一实施例功能模块示意图；如图4所示，本发明举报信息的处理装置包括:数据接收模块01、数据调用模块02、数据解析模块03和数据处理模块04。
[0056]数据接收模块01，用于实时接收举报信息，所述举报信息包括被举报用户信息、举报内容以及举报用户信息；
[0057]数据接收模块01响应用户在预先配置的举报程序接口输入的举报指令，实时接收用户的举报信息。由于目前各网络应用均设置了对应的举报程序接口，因此用户一旦发现不良信息或者不健康的内容，便能在第一时间对上述信息进行举报；比如某社交网站在用户A主页的个人信息一栏设置一举报控件，其他用户如用户B认为该用户A的主页上由用户A发布的某一条信息包含不健康内容，则用户B对该条信息进行举报时，只需单击用户A主页上的举报控件，即触发了对用户A的举报指令；服务端的数据接收模块01便根据接收到举报指令，接收用户B对用户A的举报信息。
[0058]本实施例中，数据接收模块01接收的举报信息包括被举报用户信息、举报内容以及举报用户信息；该被举报用户信息包括被举报用户的用户名和特征信息，该特征信息与用户名对应，并唯一确定一个用户名，该用户名也可以理解为被举报用户登录时的个人账号；同样地，举报用户信息包括举报用户的用户名和特征信息，该特征信息与用户名对应，并唯一确定一个用户名，该用户名也可以理解为举报用户登录时的个人账号。举报内容可以理解为举报用户所举报的不符合中华人民共和国相关互联网规范的不良信息；本发明实施例中的举报内容多为UGC数据中的不良信息。
[0059]数据调用模块02，用于根据所述被举报用户信息和举报用户信息，分别调用被举报用户对应的历史数据和举报用户对应的历史数据；
[0060]数据调用模块02根据被举报用户信息，调用数据库中被举报用户对应的历史数据；根据举报用户信息，调用数据库中举报用户对应的历史数据。
[0061]被举报用户的历史数据包括:被举报用户在预设时长(如一周内)产生的行为数据、被举报次数和被举报成功率以及对应的被举报用户的信誉度；举报用户的历史数据包括:举报用户在预设时长(如一周内)产生的行为数据、举报次数和举报成功率以及对应的举报人的信誉度。
[0062]本实施例中的信誉度可以理解为用户在一定时长内(如一个月内或者一周内)的行为对互联网环境所产生的好的影响；信誉度越高，表示该用户在这段时长内所发布的信息起到了积极作用并产生了有益影响；信誉度越低，表示该用户在这段时长内所发布的信息起到了消极并产生了不利影响。信誉度的量化可以根据用户发布该信息后，其他用户针对该信息所发表的评论及对该信息的转载次数等。
[0063]数据解析模块03，用于解析所述被举报用户的历史数据、举报用户的历史数据及所述举报内容，获取解析结果；
[0064]数据处理模块04，用于在所述解析结果满足实时反馈条件时，设置所述举报内容的可见范围。
[0065]数据解析模块03解析被举报用户的历史数据、举报用户的历史数据及举报内容，并对举报内容、举报用户的行为数据和信誉度、被举报用户的行为数据和信誉度、被举报人的个人账号是否被非法盗用等多维度进行综合评估，获取解析结果；数据处理模块04根据解析结果是否满足实时反馈条件，对举报内容进行相应处理。在解析结果满足实时反馈条件时，数据处理模块04设置举报内容的可见范围，比如仅设置为被举报用户好友列表中的用户可见，或者仅设置为被举报用户可见，或者仅设置为被举报用户个人可见，或者设置为对所有用户均不可见。在实际的应用环境中，若服务端将该被举报内容设置为对被举报用户不可见，则被举报用户为了达到散播非法信息的目的，可能会采用其他账号继续发布该被举报内容，因此为了避免该被举报用户采用其他账号继续发布该被举报内容，同时及时反馈举报用户该举报内容已得到及时处理，服务器可以设置该举报内容仅为被举报用户可见。服务端在接收到举报信息的第一时间即对其进行相应处理，提高了举报内容处理的时效性。
[0066]在解析结果不满足实时反馈条件时，数据处理模块04按照正常的处理流程进行处理，比如对上述举报内容进行识别后，再进行处理。
[0067]本实施例中，数据处理模块04识别获取的解析结果满足实时反馈条件包括:
[0068]数据解析模块03解析出被举报用户在预设时长内被举报次数达到第一预设阈值和/或被举报成功率达到第一预设百分率和/或被举报用户的信誉度低于第一预设信誉度值，则数据处理模块04识别解析结果满足实时反馈条件；比如，在一周之内，被举报用户一共被举报次数已超过50次；或者，其他用户对被举报用户进行举报的成功率达到了 80% ;或者，被举报用户的信誉度低于50% ;只要满足上述三个条件中的至少一个，则数据处理模块04识别解析结果满足实时反馈条件。
[0069]数据解析模块03解析出举报用户在预设时长内举报次数小于第二预设阈值和/或举报成功率达到第二预设百分率和/或举报用户的信誉度高于第二预设信誉度值，则解析结果满足实时反馈条件；比如，在一周之内，举报用户举报的总举报次数不超过20次；或者，该举报用户对恶意用户的举报成功率达到了 85% ;或者，该举报用户的信誉度高于90% ；只要满足上述三个条件中的至少一个，则数据处理模块04识别解析结果满足实时反馈条件。
[0070]数据解析模块03解析出被举报用户在预设时长内产生的行为数据与恶意信息数据库中已存储的数据匹配时，则识别解析结果满足实时反馈条件；比如，数据解析模块03解析出举报内容中包含的图片与恶意数据库中已存储的图片的相似度达到90%以上，数据处理模块04则认为与恶意数据库中已存储的图片相匹配，则识别解析结果满足实时反馈条件。
[0071]在一典型的应用场景中，比如，微博应用程序中，一举报信誉度高达95%的用户老红军对一些经常发送不良消息的用户进行举报，则数据接收模块01接收到老红军发送的举报内容时，数据处理模块04会在第一时间内将举报内容设置为被举报人自己可见，控制不良信息不被扩散；同时，数据处理模块04在第一时间内向用户反馈处理结果；在维护网络环境的同时，提高了人机的可交互性。
[0072]本发明实施例实时接收举报信息；根据被举报用户信息和举报用户信息，分别调用被举报用户对应的历史数据和举报用户对应的历史数据；解析被举报用户的历史数据、举报用户的历史数据及举报内容，获取解析结果；在解析结果满足实时反馈条件时，设置所述举报内容的可见范围；具有及时控制举报信息的可见范围的有益效果，避免了尚未确认的举报信息的传播和扩散。
[0073]图5是本发明举报信息的处理装置第二实施例功能模块示意图；本实施例与图4所述实施例的区别是，增加了数据识别模块05 ;基于图4所述实施例的具体描述，如图5所示，本发明举报信息的处理装置还包括:
[0074]数据识别模块05，用于识别所述举报内容；在所述举报内容为合法信息时，设置所述举报内容为正常可见状态。
[0075]数据处理模块04对举报用户所举报的内容进行实时响应后，为避免误判，数据识别模块05将对举报用户发送的举报内容进行识别；在举报内容为合法信息时，设置举报内容为正常可见状态。
[0076]本实施例中，数据识别模块05识别举报内容包括，遍历已存储的恶意数据库，若未查找到任何与举报内容相匹配的数据，则识别该举报内容为合法内容；遍历时，数据识别模块05可以采用特征匹配的方法进行识别；比如，识别举报内容中是否包含恶意数据库中存储的关键词、恶意信息的MD5 (Message Digest5，消息摘要)值等。
[0077]进一步地，为了确保识别的准确性，避免漏掉新产生的恶意信息，数据识别模块05可以发送通知信息，以提醒后台维护人员进行判断；数据处理模块04根据后台维护人员的判断结果进行相应处理；比如，数据处理模块04识别举报内容为恶意信息时，设置该恶意信息仅为被举报人可见，并发送禁止传播并删除该恶意信息的提示信息；同时，将该恶意信息添加至恶意信息数据库。
[0078]本实施例设置举报内容的可见范围后，识别举报内容；并在举报内容为合法信息时，设置举报内容为正常可见状态；避免了对举报内容的误判，提高了举报内容处理的准确率。
[0079]图6是本发明举报信息的处理装置第三实施例功能模块示意图。本实施例与图4所述实施例的区别是，增加了强制退出模块06 ;基于图4所述实施例的具体描述，如图6所示，本发明举报信息的处理装置还包括:
[0080]强制退出模块06，用于在所述解析结果为被举报用户非法登录时，强制所述被举报用户退出所登录的个人账号。
[0081]基于图4所述实施例的具体描述，如图6所示，本实施例与图4所述实施例的区别是，数据处理模块04在获取的解析结果满足实时反馈条件时，设置举报内容的可见范围之后，若数据解析模块03获取的解析结果还包括被举报用户非法登录，则强制退出模块06强制被举报用户退出当前所登录的个人账号。
[0082]数据解析模块03根据解析结果识别被举报用户为非法登录包括，数据解析模块03在一定时间内识别该账号信息在多个不同地点登录，比如在两个小时内，根据被举报用户的行为数据，识别被举报用户对应的个人账号分别在广州、西安和北京三个地理位置相距甚远的地方登录，则识别被举报用户为非法登录；或者，数据解析模块03监控到被举报用户删除了所登录的个人账号好友列表中的所有好友等异常行为，则识别被举报用户为非法登录。
[0083]为进一步维护良好的互联网环境，强制退出模块06强制退出被举报用户所登录的个人账号之后，由数据处理模块04识别被举报用户利用非法登录的个人账号所发布的所有信息；在数据处理模块04识别被举报用户利用非法登录的个人账号所发布的所有信息中有与恶意数据库中已存储的数据匹配的信息时，数据处理模块04删除所有与恶意数据库匹配的信息。
[0084]本实施例在识别被举报用户为非法登录时，强制退出被举报用户所登录的个人账号，在保障互联网良好环境的同时，具有维护用户个人账号安全性的有益效果。
[0085]需要说明的是，在本文中，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者装置不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者装置所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括该要素的过程、方法、物品或者装置中还存在另外的相同要素。
[0086]上述本发明实施例序号仅仅为了描述，不代表实施例的优劣。
[0087]通过以上的实施方式的描述，本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现，当然也可以通过硬件，但很多情况下前者是更佳的实施方式。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品存储在图3、图4、图5所述举报信息的处理装置或者包括图3至图5所述举报信息的处理装置的服务器的一个存储介质(如R0M/RAM、磁碟、光盘)中，图3、图4、图5所述举报信息的处理装置包括若干指令用以使得一台终端设备(可以是手机，计算机，包括图3至图5所述举报信息的处理装置的服务器，或者网络设备等)执行本发明各个实施例所述的方法。
[0088]以上所述仅为本发明的优选实施例，并非因此限制其专利范围，凡是利用本发明说明书及附图内容所作的等效结构或等效流程变换，直接或间接运用在其他相关的【技术领域】，均同理包括在本发明的专利保护范围内。
【权利要求】
1.一种举报信息的处理方法，其特征在于，包括以下步骤: 实时接收举报信息，所述举报信息包括被举报用户信息、举报内容以及举报用户信息； 根据所述被举报用户信息和举报用户信息，分别调用被举报用户对应的历史数据和举报用户对应的历史数据； 解析所述被举报用户的历史数据、举报用户的历史数据及所述举报内容，获取解析结果; 在所述解析结果满足实时反馈条件时，设置所述举报内容的可见范围。
2.如权利要求1所述的方法，其特征在于，所述设置举报内容的可见范围，包括: 设置所述举报内容仅为该举报内容的发布者和/或被举报用户可见；或者，设置所述举报内容对所有用户均不可见。
3.如权利要求1或2所述的方法，其特征在于，所述设置举报内容的可见范围；或者，设置所述举报内容对用户完全不可见，之后还包括: 识别所述举报内容； 在识别到所述举报内容为合法信息时，设置所述举报内容为正常可见状态。
4.如权利要求1或2所述的方法，其特征在于，所述被举报用户的历史数据包括:所述被举报用户在预设时长内产生的行为数据、被举报次数和被举报成功率； 所述举报用户的历史数据包括:所述举报用户在所述预设时长内产生的行为数据、举报次数和举报成功率。
5.如权利要求4所述的方法，其特征在于，所述解析结果满足实时反馈条件包括: 在所述解析结果为:获取的所述被举报用户在所述预设时长内被举报次数达到第一预设阈值和/或被举报成功率达到第一预设百分率时，则所述解析结果满足所述实时反馈条件。
6.如权利要求4所述的方法，其特征在于，所述解析结果满足实时反馈条件包括: 在所述解析结果为:获取的所述举报用户在预设时长内举报次数小于第二预设阈值和/或举报成功率达到第二预设百分率时，则所述解析结果满足所述实时反馈条件。
7.如权利要求4所述的方法，其特征在于，所述解析结果满足实时反馈条件包括: 在所述解析结果为:所述被举报用户在预设时长内产生的行为数据与恶意信息数据库中已存储的数据匹配时，则所述解析结果满足实时反馈条件。
8.如权利要求1或2所述的方法，其特征在于，所述设置举报内容的可见范围，之后还包括: 在所述解析结果为被举报用户非法登录时，强制所述被举报用户退出所登录的个人账号。
9.如权利要求8所述的方法，其特征在于，所述强制所述被举报用户退出所登录的个人账号，之后还包括:识别所述被举报用户利用登录的所述个人账号所发布的所有信息中存在与恶意数据库中已存储数据相匹配的信息时，删除与所述恶意数据中已存储数据相匹配的所有信息。
10.一种举报信息的处理装置，其特征在于，包括: 数据接收模块，用于实时接收举报信息，所述举报信息包括被举报用户信息、举报内容以及举报用户信息； 数据调用模块，用于根据所述被举报用户信息和举报用户信息，分别调用被举报用户对应的历史数据和举报用户对应的历史数据； 数据解析模块，用于解析所述被举报用户的历史数据、举报用户的历史数据及所述举报内容，获取解析结果； 数据处理模块，用于在所述解析结果满足实时反馈条件时，设置所述举报内容的可见范围。
11.如权利要求10所述的装置，其特征在于，所述数据处理模块用于: 设置所述举报内容仅为该举报内容的发布者和/或被举报用户可见；或者，设置所述举报内容对所有用户均不可见。
12.如权利要求10或11所述的装置，其特征在于，还包括: 数据识别模块，用于识别所述举报内容；在识别到所述举报内容为合法信息时，设置所述举报内容为正常可见状态。
13.如权利要求10或11所述的装置，其特征在于，所述被举报用户的历史数据包括:所述被举报用户在预设时长内产生的行为数据、被举报次数和被举报成功率； 所述举报用户的历史数据包括:所述举报用户在所述预设时长内产生的行为数据、举报次数和举报成功率。
14.如权利要求13所述的装置，其特征在于，所述数据处理模块还用于: 在所述解析结果为:获取的所述被举报用户在所述预设时长内被举报次数达到第一预设阈值和/或被举报成功率达到第一预设百分率时，则所述解析结果满足所述实时反馈条件。
15.如权利要求13所述的装置，其特征在于，所述数据处理模块还用于: 在所述解析结果为:获取的所述举报用户在预设时长内举报次数小于第二预设阈值和/或举报成功率达到第二预设百分率时，则所述解析结果满足所述实时反馈条件。
16.如权利要求13所述的装置，其特征在于，所述数据处理模块还用于: 在所述解析结果为:所述被举报用户在预设时长内产生的行为数据与恶意信息数据库中已存储的数据匹配时，则所述解析结果满足实时反馈条件。
17.如权利要求10或11所述的装置，其特征在于，还包括: 强制退出模块，用于在所述解析结果为被举报用户非法登录时，强制所述被举报用户退出所登录的个人账号。
18.如权利要求17所述的装置，其特征在于，所述数据处理模块还用于: 识别所述被举报用户利用登录的所述个人账号所发布的所有信息中存在与恶意数据库中已存储数据相匹配的信息时，删除与所述恶意数据中已存储数据相匹配的所有信息。
【文档编号】G06F17/30GK104424277SQ201310386461
【公开日】2015年3月18日 申请日期:2013年8月29日 优先权日:2013年8月29日
【发明者】钟呈祥 申请人:深圳市腾讯计算机系统有限公司