技术编号:12666431
提示:您尚未登录,请点 登 陆 后下载,如果您还没有账户请点 注 册 ,登陆完成后,请刷新本页查看技术详细信息。本发明涉及互联网技术领域,特别是涉及一种确定隐藏的URL的方法及装置。背景技术搜索引擎是网络信息搜索的主要工具,它能够自动从因特网搜集信息,并在经过一定整理以后,提供给用户进行查询的系统。搜索引擎在网络中抓取网页时,通常使用网络爬虫进行网页的抓取,最终将重要的网页展示给用户。抓取的策略中最常用的方法为先抓取起始网页中链接的所有网页,然后再选择其中一个链接的网页,继续抓取在该网页中链接的所有网页。然而网站中的某些URL是对外隐藏的,且对于这种隐藏的URL,爬虫无法抓取到,由此使得搜索引擎搜索网页的...
注意:该技术已申请专利,请尊重研发人员的辛勤研发付出,在未取得专利权人授权前,仅供技术研究参考不得用于商业用途。
该专利适合技术人员进行技术研发参考以及查看自身技术是否侵权,增加技术思路,做技术知识储备,不适合论文引用。
请注意,此类技术没有源代码,用于学习研究技术思路。