小米范网站批量爬虫工具 v1.4 免费版网页爬取器

小米范网站批量爬虫工具是一款功能十分强大的网站爬取工具，想要使用网址爬取工具的用户赶紧来下载这一辅助工具吧，相信对于需要爬取内容的用户一定十分有用。

小米范网站批量爬虫工具简介：

网站辅助的小工具，它能针对网站进行快速批量的爬取，小米范网站批量爬虫工具能将爬取的URL进一步调用wvs、sqlmap、brutexss等工具进行检测，挺实用，也蛮简单。

小米范网站批量爬虫工具怎么使用?

1、随便点击下面的任一个文件。

2、出现如下界面时，点任意键运行。

3、打开软件界面后，点击新建任务，输入要检测的URL。

4、设置子域名白名单，属于白名单域名的URL则自动保留并进行抓取。

5、设置并发站点、并发线程等参数，点击开始即可。

小米范网站批量爬虫工具运行流程：

1、针对这100个URL，按照是否同源进行合并，同源的URL则放入一个目标，并将这些URL作为这个源的起始URL。

2、针对每个目标进行爬取(默认并发5个目标)，针对每个目标的起始URL采用浏览器点击抓包(默认每个目标最多开5个浏览器)+HTML解析的方式获取URL，浏览器点击在后台运行，没有界面，这里的浏览器点只是在点击后将发出去的请求URL记录，但并不真正发出去请求。

3、将前两步收集到的URL作为种子，进行传统的爬取，这里的爬取主要采用了webmagic框架，并对框架本身做了一点修改。另外每一个页面下载之前会进行爬取URL黑名单匹配，匹配到黑名单则跳过，下载到的每个页面提取出来的URL会进行子域名白名单匹配，匹配到白名单则会放入爬取队列。

4、针对爬到的URL可直接右键使用sqlmap、brutexss、panoptic、wvs进行安全检测，目前还在考虑再加入一些其他的检测工具。

5、此外也提供了目录扫描功能，在左侧树形结构的任意节点右键目录扫描会对当前选中节点所在的路径进行目录扫描。