Wild Spider_chrome插件下载,最新浏览器扩展,crx离线安装包

通过使用多个选项卡并行加载到浏览器中来抓取网页

注意：使用的选项卡越多，将使用更多的计算机资源（CPU、内存），并且每个页面都会花费一点磁盘来保存内容（在 IndexedDb 中，可从扩展 -> 检查视图：后台页面访问）。

“蜘蛛”是这样工作的：
1) 以当前 url 作为起点，并在新选项卡中再次加载。
2）该页面加载后，获取该页面上的所有链接。
3）获取页面上的所有链接，包括相对url。
4) 在所有使用的选项卡中并行打开提取的链接（默认为 3 个，在 eventPage 中设置）。
5) 重复2-4

所有源代码位于：https://github.com/nobodxbodon/ChromeCrawlerWildSpider