site-mirror-py

这是一个通用的爬虫, 整站下载工具, 可以下载包括页面, 图片, css样式及js文件的所有资源, 并存储到本地指定目录下.

python版本: 3.7

功能特性

1. 指定抓取深度(0为不限深度, 1为只抓取单页面)
2. 可以通过配置指定不下载图片, css, js或字体等资源
3. 设置黑名单以屏蔽指定链接的资源

完成后可以通过仓库中的docker-compose.yml启动一个nginx容器从本地访问.

注意: 本工具只能下载静态页面, 对于通过js动态加载的内容无能为力(比如bilibili), 一般只限于文章, 图片, 新闻资讯等网站.

使用方法

安装依赖

pip install -r requirements.txt

修改main.py入口程序, 主要是两个配置项

1. main_url: 目标网站主页
2. max_depth: 抓取深度

其他配置项见crawler/config.py.

扩展

同类的golang版本见

• site-mirror-go github
• site-mirror-go 码云

实现逻辑相同.

效果截图