Centos平台使用wget命令批量下载网站文件

Centos平台使用wget命令批量下载http://demo.abc.com/path/to/file/ 路径下的所有文件

wget -nd -r -l1 --no-parent http://demo.domain.com/path/to/file/

注:-nd 不创建目录;-r 递归下载;-l1只下载当前目录下的文件;–no-parent 不下载父目录中的文件。

指定后缀下载,例如下载该目录下的所有.jpg和.bmp图片

wget -nd -r -l1 --no-parent -A.jpg -A.bmp http://demo.abc.com/path/to/file

 

下载网站目录下除html之外的文件和目录,且不遵守robots.txt的限制。

wget -c -r -np -k -L --reject=html http://demo.domain.com/path/to/file/ -e robots=off

 

伪静态情况下没实验,成功与否有待验证

 

 

 

转载请注明本文链接:https://blog.weixiaoline.com/1291.html