wget 遍历下载文件

wget -r -np http://10.1.0.1/cobbler/ks_mirror/6/ ; find -name index* -exec rm -rf {} \;

wget -r -np -nd --accept=iso http://example.com/centos-5/i386/

与上一条命令相似,但多加了一个 --accept=iso 选项,这指示 wget 仅下载 i386 目录中所有扩展名为 iso 的文件

这里用wget递归下载某目录下所有除html外的文件~

wget -r -np --reject=html www.download.example

其中:

-r, 表示递归下载当前页面所有(子)链接

-np,表示不去遍历父目录下内容

--reject=html,不接受扩展名为html的文件

或者可以把reject换做 --accept=iso,c,h,表示只接受以此结尾的文件,分隔符为逗号(comma-separated)

wget -r -p -np -k http://www.wohaoba.com/

-r  递归
-p,  --page-requisites(页面必需元素)
-np, --no-parent(不追溯至父级)
-k  将下载的HTML页面中的链接转换为相对链接即本地链接

参数

代码:$ wget --helpGNU Wget 1.9.1,非交互式的网络文件下载工具。用法:Linux wget[选项]... [URL]...长选项必须用的参数在使用短选项时也是必须的。

启动:

  1. -V, --version 显示 Wget 的版本并且退出。  

  2. -h, --help 打印此帮助。  

  3. -b, -background 启动后进入后台操作。  

  4. -e, -execute=COMMAND 运行‘.wgetrc’形式的命令。 

日志记录及输入文件:

  1. -o, --output-file=文件 将日志消息写入到指定文件中。  

  2. -a, --append-output=文件 将日志消息追加到指定文件的末端。  

  3. -d, --debug 打印调试输出。  

  4. -q, --quiet 安静模式(不输出信息)。  

  5. -v, --verbose 详细输出模式(默认)。  

  6. -nv, --non-verbose 关闭详细输出模式,但不进入安静模式。  

  7. -i, --input-file=文件 下载从指定文件中找到的 URL。  

  8. -F, --force-html 以 HTML 方式处理输入文件。  

  9. -B, --base=URL 使用 -F -i 文件选项时,在相对链接前添加指定的 URL。 

下载:

  1. -t, --tries=次数 配置重试次数(0 表示无限)。  

  2. --retry-connrefused 即使拒绝连接也重试。  

  3. -O --output-document=文件 将数据写入此文件中。  

  4. -nc, --no-clobber 不更改已经存在的文件,也不使用在文件名后添加 .#(# 为数字)的方法写入新的文件。  

  5. -c, --continue 继续接收已下载了一部分的文件。  

  6. --progress=方式 选择下载进度的表示方式。  

  7. -N, --timestamping 除非远程文件较新,否则不再取回。  

  8. -S, --server-response 显示服务器回应消息。  

  9. --spider 不下载任何数据。  

  10. -T, --timeout=秒数 配置读取数据的超时时间 (秒数)。  

  11. -w, --wait=秒数 接收不同文件之间等待的秒数。  

  12. --waitretry=秒数 在每次重试之间稍等一段时间 (由 1 秒至指定的 秒数不等)。  

  13. --random-wait 接收不同文件之间稍等一段时间(由 0 秒至 2*WAIT 秒不等)。  

  14. -Y, --proxy=on/off 打开或关闭代理服务器。  

  15. -Q, --quota=大小 配置接收数据的限额大小。  

  16. --bind-address=地址 使用本机的指定地址 (主机名称或 IP) 进行连接。  

  17. --limit-rate=速率 限制下载的速率。  

  18. --dns-cache=off 禁止查找存于高速缓存中的 DNS。  

  19. --restrict-file-names=OS 限制文件名中的字符为指定的 OS (操作系统) 所允许的字符。 

目录:

  1. -nd --no-directories 不创建目录。  

  2. -x, --force-directories 强制创建目录。  

  3. -nH, --no-host-directories 不创建含有远程主机名称的目录。  

  4. -P, --directory-prefix=名称 保存文件前先创建指定名称的目录。  

  5. --cut-dirs=数目 忽略远程目录中指定数目的目录层。 

HTTP 选项:

  1. --http-user=用户 配置 http 用户名。  

  2. --http-passwd=密码 配置 http 用户密码。  

  3. -C, --cache=on/off (不)使用服务器中的高速缓存中的数据 (默认是使用的)。  

  4. -E, --html-extension 将所有 MIME 类型为 text/html 的文件都加上 .html 扩展文件名。  

  5. --ignore-length 忽略“Content-Length”文件头字段。  

  6. --header=字符串 在文件头中添加指定字符串。  

  7. --proxy-user=用户 配置代理服务器用户名。  

  8. --proxy-passwd=密码 配置代理服务器用户密码。  

  9. --referer=URL 在 HTTP 请求中包含“Referer:URL”头。  

  10. -s, --save-headers 将 HTTP 头存入文件。  

  11. -U, --user-agent=AGENT 标志为 AGENT 而不是 Wget/VERSION。  

  12. --no-http-keep-alive 禁用 HTTP keep-alive(持久性连接)。  

  13. --cookies=off 禁用 cookie。  

  14. --load-cookies=文件 会话开始前由指定文件载入 cookie。  

  15. --save-cookies=文件 会话结束后将 cookie 保存至指定文件。  

  16. --post-data=字符串 使用 POST 方法,发送指定字符串。  

  17. --post-file=文件 使用 POST 方法,发送指定文件中的内容。 

HTTPS (SSL) 选项:

  1. --sslcertfile=文件 可选的客户段端证书。  

  2. --sslcertkey=密钥文件 对此证书可选的“密钥文件”。  

  3. --egd-file=文件 EGD socket 文件名。  

  4. --sslcadir=目录 CA 散列表所在的目录。  

  5. --sslcafile=文件 包含 CA 的文件。  

  6. --sslcerttype=0/1 Client-Cert 类型 0=PEM (默认) / 1=ASN1 (DER)  

  7. --sslcheckcert=0/1 根据提供的 CA 检查服务器的证书  

  8. --sslprotocol=0-3 选择 SSL 协议;0=自动选择,  

  9. 1=SSLv2 2=SSLv3 3=TLSv1 

FTP 选项:

  1. -nr, --dont-remove-listing 不删除“.listing”文件。  

  2. -g, --glob=on/off 设置是否展开有通配符的文件名。  

  3. --passive-ftp 使用“被动”传输模式。  

  4. --retr-symlinks 在递归模式中,下载链接所指示的文件(连至目录则例外)。 

递归下载:

  1. -r, --recursive 递归下载。  

  2. -l, --level=数字 最大递归深度(inf 或 0 表示无限)。  

  3. --delete-after 删除下载后的文件。  

  4. -k, --convert-links 将绝对链接转换为相对链接。  

  5. -K, --backup-converted 转换文件 X 前先将其备份为 X.orig。  

  6. -m, --mirror 等效于 -r -N -l inf -nr 的选项。  

  7. -p, --page-requisites 下载所有显示完整网页所需的文件,例如图像。  

  8. --strict-comments 打开对 HTML 备注的严格(SGML)处理选项。 

递归下载时有关接受/拒绝的选项:

  1. -A, --accept=列表 接受的文件样式列表,以逗号分隔。  

  2. -R, --reject=列表 排除的文件样式列表,以逗号分隔。  

  3. -D, --domains=列表 接受的域列表,以逗号分隔。  

  4. --exclude-domains=列表 排除的域列表,以逗号分隔。  

  5. --follow-ftp 跟随 HTML 文件中的 FTP 链接。  

  6. --follow-tags=列表 要跟随的 HTML 标记,以逗号分隔。  

  7. -G, --ignore-tags=列表 要忽略的 HTML 标记,以逗号分隔。  

  8. -H, --span-hosts 递归时可进入其它主机。  

  9. -L, --relative 只跟随相对链接。  

  10. -I, --include-directories=列表 要下载的目录列表。  

  11. -X, --exclude-directories=列表 要排除的目录列表。  

  12. -np, --no-parent 不搜索上层目录。 

  • wget 遍历下载文件已关闭评论
  • 1,921 views
    A+
发布日期:2016年11月04日  所属分类:linux 工具
标签: