欢迎访问 生活随笔!

生活随笔

当前位置: 首页 > 编程资源 > 编程问答 >内容正文

编程问答

wget整站抓取、网站抓取功能;下载整个网站;下载网站到本地

发布时间:2023/12/9 编程问答 45 豆豆
生活随笔 收集整理的这篇文章主要介绍了 wget整站抓取、网站抓取功能;下载整个网站;下载网站到本地 小编觉得挺不错的,现在分享给大家,帮大家做个参考.

wget -r   -p -np -k -E  http://www.xxx.com 抓取整站

wget -l 1 -p -np -k       http://www.xxx.com 抓取第一级

 

-r 递归抓取
-k 抓取之后修正链接,适合本地浏览

 

http://blog.sina.com.cn/s/blog_669fb0c3010137bq.html

 

 

wget -m -e robots=off -k -E "http://www.abc.net/"
可以将全站下载以本地的当前工作目录,生成可访问、完整的镜像。


解释:

-m  //镜像,就是整站抓取
-e robots=off   //忽略robots协议,强制、流氓抓取
-k  //将绝对URL链接转换为本地相对URL
-E //将所有text/html文档以.html扩展名保存

 

https://futurestack.cn/cookbook/devops/wgetsite/

转载于:https://www.cnblogs.com/shengulong/p/8445828.html

总结

以上是生活随笔为你收集整理的wget整站抓取、网站抓取功能;下载整个网站;下载网站到本地的全部内容,希望文章能够帮你解决所遇到的问题。

如果觉得生活随笔网站内容还不错,欢迎将生活随笔推荐给好友。