1、需求说明

需求：
爬取虎嗅网站的所有新闻，并保存到数据库中。
http://www.huxiu.com

技术：
1、爬虫
获取服务器的资源（urllib）
解析html网页（BeautifulSoup）
2、数据库技术
数据库 MySQLdb
业务逻辑的分析：
（1）、虎嗅网站的新闻，包括首页和分页信息（下一页）
（2）、需要从首页的资源和分页的资源中获取每个新闻的url连接
如何获取url：
解析网站html文件，如果A标签的href属性包含 article字段，就表示这是一个新闻
（3）访问新闻的url，解析出想要的字段

总结

以上是生活随笔为你收集整理的Python爬虫项目，获取所有网站上的新闻，并保存到数据库中，解析html网页等(未完待续)的全部内容，希望文章能够帮你解决所遇到的问题。

如果觉得生活随笔网站内容还不错，欢迎将生活随笔推荐给好友。