第一个爬虫和测试

Python测试函数的方法之一是用：try……except

def gameover(a,b):if a>=10 and b>=10 and abs(a-b)==2:return Trueif (a>=11 and b<11) or (a<11 and b>=11):return Truereturn False try:a=gameover(10,11)print(a) except:print("Error")

 

gameover测试的函数，没传参数的a,b，函数结果是True or False

try：试着执行gameover()函数，正常就执行函数

except:否则 打印'Error'

这里用10，11这一对来测试，结果为：

runfile('D:/新建文件夹/chesi.py', wdir='D:/新建文件夹')
True

程序运行正常且结果正确

若不输入参数，结果应为Error,结果为：

requests库是一个简洁且简单的处理HTTP请求的第三方库。

get()是对应与HTTP的GET方式，获取网页的最常用方法，可以增加timeout=n 参数，设定每次请求超时时间为n秒

text（）是HTTP相应内容的字符串形式，即url对应的网页内容

content（）是HTTP相应内容的二进制形式

用requests（）打开百度20次

from requests import * try:for i in range(20):r=get("http://www.baidu.com")r.raise_for_status()r.encoding='utf-8'print(r)print(len(r.text))print(len(r.content)) except:print("Error")

结果为：

 爬取2015年的排行：

# -*- coding: utf-8 -*- #""" #Created on Tue May 21 22:02:48 2019#@author: ASUS #"""import requests from bs4 import BeautifulSoup allUniv=[] def get(url):try:r=requests.get(url,timeout=30)r.raise_for_status()r.encoding=r.apparent_encodingreturn r.textexcept:return "" def f(soup):data=soup.find_all('tr')
fw=open("pq2015.csv","w",encoding='utf-8')for tr in data:ltd=tr.find_all('td')if len(ltd)==0:continues=[]for td in ltd:s.append(td.string)allUniv.append(s)
fw.write(",".join(s)+"\n")
    fw.close() def p(num):print("{1:^4}{2:{0}^10}{3:{0}^6}{4:{0}^4}{5:{0}^10}{6:{0}^10}{7:{0}^10}".format(chr(12288),"排名","学校名称","省市","总分","人才培养得分","科学研究得分","社会服务得分"))for i in range(num):u=allUniv[i]print("{1:^4}{2:{0}^11}{3:{0}^6}{4:{0}^7.1f}{5:{0}^10}{6:{0}^12}{6:{0}^10}".format(chr(12288),u[0],u[1],u[2],eval(u[3]),eval(u[4]),eval(u[5]),eval(u[6]))) def main(num):u='http://www.zuihaodaxue.cn/zuihaodaxuepaiming2015_0.html'h=get(u)soup=BeautifulSoup(h,"html.parser")f(soup)p(num) main(30)

结果为：

 将数据保存到csv,结果为：

转载于:https://www.cnblogs.com/13128870440-zxy/p/10893219.html

总结

以上是生活随笔为你收集整理的第一个爬虫和测试的全部内容，希望文章能够帮你解决所遇到的问题。

如果觉得生活随笔网站内容还不错，欢迎将生活随笔推荐给好友。