案例:中国大学排名定向爬虫
输入:URL
输出:(排名、大学名称...)
技术路线:requests-bs4
定向爬虫:仅仅对输入URL进行爬取,不扩展爬取;
#/usr/bin/env.python
# -*- coding:utf-8 -*-
import requests
from bs4 import BeautifulSoup
import bs4
import sys
reload(sys)
sys.setdefaultencoding('utf-8')
#1、获取网页信息
def getHTMLText(url):
try:
r = requests.get(url,timeout=30)
r.raise_for_status()
r.encoding = r.apparent_encoding
return r.text
except:
return ""
#2、提取信息到合适的数据结构
def fillUnivList(ulist,html):
soup = BeautifulSoup(html, "html.parser")
for tr in soup.find('tbody').children:
if isinstance(tr,bs4.element.Tag):
tds = tr('td')
ulist.append([tds[0].string,tds[1].string,tds[2].string])
#3、利用数据结构展示并输出结果
def printUnivList(ulist,num):
print "{:^10}\t{:^10}\t{:^10}".format("排名","学校","总分")
# tplt = "{0:^10}\t{1:{3}^10}\t{2:^10}" # {1:{3}^10} 1表示位置,{3}表示用第3个参数来填充,^表示居中,10表示占10个位置
# print tplt.format("排名", "学校名称", "总分",chr(12288))
for i in range(num):
u=ulist[i]
#print tplt.format(u[0],u[1],u[2],chr(12288))
print "{:^10}\t{:^6}\t{:^10}".format(u[0],u[1],u[2])
#主函数
if __name__=="__main__":
uinfo = []
url = "http://www.zuihaodaxue.com/shengyuanzhiliangpaiming2016.html"
html = getHTMLText(url)
fillUnivList(uinfo, html)
printUnivList(uinfo,20)
结果:
| 程序输出 |
补充知识:
3、代码规范:https://www.python.org/dev/peps/pep-0008/