三国演义python人物出场前十统计

bs4数据解析的原理：

• 1.实例化一个BeautifulSoup对象，并且将页面源码数据加载到该对象中
• 2.通过调用BeautifulSoup对象中相关的属性或者方法进行标签定位和数据提取

环境安装：

• pip install bs4
• pip install lxml

如何实例化BeautifulSoup对象：

• from bs4 import BeautifulSoup
• 对象的实例化：

• 1.将本地的html文档中的数据加载到该对象中
  fp = open(’./test.html’,‘r’,encoding=‘utf-8’)
  soup = BeautifulSoup(fp,‘lxml’)
• 2.将互联网上获取的页面源码加载到该对象中
  page_text = response.text
  soup = BeatifulSoup(page_text,‘lxml’)

• 提供的用于数据解析的方法和属性：

• soup.tagName:返回的是文档中第一次出现的tagName对应的标签
• soup.find():

• find(‘tagName’):等同于soup.div
• 属性定位：
  -soup.find(‘div’,class_/id/attr=‘song’)

• soup.find_all(‘tagName’):返回符合要求的所有标签（列表）

• select：

• select(‘某种选择器（id，class，标签…选择器）’),返回的是一个列表。
• 层级选择器：

• soup.select(’.tang > ul > li > a’)：>表示的是一个层级
• oup.select(’.tang > ul a’)：空格表示的多个层级

• 获取标签之间的文本数据：

• soup.a.text/string/get_text()
• text/get_text():可以获取某一个标签中所有的文本内容
• string：只可以获取该标签下面直系的文本内容

• 获取标签中属性值：

• soup.a[‘href’]

需求：爬取三国演义全文 https://www.shicimingju.com/book/sanguoyanyi.html

#!/usr/bin/env python 
# -*- coding:utf-8 -*-
import requests
from bs4 import BeautifulSoup
#需求：爬取三国演义小说所有的章节标题和章节内容http://www.shicimingju.com/book/sanguoyanyi.html
if __name__ == "__main__":
    #对首页的页面数据进行爬取
    headers = {
        'User-Agent': 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_12_0) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/72.0.3626.121 Safari/537.36'
    }

    url = 'http://www.shicimingju.com/book/sanguoyanyi.html'

    page_text = requests.get(url=url,headers=headers)
    
	#不写可能会乱码
    page_text.encoding='utf-8'
    		
    #在首页中解析出章节的标题和详情页的url
    #1.实例化BeautifulSoup对象，需要将页面源码数据加载到该对象中
    soup = BeautifulSoup(page_text.text,'lxml')
    #解析章节标题和详情页的url
    li_list = soup.select('.book-mulu > ul > li')
    fp = open('./sanguo.txt','w',encoding='utf-8')
    for li in li_list:
        title = li.a.string
        detail_url = 'http://www.shicimingju.com'+li.a['href']
        #对详情页发起请求，解析出章节内容
        detail_page_text = requests.get(url=detail_url,headers=headers)
        detail_page_text.encoding='utf-8'
        #解析出详情页中相关的章节内容
        detail_soup = BeautifulSoup(detail_page_text.text,'lxml')
        div_tag = detail_soup.find('div',class_='chapter_content')
        #解析到了章节的内容
        content = div_tag.text
        fp.write(title+':'+content+'\n')
        print(title,'爬取成功！！！')

小插曲：最开始没有写page_text.encoding=‘utf-8’，导致最终爬取文章乱码，加上就好了

乱码这里再举个小例子：

爬取w3school的标题：

import requests
from bs4 import BeautifulSoup

url = 'http://w3school.com.cn/'
r = requests.get(url)
soup = BeautifulSoup(r.text, 'lxml')
xx = soup.find('div', id='d1').h2.text
print(xx)

乱码了，看一下网页的编码方式：

可以看出网站代码使用的是 gbk 编码，因此，加上r.encoding = 'gbk'就可以解决了。