python爬取百度页面的热搜榜,爬取百度这种大网页你还不来看看

本文的文字及图片来源于网络,仅供学习、交流使用,不具有任何商业用途,版权归原作者所有,如有问题请及时联系我们以作处理

本品文章来自腾讯云 作者：孤独的明月

内容概览
python3简单爬取百度首页的热搜榜信息

 

爬取的页面如下：

代码如下：

# -*- coding: utf-8 -*-import requestsfrom bs4 import BeautifulSoupfrom datetime import datetime

headers = {'User-Agent': "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/80.0.3987.132 Safari/537.36 "}
response = requests.get("https://www.baidu.com/", headers=headers)# 解析bsObj = BeautifulSoup(response.text)# 获取 response header时间resDate = response.headers.get('Date')print(resDate)# 找到热搜榜nameList = bsObj.findAll("li", {"class": {"hotsearch-item odd", "hotsearch-item even"}})# 添加热搜榜的内容tests = []for name in nameList:
    tests.append(name.getText())# 排序tests.sort()for news in tests:
    news = news[0:1] + " : " + news[1:]print(news)

 

打印出的结果如下：