前言


前文内容


Python爬虫新手入门教学(一):爬取豆瓣电影排行信息

Python爬虫新手入门教学(二):爬取小说

Python爬虫新手入门教学(三):爬取链家二手房数据

Python爬虫新手入门教学(四):爬取前程无忧招聘信息

Python爬虫新手入门教学(五):爬取B站视频弹幕

Python爬虫新手入门教学(六):制作词云图

Python爬虫新手入门教学(七):爬取腾讯视频弹幕

Python爬虫新手入门教学(八):爬取论坛文章保存成PDF

Python爬虫新手入门教学(九):多线程爬虫案例讲解

Python爬虫新手入门教学(十):爬取彼岸4K超清壁纸

Python爬虫新手入门教学(十一):最近王者荣耀皮肤爬取


Python爬虫新手入门教学(十二):英雄联盟最新皮肤爬取

基本开发环境

  • Python 3.6
  • Pycharm

相关模块的使用

import requests
import re
import os

安装Python并添加到环境变量,pip安装需要的相关模块即可。

一、明确需求


Python爬虫新手入门教学(十三):爬取高质量超清壁纸Python爬虫新手入门教学(十一):最近王者荣耀皮肤爬取_爬虫


如图所示爬取里面的高清壁纸

二、网页数据分析

Python爬虫新手入门教学(十三):爬取高质量超清壁纸Python爬虫新手入门教学(十一):最近王者荣耀皮肤爬取_数据_02


点击下载原图,会自动给你下载壁纸图片。

Python爬虫新手入门教学(十三):爬取高质量超清壁纸Python爬虫新手入门教学(十一):最近王者荣耀皮肤爬取_爬虫_03


Python爬虫新手入门教学(十三):爬取高质量超清壁纸Python爬虫新手入门教学(十一):最近王者荣耀皮肤爬取_html_04


所以只需要获取这个链接就可以了爬取壁纸图片了。

返回列表的可以发现,网页是瀑布流加载方式,当你往下滑才会有数据出现。所以可以在下滑网页的前,先打开开发者工具,当下滑网页的时候新加载出来的数据会出现。

Python爬虫新手入门教学(十三):爬取高质量超清壁纸Python爬虫新手入门教学(十一):最近王者荣耀皮肤爬取_数据_05


通过对比可以知道,这个数据包中包含了,壁纸图片下载的地址。

需要注意的就是这个数据链接是post请求,并不是get请求

Python爬虫新手入门教学(十三):爬取高质量超清壁纸Python爬虫新手入门教学(十一):最近王者荣耀皮肤爬取_爬虫_06


Python爬虫新手入门教学(十三):爬取高质量超清壁纸Python爬虫新手入门教学(十一):最近王者荣耀皮肤爬取_html_07


需要提交的data参数,就是对应的页码。

三、代码实现

1、获取图片ID

for page in range(1, 11):
url = 'https://wallpaper.wispx.cn/cat/%E5%8A%A8%E6%BC%AB'
headers = {
'user-agent': 'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/81.0.4044.138 Safari/537.36',
'x-requested-with': 'XMLHttpRequest',
}
data = {
'page': page
}
response = requests.post(url=url, headers=headers)
result = re.findall('detail(.*?)target=', response.text)
for index in result:
image_id = index.replace('\\', '').replace('" ', '')
page_url = f'https://wallpaper.wispx.cn/detail{image_id}'

2、获取壁纸url地址,并保存

def main(page_url):
html_data = get_response(page_url).text
image_url = re.findall('<a class="mdui-ripple mdui-ripple-white" href="(.*?)">', html_data)[0]
image_title = re.findall('<title>(.*?)</title>', html_data)[0].split(' - ')[0]
image_content = get_response(image_url).content
path = 'images\\'
if not os.path.exists(path):
os.makedirs(path)
with open(path + image_title + '.jpg', mode='wb') as f:
f.write(image_content)
print('正在保存:', image_title)

需要注意的点:

请求头里面要防盗链,不然就下载不了。

def get_response(html_url):
header = {
'referer': 'https://wallpaper.wispx.cn/detail/1206',
'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/81.0.4044.138 Safari/537.36'
}
resp = requests.get(url=html_url, headers=header)
return resp

四、实现效果

Python爬虫新手入门教学(十三):爬取高质量超清壁纸Python爬虫新手入门教学(十一):最近王者荣耀皮肤爬取_html_08