推荐你看一下GitHub上这些常见的网站爬虫例子,代码通用性较高,时效性较久。项目代码对新手比较友好,是简单的python代码,并配有大量注释。
▍每天不同时间段通过微信发消息提醒女友
有时候,你很想关心她,但是你太忙了,以至于她一直抱怨,觉得你不够关心她。你暗自下决心,下次一定要准时发消息给她,哪怕是几句话,可是你又忘记了。你觉得自己很委屈 ,但是她又觉得你不负责。
现在,再不用担心了,用python就可以给女友定时发提示消息了,而且不会漏过每一个关键时刻,每天早上起床、中午吃饭、晚上吃饭、晚上睡觉,都会准时发消息给她了,而且还可以让她学习英语单词哦!
在生日来临之时,自动发祝福语。在节日来临之时,比如三八妇女节、女神节、情人节、春节、圣诞节,自动发问候语哦,再也不用担心他说你没有仪式感了
最重要的时候,实时可以知道女友的情感情绪指数哦,再也不用担心女友莫名其妙生气了。
1、使用教程:
pip安装下列包
- pip install wxpy
- pip install requests
设置以下内容
- 设置config.ini相关信息
2、演示图片:
▍爬取5K分辨率超清唯美壁纸
这里有一款Mac下的小清新壁纸神器Pap.er,可能是Mac下最好的壁纸软件,自带5K超清分辨率壁纸,富有多种类型壁纸,当我们想在Windows或者Linux下使用的时候,就可以考虑将5K超清分辨率壁纸爬取下来。
1、使用教程
确保以下库均已安装:
# 如果没有安装,请使用pip install module安装import requestsimport filetypeimport osimport jsonfrom contextlib import closing
2、演示图片
▍爬取豆瓣排行榜电影数据(含GUI界面版)
这个项目源于大三某课程设计。平常经常需要搜索一些电影,但是不知道哪些评分高且评价人数多的电影。为了方便使用,就将原来的项目重新改写了。当做是对爬虫技术、可视化技术的实践了。主要是通过从排行榜和从影片关键词两种方式爬取电影数据。
1、使用教程
打开chromedriver.storage.googleapis.com,根据自己的操作系统下载对应的chromedriver。
打开当前面目录下的**getMovieInRankingList.py**,定位到第59行,将executable_path=/Users/bird/Desktop/chromedriver.exe修改成你自己的chromedriver路径
打开pycharm,依次安装以下包
pip install Pillow
pip install selenium
2、演示图片
3、包含功能
根据关键字搜索电影
根据排行榜(TOP250)搜索电影
显示IMDB评分及其他基本信息
提供多个在线视频站点,无需vip
提供多个云盘站点搜索该视频,以便保存到云盘
提供多个站点下载该视频
等待更新
4、存在问题
目前没有加入反爬虫策略,如果运行出现403 forbidden提示,则说明暂时被禁止,解决方式如下:
加入cookies
采用随机延时方式
采用IP代理池方式(较不稳定)
▍多线程+代理池爬取天天基金网、股票数据(无需使用爬虫框架)
提到爬虫,大部分人都会想到使用Scrapy工具,但是仅仅停留在会使用的阶段。为了增加对爬虫机制的理解,我们可以手动实现多线程的爬虫过程,同时,引入IP代理池进行基本的反爬操作。
本次使用天天基金网进行爬虫,该网站具有反爬机制,同时数量足够大,多线程效果较为明显。
1、技术路线
IP代理池
多线程
爬虫与反爬
2、数据格式
000056,建信消费升级混合,2019-03-26,1.7740,1.7914,0.98,2019-03-27 15:00000031,华夏复兴混合,2019-03-26,1.5650,1.5709,0.38,2019-03-27 15:00000048,华夏双债增强债券C,2019-03-26,1.2230,1.2236,0.05,2019-03-27 15:00000008,嘉实中证500ETF联接A,2019-03-26,1.4417,1.4552,0.93,2019-03-27 15:00000024,大摩双利增强债券A,2019-03-26,1.1670,1.1674,0.04,2019-03-27 15:00000054,鹏华双债增利债券,2019-03-26,1.1697,1.1693,-0.03,2019-03-27 15:00000016,华夏纯债债券C,2019-03-26,1.1790,1.1793,0.03,2019-03-27 15:00
3、功能截图
4、配置说明
# 确保安装以下库,如果没有,请在python3环境下执行pip install 模块名import requestsimport randomimport reimport queueimport threadingimport csvimport json