作者介绍:timber ,在一家电子商务(外贸)公司任职运维,平常工作时我觉得敲命令的样子也很帅    ---Python,Changed me!






python爬房天下 爬虫 房价_命令行

python爬房天下 爬虫 房价_python爬房天下_02

前言

我这里用到了的python+selenium来抓取链家房数据,因爲很多时候分析参数,头疼啊,能分析的还好。有些网页就很变态哦,参数都是经过加密的。


selenium自动化优点(我去找了一下度娘…哈哈),完全可以模拟人工操作网页,而且相对其他爬虫不用写请求头(偷懒),例如直接request的,听说更容易被封(403),我只是听说!


最后希望更大家互勉互力,一同进步!现在跟大家分享一下python selenium的小知识…




python爬房天下 爬虫 房价_命令行

python爬房天下 爬虫 房价_python爬房天下_02

整体流程


1、安裝selenium

命令行:pip install selenium 敲回车


python爬房天下 爬虫 房价_python爬房天下_05


2、下載chromedriver插件,對應自己的版本,链接在此:

http://chromedriver.storage.googleapis.com/index.html


python爬房天下 爬虫 房价_Python_06


直接放在Python的Scripts目录下就可以不能配置变量了,而且也不用声明路径

(后面会说到)


3、安裝pyquery 一样的用到pip安装 敲回车


python爬房天下 爬虫 房价_数据_07


命令行:pip install pyquery


4、安裝pymysql

命令行:pip install pymysql 同上


python爬房天下 爬虫 房价_python爬房天下_08


5、以上安裝完成后,开始我們的骚操作了。




python爬房天下 爬虫 房价_命令行

python爬房天下 爬虫 房价_python爬房天下_02

网页分析

python爬房天下 爬虫 房价_Python_11


我们不用声明请求头还有分析一些参数了,只要我们拿到URL,指哪爬哪!
此次抓取的数据如下:


python爬房天下 爬虫 房价_Python_12


那这些数据的提取正题就来了!
打开开发者工具,google浏览器直接挫F12


python爬房天下 爬虫 房价_命令行_13


发现每个小区的售房信息都在ul下的li标签里面。直接上代码


python爬房天下 爬虫 房价_命令行_14


第一步拿到html结构,然后用pyquery解析遍历li标签,我使用了items()方法

提取小区名称,找到a标签的class


python爬房天下 爬虫 房价_Python_15


提取房类的文本,span标签下面


python爬房天下 爬虫 房价_命令行_16


其他的TEXT文本都是这样的方法提取
提醒的一点就是


python爬房天下 爬虫 房价_Python_17


我们这里判断一下ul的class,防止有时候网络加载的问题,导致发生错误。




python爬房天下 爬虫 房价_命令行

python爬房天下 爬虫 房价_python爬房天下_02

模拟滚动,点击下一步操作

我们没跳转一页就滚动一下滚动条,这个有好处的哦有时候很多异步加载的,例如一下ajax加载的就是很好的例子了,查看评论的时候很多是这样的!我们来看一下


python爬房天下 爬虫 房价_python爬房天下_20


这也是个方法,根据个人不同来定义,我这里以800来滚动。
然后就是点击下一页的动作,网页有下一页的


python爬房天下 爬虫 房价_数据_21


代码实现 直接上图


python爬房天下 爬虫 房价_python爬房天下_22


一些其他的小动作,可以自己添加哦!




python爬房天下 爬虫 房价_命令行

python爬房天下 爬虫 房价_python爬房天下_02

数据存储


我这里用mysql存放数据,上图


python爬房天下 爬虫 房价_数据_25


我提前把数据表建好了的,表名为lianjie_data,数据库名是lianjie,这里根据个人情况。
你可以写一个data_save的方法,我这里简单粗暴点从上到下直接写完了。
好了运行程序




python爬房天下 爬虫 房价_命令行

python爬房天下 爬虫 房价_python爬房天下_02

数据展示

python爬房天下 爬虫 房价_命令行_28


是不是完完全全模拟人工操作呢,其实我没加太多动作 嘻嘻


python爬房天下 爬虫 房价_数据_29