参考
原创
2022-06-20 19:58:49
948阅读
闲来无事准备写一个爬虫来爬取自己QQ空间的所有说说和图片-。- 首先准备工作，进入手机版QQ空间，分析页面： 我们发现，手机版空间翻页模式是采用瀑布流翻页（查看更多），而非传统翻页模式，所以我们需要来分析一下点击“查看更多”时发送的请求： 可以发现，上面红框中的xhr就是点击“查看更多”时发送的请求，我们再进
转载
2023-05-31 08:35:39
235阅读
# Java QQ空间爬虫实现指南
## 1. 简介
在本篇文章中，我将教你如何使用Java实现一个QQ空间爬虫。QQ空间爬虫是一个可以自动爬取QQ空间中指定用户的信息，并保存到本地或进行其他操作的程序。
## 2. 实现步骤
下面是实现QQ空间爬虫的步骤，我们可以用表格的形式展示出来：
| 步骤 | 描述 |
| --- | --- |
| 1 | 登录QQ空间 |
| 2 | 获取指定用
原创
2023-08-08 22:37:27
162阅读
# Python爬虫与QQ空间数据抓取
随着互联网的快速发展，数据的获取变得愈发重要。在这一背景下，Python作为一种简单易学的编程语言，越来越受到开发者和数据分析师的青睐。本文将探讨如何利用Python爬虫技术抓取QQ空间的数据，同时提供相关的代码示例和图示。
## 什么是爬虫
网络爬虫（Web Crawler）是一种自动访问互联网并提取信息的程序。它能够模拟用户在网站上的行为，从而获取
会抓个网页总感觉还不够，平时在空间里经常会遇到秒赞或者是秒评论的，现在也可以自己用爬虫在qq空间得到需要的信息，再向特定的url发送http请求就可以做到自动评论和点赞了，使用的cookie登录，好像有点low，尝试过账号密码登陆，但没成功，那就将就着吧，以后再来研究 1.1 首先先用cookie登录qq空间，抓取到页面的内容，用pc端打开自己的qq空间，按F12
from selenium import webdriverimport requestsfrom selenium.webdriver.chrome
原创
2023-02-07 05:22:01
129阅读
之前一直有个同事想让我教教他怎么把csdn上的数据爬下来的，我在这里就简单的说一下～～话说做爬虫我也不是专业的～～业余的～～有什么问题帮我指正就好～～233333为什么是伪代码呢？就是给大家把原理讲讲～～真实代码我就不在这里写了～～大家自己琢磨去吧～～需要如下几个工具 1、缓存：我采用的是redis～～经常做后台习惯用了～～23333 2、dom解析工具 3、网络链接工具话说后面两个我直接就
原创
2021-07-14 17:27:48
781阅读
环境：PyCharm+Chorme+MongoDB Window10爬虫爬取数据的过程，也类似于普通用户打开网页的过程。所以当我们想要打开浏览器去获取好友空间的时候必定会要求进行登录，接着再是查看说说。那么我们先把登录步骤给解决了。1.模拟登录QQ空间因为想更直观的看到整个登录过程所以就没有用selenium+phantomjs，而是结合Chorme使用。除了slenium和Chorme之外还需要
转载
2023-12-28 23:41:46
365阅读
有一天我突然发现自己空间的说说竟然已经达到1833条，于是萌生了爬一下看看的想法（其实就是想学下python爬虫）。我找了一些博客，方法不少，但是有些并不适用。所以我把真正能用的方法记录下来，并且爬取了我自己的全部说说，亲测可用。下面我介绍下爬虫的写法。用到的库——selenium,requests,json,sqlite3,re,time,random其中，selenium是用于模拟QQ空间登录
转载
2023-11-18 20:32:18
76阅读
先直接附上一段爬虫代码，最最简单的爬虫网页：import requests
r = requests.get("https://www.baidu.com")
r.status_code
r.encoding = r.apparent_encoding
r.text在python窗口中输入以上代码便可爬取百度首页的全部代码：，是不是很有意思呢。下面我们开始学习python爬虫的第一个库Reques
转载
2024-03-12 23:33:43
757阅读
节约时间，不废话介绍了，直接上例子！！！输入以下代码（共6行） 爬虫结束~~~有木有满满成就感！！！以上代码爬取的是这个页面，红色框框里面的数据，也就是豆瓣电影本周口碑榜。 下面开始简单介绍如何写爬虫。爬虫前，我们首先简单明确两点：1. 爬虫的网址；2. 需要爬取的内容。第一步，爬虫的网址，这个…那就豆瓣吧，我也不知道为啥爬虫教程都要拿豆瓣开刀–！第二部，需要
转载
2023-06-07 16:16:08
313阅读
windows用户，Linux用户几乎一样:打开cmd输入以下命令即可，如果python的环境在C盘的目录，会提示权限不够，只需以管理员方式运行cmd窗口pip install -i https://pypi.tuna.tsinghua.edu.cn/simple requestsLinux用户类似(ubantu为例): 权限不够的话在命令前加入sudo即可sudo pip install -i
转载
2023-08-07 21:03:44
129阅读
跟我学习Python爬虫系列开始啦。带你简单快速高效学习Python爬虫。一、快速体验一个简单爬虫以抓取简书首页文章标题和链接为例就是以上红色框内文章的标签，和这个标题对应的url链接。当然首页还包括其他数据，如文章作者，文章评论数，点赞数。这些在一起，称为结构化数据。我们先从简单的做起，先体验一下Python之简单，之快捷。1）环境准备当然前提是你在机器上装好了Python环境，初步掌握和了解P
转载
2023-10-03 20:59:32
95阅读
from urllib.request import urlopen,Request
from bs4 import BeautifulSoup
import re
url="https://movie.douban.com/top250?start=50%filter="
hd = {'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64)
转载
2023-05-22 16:06:02
355阅读
import requests
from lxml import html
url='https://movie.douban.com/' #需要爬数据的网址
page=requests.Session().get(url)
tree=html.fromstring(page.text)
result=tree.xpath('//td[@class="title"]//a/text()') #
转载
2022-04-19 14:41:00
150阅读
1、爬取一个简单的网页在我们发送请求的时候，返回的数据多种多样，有HTML代码、json数据、xml数据，还有二进制流。我们先以百度首页为例，进行爬取：import requests # 以get方法发送请求，返回数据 response = requests. get () # 以二进制写入的方式打开一个文件 f = open( 'index.html' , 'wb' ) # 将响应
转载
2023-08-10 17:36:56
112阅读
第三部分 爬虫的基本原理如果说互联网是一张大网，那么爬虫（即网络爬虫）就是在网上爬行的蜘蛛。网的节点就是一个个网页，爬虫到达节点相当于访问网页并获取信息。节点间的连线就是网页和网页之间的链接，顺着线就能到达下一个网页。 一、爬虫概述简单的说，爬虫就是获取网页并提取和保存信息的自动化程序。1、获取网页爬虫获取的网页，是指获取网页的源代码。源代码里包含了部分有用信息，所以只要把
转载
2023-09-06 21:17:19
44阅读
pyhton基础爬虫代码片段基础BeautifulSoup爬取网页代码片段包含库文件读取整个网页代码读取网页第一个某标签读取网页所有某标签读取网页所有某标签中的某元素按照css的class类找到网页内容嵌套查找正则匹配导入正则模块正则匹配Requests 爬取网页代码片段导入库文件get模式 获取整个网页post模式 获取整个网页cookiesession下载文件urlretrieve下载req
转载
2023-11-06 16:32:37
91阅读
Python编写简单的网络爬虫根据网络上给出的例子，简单总结一下用Python编写网络爬虫程序的基本思路，以百度为例，主要有以下策略：Python提供了许多Module，通过这些Module，可以很简单的做一些工作。比如，要获得NBA这个词在百度搜索结果页中各个搜索结果对应的URL，这就是一个很简单的爬虫需求。1、通过urllib2这个Module获得对应的HTML源码。# -*- encodin
转载
2023-08-16 15:53:39
136阅读
跟我学习Python爬虫系列开始啦。带你简单快速高效学习Python爬虫。一、快速体验一个简单爬虫以抓取简书首页文章标题和链接为例简书首页就是以上红色框内文章的标签，和这个标题对应的url链接。当然首页还包括其他数据，如文章作者，文章评论数，点赞数。这些在一起，称为结构化数据。我们先从简单的做起，先体验一下Python之简单，之快捷。1）环境准备当然前提是你在机器上装好了Python环境，初步掌握
转载
2023-09-21 20:29:19
62阅读
