使用DrissionPage模块进行爬取，DrissionPage是一个自动化的模块，可以模拟人的操作，进行翻页等操作，比传统爬取更加方便在使用DrissionPage之前，需要先初始化路径运行下面的代码，需要将r'D:\Chrome\Chrome.exe' 替换为本地Chrome的执行路径，如果没有Chrome浏览器，也可以切换其他浏览器from DrissionPage import Chro
import json import requests from lxml import etree from time import sleep url = "https://www.jianshu.com/shakespeare/notes/60479187/comments?page=1&co
转载
2020-03-14 11:35:00
239阅读
2评论
页面加载逻辑当你兴致勃勃地从网上学习了基本的爬虫知识后就像找个目标实践下，拥有大量文章的简书包含了大量的有价值信息，所以自然成为了你的选择目标，如果你尝试之后会发现并没有想象的那么简单，因为里面包含了很多js相关的数据传输。 让我先使用传统的爬虫演示一下吧: >打开简书首页，似乎没有什么特别的jianshu首页打开chrome的开发者模式，发现文章的标题，href都在a标签里，似乎也没有什么
转载
2024-05-19 16:10:35
37阅读
这段代码是一个使用 Python 语言编写的脚本，它使用了 Selenium 库来自动化操作网页浏览器，特别是 Microsoft Edge 浏览器。
原创
2024-10-31 00:34:46
14阅读
这段代码是一个使用 Python 语言编写的自动化脚本，目的是使用 Selenium WebDriver 来与网页交互并抓取数据。
原创
2024-10-31 00:34:53
57阅读
爬取京东上销量最高的口红评论区一页的数据拿到网页3行代码爬取京东数据如何解析这堆杂乱无章的数据?4行代码带数据回家 只看最后的代码即可（因为是最新的） 拿到网页URL 1.我们在京东主页上搜索框内输入：鞋子 然后按评论数排序，因为这个反应的销量最准如何找到评论区内容背后的URL？（1）鼠标右击选择检查，打开程序员调试窗口，点击network（网络） （2）刷新当前页面 （3）复制一小段评论区内
转载
2024-03-11 14:59:13
233阅读
1.主题： 简单爬取简书中的专题‘’@IT·互联网“中的文章，爬取信息之后通过jieba分词生成词云并且进行分析； 2.实现过程： 第一步：打开简书并进入到@IT-互联网专题 网页链接：https://www.jianshu.com/c/V2CqjW?utm_medium=index-collections&utm_sou
爬取思路：1、在京东首页搜索栏输入关键词，以“电脑“为例。2、爬取搜索页面中共十页的600件商品信息，其中包括商品名称，商品价格，店铺链接，商品样例图，商品价格，商品描述，店铺名称，商品当前活动(如免邮，秒杀)。3、在爬取搜索页面的商品信息时，获得店铺id，通过店铺id跳转到商品详细信息页面，爬取商品的50条评论信息，商品标签信息及评论总人数，好评数、差评数、中评数。4、将每一件商品的信息都用js
转载
2023-06-19 13:47:49
592阅读
由于某种需要，需要爬取天猫国际一些商品的评论信息，然后做一些数据分析和可视化展示，本篇文章，胖哥只讲解如何从天猫上爬取评论信息，数据分析不作为本篇文章的重点。 第一步，整体说明一下数据采集的流程：1. 对采集的商品进行URL分析，经过分析识别后，天猫国际URL返回的数据形式为JS格式；2. 撰写数据采集程序，程序主要使用了requests、bs4、json、re等相关技术；3.通过请求天
转载
2023-09-29 11:23:54
395阅读
作者：Python进阶者一、项目简介本文主要目标是采集淘宝的评价，找出客户所需要的功能。统计客户评价上面夸哪个功能多，比如防水，容量大，好看等等。二、项目准备工作1、 爬取商品地址，如下所示：https://detail.tmall.com/item.htm?spm=a230r.1.14.1.55a84b1721XG00&id=552918017887&ns=1&
转载
2024-05-26 21:49:26
222阅读
本次python实战，主要目标是利用 Python爬取京东商品评论数，如上图所示：爬取“Python之父”推荐的小蓝书，这些信息主要包括用户名、书名、评论等信息。01如何准备爬虫环境？其实不难环境：MAC + Python3.6 ; IDE：Pycharm. 具体使用的模块如下。 但是如果你的系统上安装了anaconda，模块requests已经安装完成，但是&nbs
转载
2024-04-22 20:22:44
112阅读
这次的案例实现的过程跟某条的差不多，因为两个案例有很多共同之处，如果想爬取某条评论的，又找不到思路，希望可以通过这个案例给大家一点小小的启发。一、分析网页我们需要爬取的就是图片箭头这些新闻数据，可以很清楚的看到这些数据都是在主页里面，也就是说，这是一个纯纯的html网页，我们只需要提取出该网页里面的新闻的标题和新闻的链接就可以了,我们点击进入到新闻页面去看一下,我们需要找到该新闻的评论信息的位置，
转载
2023-09-07 11:31:55
538阅读
1.主题：简单爬取简书中的专题‘’@IT·互联网“中的文章，爬取信息之后通过jieba分词生成词云并且进行分析；2.实现过程：第一步：打开简书并进入到@IT-互联网专题网页链接：https://www.jianshu.com/c/V2CqjW?utm_medium=index-collections&utm_source=desktop通过观察，我们可以发现网页中的文章并没有分页，而是通过
from selenium import webdriver
import time
from lxml import etree
import pymysqldriver = webdriver.Chrome()
driver.get('https://www.jianshu.com/')#加载更多
def load_mord(num):
#通过观察发现，打开页面需要鼠标滑动
原创
2023-06-07 18:00:27
164阅读
源码链接：https://pan.baidu.com/s/1oOAxJqSMCyVJPNv-iAYW7A 提取码：1co9Java+Jsoup爬虫小红书，微博，B站 爬取地址：https://www.xiaohongshu.com/discovery/item/5e92cdf70000000001009b42 目标：抓取文章的点赞量，收藏量，评论量1.F12分析下页面 点赞量：.operation
转载
2023-07-13 20:31:26
626阅读
大家好，我是啃书君。今天为大家带来的小demo是爬取B站视频的评论。开始还以为很难，等正真上手的时候发现，也就是那么回事。高考对于每个人来说都是人生的重大转折点，你考上一所什么样的大学，极大可能改变你未来的人生。因此，读书很重要，读书可以改变自己的命运。衡水中学的张锡锋，想必很多小伙伴们都认识吧，也是他激励了大多数人的学习热情，他的19年演讲视频在B站已经有1574万的播放量了，最近又出了一个新的
转载
2024-05-13 15:23:36
71阅读
首先来看一个网易精选网站的爬虫例子，可以爬取评价的商品很多，这里选择“iPhone”关键字为例子，因为此类商品种类、样式、颜色等比较多，利于后面的数据分析。分析网页 评论分析进入到网易精选官网，搜索“iPhone”后，先随便点进一个商品。 在商品页面，打开 Chrome 的控制台，切换至 Network 页，再把商品页面切换到评价标签下，选择一个评论文字，如“手机套很薄，裸机的手感”，在 Netw
转载
2023-11-08 21:00:28
801阅读
前两期给大家介绍了如何利用requests库爬取小说和图片，这一期就和大家分享一下如何爬取京东商品的评价信息，这里先设置爬取50页，以做日后分析。准备工作下面式要用到的库，请确保电脑中有以下库，没有的话请自行安装。import requests import json import time import random一，查找商品并检查网页在浏览器里打开京东网站，然后找一款你想研究的商品，这里我以
转载
2024-03-04 23:07:12
102阅读
文章目录一、前提条件二、分析思路三、代码编写四、结果展示 一、前提条件安装了Fiddler了（用于抓包分析）谷歌或火狐浏览器如果是谷歌浏览器，还需要给谷歌浏览器安装一个SwitchyOmega插件，用于代理服务器有Python的编译环境，一般选择Python3.0及以上声明：本次爬取腾讯视频里 《最美公里》纪录片的评论。本次爬取使用的浏览器是谷歌浏览器二、分析思路1、分析评论页面 根据上图，我们
转载
2024-08-15 18:06:33
52阅读
