零、背景公司最近有个爬虫的项目，先拿小红书下手，但是小红书很多内容 web 端没有，只能用 app 爬，于是了解到 Appium 这个强大的框架，即可以做自动化测试，也可以用来当自动化爬虫。本文的代码只是一个简单的 spike，没有太多深入的实践。后续如果有深挖，我会来补充的。一、介绍Appium 实际上继承了 Selenium（一个流行的 web 浏览器自动化测试框架）， 也是利用 Webdri
文章目录1. 进程，线程，协程2. docker 如何构建镜像, 如何打包3. scrapy_redis 去重原理4. fiddler抓包原理5. headers里参数作用6. cookie 和session7. scrapy 和 scrapy_redis 区别8. 垃圾回收机制9. 常见反爬及处理10. 关系型数据库和非关系型数据库区别11. scrapy 各组件作用12. scrapy_re
转载
2023-07-31 18:54:53
238阅读
文章目录报错问题报错原因解决方法 报错问题 粉丝群里面的一个小伙伴遇到问题跑来私信我，想用想用Python爬虫，但是发生了报错（当时他心里瞬间凉了一大截，跑来找我求助，然后顺利帮助他解决了，顺便记录一下希望可以帮助到更多遇到这个bug不会解决的小伙伴）报错代码如下所示：报错原因 HTTP 406 错误指无法接受 (Not acceptable)错误。如果 Web 服务器检测发现它想反馈的数据不能
转载
2024-04-18 12:35:05
2495阅读
前言：使用多进程爬虫方法爬取简书网热评文章，并将爬取的数据存储于MongoDB数据库中本文为整理代码，梳理思路，验证代码有效性——2020.1.17环境：
Python3（Anaconda3）
PyCharm
Chrome浏览器主要模块： 后跟括号内的为在cmd窗口安装的指令
requests（pip install requests）
lxml（pip install lxml）
r
转载
2024-02-28 08:47:35
190阅读
一、背景介绍1.1 爬取目标现在介绍的这个软件，相当于以上2个软件的结合版，即根据关键词爬取笔记的详情数据。开发界面软件的目的：方便不懂编程代码的小白用户使用，无需安装python，无需改代码，双击打开即用！软件界面截图：爬取结果截图：结果截图1：结果截图2：结果截图3：以上。1.2 演示视频软件使用演示视频：（不懂编程的小白直接看视频，了解软件作用即可，无需看代码）
【软件演示】爬小红书搜
转载
2024-07-31 17:04:55
176阅读
许多自学爬虫(python)的小伙伴因为没有经历过面试所以在找工作之前难免有些抓不住重点，虽然自己有些技术但是因为发挥不好而错失工作机会，本人经过n次面试以后特总结以下面试常见问题，为想要转爬虫的小伙伴提供一些参考。一.项目问题： 一般面试官的第一个问题八成都是问一下以前做过的项目，所以最好准备两个自己最近写的有些技术含量的项目，当然一定要自己亲手写过
转载
2024-01-07 08:20:44
257阅读
最近都在复习J2E，多学习一些东西肯定是好的，而且现在移动开发工作都不好找了，有工作就推荐一下小弟呗，广州佛山地区，谢谢了。这篇博客要做的效果很简单，就是把我博客的第一页每个条目显示在APP上，条目包括标题、摘要和状态，如图： 所以这篇博客将会涉及：数据库（MySql）简单设计（建表、插入数据）简单爬虫（用Python爬取网页内容，写入数据库）简单接口开发（Struts和Hibernat
转载
2024-03-30 08:04:23
168阅读
1、爬虫基本原理我们爬取中国电影最受欢迎的影片《红海行动》的相关信息。其实，爬虫获取网页信息和人工获取信息，原理基本是一致的。人工操作步骤： 1. 获取电影信息的页面 2. 定位（找到）到评分信息的位置 3. 复制、保存我们想要的评分数据爬虫操作步骤： 1. 请求并下载电影页面信息 2. 解析并定位评分信息 3. 保存评分数据综合言之，原
转载
2024-06-03 17:02:17
76阅读
每年的2.14号简直就是撒狗粮的专属日子，很多人会烦恼今天该选什么礼物，特别是男生，估计好些男生都因为选礼物整郁闷了。作为情人节的标配，鲜花和巧克力是比不可少的，但是礼物也可以有更多的选择。所以今天我们就通过获取小红书上一些博主分享的关于送礼物的选择，来为有需要的小伙伴列出一些清单，这样就可以让你不会有选择困难症，因为分享的博主很多都是女生，女生对女生的了解是最正确的。这里我们使用python来获
转载
2023-06-26 14:42:19
335阅读
# 教你用Java实现小红书爬虫
作为一名入门级开发者，学习如何实现网页爬虫是个非常不错的选择。通过爬虫技术，我们可以收集我们想要的信息。在这篇文章中，我将向你展示如何用Java实现一个简单的小红书爬虫。
## 爬虫的基本流程
下面是爬虫实现的一般步骤：
| 步骤 | 描述 |
|--------------|------
这期的爬虫是爬取“简书”的搜索结果页，篇幅将会分为两部分来写，第一部分是爬虫部分，主要涉及搜索文章的提取和数据保存，第二部分涉及基本的数据分析和可视化，本篇文章属于爬虫篇。爬虫源代码首先看一下整个爬虫的源代码，每个函数的用处已经写在函数说明中，后面也会进行代码解读。# -*- coding: utf-8 -*-
import requests
import json
from urllib.par
转载
2024-04-16 10:37:02
718阅读
# Python爬虫小红书存入小红书
## 简介
在本篇文章中，我将指导你如何使用Python编写一个爬虫程序，将小红书的内容存入小红书中。作为一个经验丰富的开发者，我会逐步为你介绍整个流程，并提供相应的代码和注释来帮助你理解。
## 整体流程
下面是整个实现过程的流程图，以帮助你更好地理解：
```flow
st=>start: 开始
e=>end: 结束
op1=>operation:
原创
2023-08-14 18:05:18
880阅读
采集小红书数据爬虫：
1.本来是要通过app端的接口去直接采集数据，但是app接口手机端设置本地代理这边开启抓包后就不能正常访问数据。
所以就采用了微信小程序里的小红书app接口去采集数据。
2.通过 fiddler去抓包，手机端进入小程序端口选择彩妆向下滑动请求数据，这边fiddler就会抓到请求数据和相应的response。 由上边的两图可以看到请求的一个过程，这里每次
转载
2023-07-07 17:26:13
2966阅读
反过来想想，其实也不奇怪：爬虫就等于数据，做什么不需要数据呢？以数据为生命线的平台，比如抖查查，天眼查，需要爬虫来收集数据。数据分析师需要爬虫采集数据：房价信息，商品信息等等办公室的人用爬虫自动提交数据，实现办公自动化喜欢小姐姐的人抓取图片，想看小说的人抓取小说，下载视频等等 但我发现这个基于能力和知识点的学习路线虽然看起来不错，在没有实际项目做支撑，是很难进行的。在和很多人的沟通中，我也发现了学
转载
2023-10-13 22:08:58
392阅读
1.什么是javaScriptJavaScript 历史回顾JavaScript 是什么（实现） JavaScript 是一门用来与网页交互的脚本语言，包含以下三个组成部分。 ECMAScript：由 ECMA-262 定义并提供核心功能。 文档对象模型（DOM）：提供与网页内容交互的方法和接口。 浏览器对象模型（BOM）：提供与浏览器交互的方法和接口。
JavaScript 与 ECMAScri
转载
2024-10-25 06:47:51
10阅读
# 小红书爬虫的简单实现
在当今信息化快速发展的时代，网络爬虫成为了获取数据的重要工具。小红书作为一个热门的社交电商平台，吸引了大量用户，其中蕴藏着丰富的消费和生活方式信息。如果你想要获取这些数据，编写一个小红书爬虫可能会非常有用。本文将介绍如何使用Java编写一个简单的小红书爬虫，并附上相关代码示例。
## 环境准备
在开始之前，你需要确保你的开发环境安装了Java，并且可以使用Maven
# 小红书爬虫Java软件实现流程
## 1. 确定需求和目标
在开始编写爬虫软件之前，首先要明确你希望从小红书上获取什么样的数据。例如，你可能希望爬取用户信息、商品信息、评论等。确定了需求和目标之后，我们可以开始实现爬虫软件的开发。
## 2. 确定开发环境和工具
在开始编写代码之前，确保你已经安装好了Java开发环境（JDK）以及适用于你的操作系统的开发工具。推荐使用集成开发环境（IDE）
原创
2023-08-21 04:33:04
219阅读
一、准备工作上周无意间（真的是无意间）发现了一个奇怪的网站，上面有一些想要的图片，谷歌浏览器上有批量下载图片的插件，但是要把所有页面都打开才能下载，比较麻烦。于是想着能不能写个爬虫程序，刚好自己也一直想学一下这个东西。秋招面试小红书的时候，二面的面试官问我怎么实现一个分布式爬虫软件，我之前根本不知道爬虫是什么原理，只是听说过而已。所以后来也一直想学一下。先上网搜索了一下，发现都是python的爬虫
转载
2023-09-18 10:19:18
490阅读
# 使用 Python 爬虫抓取小红书数据的全面指南
## 引言
随着移动互联网的迅速发展，小红书（Xiaohongshu）作为一款流行的生活方式分享平台，吸引了了越来越多的用户。许多人希望通过爬虫技术自动抓取小红书上的内容，以便进行数据分析、市场研究等。然而，爬虫涉及到的法律与道德问题要求我们必须谨慎操作。本文将详细介绍如何使用 Python 爬虫抓取小红书的数据，并提供相应的代码示例。
# Python爬虫小红书
## 简介
小红书是一款非常受欢迎的社交电商平台，用户可以在上面分享购物心得、评价商品、分享美妆、时尚、旅行等各个领域的经验。对于数据分析、市场调研以及竞品分析等工作，小红书上的数据非常有价值。为了获取小红书上的数据，我们可以使用Python编写爬虫。
本文将介绍如何使用Python编写爬虫，爬取小红书上的商品信息，并将数据保存到本地文件或数据库中。我们将使用Py
原创
2023-08-12 11:43:10
705阅读
