前言爬虫一直python的强项，其它语言也能做，只是没有python那么方便快捷，今天正好学到java中了一些和网络相关的知识，就做了一个小爬虫。主要功能是：爬取百度图片中的图片，一键下载。效果图话不多说，先上效果图 功能就是这样，根据输入的关键字不同，自动下载不同的图片，当然，这些图片都是从百度图片中爬取出来的。思路随便输入一个关键字，百度图片就会展示出很多图片我们都知道，网络中的每个资源，都是
转载
2024-03-06 20:48:05
78阅读
一、引言目标网址：https://gary666.com/learn爬取方式：requests+bs4难度：易基本爬取的内容：输出：页面中所有的文章的标题、内容、作者、文章分类、时间 对应上图（标题为win10python安装配置selenium 、作者是Gary、文章分类python、时间2020-7-9）选做内容：数据存储：txt、excel、数据库（mysql、sqlite等）翻页：http
转载
2024-04-04 09:01:07
155阅读
如果你想利用自己的技术做出一点有意思的产品来，那么爬虫、算法和 AI 等技术可能是一个不错的突破口。今天，我们就来介绍下使用 Java 爬取页面信息的几种思路。说起爬虫，自从 Python 兴起之后，人们可能更多地使用 Python 进行爬虫. 毕竟，Python 有许多封装好的库。但对于 Javaer，如果你觉得学习 Python 成本比较高的话，使用 Java 也是一个不错的选择，尤其是当你希
转载
2023-12-04 19:25:08
36阅读
Scapy框架相关的内容，这里不在搬砖，官方给出的中文文档，已经足够详尽清晰。Scrapy框架上手非常简单，跟着教程一步步走就可以了，爬取一些静态资源是毫无问题的，但现如今，大部分网站为了封禁爬虫，都会采取一些防爬策略，最典型的是通过ajax动态渲染界面，以爬取图片为例，网页用js加载图片使得scrapy.request url时获得的response中不暴露图片url，而是一大段js函数，为解决
转载
2023-11-17 23:06:20
104阅读
Java 爬取网页图片并下载 源码;package a;
import org.jsoup.Connection;
import org.jsoup.Jsoup;
import org.jsoup.nodes.Document;
import org.jsoup.nodes.Element;;
//2.创建httpClient对象
CloseableHttpCli
转载
2023-06-14 16:57:04
210阅读
在以往用java来处理解析HTML文档或者片段时，我们通常会采用htmlparser（http://htmlparser.sourceforge.net/）这个开源类库。现在我们有了JSOUP，以后的处理HTML的内容只需要使用JSOUP就已经足够了，JSOUP有更快的更新，更方便的API等。jsoup 是一款 Java 的HTML 解析器，可直接解析某个U
转载
2024-06-30 10:12:20
46阅读
爬取用户某天，我发现我的文章被某个用户点赞了。欣喜之下，把那边文章重新校核更改一遍，接着进入这个点赞我的用户看看，结果发现他近期的博客是一些爬虫的实战。我想，我那篇文章，应该是他做的一个小程序批量加载用户信息并给文章点赞。我觉得这是一个有点意思的事，于是用java实现csdn批量爬取用户名并点赞。其中批量爬取用户名的思路借鉴这位大神的这篇博文GO+Selenium批量关注CSDN 1 (如何获取1
转载
2024-09-04 13:25:08
74阅读
WebMagic+Selenium+ChromeDriver+Maven 爬取动态页面一、需要下载的资源和引入的依赖资源依赖二、实战代码测试效果 在上一篇说WebMagic框架的时候（ 一文学会WebMagic爬虫框架），提到了WebMagic仅能解析静态页面，满足不了小编的爬虫需求了，小编现在要爬取动态的页面，需要爬取JavaScript被解析后的页面了。 一、需要下载的资源和引入的依赖资源
转载
2023-07-19 17:58:41
194阅读
