目录宁静(Serenity)数据实体持久化服务定义和实现采集及处理题外话:代理前端跟踪定义路由定义页面开始操作前面我们完成了《基础工具封装》、《原生HttpClient封装》和《Netty消息服务封装》,这仅仅是将工具准备完成,接下来我们来开始用这些工具来实现爬取我们的目标资源:《全国统计用区划代码和城乡划分代码(2021)》宁静(Serenity)首先,我们了解下爬虫原理:1.模拟浏览器发送we            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2023-08-31 11:05:24
                            
                                46阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
            我一直都觉得爬虫是个有意思的事,因此说干就干。通过两个小时的了解,我大体规划出来一个爬网页的步骤和技术。大体如下:搭建Python环境
找一个好用的IDE(开发工具)
爬目录,要找到文章标题和对应的Url
尝试着用requests把网页爬下来。
用BeautifulSoup把爬下来的网页分解,找到需要的信息。
把这些信息便利,并保存到Json文件中。
再根据Url来把对应的详情页面爬下来并保存成J            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2024-01-14 21:37:16
                            
                                64阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
            最近在学习Python的网络爬虫开发,把自己的一些经验分享出来。本章介绍一下我在学习爬虫之前的准备工作,一些库的安装已经环境配置等。系统信息:系统:macOS Mojave 10.14.4python版本:python 3.7IDE:PyCharm 2019.1.1 (Professional Edition)一、python3安装Mac自带python2.7,在这里我们不使用默认版本,            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2023-11-01 22:36:24
                            
                                246阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
            # Python爬虫搭建环境指南
在学习如何使用Python进行网页爬虫之前,首先需要搭建好开发环境。本文将详细讲解如何快速有效地搭建Python爬虫的开发环境,包括环境准备、所需工具、库的安装等步骤,帮助初学者顺利入门。
## 一、流程概览
以下是搭建Python爬虫环境的步骤流程表:
| 步骤     | 说明            
                
         
            
            
            
            打开  安装找到  可执行文件路径 (便于配置虚拟环境)linux 环境配置安装系统依赖包sudo apt-get install libssl1.0.0 libssl-dev tcl tk sqlite sqlite3 libbz2-1.0 			libbz...            
                
                    
                        
                                                            
                                                                        
                                                                                        原创
                                                                                    
                            2021-07-08 10:16:53
                            
                                646阅读
                            
                                                                             
                 
                
                             
         
            
            
            
            一、梳理图Python是个啥、为啥学习、作用域,随便查一下什么信息都有本人目前是Java开发,在学习爬虫时发现在爬虫方面,Python比Java简单、方便、实用很多,不是不能做,只是单纯的适合 二、Pycharm下载、安装、激活点击官网下载地址进行下载然后正常安装即可 Python基本解释器可自行下载安装Python的版本安装包进行安装,也可通过创建项目选择Pycharm提供的            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2023-07-04 16:00:13
                            
                                381阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
            下载集成包 链接:http://pan.baidu.com/s/1pKD2zBP 密码:f75b 这里采用python2.7.9 安装步骤:1.安装python2.7(默认安装即可) 2.打开“运行”,输入cmd.执行以下命令设置环境变量 C:\Python27\python.exe C:\Pyth            
                
                    
                        
                                                            
                                                                        
                                                                                        原创
                                                                                    
                            2021-04-21 20:53:05
                            
                                160阅读
                            
                                                                             
                 
                
                             
         
            
            
            
            安装 requests 与 BeautifulSoup4 搭建Python爬虫环境,需要安装下面2个软件包: requests 用于执行HTTP请求 BeautifulSoup4 分析HTML页面 可以使用pip安装这些依赖项: pip install requests BeautifulSoup4            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2020-06-22 10:07:00
                            
                                233阅读
                            
                                                                             
                 
                
                             
         
            
            
            
            工欲善其事,必先利其器!            
                
                    
                        
                                                            
                                                                        
                                                                                        原创
                                                                                    
                            2022-10-17 15:14:03
                            
                                82阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
            Java开发环境的搭建
    Java开发环境搭建一、JDK下载与安装JDK8下载地址选择目录,点击下一步二、配置环境变量变量名:JAVA_HOME变量值:JDK安装路径变量值:CLASSPATH变量值:.;%JAVA_HOME%\lib\dt.jar;%JAVA_HOME%\lib\tools.jar;%JAVA_HOME%\bin%JAVA_HOME%\j            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2023-07-19 21:48:15
                            
                                80阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
            简单步骤1.下载对应自己系统的jdk(使用1.8及以上版本),下载链接https://repo.huaweicloud.com/java/jdk/。 2.安装jdk。 3.配置环境变量。 4.使用java、javac、java -version命令测试。详细步骤1、JDK的下载官网下载的网址:https://login.oracle.com(需要登录),可下载的版本比较多,现在一般要求使用1.8及            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2023-07-16 20:29:36
                            
                                139阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
            1.jdk和jre有什么区别?各自有什么作用?jdk是java开发的工具包,主要包含各种的类库和工具如javac/javaw/java,也包括了另外的一个jre,提供了两个不同的虚拟机,jdk的bin目录下有client和server两个文件下的jvm.dll文件;jre作为运行环境,仅仅有一个client下的jvm.dll文件。1.如何利用jdk 编译和运行应用程序?javahome如何配置?进            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2024-07-20 15:48:17
                            
                                33阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
            前言  软件安装分为两种,一种是解压版(.zip),一种是程序安装版(.exe),老师这里以jdk8和idea2019为例,给大家演示一下Java环境搭建。一、安装包(下载地址:https://pan.baidu.com/s/1KtzsMc7aq4MVmWKFpfcSzw?pwd=02kx)二、jdk安装与环境变量配置(改安装目录)1、在D:\softwareAn\jav            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2023-08-07 09:05:48
                            
                                65阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
            一、Java的环境搭建  1、下载安装Java  2、以管理员身份打开或者直接点击右键直接打开            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2022-04-25 16:53:00
                            
                                138阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
            1、JDK的下载和安装这个安装和我们之后要用到的各种安装一样,都要“自力更生”——自己去官网下载。直接搜索JDK就可以找到,网页是英文的,但是一定能找到"Download"。 官网: http://www.oracle.com/technetwork/java/javase/downloads/index.html 文件下载后就行安装,一直下一步“next”到最后 一定要记住安装路径,因为以后的环            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2023-09-10 10:26:42
                            
                                42阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
            JAVA 学习之 JAVA 开发环境的搭建路是脚踏出来的,历史是人写出来的,人的每一步行动都在书写自己的历史。	——吉鸿昌Java开发环境的搭建在 Java 官网(https://www.oracle.com/java/) 下载对应版本的 Java。双击 .exe 文件一步步安装即可,注意一下安装的路径,以便后面环境变量的配置。配置 Java 环境变量:方法一:(win10)点击此电脑 ->            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2023-07-27 12:49:26
                            
                                93阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
            java环境的搭建过程主要分为三个方面:一、JDK的安装 第一步:通过JDK官网获取JDK,链接为:在这里我用jdk-8u144版本为例安装第二步:以管理员身份运行此文件第三步:直接点下一步第四步:点击以下界面的更改按钮,更改安装路径(选一个自己想要安装目录作为安装路径)安装路径更改成功,点下一步注意:安装路径不要有中文、空格或特殊字符,安装路径统一 第五步:同第四步一样,更改安装路径更改的路径与            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2023-10-06 11:57:46
                            
                                74阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
            (1)下载JDK在本地储存盘,并安装;  (2)鼠标右键点击此电脑,进入属性,找到高级系统设置;  (3)点击高级系统设置,找到环境变量,点击进入;  (4)点击系统变量的新建,变量名:JAVA_HOME;变量值:C:\Program Files\Java\jdk1.8.0_162(这里的变量值为JDK的安装路径,这里以你自己的安装路径为            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2023-06-15 20:15:03
                            
                                144阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
             开发人员要进行开发需要安装jdk,程序运行的话环境只需要jre,所以我们作为开发人员,需要下载jdk,最新版本为jdk17,下载地址为oracle 官网:            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2023-07-21 10:42:04
                            
                                55阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
            什么是环境搭建?为什么在开发之前要搭建环境?其实这就类似于盖楼之前要先打地基,地基就是盖楼时(开发)的环境。同理,Java程序想要运行起来,必须也有地基(环境),也就是JDK。安装JDK其实就是我们常说的开发环境的搭建,JDK里面包含了JRE(java运行时环境)和一些常用的编译工具例如Javac。一.下载JDK首先下载jdk:https://www.oracle.com/java/technol            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2023-07-03 22:25:52
                            
                                84阅读
                            
                                                                             
                 
                
                                
                    