目的：手头有一份《学校名称.xlsx》的表格。想要这些学校的英文名称、描述、简称学校名称.xlsx 最终成果步骤1：分析所需要的学校信息，一般在百度百科里都有。所以先看看百度百科的数据能不能满足我们的要求。先抽样找一个学校到百度百科看看情况拿北京大学来说：英文名称、描述、简称都可以在这一个界面中获取到。然后所有的信息，在页面源码中也能看得到。所以理论上我们把这个页面的信息爬下来之后，做简
转载
2023-11-21 20:53:02
235阅读
背景：某学校图书馆为了防止占位，新出来一个软件，用于软件预约坐位，就想写个定时软件来每天预约坐位，把软件要来看看怎么实现。这个软件可能刚上线所以很多逻辑有bug，直接返回json包含了所有信息，而且软件默认为学生号后六位登陆。代码实现用python，多进程+协程处理。 抓包：打开Fiddler抓包，这个就不教程了，如图一，直接抓po
转载
2024-02-15 15:28:32
67阅读
新手，整个程序还有很多瑕疵。1.房源访问的网址为城市的拼音+后面统一的地址。需要用到xpinyin库2.用了2种解析网页数据的库bs4和xpath（先学习的bs4，学了xpath后部分代码改成xpath）遇到的问题：1.在解析页面时，鼠标点击过位置的div的class属性值有变化，没有注意，导致浪费很长时间。下图，点击后的div的class属性值的空格没有了。 2.基础学习还要加强，字符
转载
2023-08-14 13:10:28
234阅读
自己在刚学习python时写的，中途遇到很多问题，查了很多资料，下面就是我爬取租房信息的代码：链家的房租网站两个导入的包1.requests 用来过去网页内容 2.BeautifulSoupimport time
import pymssql
import requests
from bs4 import BeautifulSoup
# https://wh.lianjia.com/zufang
转载
2023-06-16 02:48:11
332阅读
基本开发环境?Python 3.6Pycharm相关模块的使用?requestsparselcsvre安装Python并添加到环境变量，pip安装需要的相关模块即可。一、?明确需求爬取内容：招聘标题公司薪资城市区域工作经验要求、学历要求、招聘人数、发布时间、公司福利岗位职责、任职要求二、?请求网页，先获取所有招聘信息的详情url地址 使用开发者工具发现网页加载出来的内容是乱代码的，这也意味着等会再
转载
2023-12-04 20:36:55
226阅读
前言 上一篇文章讲到了哪些情况下通过爬虫采集内容是有法律风险的，当我们知道法律了法律风险后，又怎么样在工作中避免法律风险呢？今天主要介绍一下当我们在爬虫过程中遇到法律风险的时候怎么处理。方案 当我们采集内容的时候，可以可根据自身经验对法律风险级别做个预判，可把法律风险等级分为高、中、低。 法律风险高 1.因为站点程序漏洞，通过漏洞对站点隐私数据采集。 2.与金钱相关的数据；如:用户的交易数
转载
2024-05-28 13:27:05
55阅读
相信很多金融类的从业者和学者都比较偏好于爬取金融类数据，比如博主我✧(≖ ◡ ≖✿)在完成了简单的环境配置后，博主我安耐不住鸡冻的心情，打算先爬个基金数据以解手痒，顺便通过这个案例简单了解一下其中涉及到的一些爬虫原理 环境tools1、Chrome及其developer tools2、python3.73、PyCharm python3.7中使用的库1、requests2、re
转载
2023-05-31 14:44:43
900阅读
作者：J哥项目背景大家好，我是J哥。新房数据，对于房地产置业者来说是买房的重要参考依据，对于房地产开发商来说，也是分析竞争对手项目的绝佳途径，对于房地产代理来说，是踩盘前的重要准备。今天J哥以「惠民之家」为例，手把手教你利用Python将惠州市新房数据批量抓取下来，共采集到近千个楼盘，包含楼盘名称、销售价格、主力户型、开盘时间、容积率、绿化率等「41个字段」。数据预览如下：后台回复「新房」二字，可
转载
2024-01-01 22:11:40
73阅读
用Python进行爬取网页文字的代码：#!/usr/bin/python
# -*- coding: UTF-8 -*-
import requests
import re
# 下载一个网页
# 模拟浏览器发送http请求
response= requests.get(url)
# 编码方式
response.encoding='utf-8'
# 目标小说主页的网页源码
html= respons
转载
2023-06-28 18:55:53
134阅读
Python作业2：scrapy爬取链家+数据预处理一、爬取数据并预处理1、要求作业1：通过爬虫爬取链家的新房数据，并进行预处理。最终的csv文件，应包括以下字段：名称，地理位置（3个字段分别存储），房型（只保留最小房型），面积（按照最小值），总价（万元，整数），均价（万元，保留小数点后4位）；对于所有字符串字段，要求去掉所有的前后空格；如果有缺失数据，不用填充。找出总价最贵和最便宜的房子，以及总
转载
2023-07-30 23:07:19
288阅读
文章目录1 正则表达式2 网页文本爬取2.1 单页文本2.2 多页文本2.2.1 演示文本2.2.2 文本信息获取3 实战记录3.1 网页纯文本处理3.1.1 常规网页3.1.2 隐藏域3.2 数据存储3.2.1 csv文件3.2.2 excel文件4 问题记录 1 正则表达式修饰符描述re.I使匹配对大小写不敏感re.M多行匹配，影响 ^ 和 $re.S使 . 匹配包括换行在内的所有字符re.
转载
2024-06-29 19:07:04
26阅读
一、爬取前提
1）本地安装了mysql数据库 5.6版本
2）安装了Python 2.7
二、爬取内容
电影名称、电影简介、电影图片、电影下载链接
三、爬取逻辑
1）进入电影网列表页， 针对列表的html内容进行数据提取 电影名称，电影简介， 电影图片， 电影详情URL， 插入数据库表
2）通过步骤1获取到的电影详情URL， 进入电影详情页， 获取下载链接， 更新数据库的下载链接字段
3）循
转载
2023-06-08 22:18:49
959阅读
有小朋友提出了这个需求，今天就来实践一下~这里有视频教程：https://www.bilibili.com/video/av94574531/1.先明确目的——今天想实现这个功能得到知网上所有和吸烟相关的文献信息，如下，包括文章标题，作者信息，被引频次，下载次数，关键词，摘要信息。 要是一个一个搜，那要查到天荒地老嘛？！有python怕啥？！不要慌2.动手之前先动脑(噗，思考)step1
转载
2024-01-26 21:25:15
137阅读
欢迎点击「算法与编程之美」↑关注我们！本文首发于微信公众号："算法与编程之美"，欢迎关注，及时了解更多此系列文章。1.前言爬虫可以有助于...
原创
2022-02-11 14:10:53
675阅读
1评论
1.前言爬虫可以有助于...
原创
2021-08-02 11:22:07
554阅读
# 使用Python爬取招标信息的指南
在当今信息化社会，招标信息对于公司在竞争激烈的市场中获得项目至关重要。通过网络爬虫，您可以自动化获取各类招标信息，从而节省时间和精力。本文将向您介绍如何使用Python爬取招标信息，并提供相应的代码示例，以及相关的工具和方法。
## 什么是网络爬虫？
网络爬虫是指一种自动访问互联网并提取信息的程序或脚本。Python是开发Web爬虫的热门语言之一，因其
原创
2024-09-10 03:48:49
825阅读
# Python爬取HTML信息
在信息时代，我们每天都会浏览大量的网页，获取所需的信息。而当我们需要获取网页中特定的数据时，手动复制粘贴显然是一种低效的方式。为了提高效率，我们可以使用Python编写程序来爬取网页上的HTML信息。本文将介绍使用Python进行HTML信息爬取的基本原理，并提供一些代码示例。
## HTML是什么？
HTML（HyperText Markup Langua
原创
2023-12-15 11:24:18
56阅读
# 使用 Python 爬取公司信息的完整指南
本文将指导您如何使用 Python 爬虫技术来抓取公司的信息。我们将分步骤进行，并提供每一步的详细实现代码。在这篇文章中，您将学习到使用 Python 的 `requests` 和 `BeautifulSoup` 库进行网页抓取。
### 整体流程
在进行 Python 爬取之前，我们先了解一下整个爬取的流程。如下表所示：
| 步骤 | 描述
原创
2024-08-26 04:01:20
356阅读
# Python爬取动漫信息的入门指南
在当今信息化快速发展的时代，网络爬虫成为了获取数据的有效工具。特别是对于动漫爱好者而言，抓取动漫相关的信息（如角色、剧情、上映时间等）可以带来很多便利。本文将介绍如何使用Python爬取动漫信息，并包含示例代码，适合初学者理解。
## 1. 爬虫的基础知识
网络爬虫是自动地从互联网抓取信息的程序。通常，爬虫的基本流程包括：
1. 发送HTTP请求
2
原创
2024-08-15 04:48:06
305阅读
Python-简单的爬虫语句
今天做一个简单的天气查询的程序，主要用到Urllib2（python自带的），和Json（Java Script Object Notation，JavaScript 对象表示法），安装步骤：
json的安装包在这里：https://www.lfd.uci.edu/~gohlke/pythonlibs/#simplejso
转载
2023-08-15 23:32:40
61阅读
