最近自学了Python,所以就想把自己学的东西分享出来,写的很初级,如有错误请指正,谢谢本文仅供学习!!!从微博中抓取的数据我用了两种方式保存,一种是mongo,一种是mysql.项目结构__init__.py 是配置文件,包括日志配置,mongo配置以及mysql配置data_grap.log是打印日志的文件run.py 是运行Python程序的入口service.py就是程序的主要业务代码环境
### 教你如何用Python爬取微博文章信息
本文将引导你如何使用Python爬取微博文章信息。我们将分步骤进行，首先了解流程，然后编写相应的代码。以下是整个流程的一览：
#### 爬取流程图
```mermaid
flowchart TD
A[获取目标微博页面] --> B[分析网页结构]
B --> C[发送请求获取网页数据]
C --> D[使用Beautif
实现目标本案例通过图文详细介绍网络请求和解析的方法，其目标实现的需求为：通过网络请求，获取微博热搜榜中的前50条热搜的关键词，并将结果打印到控制台中。实现过程总体来说，数据采集爬虫的实现过程包括如下步骤：确定数据所在的Url执行网页请求并解决请求中出现的问题解析网页，获取格式化数据存储数据（当前案例中不需要）下面我们按着以上步骤来依次完成。确定数据所在Url打开微博热搜榜，即Url为：https:
转载
2024-08-14 11:31:22
115阅读
大家好，本月第一次更新。最近找了一份关于爬虫的实习工作，需要爬取较大量的数据，这时就发现通过自己编写函数来实现爬虫效率太慢了；于是又转回来用scrapy，以前稍微学习了一下，这次刚好爬爬微博练练手，而后再使用部分数据生成词云。本次爬取的是新浪微博移动端（https://m.weibo.cn/），爬取的数据是用户微博首页的第一条微博（如下图），包括文字内容、转发量、评论数、点赞数和发布时间，还有用户
转载
2024-05-21 19:32:51
211阅读
虽然我是不用微博的，但由于某种原因，手机端的微博会时不时地推送几条我必须看的消息过来。微博被看久了，前几天又看到 语亮 - 简书 一年前的的微博爬虫，就有了对某人微博深入挖掘的想法。之前语亮的爬虫不能抓取用户一条微博的多张图片，一年后微博界面也发生了一些变化，决定还是参考语亮爬取手机端界面的方法更新下代码，同时加上一点小小的数据分析。主要想法是抓取指定用户的全部微博原创内容和全部原创图片
转载
2023-06-26 10:18:43
651阅读
目的： 利用python和selenium实现自动化爬虫所需工具： 1、python2.7 2、selenium库（pip install selenium或者easy_install selenium进行安装） 3、火狐浏览器 安装好上述工具之后就可以开始微博爬虫啦！ 首先，打开你的python编辑器（本人使用的是subli
转载
2023-09-11 20:41:44
178阅读
1.selenium模拟登陆 2.定位进入高级搜索页面 3.对高级搜索进行定位，设置。 4.代码实现import time
from selenium import webdriver
from lxml import etree
from selenium.webdriver import ChromeOptions
import requests
fr
转载
2023-07-07 10:30:32
316阅读
相关github地址：https://github.com/KaguraTyan/web_crawler一般做爬虫爬取网站时，首选的都是m站，其次是wap站，最后考虑PC站，因为PC站的各种验证最多。当然，这不是绝对的，有的时候PC站的信息最全，而你又恰好需要全部的信息，那么PC站是你的首选。一般m站都以m开头后接域名， 我们这次通过m.weibo.cn去分析微博的HTTP请求。准备工作1、环境配
转载
2023-07-29 23:11:01
288阅读
# Python爬取微博流程
## 介绍
在这篇文章中，我将教会你如何使用Python来爬取微博。作为一名经验丰富的开发者，我将向你展示整个流程，并给出每个步骤所需要的代码，并对代码的含义进行注释。请按照下面的表格中的步骤进行操作，你将成功地实现Python爬取微博。
## 流程图
```flow
st=>start: 开始
e=>end: 结束
op1=>operation: 准备工作
op
原创
2023-08-15 16:24:06
342阅读
# Python微博爬取
> 本文介绍了使用Python进行微博爬取的基本原理和代码示例。
## 引言
随着互联网的发展，社交媒体已成为人们获取信息和交流的重要渠道之一。微博作为中国最大的社交媒体平台之一，拥有庞大的用户群体和各种各样的内容。对于一些研究者和数据分析师来说，获取并分析微博数据可能是非常有价值的。本文将介绍如何使用Python进行微博爬取，并提供相应的代码示例。
## 爬
原创
2023-10-17 16:19:53
186阅读
此次爬虫要实现的是爬取某个微博用户的关注和粉丝的用户公开基本信息，包括用户昵称、id、性别、所在地和其粉丝数量，然后将爬取下来的数据保存在MongoDB数据库中，最后再生成几个图表来简单分析一下我们得到的数据。一、具体步骤：然后查看其关注的用户，打开开发者工具，切换到XHR过滤器，一直下拉列表，就会看到有很多的Ajax请求。这些请求的类型是Get类型，返回结果是Json格式，展开之后就能看到有很多
转载
2024-03-05 21:13:50
86阅读
最近在复习以前学习的python爬虫内容，就拿微博来练了一下手，这个案例适合学习爬虫到中后期的小伙伴，因为他不是特别简单也不是很难，关键是思路，为什么说不是很难呢？因为还没涉及到js逆向，好了话不多说开干。（1）找到要爬取的页面，如下：（2）点开评论，拉到最下方，如下位置：点击“点击查看”进入另一个页面，如下所示：这里会显示更多评论，但是不是全部，随便复制一条评论的内容，然后到源码里手搜索，发现是
转载
2023-06-07 21:51:23
1926阅读
爬虫学习的一点心得任务：微博指定信息抓取抓取：requests解析：xpath，正则表达式遇到的问题:1.正则解析或Xpath解析的时候采用先抓大再抓小的方法会使抓取的信息更加准确且不会有遗漏2.先抓大：获取到div（class=c）下的div标签中所有节点的内容text，利用tostring函数把每个个节点及其子节点形成的树转换成html，在抓小：然后正则替换掉所有标签，然后获取需要的所有信息。
转载
2023-05-31 09:11:31
181阅读
此次爬虫要实现的是爬取某个微博用户的关注和粉丝的用户公开基本信息，包括用户昵称、id、性别、所在地和其粉丝数量，然后将爬取下来的数据保存在MongoDB数据库中，最后再生成几个图表来简单分析一下我们得到的数据。一、具体步骤：然后查看其关注的用户，打开开发者工具，切换到XHR过滤器，一直下拉列表，就会看到有很多的Ajax请求。这些请求的类型是Get类型，返回结果是Json格式，展开之后就能看到有很多
转载
2023-06-30 22:10:25
543阅读
前言本文的文字及图片来源于网络,仅供学习、交流使用,不具有任何商业用途,如有问题请及时联系我们以作处理。PS：如有需要Python学习资料的小伙伴可以加点击下方链接自行获取文实例讲述了Python爬虫爬取新浪微博内容。分享给大家供大家参考，具体如下：用Python编写爬虫，爬取微博大V的微博内容，本文以女神的微博为例（爬新浪m站：https://m.weibo.cn/u/1259110474）一般
转载
2023-06-14 10:34:20
425阅读
# 爬取微博发布者IP的方法及实现
## 引言
随着互联网的发展，社交媒体平台如微博扮演着越来越重要的角色。微博上的用户信息、发布内容以及与其他用户的互动都是研究和分析的热点。在进行数据分析之前，我们可能需要爬取微博发布者的IP地址，以了解其地理位置等信息。本文将介绍如何使用Python来爬取微博发布者IP的方法及实现。
## 爬取微博发布者IP的方法
爬取微博发布者IP的方法可以分为以下几个
原创
2023-08-17 12:54:29
940阅读
本文通过一种简单的方式来抓取华为终端官方微博的内容信息。首先抓取登录微博的cookie，然后使用cookie来登录微博。 具体的代码如下所示：# -*- coding: utf-8 -*-
"""
Created on Sun Apr 16 14:16:32 2017
@author: zch
"""
import requests
from bs4 import BeautifulSoup
转载
2023-06-21 09:46:55
155阅读
爬取某人的微博数据，把某人所有时间段的微博数据都爬下来。具体思路：创建driver-----get网页----找到并提取信息-----保存csv----翻页----get网页（开始循环）----...----没有“下一页”就结束，用了while True，没用自我调用函数代码如下from selenium import webdriver
from selenium.webdriver.commo
转载
2023-07-01 01:52:25
219阅读
下面，我就介绍一下我的项目效果以及文件结构。目录一、目标二、效果展示三、文件结构一、目标利用 python 爬取微博热门消息榜以及榜单上的热门消息的内容（切记，这里爬取的是公开的微博数据！！！）并将其保存到本地。我将会在后面的几篇文章展示我的教程，感兴趣的小伙伴可以 关注 哦！！！二、效果展示以2021年1月11日17:46的热搜榜为例1、控制台输出我们爬取
转载
2023-12-19 19:35:33
48阅读
相关代码已经修改调试成功----2017-4-13 详情代码请移步我的github：https://github.com/pujinxiao/sina_spider一、说明1.目标网址：新浪微博2.实现：跟踪比较活跃的微博号所发的微博内容，隔3-5分钟刷新（爬取）一次，只有更新了才爬的到，不爬取历史微博内容哦，爬取正文、文中图片、所属微博昵称、发布时间（时间戳格式)。3.数据：数据都存在mysql
