自己编写一个简单的微博爬虫前言很多做社交媒体数据分析的同学需要采集一些新浪微博上的数据，新浪微博虽然有提供api，但免费的api对获取的数据项和获取的频率都有很大的限制，商业版api据说限制较少，但是作为屌丝学生党拿来那么多钱买买商业版的api？！！！用类似于火车头采集器这种工具又很难解决问题，因此我们往往需要自己编写微博爬虫。下面我简单介绍一下我在编写微博爬虫期间遇到的问题和我的解决思路。微博登
虽然我是不用微博的，但由于某种原因，手机端的微博会时不时地推送几条我必须看的消息过来。微博被看久了，前几天又看到 语亮 - 简书 一年前的的微博爬虫，就有了对某人微博深入挖掘的想法。之前语亮的爬虫不能抓取用户一条微博的多张图片，一年后微博界面也发生了一些变化，决定还是参考语亮爬取手机端界面的方法更新下代码，同时加上一点小小的数据分析。主要想法是抓取指定用户的全部微博原创内容和全部原创图片
转载
2023-06-26 10:18:43
651阅读
目的： 利用python和selenium实现自动化爬虫所需工具： 1、python2.7 2、selenium库（pip install selenium或者easy_install selenium进行安装） 3、火狐浏览器 安装好上述工具之后就可以开始微博爬虫啦！ 首先，打开你的python编辑器（本人使用的是subli
转载
2023-09-11 20:41:44
178阅读
此次爬虫要实现的是爬取某个微博用户的关注和粉丝的用户公开基本信息，包括用户昵称、id、性别、所在地和其粉丝数量，然后将爬取下来的数据保存在MongoDB数据库中，最后再生成几个图表来简单分析一下我们得到的数据。一、具体步骤：然后查看其关注的用户，打开开发者工具，切换到XHR过滤器，一直下拉列表，就会看到有很多的Ajax请求。这些请求的类型是Get类型，返回结果是Json格式，展开之后就能看到有很多
转载
2024-03-05 21:13:50
86阅读
# Python 微博图片爬取
在当今社交网络时代，微博已经成为人们获取信息、交流思想的重要平台之一。而在微博上，图片作为一种重要的信息载体，承载着丰富多彩的内容。有时候我们可能会想要批量下载微博上的图片，以便进行分析、保存或分享。本文将介绍如何使用Python来爬取微博上的图片。
## 准备工作
在进行微博图片爬取之前，我们需要准备以下工作：
1. 安装Python：确保你的电脑上已经安
原创
2024-04-03 05:29:27
297阅读
# Python 微博爬取图片教程
## 1. 流程图
```mermaid
flowchart TD
A[开始] --> B[登录微博]
B --> C[搜索目标微博]
C --> D[进入微博详情页]
D --> E[爬取并保存图片]
E --> F[继续下一页]
F --> D
F --> G[结束]
```
## 2. 教学步骤
原创
2023-11-23 08:57:03
527阅读
1.selenium模拟登陆 2.定位进入高级搜索页面 3.对高级搜索进行定位，设置。 4.代码实现import time
from selenium import webdriver
from lxml import etree
from selenium.webdriver import ChromeOptions
import requests
fr
转载
2023-07-07 10:30:32
316阅读
相关github地址：https://github.com/KaguraTyan/web_crawler一般做爬虫爬取网站时，首选的都是m站，其次是wap站，最后考虑PC站，因为PC站的各种验证最多。当然，这不是绝对的，有的时候PC站的信息最全，而你又恰好需要全部的信息，那么PC站是你的首选。一般m站都以m开头后接域名， 我们这次通过m.weibo.cn去分析微博的HTTP请求。准备工作1、环境配
转载
2023-07-29 23:11:01
288阅读
Ajax，全称为Asynchronous JavaScript and XML，即异步的JavaScript和XML。它不是一门编程语言，而是利用JavaScript在保证页面不被刷新、页面链接不改变的情况下与服务器交换数据并更新部分网页的技术。对于传统的网页，如果想更新其内容，那么必须要刷新整个页面，但有了Ajax，便可以在页面不被全部刷新的情况下更新其内容。在这个过程中，页面实际上是在后台与服
# Python爬取微博流程
## 介绍
在这篇文章中，我将教会你如何使用Python来爬取微博。作为一名经验丰富的开发者，我将向你展示整个流程，并给出每个步骤所需要的代码，并对代码的含义进行注释。请按照下面的表格中的步骤进行操作，你将成功地实现Python爬取微博。
## 流程图
```flow
st=>start: 开始
e=>end: 结束
op1=>operation: 准备工作
op
原创
2023-08-15 16:24:06
342阅读
最近在复习以前学习的python爬虫内容，就拿微博来练了一下手，这个案例适合学习爬虫到中后期的小伙伴，因为他不是特别简单也不是很难，关键是思路，为什么说不是很难呢？因为还没涉及到js逆向，好了话不多说开干。（1）找到要爬取的页面，如下：（2）点开评论，拉到最下方，如下位置：点击“点击查看”进入另一个页面，如下所示：这里会显示更多评论，但是不是全部，随便复制一条评论的内容，然后到源码里手搜索，发现是
转载
2023-06-07 21:51:23
1926阅读
# Python微博爬取
> 本文介绍了使用Python进行微博爬取的基本原理和代码示例。
## 引言
随着互联网的发展，社交媒体已成为人们获取信息和交流的重要渠道之一。微博作为中国最大的社交媒体平台之一，拥有庞大的用户群体和各种各样的内容。对于一些研究者和数据分析师来说，获取并分析微博数据可能是非常有价值的。本文将介绍如何使用Python进行微博爬取，并提供相应的代码示例。
## 爬
原创
2023-10-17 16:19:53
186阅读
此次爬虫要实现的是爬取某个微博用户的关注和粉丝的用户公开基本信息，包括用户昵称、id、性别、所在地和其粉丝数量，然后将爬取下来的数据保存在MongoDB数据库中，最后再生成几个图表来简单分析一下我们得到的数据。一、具体步骤：然后查看其关注的用户，打开开发者工具，切换到XHR过滤器，一直下拉列表，就会看到有很多的Ajax请求。这些请求的类型是Get类型，返回结果是Json格式，展开之后就能看到有很多
转载
2023-06-30 22:10:25
543阅读
爬虫学习的一点心得任务：微博指定信息抓取抓取：requests解析：xpath，正则表达式遇到的问题:1.正则解析或Xpath解析的时候采用先抓大再抓小的方法会使抓取的信息更加准确且不会有遗漏2.先抓大：获取到div（class=c）下的div标签中所有节点的内容text，利用tostring函数把每个个节点及其子节点形成的树转换成html，在抓小：然后正则替换掉所有标签，然后获取需要的所有信息。
转载
2023-05-31 09:11:31
181阅读
前言本文的文字及图片来源于网络,仅供学习、交流使用,不具有任何商业用途,如有问题请及时联系我们以作处理。PS：如有需要Python学习资料的小伙伴可以加点击下方链接自行获取文实例讲述了Python爬虫爬取新浪微博内容。分享给大家供大家参考，具体如下：用Python编写爬虫，爬取微博大V的微博内容，本文以女神的微博为例（爬新浪m站：https://m.weibo.cn/u/1259110474）一般
转载
2023-06-14 10:34:20
425阅读
爬取某人的微博数据，把某人所有时间段的微博数据都爬下来。具体思路：创建driver-----get网页----找到并提取信息-----保存csv----翻页----get网页（开始循环）----...----没有“下一页”就结束，用了while True，没用自我调用函数代码如下from selenium import webdriver
from selenium.webdriver.commo
转载
2023-07-01 01:52:25
219阅读
本文通过一种简单的方式来抓取华为终端官方微博的内容信息。首先抓取登录微博的cookie，然后使用cookie来登录微博。 具体的代码如下所示：# -*- coding: utf-8 -*-
"""
Created on Sun Apr 16 14:16:32 2017
@author: zch
"""
import requests
from bs4 import BeautifulSoup
转载
2023-06-21 09:46:55
155阅读
相关代码已经修改调试成功----2017-4-13 详情代码请移步我的github：https://github.com/pujinxiao/sina_spider一、说明1.目标网址：新浪微博2.实现：跟踪比较活跃的微博号所发的微博内容，隔3-5分钟刷新（爬取）一次，只有更新了才爬的到，不爬取历史微博内容哦，爬取正文、文中图片、所属微博昵称、发布时间（时间戳格式)。3.数据：数据都存在mysql
第一次爬虫就是爬微博的评论（爬虫—只要能看就能爬）准备工作： Python2.7（看个人习惯）、FireFox浏览器（看个人习惯）Python安装什么的网上一大堆教程，我不班门弄斧了 FireFox感觉我个人感觉好用一点，比起全英版的Chromefrom selenium import webdriver#这是重中之重咯，现在微博的评论都是有动态加载的，我是靠这个去控制鼠标行为的
import t
转载
2023-08-31 09:40:32
300阅读
在成功获取微博用户的列表之后，我们可以对每个用户的主页内容进行爬取了 环境tools1、chrome及其developer tools2、python3.63、pycharm Python3.6中使用的库 1 import urllib.error
2 import urllib.request
3 import urllib.parse
4 import urllib
转载
2024-04-18 14:28:09
88阅读
