一、简单动态页面爬取 我们之前进行的页面爬取工作都是基于静态的页面。但是现在的很多页面都采用了动态页面，这些动态页面又有百分之七十是由javascript写的，因此我们了解如何从javascript页面爬取信息就显得非常的重要。 先认识具体情况之前，我们需要先了解什么是ajax，ajax它的英文全称是asynchronous javascript and xml，是一种异步JavaScript
转载
2024-06-07 22:51:52
102阅读
第一步：选择从手机端爬取新浪微博手机端地址：https://m.weibo.cn/ 登录自己的微博账号。第二步：爬取刘亦菲的微博为例：2.1获取需要爬取微博的Request_URL，以及构造网络请求的User_Agent和Cookies:右键-检查，刷新网页，Network，size排序， 其中Request_URL就是我们需要爬取微博的请求地址，如图： User_Agent和Cookies:2.
转载
2023-07-06 21:32:24
313阅读
1、打开微博网站：https://s.weibo.com/top/summary?Refer=top_hot&topnav=1&wvr=62、鼠标右击打开检索3、导入相应的库4、编写如下代码：import requests
from bs4 import BeautifulSoup
import pandas as pd
from pandas import DataFrame
u
转载
2023-06-06 00:13:15
367阅读
前言微博大家都很熟悉了，时不时就谁谁上了热搜，底下评论什么都有，我们想获得评论信息做个简单的分析，可以用爬虫爬取，但花费的时间可能有点多，还会面临反爬，微博给我们开了 api 接口，我们可以调用方便的获取数据，带来了不少便利，小编带大家来爬取评论内容api 配置https://open.weibo.com/打开，注册一个账号，按照下列序号新建应用，完善基本信息点击【我的应用】，完善基本信息完善后的
原创
2021-01-02 14:09:07
2357阅读
虽然我是不用微博的，但由于某种原因，手机端的微博会时不时地推送几条我必须看的消息过来。微博被看久了，前几天又看到 语亮 - 简书 一年前的的微博爬虫，就有了对某人微博深入挖掘的想法。之前语亮的爬虫不能抓取用户一条微博的多张图片，一年后微博界面也发生了一些变化，决定还是参考语亮爬取手机端界面的方法更新下代码，同时加上一点小小的数据分析。主要想法是抓取指定用户的全部微博原创内容和全部原创图片
转载
2023-06-26 10:18:43
651阅读
一、网站分析1、 打开浏览器 在地址栏输入，浏览器将会返回一页博文列表给我们，如下图： 我们按下F12快捷键，将会打开网页调试工具，点击network，可以看到我们对的请求，以及 的响应信息 简单介绍一下：Request URl:表示请求的URL Request Method：表示请求的方法，此处为GET。除此之外，HTTP的请求方法还有OPTION、HEAD、
转载
2024-06-02 16:12:49
56阅读
本文爬取的是m站的微博内容，基于python 2.7一、 微博内容爬取1.要爬取的微博首页网址https://m.weibo.cn/u/3817188860?uid=3817188860&luicode=10000011&lfid=100103type%3D1%26q%3DAlinda2.手机微博是看不到翻页，是一直往下加载的，但是其json格式的数据仍然以翻页的形式呈现。3.打开
转载
2023-07-29 13:52:35
136阅读
本文以延参法师的腾讯微博为例进行爬取并分析 ，话不多说 直接附上源代码。其中有比较详细的注释。需要用到的包有 BeautifulSoupWordCloudjieba1 # coding:utf-8
2 import requests
3 from bs4 import BeautifulSoup
4 import matplotlib.pyplot as plt
5 from w
转载
2023-08-26 18:13:34
9阅读
requests库是python爬虫中最常见的库，与内置的urllib库相比，它更加简洁高效，是每一个接触爬虫者都务必要掌握的基础；但它也是有缺点的，就是不支持异步操作，虽然可以通过多线程来解决，但当需要发送大量请求时，创建大量的线程会浪费过多的资源；此时出现了一个新的库aiohttp，它是支持异步操作的，可以在一个线程中，通过异步多任务来实现快速发送请求，提高效率。这次，我基于这两个库，做一
转载
2024-01-04 05:58:51
78阅读
1.selenium模拟登陆 2.定位进入高级搜索页面 3.对高级搜索进行定位，设置。 4.代码实现import time
from selenium import webdriver
from lxml import etree
from selenium.webdriver import ChromeOptions
import requests
fr
转载
2023-07-07 10:30:32
316阅读
目的： 利用python和selenium实现自动化爬虫所需工具： 1、python2.7 2、selenium库（pip install selenium或者easy_install selenium进行安装） 3、火狐浏览器 安装好上述工具之后就可以开始微博爬虫啦！ 首先，打开你的python编辑器（本人使用的是subli
转载
2023-09-11 20:41:44
175阅读
相关github地址：https://github.com/KaguraTyan/web_crawler一般做爬虫爬取网站时，首选的都是m站，其次是wap站，最后考虑PC站，因为PC站的各种验证最多。当然，这不是绝对的，有的时候PC站的信息最全，而你又恰好需要全部的信息，那么PC站是你的首选。一般m站都以m开头后接域名， 我们这次通过m.weibo.cn去分析微博的HTTP请求。准备工作1、环境配
转载
2023-07-29 23:11:01
288阅读
# Python爬取微博流程
## 介绍
在这篇文章中，我将教会你如何使用Python来爬取微博。作为一名经验丰富的开发者，我将向你展示整个流程，并给出每个步骤所需要的代码，并对代码的含义进行注释。请按照下面的表格中的步骤进行操作，你将成功地实现Python爬取微博。
## 流程图
```flow
st=>start: 开始
e=>end: 结束
op1=>operation: 准备工作
op
原创
2023-08-15 16:24:06
342阅读
此次爬虫要实现的是爬取某个微博用户的关注和粉丝的用户公开基本信息，包括用户昵称、id、性别、所在地和其粉丝数量，然后将爬取下来的数据保存在MongoDB数据库中，最后再生成几个图表来简单分析一下我们得到的数据。一、具体步骤：然后查看其关注的用户，打开开发者工具，切换到XHR过滤器，一直下拉列表，就会看到有很多的Ajax请求。这些请求的类型是Get类型，返回结果是Json格式，展开之后就能看到有很多
转载
2024-03-05 21:13:50
86阅读
最近在复习以前学习的python爬虫内容，就拿微博来练了一下手，这个案例适合学习爬虫到中后期的小伙伴，因为他不是特别简单也不是很难，关键是思路，为什么说不是很难呢？因为还没涉及到js逆向，好了话不多说开干。（1）找到要爬取的页面，如下：（2）点开评论，拉到最下方，如下位置：点击“点击查看”进入另一个页面，如下所示：这里会显示更多评论，但是不是全部，随便复制一条评论的内容，然后到源码里手搜索，发现是
转载
2023-06-07 21:51:23
1926阅读
# Python微博爬取
> 本文介绍了使用Python进行微博爬取的基本原理和代码示例。
## 引言
随着互联网的发展，社交媒体已成为人们获取信息和交流的重要渠道之一。微博作为中国最大的社交媒体平台之一，拥有庞大的用户群体和各种各样的内容。对于一些研究者和数据分析师来说，获取并分析微博数据可能是非常有价值的。本文将介绍如何使用Python进行微博爬取，并提供相应的代码示例。
## 爬
原创
2023-10-17 16:19:53
186阅读
爬虫学习的一点心得任务：微博指定信息抓取抓取：requests解析：xpath，正则表达式遇到的问题:1.正则解析或Xpath解析的时候采用先抓大再抓小的方法会使抓取的信息更加准确且不会有遗漏2.先抓大：获取到div（class=c）下的div标签中所有节点的内容text，利用tostring函数把每个个节点及其子节点形成的树转换成html，在抓小：然后正则替换掉所有标签，然后获取需要的所有信息。
转载
2023-05-31 09:11:31
181阅读
此次爬虫要实现的是爬取某个微博用户的关注和粉丝的用户公开基本信息，包括用户昵称、id、性别、所在地和其粉丝数量，然后将爬取下来的数据保存在MongoDB数据库中，最后再生成几个图表来简单分析一下我们得到的数据。一、具体步骤：然后查看其关注的用户，打开开发者工具，切换到XHR过滤器，一直下拉列表，就会看到有很多的Ajax请求。这些请求的类型是Get类型，返回结果是Json格式，展开之后就能看到有很多
转载
2023-06-30 22:10:25
543阅读
前言本文的文字及图片来源于网络,仅供学习、交流使用,不具有任何商业用途,如有问题请及时联系我们以作处理。PS：如有需要Python学习资料的小伙伴可以加点击下方链接自行获取文实例讲述了Python爬虫爬取新浪微博内容。分享给大家供大家参考，具体如下：用Python编写爬虫，爬取微博大V的微博内容，本文以女神的微博为例（爬新浪m站：https://m.weibo.cn/u/1259110474）一般
转载
2023-06-14 10:34:20
425阅读
本文通过一种简单的方式来抓取华为终端官方微博的内容信息。首先抓取登录微博的cookie，然后使用cookie来登录微博。 具体的代码如下所示：# -*- coding: utf-8 -*-
"""
Created on Sun Apr 16 14:16:32 2017
@author: zch
"""
import requests
from bs4 import BeautifulSoup
转载
2023-06-21 09:46:55
155阅读
