1 import requests
2 from urllib.parse import urlencode
3 from pyquery import PyQuery as pq
4 from pymongo import MongoClient
5
6 base_url = 'https://m.weibo.cn/api/container/getIndex?'
7 header
转载
2023-05-23 21:51:52
184阅读
这里的微博爬虫，我主要实现的是输入你关心的某个大 V 的微博名称，以及某条微博的相关内容片段，即可自动爬取相关该大 V 一段时间内发布的微博信息和对应微博的评论信息。Cookie 获取与上面的 Boss 直聘网站类似，爬取微博也需要获取响应的 cookie。 用浏览器打开微博页面，拷贝出对应的 Cookie，保存到本地。微博搜索既然是某位大 V，这里就肯定涉及到了搜索的事情，我们可以先来尝试下微博
转载
2023-06-14 15:19:59
138阅读
一、起因最近几天陈情令大火,而#肖战#王一博等人也成为众人所熟知的对象,所以我想用Scrapy爬取演员的微博信息来分析下演员信息二、 目标本次爬取的的公开基本信息，如用户昵称、头像、用户的关注、粉丝列表以及发布的微博等，这些信息抓取之后保存至Mysql,并绘制出图表三、准备工作请确保代理池、Cookies池已经实现并可以正常运行，安装Scrapy、PyMysql库。这里我新注册了四个微博
转载
2023-09-10 22:22:06
0阅读
Python（发音：英[?pa?θ?n]，美[?pa?θɑ:n]），是一种面向对象、直译式电脑编程语言，也是一种功能强大的通用型语言，已经具有近二十年的发展历史，成熟且稳定。它包含了一组完善而且容易理解的标准库，能够轻松完成很多常见的任务。它的语法非常简捷和清晰，与其它大多数程序设计语言不一样，它使用缩进来定义语句。Python支持命令式程序设计、面向对象程序设计、函数式编程、面向切面编程、泛型编
新浪微博的数据可是非常有价值的，你可以拿来数据分析、拿来做网站、甚至是*。不过很多人由于技术限制，想要使用的时候只能使用复制粘贴这样的笨方法。没关系，现在就教大家如何批量爬取微博的数据，大大加快数据迁移速度！我们使用到的是第三方作者开发的爬虫库weiboSpider（有工具当然要用工具啦）。这里默认大家已经装好了Python，如果没有的话可以看我们之前的文章：Python详细安装指南。1. 下载项
爬取某人的微博数据，把某人所有时间段的微博数据都爬下来。具体思路：创建driver-----get网页----找到并提取信息-----保存csv----翻页----get网页（开始循环）----...----没有“下一页”就结束，用了while True，没用自我调用函数代码如下from selenium import webdriver
from selenium.webdriver.commo
转载
2023-07-01 01:52:25
214阅读
13.13 Scrapy 爬取新浪微博前面讲解了 Scrapy 中各个模块基本使用方法以及代理池、Cookies 池。接下来我们以一个反爬比较强的网站新浪微博为例，来实现一下 Scrapy 的大规模爬取。1. 本节目标本次爬取的目标是新浪微博用户的公开基本信息，如用户昵称、头像、用户的关注、粉丝列表以及发布的微博等，这些信息抓取之后保存至 MongoDB。2. 准备工作请确保前文所讲的代理池、Co
转载
2023-07-01 11:20:09
202阅读
新浪微博爬取的话需要设计到登录，这里我没有模拟登录，而是使用cookie进行爬取。获取cookie：代码：#-*-coding:utf8-*-
from bs4 import BeautifulSoup
import requests
import time
import os
import sys
原创
精选
2017-08-08 11:42:49
3863阅读
点赞
2评论
此次爬虫要实现的是爬取某个微博用户的关注和粉丝的用户公开基本信息，包括用户昵称、id、性别、所在地和其粉丝数量，然后将爬取下来的数据保存在MongoDB数据库中，最后再生成几个图表来简单分析一下我们得到的数据。一、具体步骤：然后查看其关注的用户，打开开发者工具，切换到XHR过滤器，一直下拉列表，就会看到有很多的Ajax请求。这些请求的类型是Get类型，返回结果是Json格式，展开之后就能看到有很多
转载
2023-06-30 22:10:25
481阅读
经过一段时间的Python网络爬虫学习，今天自己摸索制作了一个能够爬取新浪微博实时热搜排名的小爬虫1.效果：2.制作过程中遇到的问题：（1）一开始研究微博热搜页面的源代码时忽略了<tbody>中还包括一个置顶热搜，它的标签包含结构和其他的50个不同，因此需要单独考虑（2）难点是标签中信息的获取，需要搞清楚 find_all( ) 函数返回的是列表，只能用于for遍历体系中，针对HTML
转载
2023-09-26 14:11:22
711阅读
最近听闻「杨超越杯编程大赛」很是火热~网友纷纷评论，原来追星还可以这么硬核，没点实力还不敢追了。本期，小F通过爬取新浪微博评论，来看看大家对此次大赛有什么看法。在此之前，先查阅一下相关资料，发现从微博的手机端和移动端入手，效果还可以。网页版的微博，想都不用想，去了就是自讨苦吃。微博的反爬甚是厉害，我可不想去大动干戈...虽然最后由于种种原因，还是没能够获取到完整的评论，不过也拿到了挺多数据。还是可
原创
2021-01-19 15:38:16
648阅读
&&&&# -*- coding: utf-8 -*
from bs4 import BeautifulSoup
import requests
from xlwt import Workbook
import time
import j
原创
2018-04-25 20:10:30
1718阅读
最近听闻「杨超越杯编程大赛」很是火热~网友纷纷评论，原来追星还可以这么硬核，没点实力还不敢追了。本期，小F通过爬取新浪微博评论，来看看大家对此次大赛有什么看法。在此之前，先查阅一下相关资料，发现从微博的手机端和移动端入手，效果还可以。网页版的微博，想都不用想，去了就是自讨苦吃。微博的反爬甚是厉害，我可不想去大动干戈...虽然最后由于种种原因，还是没能够获取到完整的评论，不过也拿到了挺多数据。还是可
原创
2020-12-24 16:20:34
574阅读
1.设置ROBOTSTXT_OBEY，由true变为false
2.设置DEFAULT_REQUEST_HEADERS，将其改为request headers
3.根据请求链接，发出第一个请求，设置一个start_request方法，并在方法中定义相关的配置,比如在本例中设置搜索的关键字keyword
4.接下来定义一个链接，也就是start_url，本例中改为search_url,其中把base
转载
2023-05-31 08:39:53
112阅读
第一次爬虫就是爬微博的评论（爬虫—只要能看就能爬）准备工作： Python2.7（看个人习惯）、FireFox浏览器（看个人习惯）Python安装什么的网上一大堆教程，我不班门弄斧了 FireFox感觉我个人感觉好用一点，比起全英版的Chromefrom selenium import webdriver#这是重中之重咯，现在微博的评论都是有动态加载的，我是靠这个去控制鼠标行为的
import t
转载
2023-08-31 09:40:32
237阅读
本文爬取的是m站的微博内容，基于python 2.7一、 微博内容爬取1.要爬取的微博首页网址https://m.weibo.cn/u/3817188860?uid=3817188860&luicode=10000011&lfid=100103type%3D1%26q%3DAlinda2.手机微博是看不到翻页，是一直往下加载的，但是其json格式的数据仍然以翻页的形式呈现。3.打开
转载
2023-05-31 09:38:31
304阅读
文章目录一．准备工作二．预览1.启动2.搜索3.运行中4.结果三．设计流程1.总体设计2.详细设计四．源代码1.Weibo_Pic_Crawl-GUI-V1.5.py2.Weibo_Crawl_Engine.py五．总结说明 鉴于前面python3GUI–weibo图片爬取工具（附源码），简单实现了weibo大图爬取，简单的界面交互，本次在前篇上进行改进，精简代码量，增加用户搜索接口，展示用户头
小编的毕业设计是做一个关于网络社交平台的网络爬虫技术，所以需要爬取一些新浪微博数据。 不废话了，我先通过微博的高级搜索功能爬取数据，代码：#!usr/bin/env python
#coding:utf-8
'''''
以关键词收集新浪微博
'''
#import wx
import sys
import urllib
import urllib2
import re
impor
# Python爬虫爬取微博数据
## 1. 简介
随着社交媒体的兴起，微博已经成为了人们获取信息和交互的一个重要平台。为了更好地了解用户的需求和趋势，我们可以利用Python爬虫技术来爬取微博数据。本文将介绍如何使用Python爬虫来获取微博数据，并给出具体的代码示例。
## 2. 准备工作
在开始之前，我们需要安装一些必要的Python库。首先，我们需要安装`requests`库来发送
# Python爬虫爬取微博评论教程
## 概述
在本教程中，我将向你介绍如何使用Python爬虫来实现微博评论的爬取。作为一名经验丰富的开发者，我将指导你完成整个过程，并为你提供所需的代码和注释。
## 整体流程
首先，让我们来看看整个过程的步骤。以下是爬取微博评论的流程：
| 步骤 | 描述 |
|------|------|
| 1 | 登录微博账号 |
| 2 | 跳
原创
2023-07-22 04:58:54
567阅读
