作为一个Python小白，在经过一个大牛的安利下，迅速将魔爪伸向了Python。作为一个小白，今天分享下已经被大牛们玩坏的知乎爬虫，各位看官你看好了。1. 我为什么要爬取回答其实我只是好奇，加上为了快速掌握基本的语法，就研究了一下。2. 如何实现懒得说了，你自己看代码吧：#!/usr/bin/python
# -*- coding: utf-8 -*-
# Filename : ZhiHuSpid
转载
2024-08-28 22:18:35
307阅读
之前试过用按照目录地址爬取正文内容的方法来爬取《鬓边不是海棠红》这本小说，结果由于它目录中的每一章又被分为了几页来展示，那种方法只能爬取到每章的第一页内容，剩下的内容都没有拿到，所以现在来换一种方法吧~第一步：分析思路之前的文章中已经详细地写了分析网页的方法，这里就不多写了，直接说一下实现思路吧： ①首先以小说第一章第一页作为开始爬取的页面，并爬取第一页的正文内容； ②然后获取到下一页的链接，继续
转载
2023-08-30 21:54:18
556阅读
闲来无事，想爬一下知乎热榜，说到爬虫肯定会想到python，那就试试看吧本文记录下爬知乎热榜的过程，说实话也算不上是爬虫，毕竟分析过程中发现其实知乎本身就给了接口了，不过也能作为分析爬虫的一个参考吧因为自己的“瞎搞”，现在是用python爬取数据并存入SQLite，毕竟在数据库里想怎么查都方便，后来为了做成一个接口随时可以爬取，还用php去调python来执行（好了别吐槽了=。=），其实代码也很简
转载
2023-08-02 22:55:39
0阅读
摘要： 互联网的数据爆炸式的增长，而利用 Python 爬虫我们可以获取大量有价值的数据：1.爬取数据，进行市场调研和商业分析爬取知乎优质答案，筛选各话题下最优质的内容； 抓取房产网站买卖信息，分析房价变化趋势、做不同区域的房价分析；爬取招聘网站职位信息，分析各行业人才需求情况及薪资水平。2.作为机器学习、数据挖掘的原始数据比如你要做一个推荐系统，那么你可以去爬取更多维度的数据，做出更好的模型。3
转载
2023-11-02 08:56:28
213阅读
利用爬虫我们可以获取大量的价值数据，从而获得感性认识中不能得到的信息，比如：1.爬取数据，进行市场调研和商业分析。爬取知乎优质答案，为你筛选出各话题下最优质的内容。 抓取房产网站买卖信息，分析房价变化趋势、做不同区域的房价分析。爬取招聘网站各类职位信息，分析各行业人才需求情况及薪资水平。2.作为机器学习、数据挖掘的原始数据。比如你要做一个推荐系统，那么你可以去爬取更多维度的数据，做出更好的模型。3
转载
2024-01-08 17:47:22
62阅读
在技术发展的今天，互联网的数据服务器和信息丰富程度让我们能接触到很多的知识和资源。而在众多的平台中，知乎作为一个知识分享、问答交流的平台，其内容的质量和数量都极为可观。然而，想要获取这些数据并进行分析、归纳，却并非易事。于是，我便决定使用Python爬取知乎的数据。在这个过程中，我深入探索了技术架构，性能调优和故障处理等各个方面，最终形成了一套完整的解决方案。
> “我想批量获取知乎上的一些知识
该爬虫主要是通过requests来实现的，该模块完全可以很好的代替urllib和urllib2，而且功能更强大，详细可以看这里。同时也用到了pillow模块中的image对象，实现环境是Python2，不过在Python3上只需很小的改动就可以正常运行。首先通过cookie模拟登陆到知乎，然后获取知乎某一个问题的链接，打开并获取该问题回答下的图片，然后保存到本地。我们先看下知乎中的网页html文本
转载
2023-10-17 10:45:59
207阅读
前言 最近逛知乎，发现了一个问题。 回答下很多好看的头像，因此我动了一个心思，想要制作一个小网页，可以随机返回一款好看的情头。心思既起，当然要开始付诸行动。但是想要制作如此一个网页，后台也需要拥有足够的情头头像数据，毕竟巧妇难为无米之炊嘛。 &nb
转载
2023-12-28 23:10:54
343阅读
一、选题背景知乎作为中文互联网高质量的问答社区和创作者聚集的原创内容平台，知乎能连接各行各业的用户，为用户提供社区服务，使用户之间能围绕一个感兴趣的话题去讨论。本次通过对知乎的爬取及数据分析，来爬取用户对话题的热度兴趣，用户比较于关注哪些话题，能帮助大家有效的了解。 二、爬虫设计方案1.爬虫名称:爬取知乎榜单。2.爬取内容:爬取知乎网页热榜标题、热度、排行及图片的一些相关内容。3.方案概
转载
2023-06-19 15:40:41
233阅读
有疑问和困惑的时候，除了去书本翻阅资料，还可以在知乎上发起提问，和来自不同地方的小伙伴一起进行讨论。小编觉得这种学习的方法不仅能够自己理解知识，而且别人也会在回答中有所提升，是个一举两得的好办法。最近小编想把问答的内容收集起来留着学习，小伙伴们也可以跟着小编一起学习收集的方法。爬取知乎的关键的部分：模拟登陆通过对知乎登陆是的抓包，可以发现登陆知乎，需要post三个参数，一个是账号，一个是密码，一个
转载
2023-10-12 08:21:20
125阅读
目的：学习笔记目标网站：https://www.zhihu.com1.首先我们打开目标网站：2.首先我们试着爬取下来一篇文章的评论，通过搜索发现在 response里面我们并没有匹配到评论，说明评论是动态加载的。3.此时我们清空请求，收起评论，再次打开评论4.完成上面操作后，我们选择XHR，可以发现点击评论的时候发送了3个请求。5.我们点击带comments的请求，然后在response里搜索可以
转载
2023-07-04 17:59:39
1479阅读
根据该过程，爬虫过程需要分为两步：1、通过关键词（Java）搜索问题，得到url=https://www.zhihu.com/search?type=content&q=java，根据该url爬取该页面下所有的问题及其对应的问题id；2、根据第一步得到的问题及其id，得到url=https://www.zhihu.com/question/31437847，爬取该url页面下所有的网友回答
转载
2023-08-06 13:11:11
524阅读
文章目录前言1. requests库的基本使用2. pyquery库的基本使用3. 爬取知乎热门话题 前言有些东西想忘都忘不了，而有些却转背就忘了！这段时间忙于找工作和学习mysql，把爬虫搁置一边，今天翻开书发现忘得差不多了，于是想到爬爬知乎热门话题，以此来温习爬虫的基本知识点。1. requests库的基本使用1.1 网页获取get和post 前提安装好了requests库，get请求和po
转载
2023-11-27 22:54:59
292阅读
小白也能懂因知乎进主页必须登录后才能够访问信息，且登录界面的验证方式破解难度是较高，经过一番分析，最终选择了使用selenium模拟登录，然后获取cookie的方式。在实现主页信息爬取及热点信息爬取都无问题。在指定问题进行搜索时，返回无内容，应该是知乎的反爬措施变态，查阅了许多博主及各种帖子，都没有较好的解决方法，各位大佬如果有的话，还望对我指指点点一下。该函数也一并放进帖子中，尝试了许多种办法，
转载
2023-08-09 14:23:49
255阅读
一、选题背景随着科技经济的发展，社会中发生的重大事件我们都可以从各大软件中得知，知乎热榜是我们了解时事的一个重要途径，但是如果我们没有那么时间来刷知乎，但是还是想要了解一天中发生的热门事件，我们该怎么办呢？在这里，我想到了通过知乎的手段，获取知乎热榜的标题和简介，保存到本地文件，，从而获取到每一天的知乎热榜内容，这样，我们只需要查看本地文件内容，就可以快速的了解今天一天的时事。要达到的数据分析
转载
2023-12-26 17:47:54
29阅读
# Python爬取知乎数据
## 概述
知乎是一个知识分享与传播的社区平台，拥有海量的用户和各种各样的问题和回答。如果我们希望获取知乎上的数据，比如用户信息、问题内容等，可以使用Python进行爬取。本文将介绍如何使用Python爬取知乎数据，并提供相应的代码示例。
## 准备工作
在开始之前，我们需要安装一些必要的Python库，用于处理网络请求和解析网页。可以使用pip安装这些库：
原创
2023-11-06 15:05:17
336阅读
# Python爬取知乎VIP内容的科普文章
随着网络的迅猛发展，数据已经成为我们获取信息的重要来源。而在这些数据中，知乎作为一个高质量的知识分享平台，吸引了大量用户。对于热爱编程的小伙伴而言，使用Python爬取知乎VIP内容是一项有趣的挑战。本文将为大家详细介绍如何实现这一目标。
## 项目简介
在这个项目中，我们的目标是利用Python抓取知乎上的VIP内容。由于知乎对其VIP内容有比
点击评论，出现异步加载的请求 import json import requests from lxml import etree from time import sleep url = "https://www.zhihu.com/api/v4/answers/974431591/root_co
转载
2020-03-14 11:29:00
839阅读
2评论
import reimport osimport timeimport randomimport requestsclass Zhihu_Photo(): def __init__(self): self.path = 'C:\desk\download' #存储图片的位置 self.questio ...
转载
2021-09-22 14:13:00
332阅读
2评论
模拟登录要想实现对知乎的爬取，首先我们要实现模拟登录，因为不登录的话好多信息我们都无法访问。下面是登录函数，这里我直接使用了知乎用户fireling的登录函数，具体如下。其中你要在函数中的data里填上你的登录账号和，然后在爬虫之前先执行这个函数，不出意外的话你就登录成功了，这时你就可以继续抓取想要 的数据。注意，在首次使用该函数时，程序会要求你手动输入captcha码，输入之后当前文件夹会多
原创
2024-08-05 08:30:47
913阅读
