一、前言前几天有个粉丝找我获取基金信息，这里拿出来分享一下，感兴趣的小伙伴们，也可以积极尝试。二、数据获取这里我们的目标网站是某基金官网，需要抓取的数据如下图所示。可以看到上图中基金代码那一列，有不同的数字，随机点击一个，可以进入到基金详情页，链接也非常有规律，以基金代码作为标志的。其实这个网站倒是不难，数据什么的，都没有加密，网页上的信息，在源码中都可以直接看到。这样就降低了抓取难度了。通过浏览
转载
2023-08-06 15:12:51
195阅读
一、提出问题经过前两期文章的分析，我们基本理清了思路——通过爬虫软件获取天天基金网、好买基金网的公募基金数据，最终找到以下问题的答案。找出3年中最具投资价值的基金找出3年中风控最好的基金公司二、数据获取2.1爬虫软件八爪鱼介绍本次使用的爬虫软件名字叫八爪鱼采集器，下载地址http://www.bazhuayu.com/。不需要任何爬虫知识和基础，只要给它设定好路径后便可以自动爬取数据
转载
2023-10-11 20:25:39
23阅读
# Python爬取基金数据的入门指南
## 一、流程概述
在开始爬取基金数据之前，我们需要理清整个流程。以下是实现这一目标的基本步骤：
| 步骤 | 描述 |
|--------|--------------------------------------------|
| 步骤1 | 了解目标网站和数据结构
1：首先，开始分析天天基金网的一些数据。经过抓包分析，可知： ./fundcode_search.js包含所有基金的数据，同时，该地址具有反爬机制，多次访问将会失败的情况。2：同时，经过分析可知某只基金的相关信息地址为:fundgz.1234567.com.cn/js/ + 基金代码 + .js3：分析完天天基金网的数据后，搭建IP代理池，用于反爬作用。# 返回一个可用代理，格式为ip:
转载
2023-07-03 18:48:24
727阅读
在简单完成了基金净值爬取以后，我们对中间的过程可能产生了很多疑惑，即使完成了目标，也仅仅是知其然而不知其所以然，而为了以后爬虫任务的顺利进行，对爬虫过程中所涉及的原理进行掌握是十分有必要的。本文将会针对之前爬虫过程中所涉及到的几个爬虫原理进行简单的阐述。 url究竟是什么？它的构成有什么规律可循？ URL和URI 在访问任何一个网页时，我们都需要一个网页链接（如百度:
转载
2023-09-13 16:07:22
239阅读
## 如何使用 Python 爬取基金数据
在数据分析和金融研究中，爬取基金数据是一项重要技能。本文将带你逐步实现 Python 爬取基金数据的流程。首先，我们将明确整个过程的步骤，然后逐步实现每一个步骤的代码。
### 爬虫流程
| 步骤 | 说明 |
| ----
原创
2024-09-27 07:23:04
232阅读
python爬虫，用scrapy爬取天天基金学了一段时间的爬虫，准备做个爬虫练习巩固一下，于是选择了天天基金进行数据爬取，中间遇到的问题和解决方法也都记录如下。 附上代码地址：https://github.com/Marmot01/python-scrapy-爬取思路一.分析网站首选来到天天基金首页http://fund.eastmoney.com/jzzzl.html，分析要爬取的内容。 在首页
转载
2023-12-28 22:56:08
546阅读
点赞
基金是一种很好的理财方式，利用pyhton根据以往的跌幅情况进行基金选择，是一种很可靠的选择方式。本文以债券基金（稳定且风险较低）的爬虫和策略选择为例子，实现基金的选择。1、数据库准备1.1、ubuntu下的mysql安装以Ubuntu为例，首先安装mysql数据库。 首先执行下面三条命令：sudo apt-get install mysql-server
sudo apt install mys
转载
2024-06-21 17:33:50
412阅读
## Python爬虫：天天基金数据获取与分析
### 前言
在金融行业，基金是一种非常常见的投资工具。了解基金的历史数据和趋势对于投资者来说非常重要。在本文中，我们将介绍如何使用Python编程语言编写一个简单的爬虫来获取[天天基金](
### 准备工作
在开始之前，我们需要安装以下Python库：
- [requests]( 用于发送HTTP请求和处理响应数据
- [Beautifu
原创
2023-08-11 15:25:40
249阅读
Python基金选取实例目标：选择多个周期内，同时出现在排名前列的基金工具：lPython3lPycharm——Python IDE，社区版免费lChromelPandas，requests，lxml——用到的Python库可能了解：lPython爬虫lPandas操作l抓取JS生成的网页l准备数据：1、既然是挑选基金，我们选比较热的天天基金网为例，用Chrome打开，选择基金排行2、右键->
转载
2024-01-22 22:34:59
66阅读
做跨境电商，产品的市场行情是非常关键的指标，无论是新品开发还是市场调研都有需求，那么今天我们就来做个敦煌网的产品价格与销量查询的工具。一、基础版本其实敦煌网是很客气的网站，基本上没有做针对的反爬措施，既然别人这么客气，我们也要懂得礼貌，做爬虫的同学都知道爬虫的基本礼仪。那就是该停就停，能在晚上没有太多人的时候运行就放在人少的时候，频率不要太高。不过还我们的工具，一开始就打算按照关键词进行
转载
2024-01-12 13:03:23
126阅读
通过python爬取SCDN论坛的标题，返回请求网址使用requests请求网址 lxml中etree请求数据 time延时 openpyxl保存再excel中网站共有100页数据，5000个论坛。我们可以输入爬取的页数：运行代码：将数据储存在excel中：源代码如下：在这里插入代码片
# _*_ coding:utf _*_
# 人员：21292
#
转载
2023-07-01 00:19:47
247阅读
功能：通过程序实现从基金列表页，获取指定页数内所有基金的近一周收益率以及每支基金的详情页链接。再进入每支基金的详情页获取其余的基金信息，将所有获取到的基金详细信息按近6月收益率倒序排列写入一个Excel表格。思路：通过实例化Tiantian_spider类的对象，初始化一个PhantomJS浏览器对象使用浏览器对象访问天天基金近六月排行的页面，获取该页面的源码从源码从获取每支基金所在的行（可以指定
转载
2024-09-10 12:28:48
118阅读
有时候我们在用requests抓取页面的时候，得到的结果可能和浏览器中看到的不一样：浏览器中可以看到正常显示的页面数据，但是使用requests得到的结果并没有。这是因为requests获取的都是原始的HTML文档，而浏览器中的页面则是经过JavaScript处理数据后生成的结果，这些数据来源多种，可能是通过Ajax加载的，可能是包含在HTML文档中的，也可能是经过JavaScript和特定算法计
转载
2024-08-01 21:11:33
143阅读
在成功完成基金净值爬虫的爬虫后，简单了解爬虫的一些原理以后，心中不免产生一点困惑——为什么我们不能直接通过Request获取网页的源代码，而是通过查找相关的js文件来爬取数据呢？ 有时候我们在用requests抓取页面的时候，得到的结果可能和浏览器中看到的不一样：浏览器中可以看到正常显示的页面数据，但是使用requests得到的结果并没有。这是因为requests获取的都是原始的HTML
转载
2023-12-28 16:10:08
216阅读
2018.11.22爬虫要求： 目标 url：http://gs.amac.org.cn/amac-infodisc/res/pof/fund/index.html 抓取信息：每条基金的 基金名称 私募基金管理人名称 托管人名称 成立时间 备案时间 基金具体url。 即下图信息+url 链接一、环境 安装好 Anaconda（Python 版本为 3.6）即可，较简单，教程较多，如：https:/
转载
2023-09-06 11:20:51
197阅读
提到爬虫，大部分人都会想到使用Scrapy工具，但是仅仅停留在会使用的阶段。为了增加对爬虫机制的理解，我们可以手动实现多线程的爬虫过程，同时，引入IP代理池进行基本的反爬操作。本次使用天天基金网进行爬虫，该网站具有反爬机制，同时数量足够大，多线程效果较为明显。技术路线IP代理池多线程爬虫与反爬编写思路首先，开始分析天天基金网的一些数据。经过抓包分析，可知：[./fundcode_search.js
转载
2024-07-09 20:50:14
716阅读
# Python 爬取基金网页数据的实践
在当前信息化时代，获取金融数据对个人投资者、分析师乃至开发者都至关重要。其中，基金网页的数据是我们进行投资决策的重要依据。通过 Python 爬取基金网页的数据，不仅可以提高工作效率，还能帮助我们灵活分析市场动向。在这篇文章中，我们将解决如何通过 Python 爬取某财经网站的基金数据，并进行简单的数据处理。
## 实际问题
假设你想获取某个基金的每
原创
2024-10-11 06:18:42
222阅读
本文的文字及图片来源于网络,仅供学习、交流使用,不具有任何商业用途,版权归原作者所有,如有问题请及时联系我们以作处理本品文章来自腾讯云 作者：孤独的明月目标 — 简单获取天天基金网站的基金数据代码区import requestsimport timeimport pandas as pdif __name__ == '__main__':for j in range(1, 49):
转载
2021-02-04 12:58:30
1097阅读
2评论
接口分析爬数据需要先思考从哪里爬？经过一番搜索和考虑，我发现天天基金网的数据既比较全，又十分容易爬取，所以就从它入手了。首先，随便点开一支基金，我们可以看到域名就是该基金的代码，十分方便，其次下面有生成的净值图。基金详情打开chrome的开发者调试，选择Network，然后刷新一下，很快我们就能发现我们想要的东西了。可以看到，这是基金代码加当前时间的一个接口 请求的url：http://fund.
转载
2023-07-30 22:11:25
179阅读
