大家好,我是皮皮。

一、前言

继续接着上一篇文章说,这一篇文章我们一起来看看大佬们的解决办法。

二、实现过程

这里【郑煜哲·Xiaopang】和【瑜亮老师】给了一个提示,如下图所示:

# yyds干货盘点 # 盘点一个Pandas处理Excel表格实战问题(下篇)_Python基础

后来【隔壁😼山楂】给出了代码,如下所示:

from requests_html import HTMLSession
from fake_useragent import UserAgent
import pandas as pd


session = HTMLSession()
ua = UserAgent().random

day_url_all = [] # 取当前网页下所有交易行情数据的url

for i in range(1,2): #先爬取2页数据,待数据测试无问题后,在扩大数据爬取
    r = session.get(f"https://www.sge.com.cn/sjzx/mrhqsj?p={i}", headers = {'user-agent':ua})
#     print(r.html)
    xpath_url = r.html.xpath("//ul/li/a[@class]")
    for i in xpath_url:
        # 获取当前网页下所有交易行情数据的url
        url = "https://www.sge.com.cn" + i.find('a[href]')[0].attrs.get('href').lstrip('.')
        day_url_all.append(url)


df_all = []
for i in day_url_all:
    r = session.get(i,headers = {'user-agent':ua})
    
    data = pd.read_html(r.html.raw_html, header=0)[0]
    data['时间'] = r.html.xpath('//div[@class="title"]/p/span/text()')[0]
    df_all.append(data)

df_all = pd.concat(df_all)
df_all.to_excel("最终数据.xlsx")

顺利地解决了粉丝的问题。

# yyds干货盘点 # 盘点一个Pandas处理Excel表格实战问题(下篇)_数据_02

@隔壁😼山楂 大佬 在请问下  那是不是只要数据在网页上是以表格的形式存在,就可以使用pd.read_html()获取到数据? 之前有用过但是数据取不出来 想确认下是不是我的问题?

# yyds干货盘点 # 盘点一个Pandas处理Excel表格实战问题(下篇)_Python入门_03

又学到一个知识点!!

三、总结

大家好,我是皮皮。这篇文章主要盘点了一个Python打包处理的问题,文中针对该问题,给出了具体的解析和代码实现,帮助粉丝顺利解决了问题。

最后感谢粉丝【哎呦喂  是豆子~】提出的问题,感谢【瑜亮老师】和【隔壁😼山楂🕷】给出的思路,感谢【郑煜哲·Xiaopang】、【黑科技·鼓包】、【冯诚】、【刘流】等人参与学习交流。

【提问补充】温馨提示,大家在群里提问的时候。可以注意下面几点:如果涉及到大文件数据,可以数据脱敏后,发点demo数据来(小文件的意思),然后贴点代码(可以复制的那种),记得发报错截图(截全)。代码不多的话,直接发代码文字即可,代码超过50行这样的话,发个.py文件就行。

# yyds干货盘点 # 盘点一个Pandas处理Excel表格实战问题(下篇)_Python基础_04