python 多线程下载库 python多线程下载器

大家好，我是oYabea，今天给大家介绍使用Python编写多线程HTTP下载器。

为了大家的使用方便，使用py2exe生成（*.exe）可执行文件。

环境：windows/Linux + Python2.7.x

在介绍多线程之前首先介绍单线程。

（本文将着重使用代码进行说明。）

单线程

编写单线程的思路为： 

1. 解析url；
2. 连接web服务器；
3. 构造http请求包；
4. 下载文件。

解析url

通过用户输入url进行解析。需要解析出来的是路径(path)、主机名（host）、端口号（port）和文件名（filename）。对一些特殊情况进行处理：

1. 如果解析的路径为空，则赋值为'/'；
2. 如果端口号为空，则赋值为"80”；
3. 下载文件的文件名可根据用户的意愿进行更改（输入'y'表示更改，输入其它表示不需要更改）。

下面列出几个解析函数，（更多代码见我的github，github地址见文末。）

#解析host和path
def analyHostAndPath(totalUrl):
    protocol,s1 = urllib.splittype(totalUrl)
    host, path = urllib.splithost(s1)
    if path == '':
        path = '/'
    return host, path

#解析port
def analysisPort(host):
    host, port = urllib.splitport(host)
    if port is None:
        return 80
    return port

#解析filename
def analysisFilename(path):
    filename = path.split('/')[-1]
    if '.' not in filename:
        return None
    return filename

连接web服务器

上文解析url，那么为什么要解析url呢？这里就要用到了。

用socket模块，根据解析url得到的host和port连接web服务器，代码如下：

import socket
from analysisUrl import port,host

ip = socket.gethostbyname(host)
s = socket.socket(socket.AF_INET,socket.SOCK_STREAM)
s.connect((ip, port))

print "success connected webServer！！"

构造http请求包

连接了web服务器，接下来当然是要向web服务器发送请求了，发送请求之前首先要构造http请求包，怎么构造呢？

没错！这里又要用到解析url得到的内容了。

根据http请求包的格式，使用解析到的path, host, port构造一个HTTP请求包：

from analysisUrl import path, host, port

packet = 'GET ' + path + ' HTTP/1.1\r\nHost: ' + host + '\r\n\r\n'

下载文件

连接了web服务器，构造了http请求包，接下来终于可以向服务器发送请求了，根据服务器的响应，保存buffer，便可以下载文件了。

为了确保在文件下载完成后停止下载，我们首先抓取响应报文头部的"Content-Length"。 

def getLength(self):
        s.send(packet)
        print "send success!"
        buf = s.recv(1024)
        print buf
        p = re.compile(r'Content-Length: (\d*)')
        length = int(p.findall(buf)[0])
        return length, buf

接下来就可以下载文件了，在这里我们也可以添加几行代码计算下载所用的时间：

def download(self):
        file = open(self.filename,'wb')
        length,buf = self.getLength()
        packetIndex = buf.index('\r\n\r\n')
        buf = buf[packetIndex+4:]
        file.write(buf)
        sum = len(buf)
        while 1:
            buf = s.recv(1024)
            file.write(buf)
            sum = sum + len(buf)
            if sum >= length:
                break
        print "Success!!"

if __name__ == "__main__":
    start = time.time()
    down = downloader()
    down.download()
    end = time.time()
    print "The time spent on this program is %f s"%(end - start)

运行结果示意图：

多线程

实现了单线程，接下来就是实现多线程了。怎么实现呢？

同样，首先抓取响应报文头部的"Content-Length"字段；然后便可以结合线程个数划分每个线程的下载范围；之后就可以加锁分段下载了。

与单线程的不同，这里将所有代码整合为一个文件，代码中使用更多的Python自带模块。

得到"Content-Length"： 

def getLength(self):
        opener = urllib2.build_opener()
        req = opener.open(self.url)
        meta = req.info()
        length = int(meta.getheaders("Content-Length")[0])
        return length

根据得到的Length，结合线程个数划分范围：

def get_range(self):
        ranges = []
        length = self.getLength()
        offset = int(int(length) / self.threadNum)
        for i in range(self.threadNum):
            if i == (self.threadNum - 1):
                ranges.append((i*offset,''))
            else:
                ranges.append((i*offset,(i+1)*offset))
        return ranges

实现多线程下载，有两点需要注意：

1. 在向文件写入内容时，向线程加锁，并使用with lock代替lock.acquire( )...lock.release( );
2. 使用file.seek( )设置文件偏移地址，保证写入文件的准确性。

def downloadThread(self,start,end):
        req = urllib2.Request(self.url)
        req.headers['Range'] = 'bytes=%s-%s' % (start, end)
        f = urllib2.urlopen(req)
        offset = start
        buffer = 1024
        while 1:
            block = f.read(buffer)
            if not block:
                break
            with lock:
                self.file.seek(offset)
                self.file.write(block)
                offset = offset + len(block)

    def download(self):
        filename = self.getFilename()
        self.file = open(filename, 'wb')
        thread_list = []
        n = 1
        for ran in self.get_range():
            start, end = ran
            print 'starting:%d thread '% n
            n += 1
            thread = threading.Thread(target=self.downloadThread,args=(start,end))
            thread.start()
            thread_list.append(thread)

        for i in thread_list:
            i.join()
        print 'Download %s Success!'%(self.file)
        self.file.close()

运行结果：

为了展示结果，在这里还是使用了下载图片为例，当然，你完全可以下载大点的文件夹等，我自己测试时下载了Python的安装包，亲测可用。

将(*.py)文件转化为(*.exe)可执行文件

以上，我们已经完成了一个多线程http下载器。但是，又有一个问题了，如何让那些没有安装Python的人使用这个工具呢？

这就需要将.py文件转化为.exe文件了。

怎么实现呢？

我自己也是第一次实现，网上查阅了些许资料，最终选择了Python的py2exe模块，初次使用，对其进行介绍：

py2exe是一个将Python脚本转换成windows上可独立执行的可执行文件（*.exe）的工具，这样，就可以不用装Python在windows上运行这个可执行程序。

接下来，在multiThreadDownload.py的同目录下，创建mysetup.py文件，编写：

from distutils.core import setup
import py2exe

setup(console=["multiThreadDownload.py"])

接着执行命令：Python mysetup.py py2exe

命令执行完毕，可以看到同目录下生成了dist和build文件夹，multiTjhreadDownload.exe文件位于其中，点击运行即可（如下图）：

执行.exe文件：

 

上面就是我使用Python实现多线程HTTP下载器的过程，各位有什么好的想法意见，还望不吝赐教!

该项目的链接：https://github.com/Yabea/HttpFileDownload

我的github：https://github.com/Yabea