今天向大家介绍使用Python编写一个多线程HTTP下载器。为了方便大家的使用，使用py2exe模块生成(*.exe)可执行文件。
环境：windows/Linux + Python2.7.x
在介绍多线程之前首先介绍单线程。(本文将着重使用代码进行说明。)
单线程
编写单线程的思路为：
1、解析url;
2、连接web服务器;
3、构造http请求包;
4、下载文件。
解析url
通过用户输入url进行解析，需要解析得到：路径(path)、主机名(host)、端口号(port)以及文件名(filename)。
关于以下几点进行说明：
1、如果解析的路径为空，则赋值为'/';
2、如果端口号为空，则赋值为"80”;
3、下载文件的文件名可根据用户的意愿进行更改(输入'y'表示更改，输入其它表示不需要更改)。
下面列出几个解析函数：
import urllib
def analyHostAndPath(totalUrl):
protocol,s1 = urllib.splittype(totalUrl)
host, path = urllib.splithost(s1)
if path == '':
path = '/'
return host, path
def analysisPort(host):
host, port = urllib.splitport(host)
if port is None:
return 80
return port
def analysisFilename(path):
filename = path.split('/')[-1]
if '.' not in filename:
return None
return filename
连接web服务器
上文解析了url，那么解析得到的数据有什么用呢?
这里就要用到了。使用socket模块，根据解析url得到的host和port连接web服务器：
import socket from analysisUrl import port, host ip = socket.gethostbyname(host) s = socket.socket(socket.AF_INET,socket.SOCK_STREAM) s.connect((ip, port)) print "success connected webServer"
构造http请求包
连接了web服务器，接下来当然就是要向服务器发送请求了，发送请求之前需要构造http请求包，怎么构造呢?
哈哈，这里又要用到解析URL得到的内容了，根据http请求包的格式，根据解析得到的path, host, port构造一个HTTP请求包：
from analysisUrl import path, host, port
packet = 'GET ' + path + ' HTTP/1.1\r\nHost: ' + host + '\r\n\r\n'
下载文件
连接了web服务器，构造了http请求包，接下来终于可以向web服务器发送请求了。
根据服务器的响应，保存对应的buffer，就可以下载文件了。
为了保证下载文件的完整性和准确性，首先，抓取响应报文头部的"Content-Length"：
def getLength(self):
s.send(packet)
print "send success!"
buf = s.recv(1024)
print buf
p = re.compile(r'Content-Length: (\d*)')
length = int(p.findall(buf)[0])
return length, buf
接下里，下载文件并计算下载所用的时间：
def download(self):
file = open(self.filename,'wb')
length,buf = self.getLength()
packetIndex = buf.index('\r\n\r\n')
buf = buf[packetIndex+4:]
file.write(buf)
sum = len(buf)
while 1:
buf = s.recv(1024)
file.write(buf)
sum = sum + len(buf)
if sum >= length:
break
print "Success!!"
if __name__ == "__main__":
start = time.time()
down = downloader()
down.download()
end = time.time()
print "The time spent on this program is%fs"%(end - start)
这样，单线程http下载器就完成了。运行结果示意图：
多线程
实现了单线程，接下来就是实现多线程了。怎么实现呢?
同样，首先抓取响应报文头部的"Content-Length"字段;然后便可以结合线程个数划分每个线程的下载范围;之后就可以加锁分段下载了。
与单线程的不同，这里将所有代码整合为一个文件，代码中使用更多的Python自带模块。
得到"Content-Length"：
def getLength(self):
opener = urllib2.build_opener()
req = opener.open(self.url)
meta = req.info()
length = int(meta.getheaders("Content-Length")[0])
return length
根据得到的Length，结合线程个数划分范围：
def get_range(self):
ranges = []
length = self.getLength()
offset = int(int(length) / self.threadNum)
for i in range(self.threadNum):
if i == (self.threadNum - 1):
ranges.append((i*offset,''))
else:
ranges.append((i*offset,(i+1)*offset))
return ranges
实现多线程下载，有两点需要注意：
1、在向文件写入内容时，向线程加锁，并使用with lock代替lock.acquire( )...lock.release( );
2、使用file.seek( )设置文件偏移地址，保证写入文件的准确性。
def downloadThread(self,start,end):
req = urllib2.Request(self.url)
req.headers['Range'] = 'bytes=%s-%s' % (start, end)
f = urllib2.urlopen(req)
offset = start
buffer = 1024
while 1:
block = f.read(buffer)
if not block:
break
with lock:
self.file.seek(offset)
self.file.write(block)
offset = offset + len(block)
def download(self):
filename = self.getFilename()
self.file = open(filename, 'wb')
thread_list = []
n = 1
for ran in self.get_range():
start, end = ran
print 'starting:%dthread '% n
n += 1
thread = threading.Thread(target=self.downloadThread,args=(start,end))
thread.start()
thread_list.append(thread)
for i in thread_list:
i.join()
print 'Download%sSuccess!'%(self.file)
self.file.close()
运行结果：
为了展示结果，在这里还是使用了下载图片为例，当然，你完全可以下载大点的文件夹等，我自己测试时下载了Python的安装包，亲测可用。
将.py文件转化为.exe可执行文件
以上，我们已经完成了一个多线程http下载器。但是，又有一个问题了，如何让那些没有安装Python的人使用这个工具呢?
这就需要将.py文件转化为.exe文件了。
怎么实现呢?
我自己也是第一次实现，网上查阅了些许资料，最终选择了Python的py2exe模块，初次使用，对其进行介绍：
py2exe是一个将Python脚本转换成windows上可独立执行的可执行文件(*.exe)的工具，这样，就可以不用装Python在windows上运行这个可执行程序。
接下来，在multiThreadDownload.py的同目录下，创建mysetup.py文件，编写：
from distutils.core import setup
import py2exe
setup(console=["multiThreadDownload.py"])
接着执行命令：Python mysetup.py py2exe
命令执行完毕，可以看到同目录下生成了dist和build文件夹，multiTjhreadDownload.exe文件位于其中，点击运行即可(如下图)：
上面就是我使用Python实现多线程HTTP下载器的过程。
