最近自学爬虫的过程中,发现了这本书上个别会引发运行错误的代码,解决后,进行记录。
一,第五章第一节媒体文件中的一段代码
书上原代码为:
def getDownloadPath(baseUrl, absoluteUrl, downloadDirectory):
path = adsoluteUrl.replace("www.","")
path = path.replace(baseUrl, "")
path = downloadDirectory+path
directory = os.path.dirname(path)
if not os.path.exists(directory):
os.makedirs(directory)
return path
运行时,会报错。我的思路如下:
第一步,对照书本核对代码正确与否。
第二步,将报错输入搜索引擎百度、谷歌,没有搜到。
第三步,尝试自己去修改代码。一句句代码思考的过程中,发现了,要下载的文件名,在path所记录的url就有,在这个文件名后有多余的字符串,这段多余的字符串,使之无法正确识别文件名。
于是尝试加了一段正则表达式。去除多余的字符串。
在尝试过程中,发现网上有一帖子讲解该本书上该段代码的一个修改办法,于是进行了尝试。顺利改完。在这里用了re.sub()函数。
改后的代码为:
def getDownloadPath(baseUrl, absoluteUrl, downloadDirectory):
path = absoluteUrl.replace("www.", "")
path = path.replace(baseUrl, "")
path = re.sub("\?.*", "", path)
path = downloadDirectory+path
directory = os.path.dirname(path)
if not os.path.exists(directory):
os.makedirs(directory)
return path
二、第五章第三节mysql关于连接数据库函数
原代码如下:
conn = pymysql.connect(host='127.0.0.1', unix_socket='/tmp/mysql.sock',
user='root', passwd='123456', db='mysql', charset='utf8')
报错AttributeError: module ‘socket’ has no attribute ‘AF_UNIX’
改一个参数即可,改后如下:
conn = pymysql.connect(host='127.0.0.1', port=3306,
user='root', passwd='123456', db='mysql', charset='utf8')
三、第五章第三节mysql的一段创建表单的代码
原代码如下:
CREATE TABLE 'wikipedia'.'pages'(
'id' INT NOT NULL AUTO_INCREMENT,
'url' VARCHAR(255) NOT NULL,
'created' TIMESTAMP NOT NULL DEFAULT CURRENT_TIMESTAMP,
PRIMARY KEY('id'))
运行报错如下:
1064 - You have an error in your SQL syntax; check the manual that corresponds to your MySQL server version for the right syntax to use near ''wikipedia'.'pages'(
'id' INT NOT NULL AUTO_INCREMENT,
'url' VARCHAR(255) NOT ' at line 1
思路如下:
第一步,查询和书上是否一致。(一致)
第二步,搜索错误,搜不到(可能是我智商拙计,不得搜索的精髓所在。)。
第三步,解析代码,自行解决问题。
这就是一段创建新表的代码。在对照前面运行正常的mysql代码后,发现了,前面的表名和字段声明都没用引号,尝试全部去除引号,引发了表名的错误声明,再修改表名后,运行正常。
代码如下:
CREATE TABLE wikipedia_pages(
id INT NOT NULL AUTO_INCREMENT,
url VARCHAR(255) NOT NULL,
created TIMESTAMP NOT NULL DEFAULT CURRENT_TIMESTAMP,
PRIMARY KEY(id));
此处可以用点命名,前提是声明了数据库wikipedia,本书下文也要用到wikipedia。
现阶段就遇到这些。如果哪里理解错误,大神看到请多多指点。如果后面我还活着,遇到这本书上有问题的,依旧会尝试记录下来。