2.1字符串(string)
2.1.1字符编码
每个国家定义自己的字符集时,一般字符集和编码都统一定义了。例如:GBK/GB2312/ASCII 除了字符集的含义也包含了编码格式含义;但是unicode字符集包含UTF-8编码和UTF-16编码
附:编码相关介绍链接
2.1.1.1编码类型
1、美国人首先对其英文字符进行了编码,也就是最早的ascii码,用一个字节的低7位来表示英文的128个字符,高1位统一为0;
2、后来欧洲人发现这128位不够用,比如法国人字母上面的还有注音符,这个怎么区分,于是把高1位编了进来,这样欧洲普遍使用一个全字节进行编码,最多可表示256位。欧美人字符少,编码用得位数少;
3、但是即使位数少,不同国家地区用不同的字符编码,虽然0--127表示的符号是一样的,但是128--255这一段的解释完全乱套了,即使2进制完全一样,表示的字符也完全不一样,比如135在法语,希伯来语,俄语编码中完全是不同的符号;
4、更麻烦的是,电脑高科技传到中国后,中国有10万多个汉字,欧美这256字塞牙缝都不够。于是就发明了GBK、GB2312这些汉字编码,典型的用2个字节来表示绝大部分的常用汉字,最多可以表示65536个汉字字符,这样就不难理解有些汉字可以在新华字典里查得到,但是电脑上如果不处理一下就显示不出来。
5、但是各用各的字符集编码,这世界咋统一?俄国人发封email给中国人,两边字符集编码不同,显示都是乱码啊。为了统一,于是就发明了unicode,将世界上所有的符号都纳入其中,每一个符号都给予一个独一无二的编码,现在unicode可以容纳100多万个符号,每个符号的编码都不一样,这下就统一了,所有语言都可以互通,一个网页页面里可以同时显示各国文字。
6、然而,unicode虽然统一了全世界字符的二进制编码,但没有规定如何存储。x86和amd体系结构的电脑小端序和大端序都分不清,别提计算机如何识别到底是unicode还是acsii了。如果Unicode统一规定,每个符号用三个或四个字节表示,那么每个英文字母前都必然有二到三个字节是0,文本文件的大小会因此大出二三倍,这对于存储来说是极大的浪费。这样导致一个后果:出现了Unicode的多种存储方式。
7、互联网的兴起,网页上要显示各种字符,必须统一。utf-8就是Unicode最重要的实现方式之一。另外还有utf-16、utf-32等。UTF-8不是固定字长编码的,而是一种变长的编码方式。它可以使用1~4个字节表示一个符号,根据不同的符号而变化字节长度。这是种比较巧妙的设计,如果一个字节的第一位是0,则这个字节单独就是一个字符;如果第一位是1,则连续有多少个1,就表示当前字符占用多少个字节。
8、注意unicode的字符编码和utf-8的存储编码表示是不同的,例如"严"字的Unicode码是4E25,UTF-8编码是E4B8A5,这个7里面解释了的,UTF-8编码不仅考虑了编码,还考虑了存储,E4B8A5是在存储识别编码的基础上塞进了4E25。
9、UTF-8 使用一至四个字节为每个字符编码。128 个 ASCII 字符(Unicode 范围由 U+0000 至 U+007F)只需一个字节,带有变音符号的拉丁文、希腊文、西里尔字母、亚美尼亚语、希伯来文、阿拉伯文、叙利亚文及马尔代夫语(Unicode 范围由 U+0080 至 U+07FF)需要二个字节,其他基本多文种平面(BMP)中的字符(CJK属于此类-Qieqie注)使用三个字节,其他 Unicode 辅助平面的字符使用四字节编码。
10、常规来看,中文汉字在utf-8中到底占几个字节,一般是3个字节,最常见的编码方式是1110xxxx 10xxxxxx 10xxxxxx。
1) Ascii:美国标准信息交换代码:256位,65-90(A-Z)/97-122(a-z) /48-57(0-9)
#Ascii码与字符互换
>>> chr(65)
'A'
>>> ord("A")
65
#按顺序输出所有大写字母
a=""
for i in range(65,91):
a+=chr(i)
print a
#判断一个句子中包含多少个字母
letters=""
for s in range(65,65+26):
letters+=chr(s)+chr(s+32)
print letters
content=raw_input("please input a sentence:")
#please input a sentence:I am a boy!
letter_count=0
for s in content:
if s in letters:
letter_count+=1
print letter_count
#简单加密,输入一个字母,输出字母表中后4位的字母,比如输入a,要求输出e,输入w,要求输出a
a= raw_input("please input a letter:")
if ord(a)<=85 and ord(a)>64:
#print ord(a)
print chr(ord(a)+4)
elif ord(a)<=117 and ord(a)>96:
#print ord(a)
print chr(ord(a)+4)
elif ord(a)>86 and ord(a)<90:
print ord(a)
print chr(ord(a)-22)
elif ord(a)>118 and ord(a)<122:
#print ord(a)
print chr(ord(a)-22)
else:
print "error"
2) Gbk/gb2312:中文字符编码集。Gb2312范围大,包含生僻字
3) Unicode:全世界范围内的字符编码集。编码格式包含utf-8(1-3位字节存储一个汉字或者其他字符,完全兼容ascii的256个字符)和utf-16(2个字节存储一个汉字,大小尾)、utf-32(4个字节存储一个汉字,比较占内存)
2.1.1.2默认编码
1) 查看默认编码
decode()默认编码为acsii
Python的默认编码为ACSII。
import sys
sys.getdefaultencoding()--->获取默认编码
2) 修改默认编码(不是永久生效)
import sys
reload(sys)
sys.setdefaultencoding(‘utf-8’)
2.1.1.3 unicode和str转换
str.decode(“utf8”):将str类型字符串解码为unicode类型
>>> a="pangwei"
>>> type(a)
<type 'str'>
>>> b=a.decode("utf8")
>>> type(b)
<type 'unicode'>
>>>
u”str”.encode(“gbk”):将unicode类型字符串编码为str类型
>>> b=u"pangwei"
>>> type(b)
<type 'unicode'>
>>> c=b.encode("gbk")
>>> type(c)
<type 'str'>
>>>
2.1.1.4 查看编码
import chardet
import urllib
#可根据需要,选择不同的数据
TestData = urllib.urlopen('http://www.baidu.com/').read()
print chardet.detect(TestData)
2.1.2原始字符串(r”str”)和unicode字符串(u”str”)
r”str”: 所有的字符串都是直接按照字面的意思来使用,没有转义特殊或不能打印的字符。原始字符串除在字符串的第一个引号前加上字母“ r ”(不区分大小写)以外,与普通字符串有着几乎完全相同的语法。
>>> print "adjfsf\ndasd"
adjfsf
dasd
>>> print r"adjfsf\ndasd"
adjfsf\ndasd
>>>
u”str”:unicode字符串,在字符串前面加一个字符u(不区分大小写),u”str”等价于”str”.decode(“utf8”)
>>> a=u"dasfd"
>>> type(a)
<type 'unicode'>
>>> a="dasfd"
>>> b=a.decode("utf8")
>>> type(b)
<type 'unicode'>
>>>
2.1.3换行、转义
\(在行尾时):续行符
>>> print "abc \
... abc"
abc abc
>>>
\b:退格(backspace),删除前面一个字符
>>> print "abc\babv"
ababv
>>>
\000:空
>>> print "abc\000abv"
abc abv
\n:换行
>>> print "abc\nabv"
abc
abv
>>>
\t:横向制表符,制表符前面的字符串占八个字符长度,不够的用空格填充,一般用于对齐表格的各列
>>> print "abc\tabv"
abc abv
>>> print(u"学号\t姓名\t语文\t数学\t英语")
学号 姓名 语文 数学 英语
>>> print(u"2017001\t曹操\t99\t88\t0")
2017001 曹操 99 88 0
>>> print(u"2017002\t周瑜\t92\t45\t93")
2017002 周瑜 92 45 93
>>> print(u"2017008\t黄盖\t77\t82\t100")
2017008 黄盖 77 82 100
2.1.4字符串运算
“str1”+”str2”:字符串连接
>>> a="hello"
>>> b="python"
>>> a+b
'hellopython'
“str1”*num:重复输出字符串
>>> a
'hello'
>>> a*3
'hellohellohello'
>>>
2.1.5切片操作sequence[a:b:c]
sequence[a:b:c]:可以对字符串、元组、列表等序列进行切片操作,其中a,b,c为三个非必填的参数,a表示操作的起始索引位置,b表示操作的终止索引位置,c代表步长;c的默认值为1
a=”abcdefghij”
a[0] >>>'a'
a[0:3] >>> 'abc'
a[3:] >>>'defghij'
a[:3] >>>'abc'
a[0:10:2] >>> 'acegi'
a[::-1] >>> 'jihgfedcba'
a[-1:] >>> 'j'
a[:-1] >>> 'abcdefghi' #从第一个元素开始取值,取到倒数第一个元素,等价于a[0:-1]
a[-2:-8:-2] >>> 'ige' #从倒数第二个数8开始取值,取到倒数第八个数2,步长为-2(倒着每隔两个元素取一个)
a[-2:-8:2] >>>''
2.1.6字符串格式化
>>> name="pangwei"
>>> age=25
>>> print "my name is %s and age is %s"%("name","age")
my name is name and age is age
>>> print "my name is %s and age is %s"%(name,age)
my name is pangwei and age is 25
>>> print "my name is %s and age is %d"%(name,age)
my name is pangwei and age is 25
>>>
2.1.7字符串常用方法
2.1.7.1 去掉字符串左右的空格(符号)
s.strip([chars]): 将S前后指定的字符串chars去掉,如果不带参数,把默认为把S前后所有的空白字符全部去掉,包括’\n’ , ‘\t’ , ‘\r’ , ’ ’等不可见字符串
s.lstrip([chars]):将S左边指定的字符串chars去掉
s.rstrip([chars]):将S右边指定的字符串chars去掉
>>> a=" \n pangwei \tabc\r* "
>>> a.strip()
'pangwei \tabc\r*'
>>> a.lstrip()
'pangwei \tabc\r* '
>>> a.rstrip()
' \n pangwei \tabc\r*'
>>> a="** \n pangwei \tabc\r**"
>>> a.strip("*")
' \n pangwei \tabc\r'
>>>
2.1.7.2 字符串大小写互换
s.lower():将字符串s中的大写字母转换为小写字母输出,字符串是不可变类型
>>> a="My name is Pangwei"
>>> a.lower()
'my name is pangwei'
>>> a
'My name is Pangwei'
>>>
函数实现:
def StrLower(s):
result=[]
if isinstance(s,(str,unicode,basestring)):
for i in s:
if i>="A" and i<="Z":
result.append(chr(ord(i)+32))
else:
result.append(i)
return "".join(result)
print StrLower("My name is Pangwei")
s.upper():将s中的小写字母转换为大写字母
>>> a="My name is Pangwei"
>>> a.upper()
'MY NAME IS PANGWEI'
>>> a
'My name is Pangwei'
>>>
s.swapcase():将s中的字母大小写互换
>>> a="My name is Pangwei"
>>> a.swapcase()
'mY NAME IS pANGWEI'
>>> a
'My name is Pangwei'
>>>
s.capitalize():将s中的首个字母转换为大写;注意:此方法会将s中除首字母之外的其他大写字母转换为小写
>>> a="My name is Pangwei"
>>> a.capitalize()
'My name is pangwei'
>>> a
'My name is Pangwei'
>>>
string.capwords(s):将s中每一个单词的首字母转换为大写,这是string模块中的方法,使用时需要引入string包;
>>> a="My name is Pangwei"
>>> import string
>>> string.capwords(a)
'My Name Is Pangwei'
>>> a
'My name is Pangwei'
>>>
s.title():将s中每一个单词的首字母转换为大写; 注意:此方法会将s中除每个单词首字母之外的其他大写字母转换为小写
>>> a="My name is Pangwei"
>>> a.title()
'My Name Is Pangwei'
>>> a
'My name is Pangwei'
>>>
2.1.7.3 字符串对齐
s.ljust(width,[fillchar]):输出width个字符,S左对齐,不足部分用fillchar填充,默认为空格。
s.rjust(width,[fillchar]):输出width个字符,S右对齐,不足部分用fillchar填充,默认为空格。
s.center(width,[fillchar]):输出width个字符,S居中对齐,不足部分用fillchar填充,默认为空格。
s.zfill(width):把s的长度变成width,并右对齐,不足部分用0补足
>>> a="pangwei"
>>> a.ljust(10,"*")
'pangwei***'
>>> a.rjust(10)
' pangwei'
>>> a.center(10,"-")
'-pangwei--'
>>> a.zfill(12)
'00000pangwei'
>>>
2.1.7.4 字符串查找
s.find(substr,[start,[end]]):在指定的范围内查找子字符串出现的位置,返回s中出现substr的第一个字母的索引标号,如果s中没有substr则返回-1,start和end表示在s[start,end]中搜索;
s.index(substr,[start,[end]]):与find用法基本一致,区别在于index找不到时会返回一个运行错误
>>> a="My name is pangwei"
>>> a.find(a)
0
>>> a.find("a")
4
>>> a.find("name")
3
>>> a.find("meis") #找不到返回-1
-1
>>> a.index("name")
3
>>> a.index("meis") #找不到会报错
Traceback (most recent call last):
File "<stdin>", line 1, in <module>
ValueError: substring not found
>>>
s.rfind(substr,[start,[end]]):在指定的范围内,从右侧开始查找子字符串出现的位置,返回找到的第一个substr的第一个字母的索引标号,如果s中没有substr则返回-1,start和end表示在s[start,end]中搜索,与s.find()的区别在于,它从end开始,从右往左遍历查找;
s.rindex(substr,[start,[end]]):与find用法基本一致,区别在于index找不到时会返回一个运行错误
>>> a="boy boy boy"
>>> a.rfind("boy",3)
8
>>> a.rfind("boy",9)
-1
>>> a.rfind("boy",3,7)
4
>>>
2.1.7.5 字符串替换
s.replace (oldstr,newstr,[count]):把s中的oldstr用newstr替换,count为替换的次数,默认为全部替换
>>> a
'boy boy boy'
>>> a.replace("bo","j")
'jy jy jy'
>>> a.replace("bo","j",1)
'jy boy boy'
>>>
string.marktrans(from,to):string包中的方法;返回一个256个字符组成的翻译表,其中from中的字符会被一对一的替换为to中的字符,所以from和to的长度必须一致
s.translate(table[,delchars]):使用string.marktrans产生的翻译表,把字符串s进行翻译,并把delchars中有的字符删掉。注意:如果s为unicode字符串,那么就不支持delchars参数。
>>> import string
>>> map=string.maketrans("abcde","12345")
>>> a="my name is pangwei"
>>> a.translate(map,"wg") #用翻译表替换a中对应的元素,并去掉’wg’
'my n1m5 is p1n5i'
>>>
s.expandtabs([tabsize]):将字符串中的tab(\t)字符替换为空格,每个tab替换为tabsize个空格
>>> a="boy boy boy"
>>> a.expandtabs(1)
'boy boy boy'
>>> a.expandtabs(3)
'boy boy boy'
2.1.7.6 字符串的分割
s.split([sep,[maxsplit]]):以sep为分割符,将字符串s分割为一个list,maxsplit为分割次数,默认为按空格分割
s.splitlines():以行(\n)为分割符分割字符串
s.rsplit():从右侧开始,对字符串进行分割
>>> a="my name is pangwei"
>>> a.split()
['my', 'name', 'is', 'pangwei']
>>> a.rsplit(" ",2)
['my name', 'is', 'pangwei']
>>> b="my*name*is*pangwei"
>>> b.split("*")
['my', 'name', 'is', 'pangwei']
>>>
2.1.7.7 将列表拼接为字符串(”sep”.join(list))
”sep”.join(list):以sep为拼接符,将list中元素拼接为一个字符串
>>> a=['my', 'name', 'is', 'pangwei']
>>> "".join(a)
'mynameispangwei'
>>> " ".join(a)
'my name is pangwei'
>>> "*".join(a)
'my*name*is*pangwei'
>>>
2.1.7.8 字符串统计
s.count(substr, [start, [end]]):统计substr在s中出现的次数;start和end表示在s[start,end]范围中统计
>>> a="boy boy my name is pangwei"
>>> a.count("y")
3
>>> a.count("boy",2)
1
>>>
2.1.8 常用的字符串判断
s.startswith(str):判断字符串s是否是以某个字符串(str)开头
s.endswith(str):判断字符串s是否是以某个字符串(str)结尾
str in/not in s:判断字符串s中是否存在某个字符串(str)
>>> a="my name is pangwei"
>>> a.startswith("my name")
True
>>> a.endswith("my")
False
>>> "pangwei" in a
True
>>> "name" not in a
False
>>>
s.isalpha():如果字符串s中全都是字母并且至少有一个字符(非空),则返回True,否则返回False
>>> a
'my name is pangwei'
>>> b="pangweipangwei"
>>> a.isalpha()
False
>>> b.isalpha()
True
>>>
s.isalnum():如果字符串s中全都是字母或者数字并且至少有一个字符(非空),则返回True,否则返回False
>>> a="pangwei123"
>>> b="pangwei *s32"
>>> c="23123"
>>> a.isalnum()
True
>>> b.isalnum()
False
>>> c.isalnum()
True
>>>
s.isdigit():如果字符串s中全都是由数字组成并且至少有一个字符(非空),则返回True,否则返回False
>>> a="12332"
>>> b="123 342"
>>> c=""
>>> a.isdigit()
True
>>> b.isdigit()
False
>>> c.isdigit()
False
>>>
s.isspace():如果字符串s中全都是空格并且至少有一个字符(非空),则返回True,否则返回False
>>> a=" "
>>> a.isspace()
True
>>>
s.islower():如果字符串s中的字母全都是小写并且至少有一个字母,则返回True,否则返回False
>>> a="abcdefg"
>>> b="abcAns"
>>> c="an sda"
>>> a.islower()
True
>>> b.islower()
False
>>> c.islower()
True
>>>
s.isupper():如果字符串s中的字母全都是大写并且至少有一个字母,则返回True,否则返回False
>>> a="ABCDFG"
>>> b="ACD DF"
>>> c="ACD cSd"
>>> a.isupper()
True
>>> b.isupper()
True
>>> c.isupper()
False
>>>
s.istitle():如果字符串s中所有单词首字母都是大写,其他字母都是小写并且至少有一个字母,则返回True,否则返回False
>>> "My name is Pangwei".istitle()
False
>>> "My Name Is Pangwei".istitle()
True
>>> "My Name Is PangWei".istitle()
False
>>>