第一模块第10章文件IO操作
day10：文件处理
1.字符编码
编码与解码
怎么保证不乱码：以什么编码存的就必须以什么编码格式取
2.文件处理
文件处理基本流程
with语法
操作模式
控制文件读写的模式：r w a
控制文件读写内容的模式：t b
操作文件的方法
控制文件指针的移动
文件修改的两种方式
https://zhuanlan.zhihu.com/p/108808704
10.1 文件操作基本流程
应用程序运行过程中产生的数据最先是存在于内存中的, 若想永久保存下来, 必须保存于硬盘中. 应用程序若想操作硬盘必须经过操作系统, 而文件就是操作系统提供给应用程序来操作硬盘的虚拟概念, 用户或应用程序对文件的操作, 就是向操作系统发起调用, 然后由操作系统完成对硬盘的具体操作.
1. 打开文件
绝对路径:
windows系统中文件路径中包含右斜杠\, 右斜杠有转译的作用, 为了解决这一问题, 可以采用以下方式:
方式一: 加r
open(r'F:\python全栈开发\有用信息')
其中, r是rawstring的意思
方式二: 右斜杠改为左斜杠
open('F:/python全栈开发/有用信息')
linux系统中本身是左斜杠, 所以不存在这一问题.
相对路径:
相对于当前文件夹的位置
f = open('文件路径'), 其中f的值是一种变量, 占用的是应用程序的内存空间.
open除了造变量值以外, 还会向操作系统发送请求, 要求打开文件. 操作系统会在操作系统的内存空间中划一块空间, 专门维护打开的文件. 综上, 可以看出f=open其实涉及到两方面资源的占用: 一是站在变量的角度, 占用的是应用程序的内存空间, 另一个是站在操作系统的角度, 占用的是操作系统的内存空间.
相较于 x=10, 后者只占应用程序的内存空间.
2. 操作文件: 读/写文件
应用程序对文件的读写请求都是在向操作系统发送系统调用, 然后由操作系统控制硬盘把数据读入内存或写入硬盘.
默认操作模式是r, 默认操作内容的模式是t. 所以, 如果不指定, 默认模式就是rt.
f.read()给操作系统真正的文件发送请求, 操作系统将文件内容从硬盘读取到操作系统内存, 再转交给应用程序, 并将读取到的内容赋值给一个变量.
3. 关闭文件
f.close(): 告诉操作系统将打开的文件关掉, 回收操作系统资源. python程序管理不到, 需要自己管理
del f: 解除变量名f与变量值的绑定关系, 回收应用程序资源. 通常由python管理, 不需要自己管理
注意: 两者顺序不能调换.
f.close()后变量f存在, 但是不能再读.
综上, 操作完成后, 一定要f.close(), 因为操作系统能打开的文件数是有限的.
了解内容: 操作系统能够打开的文件数是一定的, 所以有时候为了能够要更多用户都能操作硬盘, 则需要优化操作系统能够同时打开的文件数.
8.2 with上下文管理
open()的返回值叫作文件对象, 又称文件句柄.
# 方式1: 文件操作完成后必须写f.close() f = open('a.txt', mode='r', encoding='utf-8') res = f.read() print(res) f.close() # 方式2: 文件操作完成后不必写f.close() with open('b.txt', mode='r', encoding='utf-8') as f: res = f.read() print(res) with open('a.txt', mode='r', encoding='utf-8') as f1,\ open('b.txt', mode='r', encoding='utf-8') as f2: res1 = f1.read() res2 = f2.read() print(res1) print(res2) # 其中\表示转译, 其前后两行同为一行.
总结: 在使用f = open('a.txt', mode='r', encoding='utf-8')时, 操作完成后必须执行: f.close()
如果使用with open('a.txt', mose='r', encoding='utf-8') as f:时, 操作完成后不必执行: f.close()
而且, 使用前者, 后面的代码无序缩进, 使用后者, 后面的代码需要缩进.
8.3 指定字符编码
1. 控制文件读写内容的模式
大前提: tb模式均不能单独使用,必须与r/w/a之一结合使用
t（默认的）：文本模式
1. 读写文件都是以字符串(unicode)为单位的
2. 只能针对文本文件
3. 必须指定encoding参数
b：二进制模式:
1.读写文件都是以bytes/二进制为单位的
2. 可以针对所有文件
3. 一定不能指定encoding参数
没有指定encoding参数, 操作系统会使用自己默认的编码
linux和mac系统默认的都是utf-8
windows系统默认的是gbk
示例:
创建c.txt使用的编码格式是utf-8, 在打开文件时没有指定编码格式, windows会默认采用gbk的格式对存在硬盘上的编码进行解码(将utf-8格式的编码解码成unicode), 所以会导致报错.
8.4 控制文件操作的模式
1. r(默认的操作模式): 只读模式, 不可写
# r只读模式: 在文件不存在时则报错,文件存在文件内指针直接跳到文件开头 with open('a.txt',mode='r',encoding='utf-8') as f: res=f.read() # 会将文件的内容由硬盘全部读入内存，赋值给res # 小练习：实现用户认证功能 inp_name=input('请输入你的名字: ').strip() inp_pwd=input('请输入你的密码: ').strip() with open(r'db.txt',mode='r',encoding='utf-8') as f: for line in f: # 把用户输入的名字与密码与读出内容做比对 u,p=line.strip('\n').split(':') if inp_name == u and inp_pwd == p: print('登录成功') break else: print('账号名或者密码错误')
f.read()的局限性:
f.read()将所有内容从硬盘读入内存, 如果文件比较大, 则会占用大量的内存.
f.read()读完之后, 指针就在最后, 如果继续读的话就读不出内容了. 如果重新打开文件, 再读则没有问题.
2. w(清空写): 只写模式, 不可读
# w只写模式: 在文件不存在时会创建空文档,文件存在会清空文件,文件指针跑到文件开头 with open('b.txt',mode='w',encoding='utf-8') as f: f.write('你好\n') f.write('我好\n') f.write('大家好\n') f.write('111\n222\n333\n') #强调： # 1 在文件不关闭的情况下,连续的写入，后写的内容一定跟在前写内容的后面 # 2 如果重新以w模式打开文件，则会清空文件内容
如果想要换行, 需要自己添加\n
案例:
# copy文本文件 with open('a.txt', mode='r', encoding='utf-8') as f1,\ open('f.txt', mode='w', encoding='utf-8') as f2: for line in f1: f2.write(line) # 复制文本文件的小程序 src_file = input('源文件路径:').strip() dst_file = input('目标文件路径:').strip() with open(r'{}'.format(src_file), mode='r', encoding='utf-8') as f1,\ open(r'{}'.format(dst_file), mode='w', encoding='utf-8') as f2: for line in f1: f2.write(line) # F:\python全栈开发\python\day11\a.txt # F:\python全栈开发\python\day11\f.txt
3. a(只追加写): 只写, 不能读
用来在原有文件内存的基础之上写入新的内容, 比如记录日志, 注册
# a只追加写模式: 在文件不存在时会创建空文档,文件存在会将文件指针直接移动到文件末尾 with open('c.txt',mode='a',encoding='utf-8') as f: f.write('44444\n') f.write('55555\n') #强调 w 模式与 a 模式的异同： # 1 相同点：在打开的文件不关闭的情况下，连续的写入，新写的内容总会跟在前写的内容之后 # 2 不同点：以 a 模式重新打开文件，不会清空原文件内容，会将文件指针直接移动到文件末尾，新写的内容永远写在最后 # 小练习：实现注册功能: name=input('username>>>: ').strip() pwd=input('password>>>: ').strip() with open('db1.txt',mode='a',encoding='utf-8') as f: info='%s:%s\n' %(name,pwd) f.write(info)
4. +模式的使用(了解):
+不能单独使用, 必须配合r w a
# r+ w+ a+ :可读可写 #在平时工作中，我们只单纯使用r/w/a，要么只读，要么只写，一般不用可读可写的模式
r+: 以r为基础, 文件不存在, 就会报错. r模式打开文件, 指针在开头, 写内容后会覆盖掉原来的部分内容.
w+: 以w为基础, 文件不存在, 会创建新文件, 文件存在会清空后写.
a+: 以a为基础, 文件不存在创建, 文件存在在末尾添加.
5. x模式(了解)
只写模式, 不可读, 文件不存在则创建, 存在则报错.
关于换行符的说明:
不同平台之间, 换行符存在差异, windows下换行符为\r\n, linux和mac平台下为\n.
其中\r指指针回到行首, \n指换行. 后来为了节约内存, 对换行符进行了精减. 为了实现跨平台性, python对换行符进行了统一, 以后写直接用\n就行.
8.5 控制文件读写内容的模式
大前提: tb模式均不能单独使用,必须与r/w/a之一结合使用 t（默认的）：文本模式 1. 读写文件都是以字符串为单位的 2. 只能针对文本文件 3. 必须指定encoding参数 b：二进制模式: 1.读写文件都是以bytes/二进制为单位的 2. 可以针对所有文件 3. 一定不能指定encoding参数
8.5.1 案例一: t模式的使用
# t 模式：如果我们指定的文件打开模式为r/w/a，其实默认就是rt/wt/at with open('a.txt',mode='rt',encoding='utf-8') as f: res=f.read() print(type(res)) # 输出结果为：<class 'str'> with open('a.txt',mode='wt',encoding='utf-8') as f: s='abc' f.write(s) # 写入的也必须是字符串类型 #强调：t 模式只能用于操作文本文件,无论读写，都应该以字符串为单位，而存取硬盘本质都是二进制的形式，当指定 t 模式时，内部帮我们做了编码与解码
8.5.2 案例二: b模式的使用
# b: 读写都是以二进制位单位 with open('1.mp4',mode='rb') as f: data=f.read() print(type(data)) # 输出结果为：<class 'bytes'> with open('a.txt',mode='wb') as f: msg="你好" res=msg.encode('utf-8') # res为bytes类型 f.write(res) # 在b模式下写入文件的只能是bytes类型 #强调：b模式对比t模式 1、在操作纯文本文件方面t模式帮我们省去了编码与解码的环节，b模式则需要手动编码与解码，所以此时t模式更为方便 2、针对非文本文件（如图片、视频、音频等）只能使用b模式 # 小练习： 编写拷贝工具 src_file=input('源文件路径: ').strip() dst_file=input('目标文件路径: ').strip() with open(r'%s' %src_file,mode='rb') as read_f,open(r'%s' %dst_file,mode='wb') as write_f: for line in read_f: # print(line) write_f.write(line)
# with open(r'F:\python_day01-day52\S18day001-day052\day01 初识python\video\01 计算机基本认识.mp4', mode='rb', # encoding='utf-8') as f: # res = f.read() # 将硬盘中的二进制读入内存, b模式下不做任何转换, 直接读入内存 # print(res) # python对二进制做了一定的处理, 处理成了bytes类型, 以后可以将bytes类型当成二进制看 with open('a.txt', mode='rb') as f: res = f.read() print(res) print(res.decode('utf-8')) ''' print(res)的结果: b'aaa\r\n\xe5\x95\x8a\xe5\x95\x8a\xe5\x95\x8a\r\n\xe5\x91\x80\xe5\x91\x80\xe5\x91\x80' a.txt中的内容是以utf-8写进去的, 在以rb模式读的时候会将utf-8格式的二进制直接读入内存, 不会进行任何转化. 然后使用decode将utf-8格式的代码转化为unicode. 当然, 打印出来的不是直接的二进制格式, 而是python转化后的字节形式, 而且英文字符原样输出, 一个中文字符在utf-8下占三个字节 一个字节转化为了十六进制, 例如xe5, 其中x表示十六进制, e代表8位中的前4位, 5代表8位中的后4位 换行在windows下为\r\n 由此可见, 文本文件也可以通过b模式进行操作, 只不过需要手动进行编码和解码, 而t模式在处理文本文件时则更方便, 不过t模式只适用于文本文件 '''
copy案例:
# for循环 # 以行为单位读, 当一行内容过长时, 会导致一次性读入内存的数据量过大 src_file = input('源文件路径:').strip() dst_file = input('目标文件路径:').strip() with open(r'{}'.format(src_file), mode='rb') as f1, \ open(r'{}'.format(dst_file), mode='wb') as f2: for line in f1: f2.write(line) # while循环 # 自己控制每次读取的数据量 with open(r'C:\Users\wangjian_tr\Desktop\0.png', mode='rb') as f1,\ open(r'C:\Users\wangjian_tr\Desktop\1.png', mode='wb') as f2: while True: res = f1.read(1024) f2.write(res) if len(res) == 0: break
8.6 文件操作的其他方法
8.6.1 重点
# 读操作 f.read() # 读取所有内容,执行完该操作后，文件指针会移动到文件末尾 f.readline() # 读取一行内容,光标移动到第二行首部 f.readlines() # 读取每一行内容,存放于列表中
# readline
with open('a.txt', mode='rt', encoding='utf-8') as f:
while 1:
res = f.readline()
if len(res) == 0:
break
print(res, end='')
# 强调： # f.read()与f.readlines()都是将内容一次性读入内存，如果内容过大会导致内存溢出，若还想将内容全读入内存，则必须分多次读入，有两种实现方式： # 方式一 with open('a.txt',mode='rt',encoding='utf-8') as f: for line in f: print(line) # 同一时刻只读入一行内容到内存中 # 方式二 with open('1.mp4',mode='rb') as f: while True: data=f.read(1024) # 同一时刻只读入1024个Bytes到内存中 if len(data) == 0: break print(data) # 写操作 f.write('1111\n222\n') # 针对文本模式的写,需要自己写换行符 f.write('1111\n222\n'.encode('utf-8')) # 针对b模式的写,需要自己写换行符 f.writelines(['333\n','444\n']) # 文件模式, 循环写入文件 f.writelines([bytes('333\n',encoding='utf-8'),'444\n'.encode('utf-8')]) #b模式, 其中采用了两种将str转化为bytes的方法
# readline with open('a.txt', mode='rt', encoding='utf-8') as f: while 1: res = f.readline() if len(res) == 0: break print(res, end='') # writelines: 将可迭代对象中的内容循环写入文件 # 以文本的方式写入 with open('b.txt', mode='wt', encoding='utf-8') as f: f.writelines(['aaa\n', '中国']) # 相当于以下操作 lst = ['aaa\n', '中国'] with open('c.txt', mode='wt', encoding='utf-8') as f: for el in lst: f.write(el) # 注意: write()中的内容只能为两种格式, 一种是str, 一种是bytes, 如果是其他格式, 则会报错 # 以字节的形式写入 with open('b.txt', mode='wb') as f: f.writelines([b'aaa\n', '中国\n'.encode('utf-8')]) # 纯英文字符前面直接加b就可以转化为字节类型, 中文不行, 需要使用encode.
f.writelines([bytes('ccc\n', encoding='utf-8'), bytes('ddd', encoding='utf-8')]) ''' 字符串到字节的转化: 1. 纯英文字符前面直接加b即可转化为字节类型 2. 中文字符转化的两种方式: '上'.encode('utf-8') bytes('上', encoding='utf-8') 以上两种方式效果相同, 实际上encode底层就是调用了encoding功能 ''' ''' f.flush()主要用于写操作 f.read()将硬盘的数据读入内存 f.write()将内存的数据写入硬盘, 但是不会立即将内容写入硬盘, 会攒一波再写如果想让操作系统立马将内容写入硬盘, 则需要使用f.flush(), 实际上, 操作系统采用的是优化机制, 大多数情况下并不需要这么做. 测试的时候可以使用f.flush() '''
8.6.2 了解
f.readable() # 文件是否可读 f.writable() # 文件是否可写 f.closed # 文件是否关闭 f.encoding # 如果文件打开模式为b,则没有该属性 f.flush() # 立刻将文件内容从内存刷到硬盘 f.name
8.7 主动控制文件内指针移动
#大前提:文件内指针的移动都是Bytes为单位的,唯一例外的是t模式下的read(n),n以字符为单位 with open('a.txt',mode='rt',encoding='utf-8') as f: data=f.read(3) # 读取3个字符 with open('a.txt',mode='rb') as f: data=f.read(3) # 读取3个Bytes # 之前文件内指针的移动都是由读/写操作而被动触发的，若想读取文件某一特定位置的数据，则需要用f.seek方法主动控制文件内指针的移动，详细用法如下： # f.seek(指针移动的字节数,模式控制): # 模式控制: # 0: 默认的模式,该模式代表指针移动的字节数是以文件开头为参照的 # 1: 该模式代表指针移动的字节数是以当前所在的位置为参照的 # 2: 该模式代表指针移动的字节数是以文件末尾的位置为参照的 # 强调:其中0模式可以在t或者b模式使用,而1跟2模式只能在b模式下用
8.7.1 案例一: 0模式详解
# a.txt用utf-8编码，内容如下（abc各占1个字节，中文“你好”各占3个字节） abc你好 # 0模式的使用 with open('a.txt',mode='rt',encoding='utf-8') as f: f.seek(3,0) # 参照文件开头移动了3个字节 print(f.tell()) # 查看当前文件指针距离文件开头的位置，输出结果为3 print(f.read()) # 从第3个字节的位置读到文件末尾，输出结果为：你好 # 注意：由于在t模式下，会将读取的内容自动解码，所以必须保证读取的内容是一个完整中文数据，否则解码失败 with open('a.txt',mode='rb') as f: f.seek(6,0) print(f.read().decode('utf-8')) #输出结果为: 好
8.7.2 案例二: 1模式详解
# 1模式的使用 with open('a.txt',mode='rb') as f: f.seek(3,1) # 从当前位置往后移动3个字节，而此时的当前位置就是文件开头 print(f.tell()) # 输出结果为：3 f.seek(4,1) # 从当前位置往后移动4个字节，而此时的当前位置为3 print(f.tell()) # 输出结果为：7
8.7.3 案例三: 2模式详解
# a.txt用utf-8编码，内容如下（abc各占1个字节，中文“你好”各占3个字节） abc你好 # 2模式的使用 with open('a.txt',mode='rb') as f: f.seek(0,2) # 参照文件末尾移动0个字节， 即直接跳到文件末尾 print(f.tell()) # 输出结果为：9 f.seek(-3,2) # 参照文件末尾往前移动了3个字节 print(f.read().decode('utf-8')) # 输出结果为：好 # 小练习：实现动态查看最新一条日志的效果 import time with open('access.log',mode='rb') as f: f.seek(0,2) while True: line=f.readline() if len(line) == 0: # 没有内容 time.sleep(0.5) else: print(line.decode('utf-8'),end='')
8.7.4 tail -f的原理
tail -f指令应用于linux系统中, 实时捕获日志的最新状态
# access.log 2020年6月存款100元 打印凭证 2020年6月存款100元 打印凭证 2020年6月存款100元 打印凭证
# 日志写入 with open('access.log', mode='a', encoding='utf-8') as f: f.write('2020年6月存款100元\n打印凭证\n')
# tail -f程序 import time with open('access.log', mode='rb') as f: f.seek(0, 2) while True: res = f.readline() if len(res) == 0: time.sleep(0.2) else: print(res)
8.8 文件修改
# 文件a.txt内容如下 张一蛋 山东 179 49 12344234523 李二蛋 河北 163 57 13913453521 王全蛋 山西 153 62 18651433422 # 执行操作 with open('a.txt',mode='r+t',encoding='utf-8') as f: f.seek(9) f.write('<妇女主任>') # 文件修改后的内容如下 张一蛋<妇女主任> 179 49 12344234523 李二蛋 河北 163 57 13913453521 王全蛋 山西 153 62 18651433422 # 强调： # 1、硬盘空间是无法修改的,硬盘中数据的更新都是用新内容覆盖旧内容 # 2、内存中的数据是可以修改的
文件对应的是硬盘空间, 硬盘不能修改对应着文件本质也不能修改, 那我们看到的文件内容可以修改, 是如何实现的呢? 大致的思路是将硬盘中文件内容读入内存, 然后在内存中修改完毕后再覆盖回硬盘, 具体的实现方式分为两种:
8.8.1 文件修改方式一:
文本编辑器采用这种方式
# 实现思路：将文件内容发一次性全部读入内存,然后在内存中修改完毕后再覆盖写回原文件 # 优点: 在文件修改过程中同一份数据只有一份 # 缺点: 会过多地占用内存 with open('db.txt',mode='rt',encoding='utf-8') as f: data=f.read() with open('db.txt',mode='wt',encoding='utf-8') as f: f.write(data.replace('kevin','SB'))
# 注意: 不能用以下方式进行操作:
with open('db.txt',mode='rt',encoding='utf-8') as f,\
open('db.txt', mode='wt', encoding='utf-8') as f1:
pass
# 因为以上方式会在以rt模式打开文件后, 紧接着以wt方式打开文件, 后者会清空文件中的内容. 最上面的方式不会出现问题, 因为已经将文件内容读到了内存, 后面再写就可以.
8.8.2 文件修改方式二:
# 实现思路：以读的方式打开原文件,以写的方式打开一个临时文件,一行行读取原文件内容,修改完后写入临时文件...,删掉原文件,将临时文件重命名原文件名 # 优点: 不会占用过多的内存 # 缺点: 在文件修改过程中同一份数据存了两份 import os with open('db.txt',mode='rt',encoding='utf-8') as read_f,\ open('.db.txt.swap',mode='wt',encoding='utf-8') as wrife_f: for line in read_f: wrife_f.write(line.replace('SB','kevin')) os.remove('db.txt') os.rename('.db.txt.swap','db.txt')
浙公网安备 33010602011771号