Python os库 os.walk使用(详细教程、带实践)

Python os库 os.walk使用(详细教程、带实践)

-----------------------PS:env python version==3.10----------------

简介:

​ 本文以实际案例说明os.walk对文件的使用方式。主要教学内容:

  • os.walk库实际的使用
  • os.walk最佳实践
  • (可选)os.walk原理
  • (可选)迭代器方向理解

全文2000字左右,代码字数800(含迭代器180)左右,建议学习时间10-15min(不含迭代器)。若学习迭代器建议30min+

1 模拟实际使用环境

​ PS:仅作为案例说明参考,若已有可用的文件夹/目录,请移步第二步

image-20251222214254412

  1. 根据上图模拟实际使用情况:

    • 随意新建一个目录(确保不会有其他文件)

    • 在(新建目录的)根目录创建一个文件文件夹(名称随意,也可以参照我的样例来)

    • 进入root文件夹,新建两个次级文件夹(dir1dir2

      • root文件夹下直接创建次级目录文件F1.txt
      • 创建次级目录文件dir1dir2
        • 进入dir2文件夹
          • 创建文件(F2.txt

2 解析os.walk函数

面向基础讲解,详细见 os.walk官方说明

  • 什么是 python 的os

    • 本模块提供了一种使用与操作系统相关的功能的便捷式途径。(如文件路径控制、文件信息获取、遍历目录文件【os.walk】、其他系统调用功能)
  • os.walk函数讲解:

    os.walk(top, topdown=True, onerror=None, followlinks=False)

    • 主要聚焦于前两个参数即可:

      • top:根目录路径(str)
      • topdown:自上而下模式,默认(True)为自上而下遍历,False则从底向上遍历
    • 返回值:

      • 返回迭代器 ,迭代器每次生成的对象为:(dirpath, dirnames, filenames)

        dirpath: 当前文件夹路径

        dirnames:文件夹名称

        filenames:文件名称

      • 如果不理解迭代器,可以暂时理解为os.walk返回了 元组 (dirpath, dirnames, filenames)的列表,类似于下文 (省略双引号):

        [
        	(C:/user/, [root],[rott_text.txt] ),		#根目录
        	(C:/user/root, [dir1,dir2],[F1.txt] ),		#进入root文件夹
        	(C:/user/root/dir1, [],[] ),				#进入dir1文件夹
        	(C:/user/root/dir2, [],[F2.txt] )			#dir1中没有文件了,退回上一层级,进入dir2文件夹中
            #读取所有文件/文件名完毕,
        ]
        

        只不过他生成的特殊“列表”经常适用于for,不能直接作为列表打印,直接打印是这样子的:

        #code
        dir_path = r'your_dir'						#替换为你的文件夹
        dirpath, dirnames, filenames = os.walk(dir_path)
        print(f'dir_path:{dirpath}\ndir_name:{dirnames}\nfile_names:{filenames}')
        
        #result:
        	dirpath, dirnames, filenames = os.walk(dir_path)
        ValueError: too many values to unpack (expected 3)
        

        究其原因是返回的单个迭代器,并非三个列表元组,喜欢细究这部分的见后文,简要的话知道不能直接调用,一般结合for调用就好,这个并非深度挖掘,看完后面会看可能有更好的理解。

        迭代器学习建议:【Python】从迭代器到生成器:小内存也能处理大数据

3 调用样例:

前面参数有点不好理解也没关系,只要大概知道就好了,下面是实际函数使用

  1. 先复制下面代码至新py文件,改一下 dir_path运行一下体会一下
import os

def walk_example(dir_path:str):
    #os.walk 返回类似于三元组列表结构,然后进行遍历
    for root, dir_names, file_names in os.walk(dir_path):   #(dirpath, dirnames, filenames)
        print(f'dirpath :{root}')
        print(f'dir_names :{dir_names}')
        print(f'file_names:{file_names}')
        print('-'*50)


if __name__ == '__main__':
    dir_path = r'your_dir_path'
    walk_example(dir_path)
  1. 输出结果:

    image-20251222223407130

    这里可以看出(默认状态下),是从顶向下,一层层遍历。

    dirpath : x:\your_path\walk

    dir_names :['root']
    file_names:['root_text.txt']

    • 这里是根目录中出现的文件夹名称(root)、文件('root_text.txt')

    dirpath :x:\your_path\walk\root
    dir_names :['dir1', 'dir2']
    file_names:['F1.txt']

    • 进入了root文件夹,里面包含两个文件夹及当前文件夹根目录下的单个文件
      • 后面两个同理,主要是感受每一层级的变化,每次进入下一个文件夹时,root所表达的属性都会有所变化,变成了当前根路径。
      • 除此之外,可以看到,4项的dir_name输出,刚好是我们全部的目录名称,file_names同理
  2. 从上文,可以看出 os.walk函数的遍历结果会根据深入的层级输出以下信息:

    • 当前文件路径(str)
    • 存在的文件夹(list)
    • 存在的文件(list)

    把他们聚合起来,就能获取我们所需要的:

    • 提取文件夹信息(或处理)
    • 提取文件信息(或处理)

4 实际运用案例(最佳实践)

本小节会从以下几点来说明如何通过os.walk进行文件的提取及处理。

  • 提取全部信息(文件夹、文件)【理解调用方式】
  • 构造文件夹中,所有文件的路径
  • 根据关键字提取(文件/文件夹)路径

4.1 提取全部信息(文件夹、文件)【理解调用方式】

​ 很简单,只要把对应全部输出收集起来,就能获得我们需要的全文件名、文件信息了。

def walk_get_all_info(dir_path:str):
    '''
    获取所有文件名、文件信息
    :param dir_path: 输入文件夹路径
    '''
    dir_list = []
    file_list = []
    for root, dirnames, files in os.walk(dir_path):
        for dir_name in dirnames:
            dir_list.append(dir_name)
            # print(dir_name)					#不理解可以调试来一下理解一下,两者是相互独立的
        for file in files:
            file_list.append(file)
            # print(file)
    print(dir_list)
    print(file_list)
if __name__ == '__main__':
    dir_path = r'your_path'
    walk_get_all_info(dir_path)

​ 输出:

root
root_text.txt
dir1
dir2
F1.txt
F2.txt

4.2 构造文件夹中,所有文件的路径

​ 通过4.1 我们知道了os.walk的迭代方式。可以通过“当前根目录”与 “所需文件名称”相结合,从而遍历所有文件的路径。

def walk_get_file_path(dir_path:str):
    '''
    获取文件路径
    :param dir_path: 输入文件夹路径
    '''

    file_list = []
    for root, dirnames, files in os.walk(dir_path):
        print(f'local root path :{root}')
        for file in files:
            file_path = os.path.join(root, file)        #window 上,等价于 root + "\\" + file
            # file_path = root + "\\" + file
            print(f'file path :{file_path}')
            file_list.append(file_path)
        print('-'*50)
    print(file_list)

4.3 根据关键字提取文件路径

​ 这里以最简单的关键字提取,即 if keyword in file为例。

def filter_by_key_word(dir_path,key_word:str='F1'):   
    '''
    文件夹路径以关键字,递归查找符合关键字的文件
    :param dir_path: 输入根文件夹
    :param key_word: 关键字
    '''
    res:list = []
    for root, dirnames, files in os.walk(dir_path):
        for file in files:
            if key_word in file:
                res.append(
                    os.path.join(root, file)
                )
    print(res)
    return

按照预期,就应该输出F1

['E:\walk\root\F1.txt']

更改关键字,也可以做到筛选不同文件的功能,可以自己改一下。对files迭代改为对dirname迭代,一样能完成对文件夹的关键字提取,可以尝试一下

4.4 其他运用

​ 能找到文件地址,后续就可以按照你想处理的方式对文件进行处理了,这个根据各自需要进行扩展就好,教程结束。

5. 部分代码:

import os

def walk_example(dir_path:str):
	
    # walk_iter = os.walk(dir_path)
    # print(walk_iter.__next__())


    for root, dir_names, file_names in os.walk(dir_path):   #(dirpath, dirnames, filenames)
        print(f'dirpath :{root}')
        print(f'dir_names :{dir_names}')
        print(f'file_names:{file_names}')
        print('-'*50)


def walk_get_file_path(dir_path:str):
    '''
    获取文件路径
    :param dir_path: 输入文件夹路径
    '''

    file_list = []
    for root, dirnames, files in os.walk(dir_path):
        print(f'local root path :{root}')
        for file in files:
            file_path = os.path.join(root, file)        #window 上,等价于 root + "\\" + file
            # file_path = root + "\\" + file
            print(f'file path :{file_path}')
            file_list.append(file_path)
        print('-'*50)
    print(file_list)
    return

def filter_by_key_word(dir_path,key_word:str='F1'):
    '''
    文件夹路径以关键字,递归查找符合关键字的文件
    :param dir_path: 输入根文件夹
    :param key_word: 关键字

    '''
    res:list = []
    for root, dirnames, files in os.walk(dir_path):
        for file in files:
            if key_word in file:
                res.append(
                    os.path.join(root, file)
                )
    print(res)
    return

if __name__ == '__main__':
    dir_path = r'your_path'
    # walk_example(dir_path)
    # walk_get_file_path(dir_path)
    filter_by_key_word(dir_path)

6 迭代器相关(非必须)

​ 建议先去学习一下什么是迭代器,再看这个演示代码,对os.walk理解会更深,这边还是建议学一下的,如果够时间的话,趁学os.walk多学一个迭代器/生成器,何乐而不为呢,函数讲解塞里面了,就这样吧。

def iter_example(dir_path:str):
    '''
    迭代器理解代码
    :param dir_path:
    '''
    #我没记错的话,是要有__next__ 和 __iter__ 类方法,才能是迭代器类
    walk_iter = os.walk(dir_path)
    print(walk_iter.__next__())         #获取迭代器的下一个元素,一般都用next访问下一个元素
    print(walk_iter.__iter__())         #获取迭代器本身,这里os.walk返回的是generator object,本质上也是迭代器,不太能获取当前迭代器的元素噢!
    print(next(walk_iter))              #相同写法
    print('#'*25+"分隔符"+'#'*25)
    count = 0
    while True:
        count += 1
        try:
            print(f'next element:{walk_iter.__next__()}')
            print("-"*50 + f"{count}")
        except Exception as e:          #无可迭代对象后,会raise一个StopIteration Error
            # print('finish iter, break')
            # break                         #常规循环退出机制
            raise e

posted @ 2025-12-29 23:19  io_T_T  阅读(3)  评论(0)    收藏  举报