Python MYSQL - tiny ETL tool - 文件操作和数据库操作

import os
import MySQLdb
Con= MySQLdb.connect(host='localhost',user='root',passwd='1234',db='test') #链接数据库
cur=Con.cursor() 
os.chdir("E:/etl_folder")    #改变工作路径
for i in os.listdir(os.getcwd()):     #得到工作路径下的文件
    if(os.path.isfile(i)):
        aa= os.getcwd()+"\\"+i     #文件夹操作是\\是\因为转移符的原因
        aa=aa.replace("\\","/")  #将\\替换成/
        try:
            cur.execute('load data local infile "'+aa+'" into table test.cnhub ignore 1 lines(Date,SiloID,Retailer,Vendor,Duration) ')
        except e:
            log = open("Script/log.txt","a")
            log.write(e)
            log.close()
        else:
            os.rename(i,"E:/etl_folder/Archived/Archived_"+i)  #将Load过的文件移到archive文件夹里  
Con.commit()  #提交数据库
cur.close()
Con.close()

 

 

然后windows计划任务中设置一下,就是一个daily简易的MYSQL ETL工具啦!!!!!!!!!

posted @ 2015-05-12 16:16  西番莲果汁  阅读(766)  评论(0编辑  收藏  举报