utf8编码转换脚本

  差不多去年的这个时候吧,由于项目组的编码从GBK转向UTF-8,让我来负责转换所有的源文件,当时frank给了我一个转换的脚本,可以过滤文件类型来转换,由于是frank自己使用的工具,所以也没怎么注意容错,基本上可以理解成是对某些类型的文件使用iconv -f gbk -t utf-8 这样的命令来转换。后来发现悲剧了,原因是有一些文件已经是utf-8编码了,结果在强转了一次,就乱码了,因为只有几个文件乱码,所以一开始还没注意到,直到后来发现的时候,又得一个一个重新转回去,所以还是挺麻烦的。

  最近在用一个公共组件的时候,发现其提供的都是gbk编码的,所以想着干脆还是写一个脚本来完成这件事情吧,这次吸取了上次的教训,首先会用file来判断下文件的编码是什么编码的(当前只判断gbk和utf-8),然后根据不同的类型,来设置不同的转换选项。默认只转换当前文件夹下的所有.cpp和.h文件,当然,路径和文件类型,可以分别用-f和-t的参数传进去。当然,如果你发现有什么没有考虑到的地方,还请斧正,谢谢啦。

 

#!/bin/bash


file_type_list="cpp h"
file_path="."

#-f:文件名或者目录名  -t: 文件类型
#如果不传入参数,默认目录为当前目录,默认转换文件类型为.h .cpp
#example:covert_to_utf8 -f . -t "cpp h"
while getopts "t:f:" arg #选项后面的冒号表示该选项需要参数
do
    case $arg in
        f)
            echo "f's arg:$OPTARG"
            file_path=$OPTARG
            ;;
        t)
            echo "t's arg:$OPTARG" 
            file_type_list=$OPTARG
            ;;
        ?)
            echo "unkonw argument"
            exit 1
            ;;
    esac
done

echo "file_type=" $file_type_list "file_path=" $file_path 


#如果是普通文件或者目录才进行查找、转换,其他情况,不转换
if [  -f $file_path  -o  -d $file_path  ];
then
    echo "Begin to Convert $file_path from GBK to UTF-8...."
else
    echo " $file isn't a file or directory,can't convert! "
    exit;
fi


#找到普通文件,然后转换这些文件
all_file=`find $file_path -type f`;

for file in $all_file;
do
    file_type=${file##*.} 
    #echo $file $file_type;
    if [[ "$file_type_list" != *"$file_type"* ]];
    then
        echo "$file_type not in $file_type_list"
        continue;
    fi
    
    file_encoding=`file $file | awk -F : '{print $2}' | awk '{print $1}'`
    #GBK
    if [ $file_encoding == "ISO-8859" ];
    then
        original_encoding="gbk"
    #ASCII or UTF-8
    elif [ $file_encoding == "ASCII" -o $file_encoding == "UTF-8" ];
    then
        echo "$file encoding $file_encoding is ok, not need convert"
        continue;
    #未定义的编码
    else
        echo "$file error encoding $file_encoding, can't convert"
        continue;
    fi
    iconv -f $original_encoding -t utf-8 $file > $file"_tmp"
    #判断是否转换成功
    if [ $? != 0 ];
    then
        echo "covert $file failed!"
        continue;
    fi
    mv $file"_tmp" $file
    echo "convrt $file success!"
done

echo "All file convert done!"
posted @ 2012-09-19 00:37  MR_H  阅读(4779)  评论(3编辑  收藏  举报