2016年3月1日

hadoop io PART1

摘要: 数据正确性检测的技术,通常使用checksum,在数据进行传输前,计算一个checksum值,传输到目标地之后,再根据新的文件计算checksum值,如果不匹配,则说明数据损坏或被改变。只能校验,不提供修复方法。 建议使用ECC内存,提高校验正确率,但这又和hadoop的设计初衷违背? 常见的错误侦测码是CRC-32,HADOOP的ChecksumFileSystem 使用这个编码。 cod... 阅读全文

posted @ 2016-03-01 14:51 tneduts 阅读(165) 评论(0) 推荐(0) 编辑

导航