xingd.net

.net related techonology

导航

.NET脏字过滤算法

Posted on 2007-09-26 03:57  xingd  阅读(7330)  评论(31编辑  收藏  举报

原文见http://www.cnblogs.com/goody9807/archive/2006/09/12/502094.html,很多网站都转载了。

但在我这里测试的时候,RegEx要快一倍左右。但是还是不太满意,因为我们网站上脏字过滤用的相当多,对效率已经有了一些影响,经过一番思考后,自己做了一个算法。在自己的机器上测试了一下,使用原文中的脏字库,0x19c的字符串长度,1000次循环,文本查找耗时1933.47ms,RegEx用了1216.719ms,而我的算法只用了244.125ms.

更新:新增一个BitArray,用于判断某char是否在所有脏字中出现过。总时间由244ms降到了34ms.

主要算法如代码所示

      private static Dictionary dic = new Dictionary();
      
private static BitArray fastcheck = new BitArray(char.MaxValue);

      
static void Prepare()
      {
          
string[] badwords =  // read from file
           foreach (string word in badwords)
            {
                
if (!dic.ContainsKey(word))
                {
                    dic.Add(word, 
null);
                    maxlength 
= Math.Max(maxlength, word.Length);
                    fastcheck[word[0]] = true;
                }
            }
      }

使用的时候

int index = 0;
while (index < target.Length)
{
    
if (!fastcheck[target[index]])
    {
        
while (index < target.Length - 1 && !fastcheck[target[++index]]) ;
    }

    
for (int j = 0; j < Math.Min(maxlength, target.Length - index); j++)
    {
        
string sub = target.Substring(index, j);
        
if (dic.ContainsKey(sub))
        {
            sb.Replace(sub, 
"***", index, j);
            index 
+= j;
            
break;
        }
    }

    index
++;
}