关于C#线程,线程池和并行运算的简单使用和对比

前言:看了书上两个使用C#4.0并行编程的demo,又对照以前收藏的网上几篇讲述线程池的雄文,一并整理,写个示例总结一下。写这篇文章的时候,发现关于线程的好几个基础的重要的知识点自己都不熟悉,而且可能习惯性认知浅薄,所以痛苦的无以复加,不知道到底要说什么。不想看文章的可以直接下载最后的示例,本文代码主要参考Marc Clifton的“.NET's ThreadPool Class - Behind The Scenes”,对新手也许有帮助。

参考:

http://msdn.microsoft.com/zh-cn/library/system.threading.threadpool(VS.80).aspx

http://www.codeproject.com/KB/threads/threadtests.aspx

http://www.codeproject.com/KB/threads/smartthreadpool.aspx

http://blog.zhaojie.me/2009/07/thread-pool-1-the-goal-and-the-clr-thread-pool.html  (老赵的浅谈线程池上中下三篇)

Jeffrey Richter <<CLR via C#>> 3rd Edition

 

先大概看一下控制台应用程序的Main方法的主要代码:

         static bool done = false;
        static decimal count2 = 0;
        static int threadDone = 0;//标志启用线程数?
        static System.Timers.Timer timer = new System.Timers.Timer(1000);

        static decimal[] threadPoolCounters = new decimal[10];
        static Thread[] threads = new Thread[10];
        static System.Timers.Timer[] threadTimers = new System.Timers.Timer[10];

        static void Main(string[] args)
        {
            timer.Stop();
            /*当 AutoReset 设置为 false 时,Timer 只在第一个 Interval 过后引发一次 Elapsed 事件。
             若要保持以 Interval 时间间隔引发 Elapsed 事件,请将 AutoReset 设置为 true。*/
            timer.AutoReset = false;
            timer.Elapsed += new ElapsedEventHandler(OnTimerEvent);//当timer.Start()时,触发事件
            decimal total = 0;

            // raw test
            decimal count1 = SingleThreadTest();//单一线程,一跑到底
            Console.WriteLine("Single thread count = " + count1.ToString());

            // create one thread, increment counter, destroy thread, repeat
            Console.WriteLine();
            CreateAndDestroyTest();//创建一个线程,运算,然后销毁该线程 重复前面的动作
            Console.WriteLine("Create and destroy per count = " + count2.ToString());

            // Create 10 threads and run them simultaneously
            //一次性创建10个线程,然后遍历使线程执行运算
            Console.WriteLine();
            InitThreadPoolCounters();
            InitThreads();
            StartThreads();
            while (threadDone != 10) { };
            Console.WriteLine("10 simultaneous threads:");
            for (int i = 0; i < 10; i++)
            {
                Console.WriteLine("T" + i.ToString() + " = " + threadPoolCounters[i].ToString() + "   ");
                total += threadPoolCounters[i];
            }
            Console.WriteLine("Total = " + total.ToString());
            Console.WriteLine();

            Console.WriteLine("///////////////////////////////////////////////////");

            // using ThreadPool
            //直接通过线程池的QueueUserWorkItem方法,按队列执行10个任务
            Console.WriteLine();
            Console.WriteLine("ThreadPool:");
            InitThreadPoolCounters();
            QueueThreadPoolThreads();
            while (threadDone != 10) { };
            Console.WriteLine("ThreadPool: 10 simultaneous threads:");
            total = 0;
            for (int i = 0; i < 10; i++)
            {
                //				threadTimers[i].Stop();
                //				threadTimers[i].Dispose();
                Console.WriteLine("T" + i.ToString() + " = " + threadPoolCounters[i].ToString() + "   ");
                total += threadPoolCounters[i];
            }
            Console.WriteLine("Total = " + total.ToString());

            // using SmartThreadPool
            //通过Amir Bar的SmartThreadPool线程池,利用QueueUserWorkItem方法,按队列执行10个任务
            Console.WriteLine();
            Console.WriteLine("SmartThreadPool:");
            InitThreadPoolCounters();
            QueueSmartThreadPoolThreads();
            while (threadDone != 10) { };
            Console.WriteLine("SmartThreadPool: 10 simultaneous threads:");
            total = 0;
            for (int i = 0; i < 10; i++)
            {
                Console.WriteLine("T" + i.ToString() + " = " + threadPoolCounters[i].ToString() + "   ");
                total += threadPoolCounters[i];
            }
            Console.WriteLine("Total = " + total.ToString());

            // using ManagedThreadPool
            //通过Stephen Toub改进后的线程池,利用QueueUserWorkItem方法,按队列执行10个任务
            Console.WriteLine();
            Console.WriteLine("ManagedThreadPool:");
            InitThreadPoolCounters();
            QueueManagedThreadPoolThreads();
            while (threadDone != 10) { };
            Console.WriteLine("ManagedThreadPool: 10 simultaneous threads:");
            total = 0;
            for (int i = 0; i < 10; i++)
            {
                Console.WriteLine("T" + i.ToString() + " = " + threadPoolCounters[i].ToString() + "   ");
                total += threadPoolCounters[i];
            }
            Console.WriteLine("Total = " + total.ToString());

            // using C#4.0 Parallel
            //通过Tasks.Parallel.For进行并行运算
            Console.WriteLine();
            Console.WriteLine("Parallel:");
            InitThreadPoolCounters();
            UseParallelTasks();
            while (threadDone != 10) { };
            Console.WriteLine("Parallel: 10 simultaneous threads:");
            total = 0;
            for (int i = 0; i < 10; i++)
            {
                Console.WriteLine("T" + i.ToString() + " = " + threadPoolCounters[i].ToString() + "   ");
                total += threadPoolCounters[i];
            }
            Console.WriteLine("Total = " + total.ToString());
        }

我们可以先熟悉一下大致思路。代码中,我们主要依靠输出的数字count或者total来判断哪个方法执行效率更高(原文是How Hign Can I Count?),通常输出的数字越大,我们就认为它”干的活越多“,效率越高。主要实现过程就是通过一个静态的System.Timers.Timer对象的timer实例,设置它的Interval属性和ElapsedEventHandler事件:

        static System.Timers.Timer timer = new System.Timers.Timer(1000);
/*当 AutoReset 设置为 false 时,Timer 只在第一个 Interval 过后引发一次 Elapsed 事件。
             若要保持以 Interval 时间间隔引发 Elapsed 事件,请将 AutoReset 设置为 true。*/
timer.AutoReset = false;
timer.Elapsed += new ElapsedEventHandler(OnTimerEvent);//当timer.Start()时,触发事件

其中,timer的事件触发的函数:

     static void OnTimerEvent(object src, ElapsedEventArgs e)
        {
            done = true;
        }

每次timer.Start执行的时候,一次测试就将开始,这样可以确保测试的不同方法都在1000毫秒内跑完。

下面开始具体介绍几个方法:

A、线程

这个非常简单,就是通过主线程计算在1000毫秒内,count从0递增加到了多少:

        /// <summary>
        /// 单一线程,一跑到底
        /// </summary>
        /// <returns></returns>
        static decimal SingleThreadTest()
        {
            done = false;
            decimal counter = 0;
            timer.Start();
            while (!done)
            {
                ++counter;
            }
            return counter;
        }

while判断可以保证方法在1000毫秒内执行完成。

 

B、多线程

这个多线程方法比较折腾,先创建线程,然后运行,最后销毁线程,这就是一个线程执行单元,重复10次这个线程执行单元。

      /// <summary>
        /// 创建一个线程,运算,然后销毁该线程 重复前面的动作
        /// </summary>
        static void CreateAndDestroyTest()
        {
            done = false;
            timer.Start();
            while (!done)
            {
                Thread counterThread = new Thread(new ThreadStart(Count1Thread));
                counterThread.IsBackground = true;//后台线程
                counterThread.Start();
                while (counterThread.IsAlive) { };
            }
        }

那个ThreadStart委托对应的方法Count1Thread如下:

        static void Count1Thread()
        {
            ++count2; //静态字段count2自增
        }

从表面上看,大家估计都可以猜到,效果可能不佳。

 

C、还是多线程

这个方法不判断线程的执行状态,不用等到一个线程销毁后再创建一个线程,然后执行线程方法。线程执行的方法就是根据线程的Name找到一个指定数组的某一索引,并累加改变数组的值:

    /// <summary>
        /// 将数组和线程数标志threadDone回到初始状态
        /// </summary>
        static void InitThreadPoolCounters()
        {
            threadDone = 0;
            for (int i = 0; i < 10; i++)
            {
                threadPoolCounters[i] = 0;
            }
        }

        /// <summary>
        /// 初始化10个线程
        /// </summary>
        static void InitThreads()
        {
            for (int i = 0; i < 10; i++)
            {
                threads[i] = new Thread(new ThreadStart(Count2Thread));
                threads[i].IsBackground = true;
                threads[i].Name = i.ToString();//将当前线程的Name赋值为数组索引,在Count2Thread方法中获取对应数组
            }
        }

        /// <summary>
        /// 开始多线程运算
        /// </summary>
        static void StartThreads()
        {
            done = false;
            timer.Start();
            for (int i = 0; i < 10; i++)
            {
                threads[i].Start();
            }
        }

其中,每一个线程需要执行的委托方法

        static void Count2Thread()
        {
            int n = Convert.ToInt32(Thread.CurrentThread.Name);//取数组索引
            while (!done)
            {
                ++threadPoolCounters[n];
            }
            Interlocked.Increment(ref threadDone);//以原子操作的形式保证threadDone递增
        }

在测试过程中,我们看代码:

      // Create 10 threads and run them simultaneously
            //一次性创建10个线程,然后遍历使线程执行运算
            Console.WriteLine();
            InitThreadPoolCounters();
            InitThreads();
            StartThreads();
            while (threadDone != 10) { };
            Console.WriteLine("10 simultaneous threads:");
            for (int i = 0; i < 10; i++)
            {
                Console.WriteLine("T" + i.ToString() + " = " + threadPoolCounters[i].ToString() + "   ");
                total += threadPoolCounters[i];
            }
            Console.WriteLine("Total = " + total.ToString());
            Console.WriteLine();

最后算出这个数组的所有元素的总和,就是这10个线程在1000毫秒内所做的事情。其中, while (threadDone != 10) { };这个判断非常重要。这个方法看上去没心没肺,线程创建好就不管它的死活了(还是管活不管死?),所以效率应该不低。

实际上,我在本地测试并看了一下输出,表面看来,按count大小逆序排列:C>A>B,这就说明多线程并不一定比单线程运行效率高。其实B之所以效率不佳,主要是由于这个方法大部分的”精力“花在线程的执行状态和销毁处理上。

注意,其实C和A、B都没有可比性,因为C计算的是数组的总和,而A和B只是简单的对一个数字进行自加。

ps:C这一块说的没有中心,想到哪写到哪,所以看起来写得很乱,如果看到这里您还觉着不知所云,建议先下载最后的demo,先看代码,再对照这篇文章。

好了,到这里,我们对线程的创建和使用应该有了初步的了解。细心的人可能会发现,我们new一个Thread,然后给线程实例设置属性,比如是否后台线程等等,其实这部分工作可以交给下面介绍的线程池ThreadPool来做(D、E和F主要介绍线程池)。

 

D、线程池ThreadPool

在实际的项目中大家可能使用最多最熟悉的就是这个类了,所以没什么可说的:

        /// <summary>
        /// ThreadPool测试
        /// </summary>
        static void QueueThreadPoolThreads()
        {
            done = false;
            for (int i = 0; i < 10; i++)
            {
                ThreadPool.QueueUserWorkItem(new WaitCallback(Count3Thread), i);
            }

            timer.Start();
        }

        static void Count3Thread(object state)
        {
            int n = (int)state;
            while (!done)
            {
                ++threadPoolCounters[n];
            }
            Interlocked.Increment(ref threadDone);
        }

我们知道线程池里的线程默认都是后台线程,所以它实际上简化了线程的属性设置,更方便异步编程。

需要说明的是,线程池使用过程中会有这样那样的缺陷(虽然本文的几个线程池任务都不会受这种缺陷影响)。比如,我们一次性向线程池中加入100个任务,但是当前的系统可能只支持25个线程,并且每个线程正处于”忙碌“状态,如果一次性加入池中系统会处理不过来,那么多余的任务必须等待,这就造成等待的时间过长,系统无法响应。还好,ThreadPool提供了GetAvailableThreads方法,可以让你知道当前可用的工作线程数量。

        static void QueueThreadPoolThreads()
        {
            done = false;
            for (int i = 0; i < 10; i++)
            {
                //ThreadPool.QueueUserWorkItem(new WaitCallback(Count3Thread), i); //直接给程序池添加任务有时是很草率的

                WaitCallback wcb = new WaitCallback(Count3Thread);
                int workerThreads, availabeThreads;
                ThreadPool.GetAvailableThreads(out workerThreads, out availabeThreads);
                if (workerThreads > 0)//可用线程数>0
                {
                    ThreadPool.QueueUserWorkItem(wcb, i);
                }
                else
                {
                    //to do 可以采取一种策略,让这个任务合理地分配给线程
                }
            }

如果没有可用的工作线程数,必须设计一定的策略,让这个任务合理地分配给线程。

也许就是类似于上面那样的限制,很多开发者都自己创建自己的线程池,同时也就有了后面的SmartThreadPoolManagedThreadPool大展身手的机会。

 

E、线程池SmartThreadPool

大名鼎鼎的SmartThreadPool,但是我从来没在项目中使用过,所以只是找了一段简单的代码测试一下:

        /// <summary>
        /// SmartThreadPool测试
        /// </summary>
        static void QueueSmartThreadPoolThreads()
        {
            SmartThreadPool smartThreadPool = new SmartThreadPool();
            // Create a work items group that processes 
            // one work item at a time
            IWorkItemsGroup wig = smartThreadPool.CreateWorkItemsGroup(1);

            done = false;
            timer.Start();
            for (int i = 0; i < 10; i++)
            {
                wig.QueueWorkItem(new WorkItemCallback(Count4Thread), i);
            }
            // Wait for the completion of all work items in the work items group
            wig.WaitForIdle();
            smartThreadPool.Shutdown();
        }

       static object Count4Thread(object state)
        {
            int n = (int)state;
            while (!done)
            {
                ++threadPoolCounters[n];
            }
            Interlocked.Increment(ref threadDone);
            return null;
        }

自从收藏这个SmartThreadPool.dll后,我还从没有在项目中使用过。查看它的源码注释挺少也挺乱的,不知道有没有高人知道它的一个效率更好的方法。您也可以看看英文原文,自己尝试体验一下。如果您熟悉使用SmartThreadPool,欢迎讨论。

 

F、线程池ManagedThreadPool

Stephen Toub这个完全用C#托管代码实现的线程池也非常有名,在Marc Clifton的英文原文中,作者也不吝溢美之词,赞它“quite excellent”,用当前异军突起的一个词汇形容就是太给力了,于我心有戚戚焉:

     /// <summary>
        /// ManagedThreadPool测试
        /// </summary>
        static void QueueManagedThreadPoolThreads()
        {
            done = false;
            timer.Start();
            for (int i = 0; i < 10; i++)
            {
                Toub.Threading.ManagedThreadPool.QueueUserWorkItem(new WaitCallback(Count5Thread), i);
            }
        }
        static void Count5Thread(object state)
        {
            int n = (int)state;
            while (!done)
            {
                ++threadPoolCounters[n];
            }
            Interlocked.Increment(ref threadDone);
        }

 

对于这个托管的线程池,我个人的理解,就是它在管理线程的时候,这个池里还有一个缓存线程的池,即一个ArrayList对象。它一开始就初始化了一定数量的线程,并通过ProcessQueuedItems方法保证异步执行进入池中的队列任务(那个死循环有时可能导致CPU过分忙碌),这样在分配异步任务的时候,就省去了频繁去创建(new)一个线程。同时它在实现信号量(Semaphore)的同步和线程出入队列的设计上都可圈可点,非常巧妙,强烈推荐您阅读它的源码。

 

G、并行运算

下面的示例,我只使用了简单的System.Threading.Tasks.Parallel.For 对应的for 循环的并行运算:

        /// <summary>
        /// 并行运算测试
        /// </summary>
        static void UseParallelTasks()
        {
            done = false;
            timer.Start();
            // System.Threading.Tasks.Parallel.For - for 循环的并行运算
            System.Threading.Tasks.Parallel.For(0, 10, (i) => { Count6Thread(i); });
        }
        static void Count6Thread(object state)
        {
            int n = (int)state;
            while (!done)
            {
                ++threadPoolCounters[n];
            }
            Interlocked.Increment(ref threadDone);
        }

没有什么要特殊说明的,就是新类库的使用。看代码,好像比使用线程或线程池更加简单直接,有机会争取多用一用。我在本地测试的时候,在Release版本下,按照count的大小逆序排列,总体上G>D>F>E。需要注意到一件事,就是SmartThreadPool中排入队列的任务是一个返回值为Object的委托类型,这和其他的几个没有返回的(void类型)不同。SmartThreadPool口碑还是不错的,也许是我没有正确使用它。

 

最后小结一下:本文主要列举了C#中我所知道的几种常见的异步处理的方法,欢迎大家纠错或补充。

 

示例下载:demo

posted on 2010-11-12 23:26  JeffWong  阅读(17235)  评论(15编辑  收藏  举报