高性能服务器开发之线程结构

线程结构相当于服务器程序的灵魂,一个好的服务器程序必须线程结构清析且线程利用率高。下面主要以伪代码的形式列举一些常用的线程结构。

1 单业务处理线程结构

int main()
{
	Init();

	while (queue.GetMessage(timeout, message)) // 这里的队列要支持多个线程写,一个线程读
	{
		DispatchMessage(message);
		DetectTimer(); // 如果需要定时器的话
	}

	DeInit();

	return 0;
}

windows窗口程序及我见过的大部分网游服务器都使用这种线程结构。因为只有一个业务处理主线程,在进行业务处理的时候,不需要考虑线程同步。当然这种服务器并不只是只有一个线程在工作,通常网络和DB(如果有的话)会使用独立的线程,例如当网络收到一个消息后,就Enqueue到队列中,这时queue.GetMessage返回,由DispatchMessage找到对应的处理函数去做具体的处理。

 

2 多业务处理线程

int main()
{
	Init();

	for (1 to 10)
	{
		StartThread(&ThreadFunction);
	}

	WaitForExit();
	DeInit();

	return 0;
}

int ThreadFunction()
{
	while (queue.GetMessage(timeout, message)) // 队列要支持多写多读
	{
		DispatchMessage(message);
	}
	return 0;
}

网络线程收到消息后,Enqueue到队列,其中一个线程的GetMessage会返回并处理。DB模块通常使用这种线程结构。

 

3 并发单线程

class WorkThread
{
public:
	void Start();

private:
	void AsnycRead(int clientId);
	void AsnycWrite(int clientId, Message* message);

	void OnRead(int clientId, Message* message);
	void OnWriteComplite(int clientId);
};

int main()
{
	for (1 to 10)
	{
		new WorkThread();
	}

	WaitForExit();

	return 0;
}

我其实没找到一个好的名称和伪代码去描述这种线程结构,多加点文字说明吧。这种线程结构通常在程序启动时开启多个线程(通常是CPU核芯数),每个线程完整的加载其需要的配置,每个线程都是独立的且功能都是一样的,线程与线程之间没有仍何交互,用户代码中没有队列。一个连接建立好后,始终在同一个线程空间中运行,因此也没有任何线程同步。这种线程序结构非常适合网关类、转发类等慢操作比较少的服务器,能充分利用多核的CPU资源,提高服务效率。使用iocp及boost.asio很容易实现这种线程结构。

 

4 线程池

int main()
{
	Init();

	for (1 to 100)
	{
		ThreadPool.Add(new WorkThread());
	}

	WaitTask();

	WaitForExit();
	DeInit();

	return 0;
}

void WaitTask()
{
	WorkThread t = ThreadPool.GetFree();
	t.Wakeup(); // 唤醒子线程后立即返回,子线程等待客户端连接,连接成功后先Wakeup下一个线程去等待客户端连接, 由本线程执行任务
}

曾经比较火的Leader/Follower模式,据说tomcat用的就是这个,但个人觉得这种结构效率并不高,因为这种模式网络IO通常用同步,大大降低了线程的利用率。

 

结束语

以上只上对线程结构的简化描述,实际用到的服务器并不会只这么简单,可能是多种结构的组合,也可能是上面没提到的线程结构。但高并发高效率的服务器要点其实很简单:提高每个线程的利用率,尽量避免忙等、睡眠及过多的线程切换,同时减少加锁及各种队列的入列出列。业务处理方面可将业务细化,由单服务器处理转成多服务器处理,能并发的就并发……不过这超出了本文的范围,有机会再详述。

 

附感言

在08年之前,boost还不是那么流行,我通常会使用自己实现的线程相关的基础库,如Mutex, Condition, Thread, SharedPtr, MessageQueue——当然基本上也是从boost中抄过来的。时间飞奔,2016年的现在,C11也包含了以上大部分库,还剩MessageQueue实现起来也是分分钟的事……时代更美好了!

posted @ 2016-09-01 23:11  军爷  阅读(927)  评论(0编辑  收藏