浅谈C10K问题

 

在大型的APP中进行高并发的访问，淘宝，支付宝，微信，QQ,等

C10K问题：高并发的进行访问

C10K问题的最大特点是：设计不够良好的程序，其性能和连接数及机器性能的关系往往 是非线性的。举个例子：如果没有考虑过C10K问题，一个经典的基于select的程序能在 旧服务器上很好处理1000并发的吞吐量，它在2倍性能新服务器上往往处理不了并发2000的吞吐量。 这是因为在策略不当时，大量操作的消耗和当前连接数n成线性相关。会导致单个任务的资源消耗和当前连接数的关系会是O(n)。而服务程序需要同时对数以万计的socket进 行I/O处理，积累下来的资源消耗会相当可观，这显然会导致系统吞吐量不能和机器性 能匹配。为解决这个问题，必须改变对连接提供服务的策略。

主要有两方面的策略：1.应用软件以何种方式和操作系统合作，获取I/O事件并调度多 个socket上的I/O操作；2. 应用软件以何种方式处理任务和线程/进程的关系。前者主 要有阻塞I/O、非阻塞I/O、异步I/O这3种方案，后者主要有每任务1进程、每任务1线 程、单线程、多任务共享线程池以及一些更复杂的变种方案。