并发与并行的概念及常用解决方案

目录

• 并发与并行的概念及常用解决方案
  • 一. 基本概念
    • 1. 并发和并行区别
    • 2. 并发的解决
      • 2.1. 队列，缓冲区
      • 2.2 争抢
      • 2.3 预处理
      • 2.4 并行
      • 2.5 提速
      • 2.6 消息中间件

并发与并行的概念及常用解决方案

一. 基本概念

1. 并发和并行区别

• 并行 - parallel

同时做某些事， 可以互不干扰的同一个时刻做几件事；

• 并发 - concurrency

也是同时做某些事， 但是强调，一个时刻内有事情要处理；

• eg：

乡村公路一条车道，半幅路面出现了坑，交警指挥交通；众多车辆在这一时段要通过维修路面的事件，这就是并发。

交警指挥，车辆排队通过另外半幅路面，一个方向放行3分钟，停止该放行通过，换另一个个方向放行。

高速公路的车道，双向4车道，所有车辆（数据）可以互不干扰的在自己的车道上奔跑（传输）。

在同一时刻，每条车道上可能同时有车辆在跑，是同时发生的概念，这是并行。

2. 并发的解决

“食堂打饭模型”

中午12点，开饭了，大家都涌向食堂，这就是并发。如果人很多，就是高并发。

2.1. 队列，缓冲区

假设只有一个窗口，陆续涌入食堂的人，排队打菜是比较好的方式。

所以，排队（队列）是一种天然解决并发的办法。

排队就是把人排成队列，先进先出，解决了资源使用的问题。

排成的队列，其实就是一个缓冲地带，就是缓冲区。

假设女生优先，那么这个窗口就得是两队，只要有女生来就可以先打饭，男生队列等着，女生队伍就是一个优先队列。

2.2 争抢

只开一个窗口，有可能没有秩序，也就是谁挤进来就给谁打饭。

挤到窗口的人占据窗口，直到打到饭菜离开。

其他人继续争抢，会有一个人占据着窗口，可以视为锁定窗口，窗口就不能为其他人提供服务了。这就是锁机制。

谁抢到资源就上锁，排他性的锁，其他人只能等候。

争抢也是一种高并发解决方案，但是，这样不好，因为有可能有人很长时间抢不到。

2.3 预处理

如果排长队的原因：是因为每个人打菜等候时间长，因为要吃的菜没有，需要现做，没打着饭不走开，锁定着窗口。

食堂可以提前统计大多数人最爱吃的菜品，将最爱吃的80%的热门菜，提前做好，保证供应，20%的冷门菜，现做。

这样大多数人，就算锁定窗口，也很快就释放窗口了。

一种提前加载用户需要的数据的思想，预处理思想，缓存常用。

2.4 并行

成百上千人同时来吃饭，一个队伍搞不定，多开打饭窗口形成多个队列，如同开多个车道一样，并行打菜。

开窗口就得扩大食堂，得多雇人在每个窗口提供服务，造成成本上升。

日常可以通过购买更多服务器，或多开进程，线程实现并行处理，来解决并发问题。

note：这些都是水平扩展思想。

注：

• 如果线程在单CPU上处理，就不是并行了。
• 但是多数服务器就是多CPU的，服务的部署往往是多机的，分布式的，这都是并行处理。

2.5 提速

提高单个窗口的打饭速度，也是解决并发的方式。

打饭人员提高工作技能，或为单个窗口配备更多的服务人员，都是提速的办法。

提高单个CPU性能，或单个服务其安装更多的CPU。

note： 这是一个垂直扩展思想。

2.6 消息中间件

想象一个早高峰的地铁站。北京的上地。西二旗地铁 站外 的九曲回肠的走廊， 缓冲人流。进去之后再多个安检口进站。

常见的消息中间件有RabbitMQ， ActiveMQ， RocketMQ(阿里Apache)， Kafka(Apache)等。

当然还有其他技术手段解决并发问题，但是已经列举了最常用的解决方案，一般来说不同的并发场景用不同的策略，而策略可能是多种方式的优化组合。

例如：多开食堂（多地）[分布式]， 也可以把食堂建设到宿舍生活区（就近）[cdn]， 所以说，技术来源于生活。