@levinzhang 2023-05-02T10:48:24.000000Z 字数 1512 阅读 255

Slack的实时消息处理架构

Eran Stiller

摘要：

Slack最近公布了它们是如何实现在全球范围内每天发送数百万条实时消息的。该公司提供了对其Pub/Sub架构的全面讲解，这个架构的设计目标就是管理大规模的实时消息。它强调了在不同时区和地区发送实时消息的独特挑战，以及Slack的工程师如何设计基础设施来处理这些挑战的。

Slack的高级软件工程师Sameera Thangudu阐述了这种架构的重要性：

我们的服务器要为每台主机上的数千万个通道以及数千万个连接的客户端提供服务，我们的系统要在500毫秒内将消息传递到世界各地。凭借当前架构的线性可扩展性，我们可以为更多客户提供服务。

她表示，该公司会加强其架构，以服务更多的客户群。

该系统的后端由多个服务组成。通道服务器（Channel Server，CS）是有状态的内存服务器，持有通道的历史。这里会有一个一致性散列机制将每个CS映射到通道的一个子集中。在峰值时期，每个主机大约为1600万个通道提供服务。一致性哈希环管理器（consistent hash ring manager，CHARM）会管理CS的一致性哈希环，确保在20秒内替换掉不健康的CS。Consul会存储一致性哈希值的最新配置。

图片来源：https://slack.engineering/real-time-messaging/

网关服务器（Gateway Server，GS），与CS类似，是有状态的内存服务器。它们维护用户信息和WebSocket通道订阅，并作为Slack客户端和CS之间的接口。GS会被部署到多个地理区域，以优化连接速度。管理服务器（Admin Server，AS）是无状态的内存服务器，它们是Webapp后端和CS之间的接口。最后，状态服务器（Presence Server，PS）会跟踪在线用户，支撑Slack客户端的绿色状态点（green presence dot）。

每个Slack客户端有一个到Slack服务器的持久性WebSocket连接，以接收实时事件来维护其状态。客户端需要通过几个步骤来搭建WebSocket连接，比如从Webapp后端获取用户令牌和WebSocket连接的设置信息。然后，客户端会初始化一个WebSocket连接到最近的边缘区域，GS获取用户信息并向客户端发送第一条消息。Envoy会平衡传入的流量并处理TLS终止。