如何将一个懒散的机器人扩展到1000个团队

为了实现一个懒散的机器人,我需要处理冗余的“实时消息API”。 这是一个基于WebSocket的API,它允许您实时接收Slack的事件并以用户身份发送消息。 更多信息: https : //api.slack.com/rtm

为了只为一个团队创build一个bot,我需要打开一个websocket连接并听取事件。

为另一个团队提供松散的机器人。 我需要打开一个新的websocket连接。 所以,

  • 1队=> 1个websocket连接
  • 2队=> 2个websocket连接
  • N个团队=> N个websocket连接

我应该做什么来扩展我的websocket连接为无尽的团队?

什么样的架构可以处理1000个websockets连接的自动调节?

       

网上收集的解决方案 "如何将一个懒散的机器人扩展到1000个团队"

随着松散的sockets,你有很多事情要扩展:

  • sockets数量。 这很容易,因为即使便宜的服务器也可以处理数千个套接字,比如超过50k。 但是每个套接字都代表了其他types的负载,下面列出。
  • 每个团队使用的内存量,这取决于您自己的服务器实现。 如果您试图在内存中保留大量的消息历史logging,那么与消息处理代码有些无状态相比,您将更快地达到服务器的限制。
  • I / O量,这可能使您想要卸载任何图像服务到一个单独的负载平衡器。

另外要考虑的是容错。 假设您做了粘性负载平衡,并且您的一台服务器正在处理50个小组。 那台服务器是唯一一个处理这50个小组的人,所以如果这台服务器出现故障,那么所有50个机器人都会脱机。 或者,您可以在不同的服务器上为每个团队打开多个套接字,并使用消息处理队列,以便每条消息只响应一次。

所以我build议的体系结构是一个用于RTM套接字的精简的冗余负载平衡器,作为第一层,以及一个可靠的消息队列。