当单个请求在这些非阻塞 I/O 服务器上花费很长时间时会发生什么?

2023-11-23

使用 Node.js、eventlet 或任何其他非阻塞服务器,当给定请求花费很长时间时会发生什么,然后它会阻塞所有其他请求吗?

例如,一个请求进来,需要 200 毫秒来计算,这将阻止其他请求,因为例如Nodejs 使用单线程。

这意味着每秒 15K 的速度将大幅下降,因为计算给定请求的响应所需的实际时间。

但这对我来说似乎是错误的,所以我想问到底发生了什么,因为我无法想象事情是如何运作的。


它是否“阻止”取决于您对“阻止”的定义。通常,阻塞意味着您的 CPU 基本上处于空闲状态,但当前线程无法对其执行任何操作,因为它正在等待 I/O 等。除非您使用非推荐的同步 I/O 函数,否则这种情况在 Node.js 中不会发生。相反,函数会快速返回,当它们开始的 I/O 任务完成时,您的回调将被调用并从那里获取它。在此期间,可以处理其他请求。

如果您在节点中执行一些计算量大的操作,则在完成之前没有其他任何东西可以使用 CPU,但出于一个非常不同的原因:CPU 实际上很忙。通常,这并不是人们所说的“阻塞”的意思,相反,这只是一个很长的计算。

如果不涉及I/O,纯粹做计算的话,200ms 已经是很长的时间了。老实说,这可能不是你应该在 Node 中做的事情。更符合节点精神的解决方案是让这种数字运算发生在由节点调用的另一个(非 JavaScript)程序中,并在完成时调用回调。假设您有一台多核机器(或者其他程序正在不同的机器上运行),节点可以在其他程序运行时继续响应请求。

在某些情况下,集群(正​​如其他人提到的)可能会有所帮助,但我怀疑您的集群是否真的是其中之一。集群确实是为当您有大量的小请求而设计的,这些请求加在一起超过了 CPU 的单个核心可以处理的能力,而不是为您有每个需要数百毫秒的单个请求的情况而设计。

本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系:hwhale#tublm.com(使用前将#替换为@)

当单个请求在这些非阻塞 I/O 服务器上花费很长时间时会发生什么? 的相关文章

随机推荐