RPC-client异步回调原理
见下面的设计图:
所谓异步回调，在得到结果之前，不会处于阻塞状态，理论上任何时间都没有任何线程处于阻塞状态，因此异步回调的模型，理论上只需要很少的工作线程与服务连接就能够达到很高的吞吐量。
上图中左边的框框，是少量工作线程（少数几个就行了）进行调用与回调。
中间粉色的框框，代表了RPC-client组件。
右边橙色框，代表了RPC-server。
蓝色六个小框，代表了异步RPC-client六个核心组件：上下文管理器，超时管理器，序列化组件，下游收发队列，下游收发线程，连接池组件。
白色的流程小框，以及箭头序号1-17，代表整个工作线程的串行执行步骤：
1）业务代码发起异步RPC调用，Add(Obj1,Obj2, callback)
2）上下文管理器，将请求，回调，上下文存储起来
3）序列化组件，将对象调用序列化成二进制字节流，可理解为一个待发送的包packet1
4）下游收发队列，将报文放入“待发送队列”，此时调用返回，不会阻塞工作线程
5）下游收发线程，将报文从“待发送队列”中取出，通过连接池组件拿到一个可用的连接connection
6）通过连接connection将包packet1发送给RPC-server
7）发送包在网络传输，发给RPC-server
8）响应包在网络传输，发回给RPC-client
9）通过连接connection从RPC-server收取响应包packet2
10）下游收发线程，将报文放入“已接受队列”，通过连接池组件，将conneciont放回连接池
11）下游收发队列里，报文被取出，此时回调将要开始，不会阻塞工作线程
12）序列化组件，将packet2范序列化为Result对象
13）上下文管理器，将结果，回调，上下文取出
14）通过callback回调业务代码，返回Result结果，工作线程继续往下走
如果请求长时间不返回，处理流程是：
15）上下文管理器，请求长时间没有返回
16）超时管理器拿到超时的上下文
17）通过timeout_cb回调业务代码，工作线程继续往下走。
上下文管理器
为什么需要上下文管理器？
回答：由于请求包的发送，响应包的回调都是异步的，甚至不在同一个工作线程中完成，需要一个组件来记录一个请求的上下文，把请求-响应-回调等一些信息匹配起来。
如何将请求-响应-回调这些信息匹配起来？
这是一个很有意思的问题，通过一条连接往下游服务发送了a，b，c三个请求包，异步的收到了x，y，z三个响应包：
（1）怎么知道哪个请求包与哪个响应包对应？
（2）怎么知道哪个响应包与哪个回调函数对应？
回答：这是通过【请求id】来实现请求-响应-回调的串联的。
![]()
整个处理流程如上，通过请求id，上下文管理器来对应请求-响应-callback之间的映射关系：
1）生成请求id
2）生成请求上下文context，上下文中包含发送时间time，回调函数callback等信息
3）上下文管理器记录req-id与上下文context的映射关系，
4）将req-id打在请求包里发给RPC-server
5）RPC-server将req-id打在响应包里返回
6）由响应包中的req-id，通过上下文管理器找到原来的上下文context
7）从上下文context中拿到回调函数callback
8）callback将Result带回，推动业务的进一步执行。
超时管理器
超时管理器，用于实现请求回包超时回调处理。
每一个请求发送给下游RPC-server，会在上下文管理器中保存req-id与上下文的信息，上下文中保存了请求很多相关信息，例如req-id，回包回调，超时回调，发送时间等。
超时管理器启动timer对上下文管理器中的context进行扫描，看上下文中请求发送时间是否过长，如果过长，就不再等待回包，直接超时回调，推动业务流程继续往下走，并将上下文删除掉。
如果超时回调执行后，正常的回包又到达，通过req-id在上下文管理器里找不到上下文，就直接将请求丢弃（因为已经超时处理过了）。
转载地址：http://chuansong.me/n/750008246737
