Casio——RPC远程调用框架

1、项目结构

• common：公用包
  • annotation：注解（服务注册、消费、SPI）
  • exception：自定义异常
    • RemotingException.class：远程连接异常
    • RpcException.class ：RPC调用异常
  • extension：SPI，参照Dubbo实现，没有dubbo那么复杂
  • utils：通用工具类
• config：
  • context：启动上下文相关（注册中心、服务提供者、服务消费者等等）
• domain
  • RpcMessage.class：消息传递的数据通用类型，数据通过protocol包装后的类
  • RpcRequest.class：服务消费者请求
  • RpcResponse.class：服务提供者调用服务后返回结果
  • RpcStatus：状态和异常
• monitor：监控
• registry：注册中心相关
  • cache：注册中心相关信息缓存，不需要重复调用注册中心
  • nacos
  • zookeeper
  • ServiceDiscovery.class：服务发现接口
  • ServiceRegistry.class ： 服务注册接口
• remoting：远程连接
  • http：http形式调用，类似Spring cloud
  • netty：netty连接
• rpc：与远程连接模块区分，是远程连接前置和后置工作
  • cluster：集群相关，负载均衡等
  • filter：前置过滤
  • protocol：协议，com.report.casio.remoting.transport.netty.codec调用
  • proxy：代理，客户端和服务端
• spring：整合Spring相关

二、实现原理

RPC分为服务提供者和消费者两部分。

RPC调用流程：消费者通过类生成对应的URL，访问注册中心，拿到提供者所在的IP地址，通过负载均衡选择其中一个IP地址，进行连接（Netty），将服务名、方法名、参数等信息传递给提供者，提供者调用实际的实现类，将结果包装后返回给消费者，消费者将结果输出。

提供者

启动时扫描项目中 @Register 的类，将类注册进注册中心，这里就需要几个部分：注册中心配置类、注册中心连接工具类，扫描类、已经服务注册类。

目前只实现zookeeper注册中心，工具类采用 org.apache.curator 。

注册仿照dubbo的方式，但功能相对少了很多，因此路径也优化了很多。路径格式 casio/serviceName/provider 。

扫描类 AnnScanUtils ，没有使用 Spring 结合实现，这个扫描类通过路径递归查找判断扫描，可能存在问题。

NettyServer：等待消费者发送消息，调用后返回结果

消费者

服务发现类 ServiceDiscovery：通过方法名生成对应路径，去注册中心获取ip，每次调用都需要访问注册中心，会对注册中心造成比较大的压力，因此第一次调用获取后将结果缓存起来，通过添加watcher，如果该节点发生变化，删除对应的缓存。

NettyClient：消费者比较复杂，首先你需要拿到对应IP的 Channel，进行消息发送，其次需要等待提供者将消息返回，这里的实现采用 Future 模式实现（不用通过阻塞的方式实现 wait、notify，多线程会出现问题）。

SPI机制

仿照 dubbo 实现，只实现了扫描文件获取对应的类，源码还有类属性的注入等实现。

粘包和拆包——采用协议

+--------+--------+--------+--------+--------+--------+--------+--------+--------+--------+--------+ 
|  BYTE  |   BYTE |  BYTE  |           int            |         ........         |        | 
+--------+--------+--------+--------+--------+--------+--------+--------+--------+--------+--------+ 
|  magic | version|  type  |       content length     |            content byte[]                  | 
+--------+--------------------------------------------+--------+--------+--------+--------+--------+

magic:固定为 0x27(00011011)
version:区分协议解析器版本
type:请求类型
content length:消息长度
content byte[]:消息内容

超时和重试机制

重试的设置最好是在提供者，因为提供者对业务熟悉，能够合理的设置重试次数。

dubbo的超时针对消费者，消费者轮询Future发现超时时，不再等待该返回结果，并不意味着该线程结束执行。

三、测试

测试由于我的扫描类存在问题，放在test下会扫描不到类，因此放在项目中。同时将项目打包放在Springboot+web下进行测试，50个线程 * 100次循环进行压力测试，测试结果还算不错，也没有发现报错。

四、其他

• Rpc涉及到类在网络上的传输，因此需要注意几点：序列化；不需要传输，但是本地需要用到的属性添加 transient 修饰符；类的长度丢失问题，涉及协议
• 在Rpc中会涉及到需要多线程的问题，因此 ConcurrentMap 的使用非常必要，在累加的时候需要使用 AtomicInteger。
• CompletableFuture 类的使用，这个类在异步中使用非常强大。

存在问题或改进

• 服务发现的缓存存在问题，测试时发现服务提供者断线之后，注册中心的节点存在延迟，这个时候调用会发现服务提供者并不存在，需要添加重试机制。
• 目前消息传递使用序列化和对象转byte数组实现，可以考虑其他，例：kyro、protobuff（GRPC）
• 启动的信息不知道该如何加载和放置，目前全部堆积在 config 下，存在一定问题。
• 配置文件的读取也没有实现，目前zookeeper等配置信息都是写死的

参考

参考阿里文章：https://zhuanlan.zhihu.com/p/388848964

dubbo项目：https://github.com/apache/dubbo

几位大佬自己实现的RPC框架（相比我的完善许多，给我提供了许多思路）：https://github.com/Snailclimb/guide-rpc-framework

联系方式：QQ1758619238