深入浅出RPC框架｜青训营笔记

课程资料

课程视频：https://live.juejin.cn/4354/yc_RPC-framework

课程导学：https://juejin.cn/post/7099665398655615006/#heading-0

课后作业：https://juejin.cn/post/7099742161540743198/

由于课程涉及到的RPC知识需要自己对其有较为全面的理解后才能比较好的get到课程中提及的各种框架设计的点，因此我建议阅读Kitex框架的源码，再结合课程目录去体会Kitex设计的初衷，笔记就以罗列概况为主，以备后续对比查阅。

基本概念

需要解决的问题

• 函数映射
• 数据转换成字节流
• 网络传输

RPC的好处

• 单一职责，有利于分工协作和运维开发
• 可扩展性强
• 故障隔离，服务整体更可靠

使用RPC的问题

• 服务宕机，对方如何处理？
• 调用时发生网络异常，如何保证消息的可达性？
• 请求量突增导致服务无法及时处理，有哪些应对措施？

分层设计

编解码层

• 语言特定的格式：一些语言内建了将内存对象编码为字节序列的支持，如Java的java.io.Serializable
• 文本格式：JSON、XML、CSV，具有可读性
• 二进制编码：具有跨语言，高性能优点，如Thrift的BinaryProtocol、Protobuf等

协议层

• 特殊结束符：一个特殊字符作为每个协议单元结束标志

• 变长协议：定长加不定长的部分组成，其中定长的部分需要描述不定长内容长度

网络通信层

关键指标

稳定性&易用性&扩展性

• 熔断：保护调用方，防止被调用的服务出现问题而影响整个链路
• 限流：保护被调用方，防止大流量把服务压垮
• 超时控制：避免浪费资源在不可用的节点上
• 请求成功率
  • 负载均衡
  • 重试
• 长尾请求
  • 网络抖动
  • GC
  • Backup Request（解决方式）
• 注册中间件：以上的功能都通过注册中间件的方式启用

观测性

• Log（日志）、Metric（监控）、Tracing（追踪）
• 内置观测性服务

高性能

• 高吞吐
• 低延迟
• 手段：
  • 连接池
  • 多路复用
  • 高性能编解码协议
  • 高性能网络库

企业实践

Kitex是字节跳动内部的Golang微服务RPC框架，先已开源。

Kitex文档：https://www.cloudwego.io/zh/docs/kitex/getting-started/

Kitex体验：https://juejin.cn/post/7098966260502921230

Kitex源码阅读—脚手架代码的生成(一)：https://juejin.cn/post/7100867939829563422

整体架构

自研网络库

原生网络库的问题

• 原生库无法感知连接状态

在使用连接池时，池中存在失效的连接，影响连接池的复用。

• 原生库存在goroutine暴涨的风险

一个连接一个goroutine的模式，由于连接利用率低下，存在大量goroutine占用调度开销，影响性能。

自研网络库 — Netpoll

• 解决无法感知连接状态

引入epoll主动监听机制，感知连接状态

• 解决goroutine暴涨的风险

建立goroutine池，复用goroutine

• 提升性能

引入Nocopy Buffer，向上层提供NoCopy 的调用接口，编解码层面零拷贝

扩展性设计

支持多协议，也支持灵活的自定义协议扩展

性能优化

网络库优化

• 调度优化
  • epoll_wait在调度上的控制
  • gopool重用goroutine，降低同时运行携程数
• LinkBuffer
  • 读写并行无锁，支持nocopy地流式读写
  • 高效扩缩容
  • Nocopy Buffer池化，减少GC
• Pool
  • 引入内存池和对象池，减少GC开销

编解码优化

• Codegen
  • 预计算并分配内存，减少内存操作次数，包括内存分配和拷贝
  • inline减少函数调用次数和避免不必要的反射操作
  • 自研了Go语言实现的Thrift IDL解析和代码生成器，支持完善的Thrift IDL语法和语义检查，并支持了插件机制 — Thriftgo
• JIT
  • 使用JIT编译技术改善用户体验的同时带来更强的编解码性能，减轻用户维护生成代码的负担
  • 基于JIT编译技术的高性能动态Thrift 编解码器 — Frugal

合并部署

• 微服务过于微小，传输和序列化开销越来越大
• 将亲和性强的服务实例尽可能调度到同一个物理机，远程RPC调用优化为本地IPC调用

小结

由于课程关于RPC框架的理解需要结合具体的使用经验，因此我推荐尝试开始独立阅读Kitex的源码，可以从边缘组件开始，如：分析是如何通过命令行创建脚手架代码的，等逐渐熟悉源码分析的方法之后，可以尝试阅读核心组件的源码，再结合课程的组织目录，仔细体会Kitex的设计。