问GRPC:在Java/Scala中制作高吞吐量客户端

EN

我有一项以相当高的速率传送信息的服务。

目前，它由akka提供服务，每分钟发送350万条消息。我决定试一试。不幸的是，它的吞吐量要小得多：~每分钟500 k条消息，甚至更少。

请你介绍一下如何优化它好吗？

我的设置

硬件：32核，24 32堆。

grpc版本：1.25.0

消息格式和端点

消息基本上是二进制blob。客户端将100 K- 1M或更多消息流到同一个请求(异步)中，服务器不使用任何响应，客户端使用无操作观察者。

service MyService {
    rpc send (stream MyMessage) returns (stream DummyResponse);
}

message MyMessage {
    int64 someField = 1;
    bytes payload = 2;  //not huge
}

message DummyResponse {
}

问题:与akka实现相比，消息速率较低。我观察到CPU使用率很低，因此我怀疑grpc调用实际上是在内部阻塞，尽管它不这么说。调用onNext()确实不会立即返回，但是表中也有GC。

我试图产生更多的发件人来缓解这个问题，但没有得到很大的改善。

我的发现 Grpc在序列化每条消息时实际上为它分配了一个8KB字节缓冲区。请参阅堆栈跟踪：

com.google.common.io.ByteStreams.createBuffer(ByteStreams.java:58)，com.google.common.io.ByteStreams.copy(ByteStreams.java:105)，io.grpc.internal.MessageFramer.writeToOutputStream(MessageFramer.java:274)，io.grpc.internal.MessageFramer.writeKnownLengthUncompressed(MessageFramer.java:230)，io.grpc.internal.MessageFramer。io.grpc.internal.MessageFramer.writePayload(MessageFramer.java:141) at io.grpc.internal.AbstractStream.writeMessage(AbstractStream.java:53) io.grpc.internal.ForwardingClientStream.writeMessage(ForwardingClientStream.java:37) at io.grpc.internal.DelayedStream.writeMessage(DelayedStream.java:252) at io.grpc.internal.ClientCallImpl.sendMessageInternal(ClientCallImpl.java:473) writeUncompressed(MessageFramer.java:168)在io.grpc.internal.ClientCallImpl.sendMessage(ClientCallImpl.java:457) at io.grpc.ForwardingClientCall.sendMessage(ForwardingClientCall.java:37) at io.grpc.ForwardingClientCall.sendMessage(ForwardingClientCall.java:37) at io.grpc.stub.ClientCalls$CallToStreamObserverAdapter.onNext(ClientCalls.java:346)

对构建高吞吐量grpc客户端的最佳实践的任何帮助都表示赞赏。