Thrift Direct Memory OOM问题解决方法

FrameBuffer为AbstractNonblockingServer类的内部类,TThreadedSelectorServer继承了AbstractNonblockingServer:

通过研究代码,发现FrameBuffer的read方法的代码中有如下片段,

          // pull out the frame size as an integer.
          int frameSize = buffer_.getInt(0);
          if (frameSize <= 0) {
            LOGGER.error("Read an invalid frame size of " + frameSize
                + ". Are you using TFramedTransport on the client side?");
            return false;
          }

          // if this frame will always be too large for this server, log the
          // error and close the connection.
          if (frameSize > MAX_READ_BUFFER_BYTES) {
            LOGGER.error("Read a frame size of " + frameSize
                + ", which is bigger than the maximum allowable buffer size for ALL connections.");
            return false;
          }

MAX_READ_BUFFER_BYTES这个值即为对读取的包的长度限制,为AbstractNonblockingServer类的属性,其值又取自内部类AbstractNonblockingServerArgs的maxReadBufferBytes属性,默认值为long型的最大值;

即只要修改maxReadBufferBytes的值就可以起到限制的作用,修改服务启动的代码如下:

TThreadedSelectorServer.Args args = new TThreadedSelectorServer.Args(transport).processor(
                    processor).workerThreads(this.serverWorkerThreads);
            
            // The maximum amount of memory we will allocate to client IO buffers at a time.
            // set 1MB.
            args.maxReadBufferBytes = 1024 * 1024L;
            
            server = new TThreadedSelectorServer(args);

            server.setServerEventHandler(new DataIfaceServerEvent());
            LOG.info("DataIfaceServer start, port={}.", this.serverPort);
            server.serve();

args.maxReadBufferBytes = 1024 * 1024L;  --设置为1M

通过对我的thrift的服务进行抓包调研,我的方法调用请求数据包没有超过200字节的,所以1M的长度限制是足够了。

通过测试如上的修改没有问题,并且对服务继续发送http get请求不会导致直接内存增加。并且报出错误日志:

Read a frame size of XXX, which is bigger than the maximum allowable buffer size for ALL connections.

至此问题解决;

问题的分析过程:http://my.oschina.net/shipley/blog/422204

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏文武兼修ing——机器学习与IC设计

队列及其实现队列队列的实现

队列 队列即FIFO,一言以蔽之就是先进先出。比如入队列的顺序是1,2,3,4,那么出队列的顺序也是1,2,3,4 队列的实现 软件——GO语言实现 除了使用链...

4037
来自专栏cnblogs

knockoutjs 上自己实现的flux

在knockoutjs 上实现 Flux 单向数据流 状态机,主要解决多个组件之间对数据的耦合问题。 一、其实简单 flux的设计理念和实现方案,很大程度上人借...

2208
来自专栏有困难要上,没有困难创造困难也要上!

Apache-Ignite入门实战之二 - 事务处理

3556
来自专栏跟着阿笨一起玩NET

C# 解析js方法,并调用js方法

本文转载:http://www.cnblogs.com/StudyLife/archive/2013/03/11/2953516.html

3203
来自专栏MasiMaro 的技术博文

VC++ IPv6的支持

根据微软官方的说法,要做到支持Ipv6首先要做的就是将原来的SOCKADDR_IN等地址结构替换为SOCKADDR_STORAGE 该结构的定义如下:

1732
来自专栏Java编程技术

常用开源框架中设计模式使用分析(全)

说起来设计模式,大家应该都耳熟能详,设计模式代表了软件设计的最佳实践,是经过不断总结提炼出来的代码设计经验的分类总结,这些模式或者可以简化代码,或者可以是代码逻...

1422
来自专栏后端云

支持windows虚拟机和linux虚拟机分区调度

用该image生成的vm,没有被nova-scheduler调度到windows主机组。

1114
来自专栏林德熙的博客

win10 uwp 绑定静态属性

这样写的具体参见:http://www.jaylee.org/post/2012/03/07/Xaml-integration-with-WinRT-and-t...

992
来自专栏GreenLeaves

九、将cs文件快速的转换成可执行文件和响应文件(配置编译开关的文件)

1、将包含多个类型的源代码文件转换为可以部署的文件。有如下Program.cs的文件,代码如下: public sealed class Program...

3087
来自专栏腾讯云Elasticsearch Service

Elasitcsearch 底层系列 Lucene 内核解析之 Stored Fields

Lucene 的 stored fields 主要用于行存文档需要保存的字段内容,每个文档的所有 stored fields 保存在一起,在查询请求需要返回字段...

1661

扫码关注云+社区

领取腾讯云代金券