首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

集群JournalNode服务重启导致NameNode挂掉分析

github.com/fayson/cdhproject 提示:代码块部分可以左右滑动查看噢 1.问题描述 在我们的集群中修改了JournalNode服务的配置后需要重启时配置生效,在进行重启操作时导致...NameNode服务挂掉,具体操作步骤如下: 1.选择sgpd229-013节点的JournalNode服务重启 2.在sgpd229-013节点的JournalNode服务启动成功后,重启剩余两个节点的...通过日志可以看到NN显示无法连接sgpd229-012和sgpd229-014节点的JN服务,此时NN服务判断JN服务不可用,直接SHUTDOWN,导致NameNode服务异常退出。...3.总结 1.在高可用的Hadoop集群中,JN服务至少要有两个在正常运行,否则会导致NameNode服务异常退出。...在Fayson的这个异常分析中就出现了同时重启两个JN服务从而导致NameNode服务异常退出。 2.在启用HDFS的HA时,部署JN服务时不能少于3个。

1.4K20
  • 您找到你想要的搜索结果了吗?
    是的
    没有找到

    一次bug死磕经历之Hbase堆内存小导致regionserver频繁挂掉 编辑

    java.lang.Thread.run(Thread.java:745) 截图如下,好吧,出异常了,就拿这个异常google查找结果,发现并没有明确的答案,大部分都是说链接超时,或者是句柄数满了,导致链接中断等等...搭建完毕后,继续测试,发现问题依旧,这下令人更迷惑了,看的出来非环境的问题了,不过这次有了点新的线索,由于用的是JDK8,在Hbase的log里面发现出现了大量的full gc日志,意思就是内存严重不足,导致垃圾收集时间出现了...4,5秒,这下我才有点头绪,hbase是个吃内存的玩意,内存给的少,确实有可能导致regionserver挂掉,于是我查看hbase的堆内存分配情况,发现是默认的1G,这下确实跟这个有很大关系,50条数据占存储...200M,如果每次scan一次,hbase会将其缓存在cache里面,第二次继续scan不同压缩类型的表,会导致内存膨胀,继而引发,regionserver宕机,而给出的异常提示,并不是非常明确,所以才定位问题比较困难...,知道了大概原因所在,然后把hbase的堆内存调到4G,并分发到所有节点上,再次启动,用java 客户端,扫描全表测试,这次非常稳定,regionserver没有出现过再次挂掉的情况。

    79670

    记一次生产环境因大文件下载导致的OOM事故

    hi,小伙伴们大家好,我是小牛肉,上周遇到了生产环境 OOM 的问题,找了一番之后基本定位了是大文件下载导致的问题,于是在网上搜罗了一番文章,下面分享一篇优质的解决方案,整个排查思路非常清晰,小白可以直接对照着来排查...,这么简单的一个后台系统,还能出事故?...下载GC日志,系统dump文件用于分析 GC log分析 系统启动参数,JVM内存分配:-Xmx4096m -Xms4096m -Xmn2560m 观察日志可知系统每隔 40S 发生一次 Full GC...img 我的天,用户下载的是一份2.4G的大文件,代码中FileUtils.readFileToByteArray(file) 的方式是把整个文件读取到内存再输出流里写入,此时内存不够分配,又塞不进老年代...3)成功破案了,用户下载了一份大文件,文件先加载到内存才往外写,抹泪。。。。

    37810

    Linux文件系统vim命令

    文件系统 /bin (/usr/bin、/usr/local/bin) 这个目录存放着经常使用的命令 /sbin (/usr/sbin、/usr/local/sbin) 系统管理员使用的系统管理程序.../home 存放普通用户的主目录,一个用户一个子目录 /root 该目录为系统管理员,也称作超级权限者的用户主目录 /lib 系统开机所需要的动态连接共享库,类似windows的DLL文件 /lost...下的program file目录 /boot 这里存放的是启动linux的核心文件,包括一些连接以及镜像文件 /proc 这个目录是一个虚拟的目录,他是系统内存的映射,可以通过直接访问这个目录来获取系统信息...传到linux下文件会乱码 解决方法 sed -i 's/\r$//' filename #flename即shell脚本文件名 使用dos2unix,执行相关命令dos2unix xxx.sh vim...命令 vim有三种模式 命令行模式(光标定位) hjkl //上下左右 0 $ //行首行尾 gg G //页首页尾 3G //进入第三行 u

    1.7K10

    Linux系统VIM编辑器管理

    在 Linux 的世界中,绝大部分的配置文件都是以 ASCII 的纯文本形态存在,因此利用简单的文字编辑软件就能够修改设定了,与微软的 Windows 系统不同的是,如果你用惯了 Microsoft Word...1.所有的 Unix Like 系统都会内建 VIM 文本编辑器,其他的文书编辑器则不一定会存在. 2.很多个别软件的编辑接口都会主动呼叫 VIM (例如未来会谈到的 crontab, visudo,...那么什么是 VIM 呢 ?...那 VIM 的工作模式有哪些呢 ? 基本上VI/VIM共分为三种模式,分别是命令模式,输入模式,末行模式....set nohlsearch :set backup 是否自动备份 :set nobackup :set cursorline 给指定行添加下划线 :set all 显示所有环境变量 :set 显示与系统默认值不同的参数

    1.4K20

    如何在不导致服务器宕机的情况下,用 PHP 读取大文件

    对于Windows,请考虑使用Linux子系统,以便在Ubuntu中使用top。 为了本教程的目的,我们将测量内存使用情况。我们将看看在“传统”的脚本中使用了多少内存。...在这两种情况下,如果我们需要读取大文件,首先,我们需要知道数据是什么。第二,我们并不在乎数据是什么。让我们来探索这些选择吧......但是,我们想从CDN获取一个文件,而不是从本地的文件系统获取。我们可以用一些其他的东西来更好的替换file_get_contents(就像Guzzle),即使在引擎内部它们几乎是一样的。...不同之处在于一旦它变得足够大 php://temp 会将数据存储在文件系统中,而 php://memory 将一直持存储在内存中直到资源耗尽。...总结 虽然这不是我们经常遇到的问题,但在处理大文件时很容易搞砸。在异步应用程序中,当我们不注意小心使用内存的话,很容易导致整个服务器宕机。

    1.6K50

    vim复制内容到系统剪切板

    说回正题,vim中的复制到系统剪切板一直是我之前的心病,因为不熟悉所以有阴影存在。但到目前为止我对vim有了更多的认识,于是就把这个问题解决了。 怎么解决的呢?很简单。...shift+v然后选中几行之后,在当前模式下输入:"+y ,然后就可以粘贴到其他系统中了。...Note 注意 上面输入的是:引号 加号 y 不过这不够快捷,于是想到不如绑定一个快捷键,在vim中有以下几种按键绑定的模式: Note 键盘映射模式 map : 正常模式,可视化模式和运算符模式可用...:插入模式和命令行模式可用 imap :插入模式可用 cmap :命令行模式可用 因此,我只需要用vmap来绑定我要用的快捷键,绑定了ctrl+c: vmap "+y 这样就可以在vim里写博客...参考:http://yyq123.blogspot.com/2010/12/vim-map.html

    4.5K20

    如何在不会导致服务器宕机的情况下,用 PHP 读取大文件

    对于Windows,请考虑使用Linux子系统,以便在Ubuntu中使用top。 为了本教程的目的,我们将测量内存使用情况。我们将看看在“传统”的脚本中使用了多少内存。...在这两种情况下,如果我们需要读取大文件,首先,我们需要知道数据是什么。第二,我们并不在乎数据是什么。...但是,我们想从CDN获取一个文件,而不是从本地的文件系统获取。我们可以用一些其他的东西来更好的替换file_get_contents(就像Guzzle),即使在引擎内部它们几乎是一样的。...不同之处在于一旦它变得足够大 php://temp 会将数据存储在文件系统中,而 php://memory 将一直持存储在内存中直到资源耗尽。...总结 虽然这不是我们经常遇到的问题,但在处理大文件时很容易搞砸。在异步应用程序中,当我们不注意小心使用内存的话,很容易导致整个服务器宕机。

    1.3K90
    领券