专栏首页Hadoop实操如何为Hadoop集群服务器绑定双万兆网卡

如何为Hadoop集群服务器绑定双万兆网卡

1 文档编写目的

在搭建Hadoop集群时,要求网络使用以太网,最低要求使用千兆网络,推荐使用万兆网络,标准配置是数据网络配备双万兆网卡,管理网络配备双千兆网卡。使用双万兆网卡的好处有以下几点:

  • 提高了Hadoop集群的吞吐能力;
  • 提供网络冗余,把多块网卡绑定到一个IP地址,当一块网卡发生物理性损坏的情况下,仍然能够提供正常的服务,不会因为单块网卡故障而导致节点不可用。

本文将主要讲述如何为Hadoop集群服务器绑定双万兆网卡,以绑定一台服务器的万兆网卡为例,其他服务器操作类似,所有服务器都必须绑定。

测试环境:操作系统版本为Redhat 7.2

文章目录结构:

1. 文档编写目的

2. Linux Bonding

2.1 Linux Bonding介绍

2.2 Bond mode介绍

3. 绑定双万兆网卡

3.1 定位万兆网卡

3.2 绑定双万兆网卡

4. 功能验证

5. 总结

2 Linux Bonding

2.1 Linux Bonding介绍

Linux Bonding 驱动提供了一个把多个网络接口设备捆绑为单个的网络接口设备来使用的功能,用于网络负载均衡及网络冗余,在生产场景中是一种常用的技术。可以通过以下命令确定内核是否支持 bonding:

# cat /boot/config-3.10.0-327.el7.x86_64 | grep -i CONFIG_BONDING

不同操作系统版本,红色字体部分可能有所不同,执行该命令后,得到如下类似输出则表示支持bonding:

2.2 Bond mode介绍

Bond mode一共有7种,分别对应0~6

mode=0:平衡负载模式,有自动备援,但需要“Switch”(交换机)支援及设定。

特点:传输数据包顺序是依次传输。

mode=1:自动备援模式,其中一条线若断线,其他线路将会自动备援。

mode=2:Balance-XOR policy(平衡策略)

特点:基于指定的传输HASH策略传输数据包,此模式提供负载平衡和容错能力。

mode=3:Broadcast(广播策略)

特点:在每个slave接口上传输每个数据包,此模式提供了容错能力。

mode=4:IEEE 802.3ad(动态链接聚合)

特点:创建一个聚合组,它们共享同样的速率和双工设定。根据802.3ad规范将多个slave工作在同一个激活的聚合体下。

必要条件:

条件1:ethtool支持获取每个slave的速率和双工设定;

条件2:switch(交换机)支持IEEE802.3ad Dynamic link aggregation;

条件3:大多数Switch(交换机)需要经过特定配置才能支持802.3ad模式。

mode=5:Adaptive transmit load balancing(适配器传输负载均衡)

特点:不需要任何特别的Switch(交换机)支持的通道bonding。在每个slave上根据当前的负载(根据速度计算)分配外出流量。如果正在接受数据的slave出故障了,另一个slave接管失败的slave的MAC地址。

必要条件:ethtool支持获取每个slave的速率。

mode=6:Adaptive load balancing(适配器适应性负载均衡)

特点:表示负载均衡方式,两块网卡都工作,不需要交换机作支持。

3 绑定双万兆网卡

3.1 定位万兆网卡

1、登录任意一台服务器,使用“ip a”命令找到状态为“UP”的网卡,我这里两块万兆网卡对应设备是eno50和ens3f1

注意,我这里已经绑定了双万兆网卡,所以能看到我这两块网卡的master是bond0

2、可能存在多块网卡,执行“ethtool eno50”命令,确认状态为“UP”的网卡是否为万兆网卡,其他网卡类似。

3.2 绑定双万兆网卡

1、进入/etc/sysconfig/network-scripts/目录

cd /etc/sysconfig/network-scripts/

2、新建ifcfg-bond0文件,添加内容如下:

DEVICE=bond0ONBOOT=yesBOOTPROTO=staticIPADDR=192.168.1.1 #IP地址NETMASK=255.255.255.128 #掩码值GATEWAY=192.168.1.126 #网关地址USERCTL=no #非root用户不可以控制该网卡NM_CONTROLLED=no #网卡不给NetworkManager管理BONDING_OPTS="mode=4 miimon=100 xmit_hash_policy=layer2+3"

红色字体部分需要依据实际情况修改,这里解释下BONDING_OPTS配置项,mode=4配置的是动态链路聚合;miimon=100代表系统每100ms监测一次链路连接状态,如果有一条线路不通就转入另一条线路;xmit_hash_policy=layer2+3设置的是外出流量的slave选举策略。

3、修改ifcfg-eno50和ifcfg-ens3f1文件,建议修改前备份。文件内容如下:

[root@bigdata31 network-scripts]# cat ifcfg-eno50DEVICE=eno50BOOTPROTO=noneONBOOT=yesMASTER=bond0 #配置master为bond0SLAVE=yes #启用slaveUSERCTL=noNM_CONTROLLED=no

[root@bigdata31 network-scripts]# cat ifcfg-ens3f1DEVICE=ens3f1BOOTPROTO=noneONBOOT=yesMASTER=bond0 #配置master为bond0SLAVE=yes #启用slaveUSERCTL=noNM_CONTROLLED=no

4、修改完成后,重启网络服务

systemctl restart network

4 功能验证

1、执行“ip a”命令,可以看到bond0,并且eno50和ens3f1的master均为bond0,IP地址一致。

2、使用ethtool工具查看bond0的带宽

5 总结

1、通过Linux Bonding可以把多块网卡绑定为一块逻辑网卡,所有网卡共用一个IP地址;

2、通过ethtool工具可以查看网卡带宽等信息;

3、解绑双网卡操作类似,反向操作,还原配置即可。

参考文章:

http://blog.51cto.com/lixin15/1769338

本文分享自微信公众号 - Hadoop实操(gh_c4c535955d0f),作者:罗康

原文出处及转载信息见文内详细说明,如有侵权,请联系 yunjia_community@tencent.com 删除。

原始发表时间:2018-08-27

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

我来说两句

0 条评论
登录 后参与评论

相关文章

  • Kerberos环境下Impala Daemon在CDH5.15版本中KRPC端口27000异常分析

    CDH集群升级至5.15并且启用Kerberos的情况下,在命令行使用impala-shell执行SQL操作会报如下异常:

    Fayson
  • 0597-5.16.1-如何在CM界面自定义图表

    本篇文章主要介绍在Cloudera Manager 界面图表简单说明以及如何在CM界面通过tsquery创建自定义图表

    Fayson
  • HDFS添加 NFS Gateway 角色实例启动失败问题及解决办法

    昨天登录公司测试集群的时候,发现HDFS存在告警信息,查看详细信息,发现 NFS Gateway 进程退出,尝试重启该角色实例,执行重启操作后,报如下异常:

    Fayson
  • 理解物理网卡、网卡接口、内核、IP等属性的关系

    人对应物理网卡,人的姓名对应网卡接口名称,人的档案信息(保存在公安机构)对应网卡接口的配置信息,公安机构对应内核。

    行云博客
  • Linux ethtool命令查询及设置网卡参数

        ethtool是用于查询和设置网卡参数的命令,它的功能非常强大,几乎网卡的收发数据的参数都可以在这里设置。

    技术训练营
  • 第一章 网络参数配置

    我们知道,一台计算机如果要上网,必定要连接网线或wifi,所以计算机内是有与网线、WiFi对应的连接设备的,这就是网卡。而且除了连接网线或WiFi外,网卡上还需...

    晓天
  • 关于无线网络 (一)

    每张网卡都有自己全球唯一的地址(MAC地址,12字节),正常情况下网卡只接收发送给自己的数据包(数据包前12字节就是数据包的目标MAC地址),及广播地址(MAC...

    KurtNiu
  • 【腾讯云的1001种玩法】在腾讯云上创建您的SQL Server 故障转移集群(2)

    在上一篇文章中我们介绍了如何在QCloud标准化的搭建一套域环境,并介绍了如何在生产过程中如何避免一些坑,今天,我们来介绍此次demo中真正需要注意的一些细节及...

    李斯达
  • Windows 技术篇-网卡物理(MAC)地址查看方法

    MAC 地址指的就是网卡的物理地址。 我们的网卡分有线网卡和无限网卡,这两个网卡物理地址不一样,你用哪个卡连接的网络,就看对应的物理地址就好了。 查看方法:...

    小蓝枣
  • 腾讯云云主机实现多IP绑定

    腾讯云主机实际上一直允许绑定弹性IP,最开始是可以实现经典IP更换为弹性IP可以有效的屏蔽掉攻击,释放IP进行更换。

    Zach

扫码关注云+社区

领取腾讯云代金券