专栏首页测试开发社区TCPCopy 线上流量复制工具

TCPCopy 线上流量复制工具

TCPCopy是一种重放TCP流的工具,使用真实环境来测试互联网服务器上的应用程序。

一、描述:

虽然真实的实时流量对于Internet服务器应用程序的测试很重要,但是由于生产环境中的情况很负责,测试环境很难完全模拟线上环境。为了能够更真实的测试,我们开发了一款线上流量复制工具-TCPCopy,它可以使用线上真实的流量来对测试环境中的服务器进行测试。目前,TcpCopy技术已经在中国很多公司大量使用。

二、使用场景:

1)分布式压力测试

使用tcpcopy复制真实的数据来进行服务器的压力测试。有些bug只有在高并发的情况下才能够被发现。

2)仿真实验:

被证明是稳定的新系统,其bug只能在真正使用的时候才能被发现

3)回归测试

4)性能对比

三、框架:

如Figure1中所示,tcpcopy包括两部分:tcpcopy(client)和intercept(server)(后文中统一将tcpcopy-client称为tcpcopy,将tcpcopy-server称为intercept),当tcpcopy运行在生产服务器并从生产服务器抓取请求时,inteceptor运行在辅助服务器上进行一些辅助工作,例如,响应tcpcopy。切记,测试应用程序应该运行在测试服务器上。

tcpcopy默认情况下使用socket输入技术在网络层抓取线上的数据包,做一些基本处理(包括:模拟TCP交互,网络控制,以及模拟传输层和应用层),使用socket输出技术发送数据包到测试服务器(如粉色箭头所示)

tcpcopy的测试服务器需要做的唯一操作是:设置适当的参数使响应信息发送到辅助服务器中(装intercept的服务器)(如绿色箭头所示)

intercept(默认)将响应信息传送给tcpcopy。通过抓取响应包,intercept提取响应头信息,并使用一个特殊的通道将响应头信息发送给tcpcopy(如紫色箭头所示)。当tcpcopy接受到响应头信息,它利用头信息修改在线打包器的属性并继续发送另一个包。应当注意,来自测试服务器的响应被路由到应该充当黑洞的辅助服务器。

四、快速开始

1、获取intercept的两种方式:

1)Download the latest intercept release.

2)clone git://github.com/session-replay-tools/intercept.git

2、获取tcpcopy的两种方式

1)Download the latest tcpcopy release.

2)clone git://github.com/session-replay-tools/tcpcopy.git

五、获取安装在辅助服务器上的intercept

1)cd intercept 2)./configure 3)选择适当的配置参数 4)make 5)make install

六、intercept的配置参数

--single intercept运行在单机情况下 --with-pfring=PATH 将路径设置为PF_RING库源 --with-debug 以debug模式编译intercept(保存在日志文件中)

七、获取安装在生产服务器上的tcpcopy

1)cd tcpcopy 2)./configure 3)选择适当的配置参数 4)make 5)make install

八、tcpcopy的配置参数

--offline 从pcap文件重放TCP流 --pcap-capture 在数据链路层抓包(默认在网络层) --pcap-send 在数据链路层发包(默认在网络层) --with-pfring=PATH 将路径设置为PF_RING库源 --set-protocol-module=PATH 设置tcpcopy为外部协议模块工作 --single 如果intercept和tcpcopy都设置为单机模式,只有一个tcpcopy和一个intercept一起工作,将会获得更好的性能 --with-debug 以debug模式编译tcpcopy(保存在日志文件中)

九、运行tcpcopy

确保tcpcopy和intercept都配置为“./configure”

1)在运行应用程序的测试服务器上,正确设置路由命令以将响应数据包发送到辅助服务器上

例如:

假设61.135.233.161是辅助服务器的IP地址。 我们设置以下route命令将所有对62.135.200.x的的响应路由到辅助服务器。

route add -net 62.135.200.0 netmask 255.255.255.0 gw 61.135.233.161

2)在运行intercept的辅助服务器上(需要root权限或者能使用socket通信的权限)

./intercept -F <filter> -i <device,>

请注意,过滤器格式与pcap过滤器相同。 例如:./intercept -i eth0 -F 'tcp and src port 8080' -d

intercept将捕获基于TCP应用的响应,该应用监听在设备的8080端口上

3)生产服务器中(需要root权限或者能使用socket通信的权限)

./tcpcopy -x localServerPort-targetServerIP:targetServerPort -s <intercept server,>

[-c <ip range,>]

例如(假设61.135.233.160是目标服务器的IP地址):

./tcpcopy -x 80-61.135.233.160:8080 -s 61.135.233.161 -c 62.135.200.x

tcpcopy将抓取当前服务器上80端口的数据包,修改客户端IP地址为62.135.200.x,将这些数据包发送到ip地址为61.135.233.160,端口为8080的测试服务器,并且连接61.135.233.161,告诉intercept将响应数据包发送给它(tcpcopy) 虽然“-c”参数是可选的,但在此设置以便简化路由命令。

十、注意

1)只能在linux上测试(kernal 2.6 or above) 2)tcpcopy可能丢包,因此丢失请求 3)root权限或socket权限是必须的(例如 setcap CAP_NET_RAW = ep tcpcopy) 4)TCPCopy现在只支持客户端启动的连接 5)TCPCopy不支持使用SSL / TLS的服务器应用程序的重放 6)对于MySQL会话重放,请参考 https://github.com/session-replay-tools 7)不应该在辅助服务器上设置ip转发 8)请执行“./tcpcopy -h”或“./intercept -h”以获取更多详细信息

十一、影响因素

有几个因素可能影响TCPCopy,将在以下部分中详细介绍:

1)抓包接口

tcpcopy默认使用套接字输入接口在网络层抓取生产服务器的数据包。在系统忙时,系统内核可能会丢包。

如果你配置tcpcopy的参数“--pcap-capture”,tcpcopy将在数据链路层抓包,也可以过滤内核中的数据包。在PF_RING资源中,当使用pcap捕获时,tcpcopy将丢失更少的数据包。

或许抓请求包的最好方式是通过交换机镜像入口的数据包,然后通过负载均衡器将巨大的流量划分到几台机器

2)发送接口

tcpcopy默认使用套接字输出接口在网络层发送数据包到测试服务器。如果你想避免IP连接跟踪问题或者获得更好的性能表现,配置tcpcopy的参数“--pcap-send”,设置适当的参数,tcpcopy可以在数据链路层发送数据包到测试服务器。

3)数据包在通往测试服务器的路上

当一个数据包被tcpcopy发送时,它可能在到达测试服务器前遭到很多挑战。由于数据包中的源IP地址依然是终端用户的IP地址(默认情况下)而不是生产服务器的IP地址,一些安全设备可能将该包削弱或当做伪造的包丢弃它。这种情况下,你在测试服务器使用tcp抓包工具,可能抓取不到期望的终端用户的数据包。要确定你是否正处于这种情况下,你可以使用同一网段下的测试服务器做个小测试。如果数据包能被成功的发送到同一网段的测试服务器,而不能发送到不同网段的测试服务器,那么证明你的数据包在半路被丢弃了。

为了解决这个问题,我们建议将tcpcopy、测试服务器、intercept部署在同一个网段内。在同一网段中有一个代理的帮助下还有另一个解决方案,tcpcopy可以向代理发送数据包,然后代理会将相应的请求发送到另一个网段中的测试服务器。

注意,在同一网段中的一个虚拟机上部署目标服务器应用程序可能面临上述问题

4)测试服务器的路由

测试服务器可能设置了反向过滤技术,可以检查包中源IP地址是否是被伪造的。如果是,则该包在网络层被丢弃。

如果在测试服务器中能用tcp抓包工具抓到包,但是测试服务器上的应用程序接收不到任何请求,你应该检查你是否有类似反向过滤技术的设置。如果设置了,你不得不移除相关的设置来让数据包通过网络层。

也有些其他原因可能导致tcpcopy不能正常工作,例如防火墙设置问题。

5)测试服务器上的应用程序

测试服务器上的应用程序可能不能及时处理所有的请求。一方面,应用中的bug导致请求很长时间得不到响应;另一方面,一些TCP层以上的协议只处理socket缓冲中的第一个请求,将剩下的请求留在socket缓冲中不处理。

6)辅助服务器的路由

你不应该设置ip转发为true或者辅助服务器不能作为一个黑洞工作。

十二、历史版本

2014.09 v1.0 TCPCopy released

十三、错误和功能请求

有错误或功能请求?请打开一个新问题。 在打开任何问题之前,请搜索现有问题。

十四、版权和许可

版权所有2016根据BSD许可。

要使用MySQL重放Session,请参考:mysql-replay-module

原文链接:https://github.com/wangbin579/tcpcopy

本文分享自微信公众号 - 测试开发社区(TestDevHome)

原文出处及转载信息见文内详细说明,如有侵权,请联系 yunjia_community@tencent.com 删除。

原始发表时间:2018-12-07

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

我来说两句

0 条评论
登录 后参与评论

相关文章

  • 看完这篇还不了解 Nginx,那我就哭了!

    想必大家一定听说过 Nginx,若没听说过它,那么一定听过它的"同行"Apache 吧!

    测试开发社区
  • 华为测试岗面试经验(附面试流程)

    脑筋急转弯:100个白球,100个红球,2个盒子,随机组合放入两个盒子,保证每个盒子至少有1个球,抓到白球最大最小概率?编程实现?

    测试开发社区
  • requests库入门-16-Session和Cookie

    作者 | Anthony_tester ,300w+访问量博主,Oracle测试开发工程师。

    测试开发社区
  • 速读原著-TCP/IP(高速缓存)

    为了减少I n t e r n e t上D N S的通信量,所有的名字服务器均使用高速缓存。在标准的 U n i x实现中,高速缓存是由名字服务器而不是由名字解...

    cwl_java
  • 内网渗透

    外网更侧重于找漏洞寻找突破口 举个简单的例子: 把渗透测试当做去偷某家超市的某个商品。外网渗透就是突破超市的大门,进入超市。

    宸寰客
  • 互联网是如何工作的?

    我们每天都在使用网络,面对这个看不见也摸不着的东西,你有没有思考过他的背后发生了什么吗?

    出其东门
  • 上班第一天,一个合格的运维应该做什么?

    运维行业正在变革,推荐阅读:30万年薪Linux运维工程师成长魔法 作为一名运维工程师,如果你在春节放假期间没有被报警电话和邮件吵醒过,那说明你在放假前的准备...

    小小科
  • 什么是站群服务器以及服务器做好优化的好处是什么?

    之前都是分享一些关于网络安全,大数据还有物联网和攻击各种的话题,墨者安全决定尽量做到多样化,软硬结合,在分享软件的同时偶尔说下硬件,因为实际我们业...

    墨者安全筱娜
  • Emlog博客系统IIS 7/8伪静态

    最近在论坛看到很多朋友的主机系统升级到IIS7或IIS8,所以伪静态规则不能用以前IIS6的。其实前一两年,很多国外的空间就升级到WIN2008,那时我有个网站...

    似水的流年
  • Emlog博客系统IIS 7/8伪静态

    最近在论坛看到很多朋友的主机系统升级到IIS7或IIS8,所以伪静态规则不能用以前IIS6的。其实前一两年,很多国外的空间就升级到WIN2008,那时我有个网站...

    似水的流年

扫码关注云+社区

领取腾讯云代金券