首页
学习
活动
专区
圈层
工具
发布

Python TCP Socket的粘包和分包的处理

概述 在进行TCP Socket开发时,都需要处理数据包粘包和分包的情况。本文详细讲解解决该问题的步骤。使用的语言是Python。...分包:发送方发送字符串”helloworld”,接收方却接收到了两个字符串”hello”和”world”。 虽然socket环境有以上问题,但是TCP传输数据能保证几点: 顺序不变。...例如发送方发送hello,接收方也一定顺序接收到hello,这个是TCP协议承诺的,因此这点成为我们解决分包、黏包问题的关键。 分割的包中间不会插入其他数据。...目前最常用的协议标准是:消息头部(包头)+ 消息长度 + 消息正文 TCP为什么会分包 TCP是以段(Segment)为单位发送数据的,建立TCP链接后,有一个最大消息长度(MSS)。...在Python使用json模块来生成json数据 Python示例 下面使用Python代码展示如何处理TCP Socket的粘包和分包。

5.3K10
  • 您找到你想要的搜索结果了吗?
    是的
    没有找到

    【新梦想干货连载】网络情缘之TCP的分包处理

    图二:wireshark抓包服务器给客户端的响应 Part 3 通过这个过程大家应该知道,TCP的每个数据包的大小是有限制的,当数据超大的时候,就会切分成多个包进行传输。...TCP的可靠性就是通过消息确认和数据包超时重传来保证的,当然还有一些其它的措施。 大家了解过传输协议的话应该知道,TCP协议有一个不太靠谱的兄弟叫做UDP(用户数据报)协议。...一般情况下,要求文件准确无误的传送给对方的就会使用TCP协议,应用层很多都是的,比如:HTTP协议,FTP协议,QQ文件传输,邮件传输等。而UDP协议的使用有:QQ语音,QQ视频。...既然HTTP是用的TCP协议,那下次我们就来说一说HTTP与TCP是怎么配合的吧。

    58140

    C++网络编程:TCP粘包和分包的原因分析和解决

    粘包拆包发生场景因为TCP是面向流,没有边界,而操作系统在发送TCP数据时,会通过缓冲区来进行优化,例如缓冲区为1024个字节大小。...协议的应用,不应用包来描述,而应该用流的概念来描述),个人认为接收端产生的粘包应该与linux内核处理socket的方式 select/poll轮询机制的线性扫描频度或者跟epoll无关。...分包产生的原因就简单的多:可能是IP分片传输导致的,也可能是传输过程中丢失部分包导致出现的半包,还有可能就是一个包可能被分成了两次传输,在取数据的时候,先取到了一部分(还可能与接收的缓冲区大小有关系),...解决办法:粘包与分包的处理方法:我根据现有的一些开源资料做了如下总结(常用的解决方案):一个是采用分隔符的方式,即我们在封装要发送的数据包的时候,采用固定的字符作为结尾符(数据中不能含结尾符),这样我们接收到数据包后...,如果出现结尾标识,即人为的将粘包分开,如果一个包中没有出现结尾符,认为出现了分包,则等待下个包中出现后 组合成一个完整的数据包,这种方式适合于文本传输的数据,如采用/r/n之类的分隔符;另一种是采用在数据包中添加长度的方式

    3.4K40

    Linux网络编程TCP

    TCP/IP协议 TCP/IP 协议栈是一系列网络协议(protocol)的总和,是构成网络通信的核心骨架,它定义了电子设备如何连入因特网,以及数据如何在它们之间进行传输。...OSI 7层模型和TCP/IP四层网络模型对应关系 计算机网路基础的知识不过多讲解,主要是让大家明白接下来的Linux网络编程数据流属于那一层,具体如下图 TCP/IP协议数据流示意图 我们接下来讲解的...Linux网络编程Tcp协议是属于传输层的协议 Linux Socket 网络编程 TCP协议 TCP是面向连接的可靠的传输层协议。...TCP编程 Linux中的网络编程是通过socket接口来进行的。socket是一种特殊的I/O接口,它也是一种文件描述符。常用于不同机器上的进程之间的通信,当然也可以实现本地机器上的进程之间通信。...使用TCP协议的流程图 根据流程图逐一讲解API接口.

    6.2K30

    【Linux】:Socket编程 TCP

    前言 在上篇文章里面已经讲了关于 Socket UDP 网络编程的内容,这篇文章我们主要是关于 Socket TCP 网络编程的内容 老样子,先写 Makefile 文件,如下: .PHONY:all...(File Descriptor, FD)泄露是指程序在运行过程中打开了文件或其他资源(如套接字、管道等),但没有正确关闭它们,导致这些文件描述符一直占用系统资源的情况。...文件描述符泄露会导致系统资源耗尽,进而引发程序崩溃或系统性能下降。...EchoServer -- 线程池 引入我们之前写的【Linux】:线程库 Thread.hpp 简单封装 Thread.hpp 以及 单例模式下的【Linux】:日志策略 + 线程池(单例模式 Threadpool.hpp...从文件描述符来进行读写 -- recv / send 上面我们使用的 read 和 write 都是文件中进行的读写,假如我们想从 文件描述符 fd 中来读取数据 呢?

    1.3K10

    Linux TCP RST情况

    其中复位标志RST的作用就是“复位相应的TCP连接”。 TCP连接和释放时还有许多细节,比如半连接状态、半关闭状态等。详情请参考这方面的巨著《TCP/IP详解》和《UNIX网络编程》。...原因在于Socket.close()方法的语义和TCP的“FIN”标志语义不一样:发送TCP的“FIN”标志表示我不再发送数据了,而Socket.close()表示我不在发送也不接受数据了。...; 客户端和服务器统一使用TCP短连接。...然后是客户端和服务器统一使用TCP长连接:客户端使用TCP长连接很容易配置(直接设置HttpClient就好),而服务器配置长连接就比较麻烦了,就拿tomcat来说,需要设置tomcat的maxKeepAliveRequests...,固定5分钟tcp连接回收,而且发现连接出错时,重发之前10s内消息。

    6.6K10

    【Linux】Socket编程—TCP

    TCP socket API 详解   下面介绍程序中用到的 socket API,这些函数都在 sys/socket.h 中。...socket() 作用:打开一个网络通讯端口,如果成功的话,就像 open()一样返回一个文件描述符; 应用程序可以像读写文件一样用 read/write 在网络上收发数据; 返回值:如果 socket...作用:将参数 sockfd 和 myaddr 绑定在一起, 使 sockfd 这个用于网络通讯的文件描述符监听 myaddr 所描述的地址和端口号; 参数: 前面讲过,struct sockaddr...Echo Server   有了上面的接口,我们就可以实现以TCP为基础的简单消息回显服务器了,运行结果应该如下图所示: 代码如下: TCP服务器 #pragma once #include <iostream..."; } _isruning = false; } 对于多进程,首先每个进程都有自己的文件描述符表,所以父子进程都需要关闭自己不需要的文件描述符

    1.2K10

    【Linux网络】TCP协议

    引言 TCP协议是传输层中非常重要的协议。本篇博客我们将从TCP头部信息、TCP状态转移、TCP数据流、TCP数据流的控制等等方面来讨论! 在TCP协议中,通信双方的地位是平等的。...1、TCP协议的特点 传输层中我们常用的协议有两个:TCP协议和UDP协议。TCP协议相对于UDP协议的特点是:面向连接、可靠的、面向字节流的。...当TCP模块真正开始发送数据时,发送缓冲区中这些等待发送的数据可能被封装成一个或者多个TCP报文发出去,因此,TCP模块发送出的TCP报文段的个数和应用程序执行的写操作次数没有固定的数量关系。...当接收缓冲区收到一个或者多个TCP报文后,TCP模块将它们携带的应用程序的数据按照TCP报文的序号【见下文】依次放入TCP接收缓冲区中,并通知应用程序读取数据。...Linux中(BSD Unix和Windows也是如此), 超时以500ms为一个单位进行控制, 每次判定超时重发的超时 时间都是500ms的整数倍.

    84310

    Linux网络UDP与TCP

    但是这个接收缓冲区不能保证收到的 UDP 报的顺序和发送 UDP 报的顺序一致; 如果缓冲区满了, 再到达的 UDP 数据就会被丢弃;——UDP不保证可靠性 基于UDP的应用层协议 NFS: 网络文件系统...TFTP: 简单文件传输协议。 DHCP: 动态主机配置协议。 BOOTP: 启动协议(用于无盘设备启动) • DNS: 域名解析协议。 DNS: 域名解析协议。...Linux 中(BSD Unix 和 Windows 也是如此), 超时以 500ms 为一个单位进行控制, 每次判定超时重发的超时时间都是 500ms 的整数倍....TCP链接异常 进程终止:连接和文件是相关的,文件声明周期是随进程的,进程终止会释放文件描述符, 仍然可以发送 FIN. 和正常关闭没有什么区别....简单理解文件与socket的关系 创建一个套接字,底层其实创建了很多个结构体,并且层层指针叠加,互相指引。

    54510

    【Linux】: 传输层协议 TCP

    TCP 协议段格式 理解TCP的报头: Linux 内核是C语言写的,在 UDP 说过报头是协议的表现,而协议本质就是结构体数据。所有 tcp报头 就是一个结构化或位段。...数据报文经过 OS 各层处理,最终将有效载荷存放到文件的缓冲区中。上层应用可以通过文件的方式统一读取网络数据,实现了网络数据的封装与解包。 二、理解 TCP 可靠性 1....服务器为例, 我们稍加修改将 套接字的文件描述符关闭的 close(); 这个代码去掉....TCP 异常情况 进程终止:进程终止会释放文件描述符, 仍然可以发送 FIN. 和正常关闭没有什么区别. 机器重启:和进程终止的情况相同....TCP 用于可靠传输的情况, 应用于文件传输, 重要状态更新等场景; UDP 用于对高速传输和实时性要求较高的通信领域, 例如, 早期的 QQ, 视频传输等.

    91110

    基于Socket的TCP协议Linux聊天系统(即时聊天、传送文件)附源码!!!

    4.1 需求分析 4.1.1 系统目的 完成一个Linux下的网络通信程序,该程序包括服务器和客户端两部分,且能够互相通信,传递消息,传送文件,即时聊天。...4.1.4 系统数据流图 该系统是服务器与客户端之间进行通信,同时涉及到文件读取与存储,故还与文件系统有交互,所以抽取出服务器、客户端、文件系统三个交互方。...服务器客户端均可通过功能选择选择收发消息或收发文件的功能。 4.2 概要设计 4.2.1 总体设计 系统分为服务器和客户端两个独立的程序,通过socket进行通信,采用IPv4,TCP协议进行传输。...发送消息按下回车后,接收方能够显示收到的消息,发送文件时接收方接收完毕后会显示接收的文件名以及文件存储的位置,同时会反馈给发送方,发送方会显示对方已接收文件。可以通过发送消息模式输入quit退出系统。...文件存储在默认文件夹下(程序所在文件夹).

    2.9K30

    Linux网络编程:TCP初体验

    =std::make_unique(); tcp_ptr->InitServer(); tcp_ptr->Start(); return 0; } 可以看见我们这里是没有定义一个默认的...那么我们的TCP他所做的初始化工作又是什么呢? 获取套接字 自然也是要先获取套接字也就是文件描述符信息。...我们要传进去的就是之前bind的文件描述符,注意,一定要是: 通过 socket(AF_INET, SOCK_STREAM, 0) 创建的 流式套接字(TCP)。...我们之前创建的文件描述符与现在的返回值文件描述符的关系也是这样的。 之前创建的文件描述符就相当于在拉客,每一个返回值文件描述符的产生就是他拉到客人了,随后叫出来迎接的对应的一个服务员。...=std::make_unique(); tcp_ptr->InitClient(); tcp_ptr->Start(); return 0; } 进程阻塞的问题

    11110

    【Linux】Linux文件

    Linux文件操作 Linux中,一切皆文件(网络设备除外)。 硬件设备也“是”文件,通过文件来使用设备。 目录(文件夹)也是一种文件。...boot:这里存放的是启动Linux时使用的一些核心文件,包括一些连接文件和镜像文件。...deb:deb是Device(设备)的缩写,该目录下存放的是Linux的外部设备,在Linux中访问设备的方式和访问文件的方式是相同的。...tmp:用来存放一些临时文件 media:Linux系统会自动识别一些设备,例如U盘、光驱等,当识别后,Linux会把识别的设备挂载到这个目录下。...mnt:临时挂载其他文件。 proc:包含了进程的相关信息。 ---- Linux文件的操作方式 文件描述符fd fd是一个大于等于0的整数。

    46.5K31
    领券