python3-socket黏包现象

发布时间：2018-05-07 21:51:04编辑：Run阅读（5001）

黏包现象

让我们基于tcp先制作一个远程执行命令的程序(命令ls-l;pwd;dir)

注释:

import subprocess

# dir为需要执行的命令(win下)
# shell=True 可以写一个普通系统命令
# stderr=subprocess.PIPE stderr存放错误信息 subprocess.PIPE表示一个容器，存放信息的
# stdout=subprocess.PIPE stdout存放正常信息 读取时，只能从subprocess.PIPE中读取一次结果
res = subprocess.Popen('dir', shell=True, stderr=subprocess.PIPE, stdout=subprocess.PIPE)




基于tcp协议实现的黏包现象展示

tcp_server


import socket

sk = socket.socket()
sk.bind(('127.0.0.1', 9595))
sk.listen()

conn, addr = sk.accept()
while True:
    cmd = input('>>>')  # 输入需要执行的远程命令
    conn.send(cmd.encode('utf-8'))
    if cmd == 'q':break
    ret1 = conn.recv(1024)  # 需要接受两个信息,因为subprocess会返回错误的执行，和正确的执行
    ret2 = conn.recv(1024)
    print('stdout : ', ret1.decode('gbk'))  # 打印返回的正确信息(win系统命令信息)解码成gbk
    print('stderr : ', ret2.decode('gbk'))  # 打印返回的错误信息(win系统命令信息)解码成gbk

conn.close()
sk.close()




tcp_client

import socket
import subprocess

sk = socket.socket()
sk.connect(('127.0.0.1', 9595))
while True:
    cmd = sk.recv(1024).decode('utf-8')  # 接收传过来的命令
    if cmd == 'q':break

    # 执行系统命令
    ret = subprocess.Popen(cmd, shell=True, stdout=subprocess.PIPE, stderr=subprocess.PIPE)
    out = ret.stdout.read()  # 执行系统命令正确的信息
    err = ret.stderr.read()  # 执行系统命令错误的信息
    print(out.decode('gbk'), '*****\n', err.decode('gbk'))  # 打印执行效果
    sk.send(b'out' + out)  # 把正确信息传过去(b'out'+)，防止发送信息为空,进程卡住
    sk.send(b'err' + err)  # 把错误信息传过去(b'out'+), 防止发送信息为空,进程卡住
sk.close()




先运行tcp_server,再运行tcp_client,执行结果如下



上面执行没有问题，接着再执行help命令(内容很长)



接着在执行一次ipconfig或者别的其它命令都行






黏包原因(怎么形成的)---->只有TCP协议有黏包现象，UDP协议永远不会黏包


通俗理解：因为每次执行，固定为1024字节，它每次最大只能接收到1024字节，那么超出部分怎么办?

下次执行命令时，先执行上一次，还没有传完的信息,这就产生了黏包现象




TCP协议中的数据传递

tcp协议的拆包机制

当发送端缓冲区的长度大于网卡的MTU时，tcp会将这次发送的数据拆成几个数据包发送出去。 
MTU是Maximum Transmission Unit的缩写。意思是网络上传送的最大数据包。MTU的单位是字节。 
大部分网络设备的MTU都是1500。如果本机的MTU比网关的MTU大，大的数据包就会被拆开来传送，
这样会产生很多数据包碎片，增加丢包率，降低网络速度

面向流的通信特点和Nagle算法

  TCP（transport control protocol，传输控制协议）是面向连接的，面向流的，提供高可靠性服务。
  收发两端（客户端和服务器端）都要有一一成对的socket，因此，发送端为了将多个发往接收端的包，更有效的发到对方，
使用了优化方法（Nagle算法），将多次间隔较小且数据量小的数据，合并成一个大的数据块，然后进行封包。
  这样，接收端，就难于分辨出来了，必须提供科学的拆包机制。 即面向流的通信是无消息保护边界的。 
对于空消息：tcp是基于数据流的，于是收发的消息不能为空，这就需要在客户端和服务端都添加空消息的处理机制，
防止程序卡住，而udp是基于数据报的，即便是你输入的是空内容（直接回车），也可以被发送，
udp协议会帮你封装上消息头发送过去。 
  可靠黏包的tcp协议：tcp的协议数据不会丢，没有收完包，下次接收，会继续上次继续接收
己端总是在收到ack时才会清除缓冲区内容。数据是可靠的，但是会粘包

基于tcp协议特点的黏包现象成因



   发送端可以是一K一K地发送数据，而接收端的应用程序可以两K两K地提走数据，当然也有可能一次提走3K或6K数据，或者
一次只提走几个字节的数据。
   也就是说，应用程序所看到的数据是一个整体，或说是一个流（stream），一条消息有多少字节对应用程序是不可见的，
因此TCP协议是面向流的协议，这也是容易出现粘包问题的原因。
   而UDP是面向消息的协议，每个UDP段都是一条消息，应用程序必须以消息为单位提取数据，不能一次提取任意字节的数据
这一点和TCP是很不同的。
   怎样定义消息呢？可以认为对方一次性write/send的数据为一个消息，需要明白的是当对方send一条信息的时候，无论底
层怎样分段分片，TCP协议层会把构成整条消息的数据段排序完成后才呈现在内核缓冲区




下面演示udp中是否会有黏包现象

udp_server

from socket import *
import subprocess

ip_port=('127.0.0.1',9000)
bufsize=1024

udp_server=socket(AF_INET,SOCK_DGRAM)
udp_server.setsockopt(SOL_SOCKET,SO_REUSEADDR,1)
udp_server.bind(ip_port)

while True:
    #收消息
    cmd,addr=udp_server.recvfrom(bufsize)
    print('用户命令----->', cmd)

    #逻辑处理
    res=subprocess.Popen(cmd.decode('utf-8'),shell=True,stderr=subprocess.PIPE,stdin=subprocess.PIPE,
    stdout=subprocess.PIPE)
    stderr=res.stderr.read()
    stdout=res.stdout.read()

    #发消息
    udp_server.sendto(b'stderr : '+ stderr,addr)
    udp_server.sendto(b'stdout : ' + stdout,addr)
udp_server.close()




udp_client

from socket import *
ip_port=('127.0.0.1',9000)
bufsize=4096

udp_client=socket(AF_INET,SOCK_DGRAM)

while True:
    msg=input('>>: ').strip()
    udp_client.sendto(msg.encode('utf-8'),ip_port)
    err,addr=udp_client.recvfrom(bufsize)
    out,addr=udp_client.recvfrom(bufsize)
    if err:
        print('error : %s'%err.decode('gbk'),end='')
    if out:
        print(out.decode('gbk'), end='')




先运行udp_server,再运行udp_client,执行结果






UDP协议，如果接收不完，会报错，而TCP协议不会报错，传不完，会一直传，所以UDP协议不会出现黏包现象

UDP不会发生黏包

  UDP（user datagram protocol，用户数据报协议）是无连接的，面向消息的，提供高效率服务。 
   不会使用块的合并优化算法,由于UDP支持的是一对多的模式，所以接收端的skbuff(套接字缓冲区）采用了链式结构来
记录每一个到达的UDP包，在每个UDP包中就有了消息头（消息来源地址，端口等信息），这样，对于接收端来说，就容易
进行区分处理了。 即面向消息的通信是有消息保护边界的。 
   对于空消息：tcp是基于数据流的，于是收发的消息不能为空，这就需要在客户端和服务端都添加空消息的处理机制，防
止程序卡住，而udp是基于数据报的，即便是你输入的是空内容（直接回车），也可以被发送，udp协议会帮你封装上消息头
发送过去。 
不可靠不黏包的udp协议：udp的recvfrom是阻塞的，一个recvfrom(x)必须对唯一一个sendinto(y),收完了x个字节的数据就
算完成,若是y;x数据就丢失，这意味着udp根本不会粘包，但是会丢数据，不可靠。

补充说明:

   用UDP协议发送时，用sendto函数最大能发送数据的长度为：65535- IP头(20) – UDP头(8)＝65507字节。用sendto函数
发送数据时，如果发送数据长度大于该值，则函数会返回错误。（丢弃这个包，不进行发送） 
   用TCP协议发送时，由于TCP是数据流协议，因此不存在包大小的限制（暂不考虑缓冲区的大小），这是指在用send函数时
数据长度参数不受限制。而实际上，所指定的这段数据并不一定会一次性发送出去，如果这段数据比较长，会被分段发送，
如果比较短，可能会等待和下一次数据一起发送。




会发生黏包的两种情况

情况一 发送方的缓存机制

发送端需要等缓冲区满才发送出去，造成粘包(发送数据时间间隔很短，数据了很小，会合到一起，产生粘包)

server

from socket import *
ip_port=('127.0.0.1',8080)

tcp_socket_server=socket(AF_INET,SOCK_STREAM)
tcp_socket_server.bind(ip_port)
tcp_socket_server.listen(5)

conn,addr=tcp_socket_server.accept()

data1=conn.recv(10)
data2=conn.recv(10)
print('----->',data1.decode('utf-8'))
print('----->',data2.decode('utf-8'))

conn.close()




client

import socket
BUFSIZE=1024
ip_port=('127.0.0.1',8080)

s=socket.socket(socket.AF_INET,socket.SOCK_STREAM)
res=s.connect_ex(ip_port)

s.send('hello'.encode('utf-8'))
s.send('egg'.encode('utf-8'))




先运行server，在运行client，执行结果如下






情况二 接收方的缓存机制

接收方不及时接收缓冲区的包，造成多个包接收（客户端发送了一段数据，服务端只收了一小部分，服务端下次再收的时候还是从缓冲区拿上次遗留的数据，产生粘包）

server


from socket import *
ip_port=('127.0.0.1',8080)

tcp_socket_server=socket(AF_INET,SOCK_STREAM)
tcp_socket_server.bind(ip_port)
tcp_socket_server.listen(5)
conn,addr=tcp_socket_server.accept()
data1=conn.recv(2) #一次没有收完整
data2=conn.recv(10)#下次收的时候,会先取旧的数据,然后取新的
print('----->',data1.decode('utf-8'))
print('----->',data2.decode('utf-8'))
conn.close()




client

import socket
BUFSIZE=1024
ip_port=('127.0.0.1',8080)
s=socket.socket(socket.AF_INET,socket.SOCK_STREAM)
res=s.connect_ex(ip_port)
s.send('hello egg'.encode('utf-8'))




先运行server,在运行client，执行结果如下:






总结

黏包现象只发生在tcp协议中：

1.从表面上看，黏包问题主要是因为发送方和接收方的缓存机制、tcp协议面向流通信的特点。

2.实际上，主要还是因为接收方不知道消息之间的界限，不知道一次性提取多少字节的数据所造成的







黏包的解决

解决方案一

问题的根源在于，接收端不知道发送端将要传送的字节流的长度，所以解决粘包的方法就是围绕，如何让发送端在发送数据前，把自己将要发送的字节流总大小让接收端知晓，然后接收端来一个死循环接收完所有数据






server端代码

import socket,subprocess
ip_port=('127.0.0.1',8080)
s=socket.socket(socket.AF_INET,socket.SOCK_STREAM)
s.setsockopt(socket.SOL_SOCKET, socket.SO_REUSEADDR, 1)

s.bind(ip_port)
s.listen(5)

while True:
    conn,addr=s.accept()
    print('客户端',addr)
    while True:
        msg=conn.recv(1024)
        if not msg:break
        res=subprocess.Popen(msg.decode('utf-8'),shell=True,\
                            stdin=subprocess.PIPE,\
                         stderr=subprocess.PIPE,\
                         stdout=subprocess.PIPE)
        err=res.stderr.read()
        if err:
            ret=err
        else:
            ret=res.stdout.read()
        data_length=len(ret)
        conn.send(str(data_length).encode('utf-8'))
        data=conn.recv(1024).decode('utf-8')
        if data == 'recv_ready':
            conn.sendall(ret)
    conn.close()




client端代码

import socket,time
s=socket.socket(socket.AF_INET,socket.SOCK_STREAM)
res=s.connect_ex(('127.0.0.1',8080))

while True:
    msg=input('>>: ').strip()
    if len(msg) == 0:continue
    if msg == 'quit':break

    s.send(msg.encode('utf-8'))
    length=int(s.recv(1024).decode('utf-8'))
    s.send('recv_ready'.encode('utf-8'))
    send_size=0
    recv_size=0
    data=b''
    while recv_size < length:
        data+=s.recv(1024)
        recv_size+=len(data)
    print(data.decode('gbk'))




先运行server,再运行client，执行结果为






存在的问题

程序的运行速度远快于网络传输速度，所以在发送一段字节前，先用send去发送该字节流长度，这种方式会放大网络延迟带来的性能损耗，还有如果内容太长，还是会出现黏包现象.




解决方案进阶

刚刚的方法，问题在于我们我们在发送

我们可以借助一个模块，这个模块可以把要发送的数据长度转换成固定长度的字节。这样客户端每次接收消息之前只要先接受这个固定长度字节的内容看一看接下来要接收的信息大小，那么最终接受的数据只要达到这个值就停止，就能刚好不多不少的接收完整的数据了。




struct模块

该模块可以把一个类型，如数字，转成固定长度的bytes

>>> struct.pack('i',1111111111111)

struct.error: 'i' format requires -2147483648 <= number <= 2147483647 #这个是范围












扩展练习

import json,struct
#假设通过客户端上传1T:1073741824000的文件a.txt

#为避免粘包,必须自定制报头
header={'file_size':1073741824000,'file_name':'/a/b/c/d/e/a.txt','md5':'8f6fbf8347faa4924a76856701edb0f3'} 
#1T数据,文件路径和md5值

#为了该报头能传送,需要序列化并且转为bytes
head_bytes=bytes(json.dumps(header),encoding='utf-8') #序列化并转成bytes,用于传输

#为了让客户端知道报头的长度,用struck将报头长度这个数字转成固定长度:4个字节
head_len_bytes=struct.pack('i',len(head_bytes)) #这4个字节里只包含了一个数字,该数字是报头的长度

#客户端开始发送
conn.send(head_len_bytes) #先发报头的长度,4个bytes
conn.send(head_bytes) #再发报头的字节格式
conn.sendall(文件内容) #然后发真实内容的字节格式

#服务端开始接收
head_len_bytes=s.recv(4) #先收报头4个bytes,得到报头长度的字节格式
x=struct.unpack('i',head_len_bytes)[0] #提取报头的长度

head_bytes=s.recv(x) #按照报头长度x,收取报头的bytes格式
header=json.loads(json.dumps(header)) #提取报头

#最后根据报头的内容提取真实的数据,比如
real_data_len=s.recv(header['file_size'])
s.recv(real_data_len)




关于struct的详细用法

import struct
import binascii
import ctypes

values1 = (1, 'abc'.encode('utf-8'), 2.7)
values2 = ('defg'.encode('utf-8'),101)
s1 = struct.Struct('I3sf')
s2 = struct.Struct('4sI')

print(s1.size,s2.size)
prebuffer=ctypes.create_string_buffer(s1.size+s2.size)
print('Before : ',binascii.hexlify(prebuffer))
# t=binascii.hexlify('asdfaf'.encode('utf-8'))
# print(t)


s1.pack_into(prebuffer,0,*values1)
s2.pack_into(prebuffer,s1.size,*values2)

print('After pack',binascii.hexlify(prebuffer))
print(s1.unpack_from(prebuffer,0))
print(s2.unpack_from(prebuffer,s1.size))

s3=struct.Struct('ii')
s3.pack_into(prebuffer,0,123,123)
print('After pack',binascii.hexlify(prebuffer))
print(s3.unpack_from(prebuffer,0))




使用struct解决黏包 

借助struct模块，我们知道长度数字可以被转换成一个标准大小的4字节数字。因此可以利用这个特点来预先发送数据长度。

发送时	接收时
先发送struct转换好的数据长度4字节	先接受4个字节使用struct转换成数字来获取要接收的数据长度
再发送数据	再按照长度接收数据




解决黏包的最终代码

server端代码--服务端：定制稍微复杂一点的报头

import os
import json
import struct
import socket

# ‪C:\Users\taoru\Desktop\Go语言编程_完整版_.pdf
sk = socket.socket()
sk.bind(('127.0.0.1',9000))
sk.listen()

conn,addr = sk.accept()
print(addr)
dic = {'filename':'Go语言编程_完整版_.pdf',
       'filesize':os.path.getsize(r'C:\Users\taoru\Desktop\Go语言编程_完整版_.pdf')}
# dic为自定义协议字典,需要传入文件名，文件大小，文件路径
str_dic = json.dumps(dic).encode('gbk')
dic_len = struct.pack('i', len(str_dic))  # 利用struct.pack
conn.send(dic_len)
conn.send(str_dic)
with open(r'C:\Users\taoru\Desktop\Go语言编程_完整版_.pdf', 'rb') as f:
    content = f.read()
conn.send(content)
conn.close()
sk.close()




client端代码

import json
import struct
import socket

sk = socket.socket()
sk.connect(('127.0.0.1',9000))

dic_len = sk.recv(4)  # 接收文件的长度
dic_len = struct.unpack('i',dic_len)[0]
str_dic = sk.recv(dic_len).decode('gbk')
dic = json.loads(str_dic)

with open(dic['filename'],'wb') as f:
    content = sk.recv(dic['filesize'])
    f.write(content)
sk.close()




先运行server,再运行client,执行结果为



成功把C盘的桌面文件，传到了当前目录下，完美解决黏包现象(限制大小的问题)

关键字：