(一)客户端/服务器架构
1、硬件C/S架构
打印机
2、软件C/S架构
- 互联网中处处是C/S架构
- 如淘宝网站是服务端,你的浏览器是客户端(B/S架构也是C/S架构的一种)
- 腾讯作为服务端为你提供视频,你得下个腾讯视频客户端才能看它的视频)
3、C/S架构与socket的关系
socket就是为了完成C/S架构的开发
(二)互联网协议
- 一个完整的计算机系统由硬件、操作系统、应用软件三者组成;
- 但如果要跟其他设备通讯,就需要网络了;
- 互联网的核心就是由一堆协议组成,协议就是标准,比如中国人通信的标准是汉语;
- 如果把计算机比作中国人,互联网协议就是计算机界的汉语,所有的计算机都学会了互联网协议,那所有的计算机都就可以按照统一的标准去收发信息从而完成通信了;
人们按照分工不同把互联网协议从逻辑上划分了层级,
详见网络通信原理:http://www.cnblogs.com/linhaifeng/articles/5937962.html
(三)套接字socket
1、前提:互联网协议
C/S架构的软件(软件属于应用层)是基于网络进行通信的,网络的核心即一堆协议,协议即标准,想开发一款基于网络通信的软件,就必须遵循这些标准。
2、socket定义
- Socket是应用层与TCP/IP协议族通信的中间软件抽象层,它是一组接口;
- 在设计模式中,Socket其实就是一个门面模式,它把复杂的TCP/IP协议族隐藏在Socket接口后面,对用户来说,一组简单的接口就是全部,让Socket去组织数据,以符合指定的协议;
- 所以,我们无需深入理解tcp/udp协议,socket已经为我们封装好了,我们只需要遵循socket的规定去编程,写出的程序自然就是遵循tcp/udp标准的。
- 也有人将socket说成ip+port,ip是用来标识互联网中的一台主机的位置,而port是用来标识这台机器上的一个应用程序,ip地址是配置到网卡上的,而port是应用程序开启的,ip与port的绑定就标识了互联网中独一无二的一个应用程序,而程序的pid是同一台机器上不同进程或者线程的标识
2、socket发展
- 套接字起源于 20 世纪 70 年代加利福尼亚大学伯克利分校版本的 Unix,即人们所说的 BSD Unix。因此,有时人们也把套接字称为“伯克利套接字”或“BSD 套接字”。
- 一开始,套接字被设计用在同 一台主机上多个应用程序之间的通讯。这也被称进程间通讯,或 IPC。
3、socket分类
套接字有两种(或者称为有两个种族),分别是基于文件型的和基于网络型的。
3.1 基于文件类型的套接字家族AF_UNIX
unix一切皆文件,基于文件的套接字调用的就是底层的文件系统来取数据,两个套接字进程运行在同一机器,可以通过访问同一个文件系统间接完成通信
3.2 基于网络类型的套接字家族AF_INET
用于网络通信,AF_INET是使用最广泛的一个,还有AF_INET6被用于ipv6,以及一些其他的地址家族,不过,他们要么是只用于某个平台,要么就是已经被废弃,或者是很少被使用,或者是根本没有实现
4、套接字工作流程
4.1 socket工作原理
生活中的场景就解释了socket的工作原理:
- 打电话给一个朋友,先拨号;
- 朋友听到电话铃声后提起电话;
- 这时你和你的朋友就建立起了连接,就可以讲话了;
- 等交流结束,挂断电话结束此次交谈。
# 服务器 import socket ip_port=('127.0.0.1',8081)#电话卡 BUFSIZE=1024 s=socket.socket(socket.AF_INET,socket.SOCK_STREAM) #买手机 s.bind(ip_port) #手机插卡 s.listen(5) #手机待机 while True: #新增接收链接循环,可以不停的接电话 conn,addr=s.accept() #手机接电话 # print(conn) # print(addr) print('接到来自%s的电话' %addr[0]) while True: #新增通信循环,可以不断的通信,收发消息 msg=conn.recv(BUFSIZE) #听消息,听话 # if len(msg) == 0:break #如果不加,那么正在链接的客户端突然断开,recv便不再阻塞,死循环发生 print(msg,type(msg)) conn.send(msg.upper()) #发消息,说话 conn.close() #挂电话 s.close() #手机关机 # 客户端 import socket ip_port=('127.0.0.1',8081) BUFSIZE=1024 s=socket.socket(socket.AF_INET,socket.SOCK_STREAM) s.connect_ex(ip_port) #拨电话 while True: #新增通信循环,客户端可以不断发收消息 msg=input('>>: ').strip() if len(msg) == 0:continue s.send(msg.encode('utf-8')) #发消息,说话(只能发送字节类型) feedback=s.recv(BUFSIZE) #收消息,听话 print(feedback.decode('utf-8')) s.close() #挂电话
4.2 socket工作流程
先从服务器端说起。服务器端先初始化Socket,然后与端口绑定(bind),对端口进行监听(listen),调用accept阻塞,等待客户端连接。在这时如果有个客户端初始化一个Socket,然后连接服务器(connect),如果连接成功,这时客户端与服务器端的连接就建立了。客户端发送数据请求,服务器端接收请求并处理请求,然后把回应数据发送给客户端,客户端读取数据,最后关闭连接,一次交互结束
4.3 导入socket模块
import socket
# 由于socket模块中有太多的属性,也可以使用from socket import *导入模块,这样就把 socket 模块里的所有属性都带到命名空间里了,能大幅减短代码。
# 例如:
from socket import *
tcpSock = socket(AF_INET, SOCK_STREAM)
4.4 socket模块函数
(1)socket(socket_family, socket_type, protocal=0)
import socket
# 初始化语句:socket.socket(socket_family,socket_type,protocal=0)
# socket_family 可以是 AF_UNIX 或 AF_INET;
# socket_type 可以是 SOCK_STREAM 或 SOCK_DGRAM;
# protocol 一般不填,默认值为 0。
# 获取tcp/ip套接字
tcpSock = socket.socket(socket.AF_INET, socket.SOCK_STREAM)
# 获取udp/ip套接字
udpSock = socket.socket(socket.AF_INET, socket.SOCK_DGRAM)
(2)服务器socket函数
(2.1)bind((ip_str, port))
绑定服务器(主机IP,端口号)到套接字
(2.2)listen(backlog)
开始TCP监听
(2.3)accept()
被动接受TCP客户的连接,(阻塞式)等待连接的到来
(3)客户端套接字函数
(3.1)connect()
主动初始化TCP服务器连接
(3.2)connect_ex()
connect()函数的扩展版本,出错时返回出错码,而不是抛出异常
(4)公共用途的套接字函数
(4.1)recv()
接收TCP数据
(4.2)send()
发送TCP数据(send在待发送数据量大于己端缓存区剩余空间时,数据丢失,不会发完),send传输一次最好不要超过8k数据,不但因为缓冲区内存大小控制,还因为网卡有最大传输单元限制,发送数据过大,会切片太多,可能丢失数据,导致数据失真
(4.3)sendall()
发送完整的TCP数据(本质就是循环调用send把数据分成多次发送,sendall在待发送数据量大于己端缓存区剩余空间时,数据不丢失,循环调用send直到发完)
(4.4)recvfrom()
接收UDP数据
(4.5)sendto()
发送UDP数据
(4.6)recv()
接收TCP数据
(4.7)getpeername()
连接到当前套接字的远端的地址
(4.8)getsockname()
当前套接字的地址
(4.9)getsockopt()
返回指定套接字的参数
(4.10)setsockopt()
设置指定套接字的参数
(4.11)close()
关闭套接字
(5)面向锁的套接字方法
(5.1)setblocking()
设置套接字的阻塞与非阻塞模式
(5.2)settimeout()
设置阻塞套接字操作的超时时间
(5.3)gettimeout()
得到阻塞套接字操作的超时时间
(6)面向文件的套接字的函数
(6.1)fileno()
套接字的文件描述符
(6.2)makefile()
创建一个与该套接字相关的文件
5、socket收发消息原理
- send/sento,是应用程序将数据,从用户态内存,发送到自己的,内核态内存的缓存空间,然后由自己的操作系统按照对应的协议,再通过网卡和网络,传输到对方的,内核态内存的缓存空间里;
- recv/recvfrom,则是应用程序,从自己的,内核态内存的缓存空间,获取数据到用户态内存,如果缓存空间没有数据(比如发送的是空),recv(基于tcp)会卡住,但recvfrom(基于udp)收到空,不会阻塞(因为有udp报文头,实际上并不是空)。
- recv里指定的参数,如1024,意思是从缓存里一次拿出1024个字节的数据。
- send的字节流是先放入己端缓存,然后由协议控制将缓存内容发往对端,如果待发送的字节流大小大于缓存剩余空间,那么数据丢失,用sendall就会循环调用send,数据不会丢失
- 用户程序读取内核态缓冲区的数据采用的是拷贝,不是剪切
- tcp是基于数据流的,于是收发的消息不能为空,这就需要在客户端和服务端都添加空消息的处理机制,防止程序卡住,而udp是基于数据报的,即便是你输入的是空内容(直接回车),那也不是空消息,udp协议会帮你封装上消息头。
6、基于两种协议的socket
udp无连接,可以实现与多个客户端同时通信,tcp有连接,同一时间只能与一个客户端通信,要实现并发,需要其它的手段,如socketserver模块
6.1 基于Tcp协议的socket
tcp是基于链接的,必须先启动服务端,然后再启动客户端去链接服务端
(1)服务器端
ss = socket() #创建服务器套接字
ss.bind() #把地址绑定到套接字
ss.listen() #监听链接
inf_loop: #服务器无限循环
cs = ss.accept() #接受客户端链接
comm_loop: #通讯循环
cs.recv()/cs.send() #对话(接收与发送)
cs.close() #关闭客户端套接字
ss.close() #关闭服务器套接字(可选)
(1.1)初始化socket
from socket import *
# 获取tcp/ip套接字
tcp_socket = socket(AF_INET, SOCK_STREAM)
# AF_INET表示基于网络通信的套接字家族
# SOCK_STREAM表示基于流的方式通信,即遵循TCP协议
(1.2)绑定IP和端口
# 绑定IP和端口(元组):socket.bind((ip, port))
tcp_socket.bind(('127.0.0.1',8081))
# 或:
ip_port = ('127.0.0.1',8081)
tcp_socket.bind(ip_port)
(1.3)监听端口
# 监听链接数,即半连接(连接完成之前的连接)池backlog的大小
backlog = 5
# 监听端口
phone.listen(backlog)
(1.4)等待客户端连接(进行三次握手)
# 链接循环
while True:
conn, addr = tcp_socket.accept() # 阻塞,直至接收到客户端链接,获取socket链接对象conn(实际上就是客户端sokect对象)和客户端ip与端口组成的元组addr
(1.5)发送消息
# 链接循环
while True:
conn, addr = tcp_socket.accept() # 阻塞,直至接收到客户端链接,获取socket链接对象conn和客户端ip与端口组成的元组addr
# 通信循环
while True:
# 向客户端发送消息(字节流)
conn.send('hello'.encode('utf-8'))
(1.6)接收消息
# 一次性接收最大字节数
recv_size = 1024
# 链接循环
while True:
conn, addr = tcp_socket.accept() # 阻塞,直至接收到客户端链接,获取socket链接对象conn和客户端ip与端口组成的元组addr
# 通信循环
while True:
# 向客户端发送消息(字节流)
conn.send('hello'.encode('utf-8'))
# 接收客户端发来的消息(获取的是字节流), 如果没有收到消息(缓冲区为空)则阻塞
data = conn.recv(recv_size).decode('utf-8')
(1.7)关闭链接(四次挥手)
# 关闭连接socket
conn.close()
# 关闭服务器socket
tcp_socket.close()
(1.8)问题: 服务器地址已被使用
原因:服务端仍然存在四次挥手的time_wait状态在占用地址(如果不懂,请深入研究1.tcp三次握手,四次挥手 2.syn洪水攻击 3.服务器高并发情况下会有大量的time_wait状态的优化方法)
(1.9)解决方法
# 方法一:加入一条socket配置,重用ip和端口
phone=socket(AF_INET,SOCK_STREAM)
phone.setsockopt(SOL_SOCKET,SO_REUSEADDR,1) #就是它,在bind前加
phone.bind(('127.0.0.1',8080))
# 方法二:
发现系统存在大量TIME_WAIT状态的连接,通过调整linux内核参数解决,
vi /etc/sysctl.conf
编辑文件,加入以下内容:
net.ipv4.tcp_syncookies = 1
net.ipv4.tcp_tw_reuse = 1
net.ipv4.tcp_tw_recycle = 1
net.ipv4.tcp_fin_timeout = 30
然后执行 /sbin/sysctl -p 让参数生效。
net.ipv4.tcp_syncookies = 1 表示开启SYN Cookies。当出现SYN等待队列溢出时,启用cookies来处理,可防范少量SYN攻击,默认为0,表示关闭;
net.ipv4.tcp_tw_reuse = 1 表示开启重用。允许将TIME-WAIT sockets重新用于新的TCP连接,默认为0,表示关闭;
net.ipv4.tcp_tw_recycle = 1 表示开启TCP连接中TIME-WAIT sockets的快速回收,默认为0,表示关闭。
net.ipv4.tcp_fin_timeout 修改系統默认的 TIMEOUT 时间
(1.10)示例
from socket import *
# 设置服务器地址和端口
ip_port = ('127.0.0.1', 8081)
recv_size = 1024
# 设置监听链接数,即半连接池backlog大小
backlog = 5
# 创建一个TCP socket
with socket(AF_INET, SOCK_STREAM) as phone_server:
phone_server.setsockopt(SOL_SOCKET, SO_REUSEADDR, 1) # 加在bind前,解决服务器地址已被占用的问题
phone_server.bind(ip_port)
phone_server.listen(backlog)
print(f"Server is listening on {ip_port}")
while True:
conn, client_addr = phone_server.accept()
print(f"Accepted connection from {client_addr}")
try:
while True:
# 从服务器发送数据到客户端
server_message = input('>>> ').strip()
if server_message.lower() == 'q':
print("Server is closing connection.")
break
conn.send(server_message.encode('utf-8'))
# 接收来自客户端的数据
client_data = conn.recv(recv_size)
if not client_data:
print("Client disconnected.")
break
print(f"Received: {client_data.decode('utf-8')}")
except Exception as e:
print(f"An error occurred: {e}")
finally:
conn.close()
print("Connection closed.")
'''
重要:
1、Windows中客户端非正常断开连接,服务器正在接收消息时,会抛出异常
解决办法:try/except捕捉异常,break跳出通信循环
2、但客户端正常关闭链接,或者在Linux或Unix系统中不会抛出异常,也不阻塞,会一直收空
解决办法:if判断收到的信息为空时break
3、为了兼容,建议两种方式都写上
'''
(2)客户端
cs = socket() # 创建客户套接字
cs.connect() # 尝试连接服务器
comm_loop: # 通讯循环
cs.send()/cs.recv() # 对话(发送/接收)
cs.close() # 关闭客户套接字
(2.1)初始化socket
from socket import *
# 获取tcp/ip套接字
tcp_socket = socket(AF_INET, SOCK_STREAM)
(2.2)链接服务器(三次握手)
# 链接服务器
ser_ip_port = ('127.0.0.1', 8081) # 服务器ip和端口
tcp_socket.connect(ser_ip_port)
# 服务器已经链接一个客户端时,另一个客户端connect发起链接服务器的请求,会挂起在backlog半连接池,所以connect不会阻塞客户端程序运行,但因为没有三次握手完成链接,recv会阻塞,等待服务器链接后才执行
(2.3)通信循环
# 一次性接收最大字节数
recv_size = 1024
# 通信循环
while True:
# 接收服务器发来的消息(字节流),若无消息,阻塞
data = tcp_socket.recv(recv_size).decode('utf-8')
# 向服务器发送消息(字节流)
tcp_socket.send('world'.encode('utf-8'))
(2.4)关闭socket(四次挥手)
tcp_socket.close()
(2.5)示例
from socket import *
# 设置服务器地址和端口
ser_addr = ('127.0.0.1', 8081)
recv_size = 1024
# 创建一个TCP socket
with socket(AF_INET, SOCK_STREAM) as phone_client:
try:
# 连接到服务器
phone_client.connect(ser_addr)
print(f"Connected to server at {ser_addr}")
while True:
# 接收来自服务器的数据
data = phone_client.recv(recv_size)
if not data:
# 服务器关闭了连接
print("Server closed the connection.")
break
print(data.decode('utf-8'))
# 发送数据到服务器
send_data = input('>>> ').strip()
if send_data.lower() == 'q':
print("Client is closing the connection.")
break
phone_client.send(send_data.encode('utf-8'))
except Exception as e:
# 捕捉并打印任何异常
print(f"An error occurred: {e}")
finally:
# 确保socket在退出时被关闭
print("Client socket closed.")
6.2 基于Udp协议的socket
udp是无链接的,先启动哪一端都不会报错,由于udp无连接,所以可以同时多个客户端去跟服务端通信
(1)服务器端
ss = socket() #创建一个服务器的套接字
ss.bind() #绑定服务器套接字
inf_loop: #服务器无限循环
cs = ss.recvfrom()/ss.sendto() # 对话(接收与发送)
ss.close() # 关闭服务器套接字
(1.1)初始化socket
from socket import *
# 获取udp/ip套接字
udp_socket = socket(AF_INET, SOCK_DGRAM)
# AF_INET表示基于网络通信的套接字家族
# SOCK_DGRAM表示基于数据报的方式通信,即遵循UDP协议
(1.2)绑定IP和端口
# 绑定IP和端口(元组):socket.bind((ip, port))
udp_socket.bind(('127.0.0.1',8081))
# 或:
ip_port = ('127.0.0.1',8081)
udp_socket.bind(ip_port)
(1.3)通信循环
# 一次性接收最大字节数
recv_size = 1024
# 通信循环
while True:
# 接受客户端发来的消息(字节流)
data, from_ip_port = udp_socket.recvfrom(recv_size).decode('utf-8')
# 向客户端发送消息(字节流)
udp_socket.sendto('hello'.encode('utf-8'), from_ip_port)
(1.4)关闭链接
# 关闭服务器socket
udp_socket.close()
(1.5)示例
from socket import *
# 设置服务器地址和端口
ip_port = ('127.0.0.1', 8081)
recv_size = 1024
# 创建一个UDP socket
qq_server = socket(AF_INET, SOCK_DGRAM)
try:
# 绑定socket到地址和端口
qq_server.bind(ip_port)
print(f"Server is listening on {ip_port}")
while True:
try:
# 接收数据,recvfrom返回一个元组(数据, 发送方地址)
data, client_addr = qq_server.recvfrom(recv_size)
print(f"Received data from {client_addr}: {data.decode('utf-8')}")
# 发送响应回客户端
qq_server.sendto(input('>>>').strip().encode('utf-8'), client_addr)
except Exception as e:
# 如果在接收或发送数据时发生错误,打印错误并继续监听
print(f"Error occurred: {e}")
except KeyboardInterrupt: # KeyboardInterrupt异常是一种特殊的异常,它是由用户按下中断键(通常是Ctrl+C)触发的,用于中断程序的执行,而不是程序错误,是BaseException的子类,而不是Exception的子类,所以Exception捕捉不到KeyboardInterrupt异常
# 如果用户按下Ctrl+C终止程序,打印一条消息并关闭socket
print("Server is shutting down...")
finally:
# 无论发生什么,都确保关闭socket
qq_server.close()
print("Socket closed.")
(2)客户端
cs = socket() # 创建客户套接字
comm_loop: # 通讯循环
cs