网络编程之Sockets Introduction(二)

Lmcache+vllm——KVcache卸载CPU/SSD探索 目前查看了vllm、Nvidia dynamo、mooncake都没有找到将kvcache卸载到SSD的方法,幸好lmcache支持。以下进行lmcache+vllm实践,对比将kvcache分别卸载到CPU-ram和SSD上的TTFT性能差异。目前的query只是单并发,对比的效果已经比较明显了,可能多并发下对存储的要求就会更高了。 阅读详情

1. inet_aton, inet_addr, and inet_ntoa Functions

#include <arpa/inet.h>
int inet_aton(const char *strptr, struct in_addr *addrptr);
Returns: 1 if string was valid, 0 on error
in_addr_t inet_addr(const char *strptr);
Returns: 32-bit binary network byte ordered IPv4 address; INADDR_NONE if error
char *inet_ntoa(struct in_addr inaddr);
Returns: pointer to dotted-decimal string

函数的API的使用比较简单不赘述,注意inet_addr的一个潜在的缺点,UNP建议使用inet_aton代替inet_addr:

The problem with this function is that all 232 possible binary values are valid IP addresses (0.0.0.0 through 255.255.255.255), but the function returns the constant INADDR_NONE (typically 32 one-bits) on an error. This means the dotted-decimal string 255.255.255.255 (the IPv4 limited broadcast address, Section 20.2) cannot be handled by this function since its binary value appears to indicate failure of the function.

inet_ntoa的缺点就是其返回的字符串存储在静态内存中,导致该函数不可重入,在APUE中讨论过可重入的相关内容,该函数一定不是信号安全的。

The inet_ntoa function converts a 32-bit binary network byte ordered IPv4 address into its corresponding dotted-decimal string. The string pointed to by the return value of the function resides in static memory. This means the function is not reentrant.

2. inet_pton and inet_ntop Functions

#include <arpa/inet.h>
int inet_pton(int family, const char *strptr, void *addrptr);
Returns: 1 if OK, 0 if input not a valid presentation format, −1 on error
const char *inet_ntop(int family, const void *addrptr, char *strptr, size_t len);
Returns: pointer to result if OK, NULL on error

简单记忆的方式:The letters p and n stand for presentation and numeric,特别的对于inet_ntop,必须指定容纳转换结果的地址的大小,这个大小有两个预定义的宏供编程人员使用:

inet_ntop does the reverse conversion, from numeric (addrptr) to presentation (strptr). The len argument is the size of the destination, to prevent the function from overflowing the caller’s buffer. To help specify this size, the following two definitions are defined by including the <netinet/in.h> header:

#define INET_ADDRSTRLEN 16 /* for IPv4 dotted-decimal */
#define INET6_ADDRSTRLEN 46 /* for IPv6 hex string */

If len is too small to hold the resulting presentation format, including the terminating null, a null pointer is returned and errno is set to ENOSPC.

加个图:

UNP中关于inet_pton和inet_ntop的简单版本,只支持IPv4:

int inet_pton(int family, const char *strptr, void *addrptr)
{
   if (family == AF_INET) {
       struct in_addr in_val;
       if (inet_aton(strptr, &in_val)) {
          memcpy(addrptr, &in_val, sizeof(struct in_addr));
          return (1);
       }
       return (0);
   }
   errno = EAFNOSUPPORT;
   return (-1);
}
const char *  inet_ntop(int family, const void *addrptr, char *strptr, size_t len)
{
    const u_char *p = (const u_char *) addrptr;
    if (family == AF_INET) {
        char temp[INET_ADDRSTRLEN];
        //特别注意INET_ADDRSTRLEN为16,存储形如xxx.xxx.xxx.xxx加NULL总共16字节
        snprintf(temp, sizeof(temp), "%d.%d.%d.%d", p[0], p[1], p[2], p[3]);
        if (strlen(temp) >= len) {
            errno = ENOSPC;
            return (NULL);
        }
        strcpy(strptr, temp);
        return (strptr);
    }
    errno = EAFNOSUPPORT;
    return (NULL);
}

3. sock_ntop and Related Functions

inet_ntop并不是协议无关的函数,必须在family指定是IPv4或者IPv6,UNP中就提出了自己版本的sock_ntop,其是协议无关的,以下代码是其中一个片段:

#include "unp.h"
char *sock_ntop(const struct sockaddr *sockaddr, socklen_t addrlen);
Returns: non-null pointer if OK, NULL on error

char * sock_ntop(const struct sockaddr *sa, socklen_t salen)
{
    char portstr[8];
    static char str[128]; /* Unix domain is largest */
    switch (sa->sa_family) {
        case AF_INET:{
            struct sockaddr_in *sin = (struct sockaddr_in *) sa;
            if (inet_ntop(AF_INET, &sin->sin_addr, str, sizeof(str)) == NULL)
                return (NULL);
            //一般传给socket的地址或者从socket接收的地址都是大端的,但是这里
            //调用了ntohs处理了端口号,这个原因可以尝试解释下:
            //1. 网络地址默认都是大端,转换成字符串也应按照大端模式转化。
            //2. 端口号想要正确显示必须依据本地的字节模式。
            if (ntohs(sin->sin_port) != 0) {
                snprintf(portstr, sizeof(portstr), ":%d", ntohs(sin->sin_port));
                strcat(str, portstr);
            }
            return (str);
        }
    .....
}

以下函数都是UNP实现的版本,笔者并不深入这里,以后的实验笔者将使用原本的标准函数接口,而非UNP提供的版本:

#include "unp.h"
int sock_bind_wild(int sockfd, int family);
Returns: 0 if OK, −1 on error
int sock_cmp_addr(const struct sockaddr *sockaddr1,
const struct sockaddr *sockaddr2, socklen_t addrlen);
Returns: 0 if addresses are of the same family and equal, else nonzero
int sock_cmp_port(const struct sockaddr *sockaddr1,
const struct sockaddr *sockaddr2, socklen_t addrlen);
Returns: 0 if addresses are of the same family and ports are equal, else nonzero
int sock_get_port(const struct sockaddr *sockaddr, socklen_t addrlen);
Returns: non-negative port number for IPv4 or IPv6 address, else −1
char *sock_ntop_host(const struct sockaddr *sockaddr, socklen_t addrlen);
Returns: non-null pointer if OK, NULL on error
void sock_set_addr(const struct sockaddr *sockaddr, socklen_t addrlen, void *ptr);
void sock_set_port(const struct sockaddr *sockaddr, socklen_t addrlen, int port);
void sock_set_wild(struct sockaddr *sockaddr, socklen_t addrlen);

4. readn, writen, and readline Functions

因为read或者write有时候返回的字节数少于所要求的,所以需要多次调用。而造成这样的结果的原因如下所述:

A read or write on a stream socket might input or output fewer bytes than requested, but this is not an error condition. The reason is that buffer limits might be reached for the socket in the kernel. All that is required to input or output the remaining bytes is for the caller to invoke the read or write function again.

针对以上情况,UNP提出了自己版本的read和write:

#include "unp.h"
ssize_t readn(int filedes, void *buff, size_t nbytes);
ssize_t writen(int filedes, const void *buff, size_t nbytes);
ssize_t readline(int filedes, void *buff, size_t maxlen);
All return: number of bytes read or written, −1 on error
#include "unp.h"
/* PAINFULLY SLOW VERSION -- example only */
ssize_t readline(int fd, void *vptr, size_t maxlen)
{
    ssize_t n, rc;
    char c, *ptr;
    ptr = vptr;
    for (n = 1; n < maxlen; n++) {
      again:
      if ( (rc = read(fd, &c, 1)) == 1) {
          *ptr++ = c;
          if (c == ’\n’)
          break; /* newline is stored, like fgets() */
      } else if (rc == 0) {
          *ptr = 0;
          return (n - 1); /* EOF, n - 1 bytes were read */
      } else {
          if (errno == EINTR)
          goto again;
          return (-1); /* error, errno set by read() */
      }
    }
    *ptr = 0; /* null terminate like fgets() */
    return (n);
}

特别强调该函数,该函数每读取的一个字节调用一次read,效率十分低下。如果希望能够提高该函数的效率使用标准IO函数的话,将面临一个问题:

The same stdio buffering that solves this performance problem creates numerous logistical problems that can lead to well-hidden bugs in your application. The reason is that the state of the stdio buffers is not exposed.

首先因为编程中要考虑一些特殊情况,如何处理这些特殊情况:

Good defensive programming techniques require these programs to not only expect their counterparts to follow the network protocol, but to check for unexpected network traffic as well. Such protocol violations should be reported as errors so that bugs are noticed and fixed, and also so that network applications can recover from problem traffic and continue working if possible.

如果使用标准IO将无法检测其buffer中的数据,从而无法处理这些特殊情况,需要要求标准IO中的buffer可见,可操作:

There are many line-based network protocols such as SMTP, HTTP, the FTP control connection protocol, and finger. So, the desire to operate on lines comes up again and again. But our advice is to think in terms of buffers and not lines. Write your code to read buffers of data, and if a line is expected, check the buffer to see if it contains that line.

UNP给出了一个修改后的版本,虽然该版本依然存在一些以后章节解释的问题,但是至少从效率和buffer对外可见上给予了解决方案:

#include "unp.h"
static int read_cnt;
static char *read_ptr;
static char read_buf[MAXLINE];
static ssize_t my_read(int fd, char *ptr)
{
    if (read_cnt <= 0) {
        again:
            if ( (read_cnt = read(fd, read_buf, sizeof(read_buf))) < 0) {
                if (errno == EINTR)
                    goto again;
                return (-1);
            } else if (read_cnt == 0)
                return (0);
            read_ptr = read_buf;
    }
    read_cnt--;
    *ptr = *read_ptr++;
    return (1);
}
ssize_t readline(int fd, void *vptr, size_t maxlen)
{
    ssize_t n, rc;
    char c, *ptr;
    ptr = vptr;
    for (n = 1; n < maxlen; n++) {
        if ( (rc = my_read(fd, &c)) == 1) {
            *ptr++ = c;
            if (c == ’\n’)
                break; /* newline is stored, like fgets() */
        } else if (rc == 0) {
            *ptr = 0;
            return (n - 1); /* EOF, n - 1 bytes were read */
        } else
            return (-1); /* error, errno set by read() */
    }
    *ptr = 0; /* null terminate like fgets() */
    return (n);
}
ssize_t readlinebuf(void **vptrptr)
{
    if (read_cnt)
        *vptrptr = read_ptr;
    return (read_cnt);
}
  • The internal function my_read reads up to MAXLINE characters at a time and then returns them, one at a time.
  • The only change to the readline function itself is to call my_read instead of read.
  • A new function, readlinebuf, exposes the internal buffer state so that callers can check and see if more data was received beyond a single line.

以上程序设计的比较巧妙,虽然并不是什么比较好的实现,但是就上面PAINFULLY SLOW VERSION版本暴露的问题进行了修补,这种解决问题的思路比较重要。最明显的缺点就是使用了全局数组,和全局变量,这样该函数就既不是线程安全,更不是信号安全的。

IMSL CNL 7.0.0 (x86-64)Crack IMSL CNL 7.0.0 (x86-64)Crack intel的算法库破解文件,这是C++版本的破解文件 立即下载

相关推荐

共享单车需求预测问题:建模篇

机器学习训练营——机器学习爱好者的自由交流空间(qq群号:696721295) 在上一篇里,我们使用可视化的方法分析了“共享单车”的数据集,理解了特征(变量)之间的关系。我们将在本篇建立几个模型预测单车的需求量,并比较它们的预测效果。 随机森林填充法 首先,导入必需的库、训练集和检验集。 import pylab import calendar import numpy as np impor...

wong2016的博客 1万+

socket inet_pton

inet_pton  Linux下这2个IP地址转换函数,可以在将IP地址在“点分十进制”和“整数”之间转换  而且,inet_pton和inet_ntop这2个函数能够处理ipv4和ipv6。算是比较新的函数了。  inet_pton函数原型如下[将“点分十进制” -> “整数”]  #include   #include   #include   int inet_pton(int af,

heiniaoyuyouling的专栏 2590

MIT-BEVFusion系列六--bevfusion网络部分流程理解

简述bevfusion网络部分

duanmushuangquan的博客 4897

linux_网络通信-套接字通信socket-网络字节序-IP地址转换函数-inet_pton函数-htonl函数-htons函数-ntohl函数-ntohs函数

套接字概念 例如UDP段格式,地址0-1是16位的源端口号,如果这个端口号是1000(0x3e8),则地址0是0x03,地址1是0xe8,也就是先发0x03,再发0xe8,这16位在发送主机的缓冲区中也应该是低地址存0x03,高地址存0xe8。例如UDP段格式,地址0-1是16位的源端口号,如果这个端口号是1000(0x3e8),则地址0是0x03,地址1是0xe8,也就是先发0x03,再发0xe8,这16位在发送主机的缓冲区中也应该是低地址存0x03,高地址存0xe8。在网络通信中,套接字一定是成对出现的

qq_44177918的博客 3091

html一号店项目代码,项目一号店素材(html模板)

【实例简介】【实例截图】【核心代码】oneShop├── css│ ├── ShopShow.css│ ├── base.css│ ├── load.css│ ├── logo.css│ ├── register.css│ └── style.css├── detail.html├── images│ ├── Thumbs.db│ ├── a_close.png│...

weixin_35390150的博客 4991

麒麟OS(Kylin OS)操作系统minikube+docker安装使用及遇到的问题

一 ,安装minikube及操作工具kubectl 1,安装kubectl 使用以下命令下载最新版本: curl -LO "https://dl.k8s.io/release/$(curl -L -s https://dl.k8s.io/release/stable.txt)/bin/linux/amd64/kubectl" 要下载指定版本(例如v1.22.0版本) ,请键入: curl -LO https://dl.k8s.io/release/v1.22.0/bin/linux/amd..

qq_23396017的博客 2645

inet_pton()和inet_ntop()函数详解

inet_ntoa 函数转换网络字节排序的地址为标准的ASCII以点分开的地址,该函数返回指向点分开的字符串地址(如192.168.1.10)的指针,该字符串的空间为静态分配的,这意味着在第二次调用该函数时,上一次调用将会被重写(复盖),所以如果需要保存该串最后复制出来自己管理!(2)第一个函数尝试转换由strptr指针所指向的字符串,并通过addrptr指针存放二进制结果,若成功则返回值为1,否则如果所指定的family而言输入字符串不是有效的表达式格式,那么返回值为0.

木牛的博客 8227

数字音频接口之I2S总线协议详解

1、SDATA,也就是串行数据信号,使用二进制传输数字信号。请注意数据的传输形式为补码的方式2、例如音频的采样率是8K,一s内存采样8K个点,一个点包含一个左声道,一个右声道,所以LRCK是8K,BCLK是2×采样频率×采样位数3、同时双向(TX和RX)音频流:串行数据同步移位到时钟信号SCK和LRCK。在SCK的下降沿将TX数据写入SDOUT引脚,并在SCK的上升沿从SDIN引脚读取RX数据。始终首先发送最高有效位(MSB);TX和RX均可在主模式和从模式下使用。

卓学课堂 3万+

inet_pton()和inet_ntop()功能及使用方法

2.若pAddrBuf指向的字符串不是一个有效的IPv4点分十进制字符串或者不是一个有效的IPv6点分十进制字符串,则返回0。出现的函数,对于IPv4地址和IPv6地址都适用,函数中p和n分别代表表达(presentation)和数值(numeric)[^1]。1.若无错误发生,则inet_pton()返回1,pAddrBuf参数执行的缓冲区包含按网络字节顺序的二进制数字IP地址。1.若无错误发生,Inet_ntop()函数返回一个指向缓冲区的指针,该缓冲区包含标准格式的IP地址的字符串表示形式。

木牛的博客 3145

数据湖是什么?有什么优势?与数仓区别?未来的发展?

数据湖是什么?有什么优势?与数仓区别?未来的发展?一、什么是数据湖二、数据湖的发展三、数据湖有哪些优势四、数据湖应该具备哪些能力五、数据湖的实现遇到了哪些问题六、数据湖与数据仓库的区别七、为什么要做数据湖?区别在于?八、数据湖挑战九、湖仓一体十、目前有哪些开源数据湖组件 来源:大数据DT 一、什么是数据湖 数据湖是一种不断演进中、可扩展的大数据存储、处理、分析的基础设施;以数据为导向,实现任意来源、任意速度、任意规模、任意类型数据的全量获取、全量存储、多模式处理与全生命周期管理;并通过与各类外部异构数据

一个写湿的程序猿 9157

使用patchelf与独立glibc解决Cursor/VSCode远程开发环境兼容性问题

本文针对Cursor/VSCode远程开发连接Ubuntu 18.04、CentOS 7等老系统时因GLIBC版本过低导致的兼容性问题,提供了一套安全高效的解决方案。核心思路是通过编译独立的glibc-2.28环境,并利用patchelf工具修改远程服务端的node可执行文件,使其优先使用新版glibc,从而在不升级系统库、不影响系统稳定性的前提下,完美解决远程开发环境“罢工”的难题。

weixin_28835789的博客 587

socket通信——inet_pton函数中,dst参数的值

/htons把本地字节序转化成网络字节序 serverAddr.sin_addr.S_un.S_addr = ADDR_ANY 这是在对serverAddr这个结构体赋值,这里是serverAddr.sin_addr.S_un.S_addr,那为什么在inet_pton中,dst是&addr.sin_addr呢,为什么不是&addr.sin_addr.S_un.S_addr呢?参数是一个通用的缓冲区,它需要指向足够大的空间来存储转换后的地址。类型的成员,用于存储IPv4地址。,用于存储IPv4地址。

m0_64265848的博客 566

LIS2DH三轴加速度传感器原理图设计,已量产(加速度传感器)

最近在做一款可穿戴设备原型时,选了 LIS2DH 这款加速度计 —— 比起之前常用的 ADXL345,它在低功耗和稳定性上的优化刚好戳中了可穿戴设备 “续航 + 可靠” 的核心需求。下面结合这次画的原理图,聊聊这个小模块的硬件设计细节。

不脱发的程序猿 391

网络编程之Sockets Introduction(一)

前言   一直在想该怎么记录UNP篇,最后我想我要锻炼自己归纳总结的能力,抓重点,抓应用。 1. introdution   本章主要分析了地址结构体的相关API函数,及2进制和字符串形式的地址之间的转化函数,最后这些地址转换函数依赖于具体的IP协议,UNP中提出了自己的以sock_开头的地址转换函数,其不依赖于具体的协议。 These structures can be ...

LoveStackover的博客 443

计算机控制技术及应用

《计算机控制技术及应用》通过总结作者的科研成果和吸收国内外的先进理论、方法和技术,以计算机控制系统的网络化、开放化、智能化和集成化发展趋势为主线索,主要介绍计算机控制系统的基本概念和计算机控制系统的典型形式,计算机控制系统的数学描述与基本分析方法,以及数字PID控制器、最少拍控制系统、达林算法、状态变量设计法等设计方法及其各种改进算法。重点突出计算机控制系统输入输出通道接口的设计方法和典型控制系统的设计案例与实现方法等。

ssm框架搭建

这个是一个在idea上成功跑起来的ssm框架项目,保存在这里方便以后使用直接下载

Introduction to the Peer-to-Peer Sockets Project

http://onjava.com/lpt/a/4421———————————————————————————————————————————————————————————— Published on ONJava.com (http://www.onjava.com/) See this if you're having trouble p...

dianchaozong3657的博客 2243

文档:亲测可用解决vnc灰屏,黑屏,鼠标大黑叉情况

主要解决vnc-viewer灰屏,黑屏,鼠标大黑叉等现象,详细见文档。

Introduction to the Sockets API

Friday Q&A 2014-03-14: Introduction to the Sockets API by Mike Ash   Network programming is everywhere these days. It's tough to find an iPhone app thatdoesn't use the network for something. We al

fishmai的专栏 473

WINCC7.3破解文件

WINCC7.3硬件够破解文件,有需要的下载!WINCC7.3硬件够破解文件,有需要的下载!

Introduction Sockets to Programming in C using TCP/IP

Introduction Computer Network: hosts, routers, communication channels Hosts run applications Routers forward information Packets: sequence of bytes contain control information e.g. destination host P...

weixin_30718391的博客 323

unpv13---Sockets Introduction

1.IPV4套接字地址结构:         struct in_addr{            in_addr_t s_addr;       //32-bit IPV4 adress,网络字节序         }         struct socket_in{           uint8_t sin_len;                     //结构长度

81

Introduction to TCP/IP– Introduction

<br />Introduction to TCP/IP– Introduction<br /> <br />Author    Catalyst Development<br /> <br />Catalyst Development is a recognized leader in Internet component software whose award-winning products are used by thousands of corporate, government and ind

aniasa的专栏 342

UNP读书笔记--Chapter 3 Sockets Introduction

Socket Address Structure Name of socket address structures begin with sockaddr_ and end with a unique suffix for each protocol suite. IPv4 Socket Address Structure IPv4 socket address structure is

Chris.Xiao 824

UNP学习笔记(1)-Sockets Introduction:Socket Address Structure

1、IPv4 Socket Address Structure struct in_addr { in_addr_t s_addr; /* 32-bit IPv4 address */ /* network byte ordered */ }; struct sockadd...

aaaaa851766403的博客 178

java network_Java Network Programming, Third Edition

The new third edition of this highly regarded introduction to Java networking programming has been thoroughly revised to cover all of the 100+ significant updates to Java Developers Kit (JDK) 1.5. It ...

weixin_39717704的博客 170

linux 中IP点分十进制与数值之间转换函数

#include int inet_pton(int family,const char * strptr,void * addrptr); 返回:1--成功, 0--输入不是有效的表达格式 , -1--出错  //将点分十进制的ip地址转化为用于网络传输的数值格式 const char * inet_ntop(int family,const void * addrptr,char

gaosaixing的博客 2137

【Socket中 IP地址转换(inet_ntop、inet_pton)、字节序(htons(), htonl(), ntohs(), 和 ntohl() )】

二进制网络地址和点分十进制文本之间的转换;大端字节序(网络)和小端字节序(可能是主机)之间的转换;

一起学习进步! 893

关于Socket编程中的inet_ntop、inet_pton和inet_ntoa、inet_addr

VS2013中调试Socket代码时,遇到了点小问题: 问题代码为: [cpp] view plain copy inet_ntoa(addrClient.sin_addr);   生成错误消息为: [plain] view plain copy error C4996: 'inet_ntoa': Use inet_ntop() or InetN

u012422855的专栏 6196

socket库:Python网络通信套接字

目录前言什么是套接字?地址簇套接字类型套接字的简单应用gethostbyname_ex()与gethostbyname()getservbyname()与getservbyport() 前言 socket库提供了一个底层C API,可以使用BSD套接字接口实现网络通信。它包括socket类,用于处理具体的数据通道,还包括用来完成网络相关任务的函数,如将一个服务器名转换为一个地址以及格式化数据以便在网络上发送。 什么是套接字? 套接字是程序在本地或者通过互联网来回传递数据时所用通信通道的一个端点。 套接字有2

李元静 2820
上一篇: 网络编程之Sockets Introduction(一)
下一篇: 高级IO之Select_pselect_poll_epoll(四)
LoveStackover
博客等级 码龄9年 14粉丝 57原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值