线上 udp 客户端请求服务端客户端句柄泄漏问题

这篇具有很好参考价值的文章主要介绍了线上 udp 客户端请求服务端客户端句柄泄漏问题。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

本题分别从如下三个方面来分享:

  • 问题描述
  • 自定义连接池的编写
  • common_pool 的使用

问题描述

线上有一个业务,某个通服务通知 udp 客户端通过向 udp 服务端(某个硬件设备)发送 udp 包来进行用户上线操作

当同时有大量的请求打到 udp 服务端的时候,udp 服务端的回包可能会在网络环境中丢包,(udp 是不可靠的)导致 udp 客户端不能及时的收到 udp 服务端的回包,在短时间内,udp 客户端的句柄又没有得到复用或者释放,没有收到回包的句柄就一直阻塞在那里,最终导致句柄泄漏

那么可以如何解决呢?

  • 增大客户端的句柄数
  • 使用连接池并且在读取服务端响应数据时加上超时时间

显然,第一个解决方式治标不治本,改大句柄数,当请求量变大的时候,仍然会出现句柄泄漏的情况

第二种方式相对靠谱很多

  • 首先,咱们将发送 udp 包给服务端后,等待读取服务端的回包时,设置超时时间,超时后读取失败,释放或者归还句柄
  • 维护一个内部的连接池,减少每一次创建句柄消耗的资源和时间,使用的时候从池子里面获取句柄,使用完毕之后再归还句柄

自定义连接池的编写 customer_pool

那么对于连接池,我们实际上是可以自己来进行造轮子的,仅用于学习,实际使用的话,自然还是会去使用经过大众考研过的公共开源库,我们可以来基本的分析和研究一下一个连接池需要有些什么?

  • 创建池子,关闭池子,池子的关闭状态
  • 从池子中获取连接,归还连接,销毁当前连接
  • 池子中能容纳的最大连接数,最小连接数,当前连接数
  • 根据当前实际的连接数来对池子进行扩容和缩容
  • 池子中创建连接的函数具体实现

当然,我们自己来体会一下连接池以及演示上述 udp 的 demo,我们仅实现如下几个简单功能作为演示

  • 创建池子,池子的关闭状态
  • 从池子中获取连接,归还连接
  • 池子中能容纳的最大连接数,最小连接数,当前连接数
  • 池子中创建连接的函数具体实现

对于池子中具体链接的销毁,池子的关闭,池子的扩缩容,以及其他高级使用,xdm 可以进行扩展

customer_pool demo

自定义连接池,实际上咱们是使用 chan 通道来进行实现,具体源码可以查看:https://github.com/qingconglaixueit/customer_pool/blob/master/customer_pool/pool.go

  1. 定义连接池 MyConnPool 数据结构,和创建连接池

    • MyConnPool 结构中的 sync.Mutex 主要是用于控制多协程中 非 pool 成员的其他成员的互斥,我们知道 chan 内部是有锁进行控制的

线上 udp 客户端请求服务端客户端句柄泄漏问题,udp,网络协议,网络

线上 udp 客户端请求服务端客户端句柄泄漏问题,udp,网络协议,网络

  1. 获取对象的具体实现

  • 从池子中获取对象,如果获取不到则默认查看当前的池子状态是否可以创建新的连接
  • 若可以,则直接创建连接,返回对象
  • 此处在进行池子成员的变动时,需要加锁进行控制
func (conn *MyConnPool) GetObject() (interface{}, error) {
   return conn.getObject()
}
func (conn *MyConnPool) getObject() (interface{}, error) {
   if conn.isClosed {
      return nil, errors.New("pool is closed")
   }
   // 从通道里面读,如果通道里面没有则新建一个
   select {
   case object := <-conn.pool:
      return object, nil
   default:

   }
   // 校验当前的连接数是否大于最大连接数,若是,则还是需要从 pool 中取
   // 此时使用 mutex 主要是为了锁 MyConnPool 的非通道的其他成员
   conn.Lock()
   if conn.currentConn >= conn.maxConn {
      object := <-conn.pool
      conn.Unlock()
      return object, nil
   }
   // 逻辑走到此处需要新建对象放到 pool 中
   object, err := conn.connFun()
   if err != nil {
      conn.Unlock()
      return nil, fmt.Errorf("create conn error : %+v", err)
   }
   // 当前 pool 已有连接数+1
   conn.currentConn++
   conn.Unlock()

   return object, nil
}
  1. 释放对象的具体实现

  • 使用完毕对象之后,需要归还
  • 具体归还操作,则是将具体的连接再丢回通道里面即可
func (conn *MyConnPool) ReturnObject(object interface{}) error {
   return conn.returnObject(object)
}
func (conn *MyConnPool) returnObject(object interface{}) error {
   if conn.isClosed {
      return errors.New("pool is closed")
   }
   conn.pool <- object
   return nil
}
  1. 具体的应用

简单写一个 udp 服务端
  • 可以查看源码地址:https://github.com/qingconglaixueit/use_common_pool/blob/master/server/main.go
  • 代码注释部分用于测试超时的效果

线上 udp 客户端请求服务端客户端句柄泄漏问题,udp,网络协议,网络

使用咱们上述的自定义连接池编写客户端的 demo

具体源码地址:https://github.com/qingconglaixueit/customer_pool/blob/master/main.go

  1. 定义咱们有 udp 连接的对象
  • 定义 PoolTest 对象,并简单的将 udp 连接加入到成员中
  • 编写创建 udp 连接的函数 connectUdp
  • 初始化连接池,设置池子最大 3 个连接,最小 1 个连接,实际创建连接函数为 connectUdp()
type PoolTest struct {
   Conn *net.UDPConn
}

var myPool *customer_pool.MyConnPool

func init() {
   myPool = customer_pool.NewMyConnPool(3, 1, func() (interface{}, error) {
      return connectUdp()
   })
   if myPool == nil {
      log.Panicln("NewMyConnPool error")
      return
   }
   log.Println("myPool == ", myPool)
}
// 创建连接函数
func connectUdp() (*PoolTest, error) {
   // 创建一个 udp 句柄
   log.Println(">>>>> 创建一个 udp 句柄 ... ")
   // 连接服务器
   conn, err := net.DialUDP("udp", nil, &net.UDPAddr{
      IP:   net.IPv4(127, 0, 0, 1),
      Port: 9998,
   })

   if err != nil {
      log.Println("Connect to udp server failed,err:", err)
      return nil, err
   }
   log.Printf("<<<<<< new udp connect %+v", conn)
   return &PoolTest{Conn: conn}, nil
}
  1. 获取到连接对象之后,咱们给 udp server 写入数据
  • GetObject() 获取具体的对象,获取到连接
  • SendMsg 进行具体消息的发送
  • ReturnObject() 将具体的对象归还到池子中
  • 其中代码被注释掉的部分,是用力验证超时效果的,感兴趣的 xdm 可以将代码打开尝试一波

线上 udp 客户端请求服务端客户端句柄泄漏问题,udp,网络协议,网络

  1. 效果展示

最后补充上咱们的 main 函数,就可以进行测试验证了

func main() {
   for i := 0; i < 10; i++ {
      msg := fmt.Sprintf("send udp data is %d", i)
      go SendMsg(msg)
   }

   time.Sleep(2 * time.Second)
}

启动咱们的 udp 客户端,和 udp 服务端,我们可以查看到如下效果

客户端效果:

同时启了 10 个协程,每一个协程都会去池子里面拿连接对象,如果池子有现成的则直接使用,如果没有现成的,那么就新建一个连接, 如果当前池子已创建连接已经等于最大值,那么只能等着池子中有连接归还的时候再进行分配

  • 总的来说,当前 demo 只会创建 3 个 udp 连接句柄

线上 udp 客户端请求服务端客户端句柄泄漏问题,udp,网络协议,网络

服务端效果:

可以看到服务端收到的 10 个请求,实际上只有 3 个句柄在多次请求

再一次印证了客户端实际上确实只创建了 3 次 udp 句柄

线上 udp 客户端请求服务端客户端句柄泄漏问题,udp,网络协议,网络

上述是自定义简单连接池的基本 demo,关于 udp 超时处理的内容就不做演示,感兴趣的 xdm 可以下载源码来进行查看效果

https://github.com/qingconglaixueit/customer_pool

使用 go-commons-pool

当然,我们大致知道连接池基本是都有哪些组成部分,可以如何玩之后,我们来应用一个 golang 通用的连接池 go-commons-pool, 源码地址为:https://github.com/jolestar/go-commons-pool

线上 udp 客户端请求服务端客户端句柄泄漏问题,udp,网络协议,网络

use_common_pool demo

应用 go-commons-pool 咱们的 demo 仅验证该库的通用和便捷,对于上述我们自定义的池子,咱们使用到的 udp 涉及到的代码,可以基本不用变动,直接使用 go-commons-pool 直接网上套即可

和咱们自定义池子不一样的地方

  • init 初始化池子的方法和配置不一样
  • SendMsg 方法,实现时使用的池子句柄不一样
  • 当然,go-commons-pool 会好太多

实际 demo 为:

  • 其余截图上未体现的 connectUdp(),(this *PoolTest) SendMsg(data []byte) , 和上述自定义池子实现方式完全一致

此处初始化池子配置,咱们也是一样传入具体池子最大的对象数,使用池子的默认配置,传入咱们创建连接的具体函数 connectUdp()

线上 udp 客户端请求服务端客户端句柄泄漏问题,udp,网络协议,网络

对于到 main 函数 和 SendMsg 函数,咱们的用法和写法基本完全一致

线上 udp 客户端请求服务端客户端句柄泄漏问题,udp,网络协议,网络

自然,效果也是一样的

当然对于 go-commons-pool 池子还有其他很多有意思的东西,感兴趣的可以来一起阅读以下他的源码,如下为当前池子的基本数据结构和创建池子的代码,咱们可以根据这个结构来追以下代码

代码目录如下:

线上 udp 客户端请求服务端客户端句柄泄漏问题,udp,网络协议,网络

./pool.go

  • 基本数据结构
  • 创建池子代码

线上 udp 客户端请求服务端客户端句柄泄漏问题,udp,网络协议,网络

至此,本文结束

文中涉及到的源码地址:

  • customer_pool https://github.com/qingconglaixueit/customer_pool
  • use_common_pool https://github.com/qingconglaixueit/use_common_pool
  • go-commons-pool https://github.com/jolestar/go-commons-pool

感谢阅读,欢迎交流,点个赞,关注一波 再走吧

欢迎点赞,关注,收藏

朋友们,你的支持和鼓励,是我坚持分享,提高质量的动力

好了,本次就到这里

技术是开放的,我们的心态,更应是开放的。拥抱变化,向阳而生,努力向前行。

我是阿兵云原生,欢迎点赞关注收藏,下次见~
可以进入地址进行体验和学习:https://xxetb.xet.tech/s/3lucCI文章来源地址https://www.toymoban.com/news/detail-702871.html

到了这里,关于线上 udp 客户端请求服务端客户端句柄泄漏问题的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • Linux中UDP服务端和客户端

    2024年02月13日
    浏览(44)
  • 网络编程六--UDP服务器客户端

    UDP(User Datagram Protocol)称为用户数据报协议,是一种无连接的传输协议。 UDP的主要应用在即使丢失部分数据,也不影响整体效果的场景。例实时传输视频或音频时,即使丢失部分数据,也不会影响整体效果,只是会有轻微的画面抖动或杂音。 UDP服务器/客户端不像TCP那样,交

    2024年02月15日
    浏览(49)
  • UDP服务端和客户端通信代码开发流程

    TCP: 传输控制协议,面向连接的,稳定的,可靠的,安全的数据集流传递 稳定和可靠:丢包重传 数据有序:序号和确认序号 流量控制:稳定窗口 UDP :用户数据报协议 面向无连接的,不稳定的,不可靠,不安全的数据报传递=---更像是收发短信,UDP传输不需要建立连接,传输效率更高

    2024年02月06日
    浏览(45)
  • Python启动UDP服务,监听并接收客户端数据

    可以使用Python的socket库实现UDP协议的验证,以下是一个简单的示例代码: 服务器: 客户端 以上代码创建了一个UDP socket,并绑定到本地的IP和端口8888。接着使用 recvfrom() 方法接收数据,并使用 sendto() 方法发送数据。最后,关闭socket。 可以使用两个终端分别运行该程序,并观

    2024年02月15日
    浏览(48)
  • 【网络编程】实现UDP/TCP客户端、服务器

    需要云服务器等云产品来学习Linux的同学可以移步/--腾讯云--/--阿里云--/--华为云--/官网,轻量型云服务器低至112元/年,新用户首次下单享超低折扣。   目录 一、UDP 1、Linux客户端、服务器 1.1udpServer.hpp 1.2udpServer.cc 1.3udpClient.hpp 1.4udpClient.cc 1.5onlineUser.hpp 2、Windows客户端 二、T

    2024年02月06日
    浏览(60)
  • Unity-UDP-客户端/服务器通信功能

    这里简单实现客户端和服务器,复杂的实现需要和前几篇文章的TCP一样,管理多个链接过来的客户端,这里只有一个。需要自己封装类似listener来管理多个链接过来的设备,每次都缓存ReceiveAsync收到消息的中的RemoteEndPoint地址端口,统一管理发送接收消息。 https://zhidao.baidu.c

    2024年02月11日
    浏览(65)
  • day-04 基于UDP的服务器端/客户端

    UDP套接字具有以下特点: 无连接性 :UDP是一种无连接的协议,这意味着在发送数据之前,不需要在发送方和接收方之间建立连接。每个UDP数据包都是独立的,它们可以独立地发送和接收,而不需要维护连接状态。 不可靠性 :UDP是一种不可靠的协议,这意味着它不提供数据传

    2024年02月11日
    浏览(47)
  • 服务端和客户端通信--UDP(含完整源代码)

    实验设备:     目标系统:Windows 软件工具:vs2022/vc6/dev   实验要求: 完成UDP服务端和客户端的程序编写; 分别实现UDP一对一通信和广播通信功能。 实验内容: -static-libgcc 一对一通信 : 1 、加载/释放Winsock库,创建套接字(WSAStartup()/socket())。 加载方法: WSADATA wsa; /*初始化

    2024年02月14日
    浏览(55)
  • 使用Netty构建TCP和UDP服务器和客户端

    Netty是一个基于Java NIO实现的网络通信框架,提供了高性能、低延迟的网络通信能力。使用Netty构建TCP和UDP服务器和客户端非常简单,下面是一个简单的示例代码: 构建TCP服务器 构建TCP客户端 构建UDP服务器 构建UDP客户端   上述示例代码中,分别定义了一个TCP服务器、TCP客户

    2024年02月16日
    浏览(48)
  • 【网络编程】网络套接字&udp通用服务器和客户端

    端口号(port)是传输层协议的内容: 端口号是一个2字节16位的整数(uint16) 端口号用来标识主机上的一个进程 IP地址+port能够标识网络上的某一台主机和某一个进程 一个端口号只能被一个进程占用 此处我们先对TCP(Transmission Control Protocol 传输控制协议) 有一个直观的认识,后面再

    2024年02月16日
    浏览(213)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包