Golang优雅实现按比例切分流量

这篇具有很好参考价值的文章主要介绍了Golang优雅实现按比例切分流量。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

我们在进行灰度发布时,往往需要转发一部分流量到新上线的服务上,进行小规模的验证,随着功能的不断完善,我们也会逐渐增加转发的流量,这就需要按比例去切分流量,那么如何实现流量切分呢?
我们很容易想到通过生成随机数方式进行实现,通过判断生成随机数是否落在指定区间内,从而决定是否进行流量的转发,这种方式虽然实现很简单,但是它有两点弊端:

  • 每次都要生成新的随机数,这是有性能损耗的,尤其是并发量高的场景下更为明显;
  • 随机数的生成往往不够均匀,比如有A、B两个服务,流量比例3:7,如果使用随机数方式,如果运气不好的话有可能请求100次全落在B服务上。

那有没有性能开销又小,又能精准切分流量的方式呢?当然是有的。实现思路如下:

确定比例,并根据比例得到一个基数base,例如比例是3:7,那么基数就是10;
生成长度为基数base的数组source,并填充数据0、1、2、3、4、5…; 打乱数组source中元素顺序;
创建全局计数器queryCount,每次有请求时加1(确保原子性);
计算计数器queryCount与base取余后的值rate,并得到数组中对应位置的值source[rate];
判断source[rate]落在哪个区间。

看文字可能觉得理解起来有些别扭,这里贴上完整代码:

import (  "fmt"  "math/rand"  "sync/atomic")
type TrafficControl struct {  
    source     []int  
    queryCount uint32  
    base       int  
    ratio      int
}
func NewTrafficControl(base int, ratio int) *TrafficControl {  
    source := make([]int, base)  
    for i := 0; i < base; i++ {    
        source[i] = i  
    }
    
    rand.Shuffle(base, func(i, j int) {    
        source[i], source[j] = source[j], source[i]  
    })
  
    return &TrafficControl{    
        source: source,    
        base:   base,    
        ratio:  ratio,  
    }
}

func (t *TrafficControl) Allow() bool {  
    rate := t.source[int(atomic.AddUint32(&t.queryCount, 1))%t.base]  
    if rate < t.ratio {    
        return true  
    } else {    
        return false  
    }
}

接下来我们检测下这段代码是否真的能精准切分流量:

func main() {  
    trafficCtl := NewTrafficControl(10, 6)  
    cnt := 100  
    serviceAQueryCnt := 0  
    serviceBQueryCnt := 0  
    for cnt > 0 {    
        if trafficCtl.Allow() {      
            serviceAQueryCnt++    
        } else {      
            serviceBQueryCnt++    
        }    
        cnt--  
    }
  
    fmt.Printf("service A query count: %v, service B query count %v", serviceAQueryCnt, serviceBQueryCnt)
}


执行结果如下:

service A query count: 60, service B query count 40

其实思路很简单:通过请求数与基数取余,确保在一定范围内总能按比例 实现流量切分;通过打乱数组确保流量分布尽可能均匀文章来源地址https://www.toymoban.com/news/detail-757194.html

到了这里,关于Golang优雅实现按比例切分流量的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • Java开发者的Golang进修指南:从0->1带你实现协程池

    在Java编程中,为了降低开销和优化程序的效率,我们常常使用线程池来管理线程的创建和销毁,并尽量复用已创建的对象。这样做不仅可以提高程序的运行效率,还能减少垃圾回收器对对象的回收次数。 在Golang中,我们知道协程(goroutine)由于其体积小且效率高,在高并发

    2024年01月22日
    浏览(51)
  • 【Golang】Golang进阶系列教程--Golang中文件目录操作的实现

    Golang中,文件是指计算机中存储数据的实体,文件可以是文本文件、二进制文件、配置文件等。在Go语言中,通过操作文件,我们可以读取文件的内容,写入数据到文件,以及获取文件的属性等。 Golang中的文件可以分为两种类型:文本文件和二进制文件。文本文件是指只包含

    2024年02月15日
    浏览(38)
  • golang 和java对比

    Java的优点: 跨平台性:Java程序可以在不同的操作系统上运行,只需安装相应的Java虚拟机即可。 面向对象:Java是一种面向对象的语言,具有封装、继承和多态等特性,使得代码更加易于维护和扩展。 大量的第三方库和框架:Java拥有丰富的第三方库和框架,可以加速开发速

    2024年02月11日
    浏览(34)
  • 【Java|golang】2679. 矩阵中的和

    给你一个下标从 0 开始的二维整数数组 nums 。一开始你的分数为 0 。你需要执行以下操作直到矩阵变为空: 矩阵中每一行选取最大的一个数,并删除它。如果一行中有多个最大的数,选择任意一个并删除。 在步骤 1 删除的所有数字中找到最大的一个数字,将它添加到你的 分

    2024年02月12日
    浏览(39)
  • 【Java|golang】2103. 环和杆---位运算

    总计有 n 个环,环的颜色可以是红、绿、蓝中的一种。这些环分别穿在 10 根编号为 0 到 9 的杆上。 给你一个长度为 2n 的字符串 rings ,表示这 n 个环在杆上的分布。rings 中每两个字符形成一个 颜色位置对 ,用于描述每个环: 第 i 对中的 第一个 字符表示第 i 个环的 颜色(‘

    2024年02月06日
    浏览(36)
  • 2023年java还是golang还是c#?

    前言 我们可以先来看一下这三门语言各自的优劣 学习曲线:如果你是初学者或对编程相对陌生,Java可能是一个较好的选择。它有广泛的学习资源和社区支持,易于上手。Go也有简单易学的特点,但由于相对较年轻,相关的学习资源可能不如Java丰富。C#对于有其他编程语言经

    2024年02月13日
    浏览(33)
  • golang 和java对比的优劣势

    Golang(或称Go)和Java都是非常流行的编程语言,被广泛应用于各种领域的软件开发。尽管它们都是高级编程语言,但它们具有许多不同的特性和适用场景。本文将重点比较Golang和Java,探讨它们的优势和劣势。 性能方面: Golang的编译器和运行时系统专门针对高性能而设计,使

    2024年04月17日
    浏览(32)
  • 【Java|golang】143. 重排链表---快慢指针

    给定一个单链表 L 的头节点 head ,单链表 L 表示为: L0 → L1 → … → Ln - 1 → Ln 请将其重新排列后变为: L0 → Ln → L1 → Ln - 1 → L2 → Ln - 2 → … 不能只是单纯的改变节点内部的值,而是需要实际的进行节点交换。 示例 1: 输入:head = [1,2,3,4] 输出:[1,4,2,3] 示例 2: 输入:

    2024年02月14日
    浏览(34)
  • GO开篇:手握Java走进Golang的世界

    Go(又称 Golang)是 Google 的 Robert Griesemer,Rob Pike 及 Ken Thompson 开发的一种计算机高级编程语言。 Go的官方文档: https://golang.org Go的中文api文档: https://studygolang.com/pkgdoc Go中文社区网站: https://studygolang.com/ 在go退推出之前,已经存在很多高级编程语言了,比如:C、C++、C#、

    2024年02月06日
    浏览(38)
  • golang二分查找算法实现

    项目中使用到有序数组查找特定元素,简单记录下 Golang 中二分查找算法。 二分查找算法是一种在有序数组中查找特定元素的高效算法。它的基本思想是通过不断将查找范围缩小一半,来快速定位目标元素是否存在。该算法要求数组是有序的,这是因为有序数组的特性允许我

    2024年01月25日
    浏览(44)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包