Golang限流库、漏桶和令牌桶如何使用

本篇内容主要讲解“Golang限流库、漏桶和令牌桶如何使用”，感兴趣的朋友不妨来看看。本文介绍的方法操作简单快捷，实用性强。下面就让小编来带大家学习“Golang限流库、漏桶和令牌桶如何使用”吧!在大数据量高并发访问时，经常会出现服务或接口面对大量的请求而导致数据库崩溃的情况，甚至引发连锁反映导致整个系统崩溃。或者有人恶意攻击网站，大量的无用请求出现会导致缓存穿透的情况出现。使用限流中间件可以在短时间内对请求进行限制数量，起到降级的作用，从而保障了网站的安全性。使用消息中间件进行统一限制（降速）使用限流方案将多余请求返回（限流）升级服务器负载均衡升级等等可以看出在代码已经无法提升的情况下，只能去提升硬件水平。或者改动架构再加一层！也可以使用消息中间件统一处理。而结合看来，限流方案是一种既不需要大幅改动也不需要高额开销的策略。令牌桶算法漏桶算法滑动窗口算法等等这里主要根据golang的库介绍令牌桶和漏桶的实现原理以及在实际项目中如何应用。go get -u go.uber.org/ratelimit该函数使用了函数选项模式对多个结构体对象进行初始化首先根据传入的值来初始化一个桶结构体 rate 为int传参 (time.Duration(rate)单位为纳秒 = 1/1e9秒)初始化过程中包括了每一滴水需要的时间 perquest = config.per / time.Duration(rate)maxSlack 宽松度（宽松度为负值）-1 * time.Duration(config.slack) * perRequest 松紧度是用来规范等待时间的同时还需要结构体Clock来记录当前请求的时间now和此刻的请求所需要花费等待的时间sleepstate 主要用来记录上次执行的时间以及当前执行请求需要花费等待的时间（作为中间状态记录）实现一个Take方法该Take方法会进行原子性操作(可以理解为加锁和解锁)，在大量并发请求下仍可以保证正常使用。记录下当前的时间 now := t.clock.Now()oldState.last.IsZero() 判断是不是第一次取水，如果是就直接将state结构体中的值进行返回。而这个结构体中初始化了上次执行时间，如果是第一次取水就作为当前时间直接传参。如果 newState.sleepFor 非常小，就会出现问题，因此需要借助宽松度，一旦这个最小值比宽松度小，就用宽松度对取水时间进行维护。如果newState.sleepFor > 0 就直接更新结构体中上次执行时间newState.last = newState.last.Add(newState.sleepFor)并记录需要等待的时间interval, newState.sleepFor = newState.sleepFor, 0。如果允许取水和等待操作，那就说明没有发生并发竞争的情况，就模拟睡眠时间t.clock.Sleep(interval)。然后将取水的目标时间进行返回，由服务端代码来判断是否打回响应或者等待该时间后继续响应。实际上在一个请求来的时候，限流器就会进行睡眠对应的时间，并在睡眠后将最新取水时间返回。这里你可以进行选择是否返回。因为Take一定会执行sleep函数，所以当执行take结束后表示当前请求已经接到了水。当前演示使用第一种情况。如果你的业务要求响应不允许进行等待。那么可以在该请求接完水之后然后，如上例。如果你的业务允许响应等待，那么该请求等待对应的接水时间后进行下一步。具体代码就是将if中的内容直接忽略。（建议使用）这里定义了一个响应函数和一个handler函数方便测试执行go test -run=Run -v先开启一个web服务使用接口压力测试工具go-wrk进行测试->tsliwowicz/go-wrk: go-wrk在golang install版本可以直接通过go install github.com/tsliwowicz/go-wrk@latest下载 Usage: go-wrk
Options:
-H Header to add to each request (you can define multiple -H flags) (Default )
-M HTTP method (Default GET)
-T Socket/request timeout in ms (Default 1000)
-body request body string or @filename (Default )
-c Number of goroutines to use (concurrent connections) (Default 10)
-ca CA file to verify peer against (SSL/TLS) (Default )
-cert CA certificate file to verify peer against (SSL/TLS) (Default )
-d Duration of test in seconds (Default 10)
-f Playback file name (Default )
-help Print help (Default false)
-host Host Header (Default )
-http Use HTTP/2 (Default true)
-key Private key file name (SSL/TLS (Default )
-no-c Disable Compression – Prevents sending the免费云主机域名 “Accept-Encoding: gzip” header (Default false)
-no-ka Disable KeepAlive – prevents re-use of TCP connections between different HTTP requests (Default false)
-no-vr Skip verifying SSL certificate of the server (Default false)
-redir Allow Redirects (Default false)
-v Print version details (Default false)-t 8个线程 -c 400个连接 -n 模拟1k次请求 -d 替换-n 表示连接时间输入go-wrk -t=8 -c=400 -n=1000 http://127.0.0.1:4399/ping1可以稍微等待一下水流积攒否则一个请求也不一定能够响应。可以看出，89个请求全部返回。也就是说在一段请求高峰期，不会有请求进行响应。因此我认为既然内部已经睡眠，那么就应该对请求放行处理。限流器实现的比较纯粹！引入ratelimit库go get -u github.com/juju/ratelimit进行Bucket桶的初始化。令牌桶初始化过程，初始化结构体 fillInterval(填充速率) cap(最大令牌量) quannum(每次令牌生成量)。如果三个变量有一个小于或者等于0的话直接进行报错返回。在最开始就将当前令牌数初始化为最大容量。调用TakeAvailable函数，传入参数为需要取出的令牌数量，返回参数是实际能够取出的令牌数量。加锁 defer 解锁判断count(想要取出的令牌数) 是否小于等于 0，如果是直接返回 0调用函数adjustTokens 获取可用的令牌数量，该函数实现原理：如果当前令牌数大于最大等于容量，直接返回最大容量当前令牌数 += (当前时间 – 上次取出令牌数的时间) * quannum(每次生成令牌量)如果当前令牌数大于最大等于容量, 将当前令牌数 = 最大容量 然后返回 当前令牌数如果当前可以取出的令牌数小于等于0 直接返回 0如果当前可以取出的令牌数小于当前想要取出的令牌数(count) count = 当前可以取出的令牌数当前的令牌数 -= 取出的令牌数(count)返回 counttake函数，能够返回等待时间和布尔值，允许欠账，没有令牌也可以取出。func (tb *Bucket) Take(count int64) time.DurationtakeMaxDuration函数，可以根据最大等待时间来进行判断。func (tb *Bucket) TakeMaxDuration(count int64, maxWait time.Duration) (time.Duration, bool)由于压测速度过于快速，在实际过程中可以根据调整令牌生成速率来进行具体限流！到此，相信大家对“Golang限流库、漏桶和令牌桶如何使用”有了更深的了解，不妨来实际操作一番吧！这里是百云主机网站，更多相关内容可以进入相关频道进行查询，关注我们，继续学习！

相关推荐: C语言二叉树的操作方法

本篇内容主要讲解“C语言二叉树的操作方法”，感兴趣的朋友不妨来看看。本文介绍的方法操作简单快捷，实用性强。下面就让小编来带大家学习“C语言二叉树的操作方法”吧!满二叉树除最后一层无任何子节点外，每一层上的所有结点都有两个子结点的二叉树。也可以理解为每一层的结点…