1. Polly实现失败重试
1.1 Polly组件包
- Polly
- Polly.Extensions.Http
- Microsoft.Extensions.Http.Polly
1.2 Polly的能力
- 失败重试
- 服务熔断 ⇒ 部分服务不可用时，可以快速响应熔断，避免持续请求不可用服务而导致整个应用程序宕掉
- 超时处理 ⇒ 请求响应超过设置的时间，可按照预定的操作进行处理
- 舱壁隔离 ⇒ 为服务定义最大流量和队列，避免服务应请求量过大而被压崩
- 缓存策略 ⇒ 类似AOP为应用嵌入缓存机制，当缓存命中时可以快速响应缓存
- 失败降级 ⇒ 当服务不可用时可以响应一个更友好的结果而非报错
- 组合策略 ⇒ 将上面的策略组合在一起
1.3 Polly使用步骤
- 定义要处理的异常类型或返回值
- 定义要处理动作(重试、熔断、降级响应等)
- 使用定义的策略来执行代码
1.4 适合失败重试的场景
- 服务“失败”是暂时的，可自愈的
- 服务是幂等的，重复调用不会有副作用
场景举例
- 网络闪断
- 部分服务节点异常
1.5 最佳实践
- 设置失败重试次数
- 设置带有步长策略的失败等待间隔 ⇒ 防止持续不断的重试，出现类似DDOS的情况
- 设置降级响应 ⇒ 重试达到上限时,需要为服务设置降级响应
- 设置断路器
public void ConfigureServices(IServiceCollection services)
{
// HttpClientFactory Polly内置的重试策略
services.AddGrpcClient<OrderGrpc.OrderGrpcClient>(options =>
{
options.Address = new Uri("https://localhost:5001");
})
.ConfigurePrimaryHttpMessageHandler(provider =>
{
var handler = new SocketsHttpHandler();
handler.SslOptions.RemoteCertificateValidationCallback = (a, b, c, d) => true; //允许无效、或自签名证书
return handler;
}).AddTransientHttpErrorPolicy(p => p.WaitAndRetryForeverAsync(i => TimeSpan.FromSeconds(i * 3)));// 设置响应500或408时重试，不指定次数直到成功
// 定义个性化策略
var reg = services.AddPolicyRegistry();
reg.Add("retryforever", Policy.HandleResult<HttpResponseMessage>(message =>
{
return message.StatusCode == System.Net.HttpStatusCode.Created;
}).RetryForeverAsync());
// 应用策略
services.AddHttpClient("orderclient").AddPolicyHandlerFromRegistry("retryforever");
services.AddHttpClient("orderclientv2").AddPolicyHandlerFromRegistry((registry, message) =>
{
return message.Method == HttpMethod.Get ? registry.Get<IAsyncPolicy<HttpResponseMessage>>("retryforever") : Policy.NoOpAsync<HttpResponseMessage>();
});
}
2.Polly实现熔断限流避免雪崩效应
2.1 策略类型
- 被动策略(异常处理，结果处理)
- 主动策略（超时处理，断路器，舱壁隔离，缓存）
被动策略：当服务响应出现一些异常或结果时进行处理
主动策略：根据策略实例去判断是否超时或异常等情况，这是由策略进行主动触发的一些操作
2.2 组合策略
- 降级响应
- 失败重试
- 断路器
- 舱壁隔离
限流、熔断策略都是有状态的，这指的是在策略中设置的并发数，队列数，还有熔断的采样时间和吞吐量，错误数这些计数器的状态，这些是由一个策略的实例去承载。在对不同服务进行不同的策略定义，单独计算它的熔断限流数值时，就需要单独定义不同的策略的实例，去完成不同服务之间的定义的隔离文章来源：https://www.toymoban.com/news/detail-675985.html
// startup
public void ConfigureServices(IServiceCollection services)
{
// 熔断策略
services.AddHttpClient("orderclientv3").AddPolicyHandler(Policy<HttpResponseMessage>.Handle<HttpRequestException>().CircuitBreakerAsync(
handledEventsAllowedBeforeBreaking: 10,// 报错10次后熔断服务
durationOfBreak: TimeSpan.FromSeconds(10), // 熔断时间
onBreak: (r, t) => { }, // 发生熔断后触发事件
onReset: () => { }, // 熔断恢复后触发事件
onHalfOpen: () => { }// 当熔断恢复之前进行验证服务是否可用的请求
));
}
//更高级设置
services.AddHttpClient("orderclientv3").AddPolicyHandler(Policy<HttpResponseMessage>.Handle<HttpRequestException>().AdvancedCircuitBreakerAsync(
// 请求失败比例占80%时熔断
failureThreshold: 0.8,
// 计算请求失败比例的时间范围,当前为10秒内80%请求失败
samplingDuration: TimeSpan.FromSeconds(10),
// 最小吞吐量,在达到100个请求的时候再去计算上去失败比例,用于请求量小的时候不进行熔断
minimumThroughput: 100,
durationOfBreak: TimeSpan.FromSeconds(20),// 熔断时长
onBreak: (r, t) => { }, // 发生熔断后触发事件
onReset: () => { },// 熔断恢复后触发事件
onHalfOpen: () => { }));// 当熔断恢复之前进行验证服务是否可用的请求
// 服务降级
var message = new HttpResponseMessage()
{
Content = new StringContent("{}")
};
var fallback = Policy<HttpResponseMessage>.Handle<BrokenCircuitException>().FallbackAsync(message);
// 重试机制，重试3次，每次等1秒钟
var retry = Policy<HttpResponseMessage>.Handle<Exception>().WaitAndRetryAsync(3, i => TimeSpan.FromSeconds(1));
// 组合策略
//执行顺序breakPolicy -> retry -> fallback
var fallbackBreak = Policy.WrapAsync(fallback, retry, breakPolicy);
services.AddHttpClient("httpv3").AddPolicyHandler(fallbackBreak);
// 限流
var bulk = Policy.BulkheadAsync<HttpResponseMessage>(
// 最大请求数
maxParallelization: 30,
// 最大队列数,指的是达到最大请求数后又多少个请求可以被放到队列中；
// 若不设置这个值,达到最大请求数后程序会抛出异常，如果队列数超出最大队列数，也会抛出异常
maxQueuingActions: 20,
// 请求被限流时执行的处理方式
onBulkheadRejectedAsync: contxt => Task.CompletedTask
);
// 限流出现异常时，响应降级
var message2 = new HttpResponseMessage()
{
Content = new StringContent("{}")
};
var fallback2 = Policy<HttpResponseMessage>.Handle<BulkheadRejectedException>().FallbackAsync(message);
// 组合策略
var fallbackbulk = Policy.WrapAsync(fallback2, bulk);
services.AddHttpClient("httpv4").AddPolicyHandler(fallbackbulk);
当服务发生熔断时，策略会抛出CircuitBreakerException异常，也就是熔断异常文章来源地址https://www.toymoban.com/news/detail-675985.html
到了这里，关于【微服务】04-Polly实现失败重试和限流熔断的文章就介绍完了。如果您还想了解更多内容，请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章，希望大家以后多多支持TOY模板网！
