今天碰到一个问题,httpclient 在使用线程池时,偶尔出现 NoHttpResponseException 异常。
httpclient org.apache.http.NoHttpResponseException: host:端口 failed to respond
经过一轮排查可能的原因是两个:我们属于第二个
原因
直接原因:服务器收到请求以后,不处理直接丢弃。
实际情况:
1.当服务端由于负载过大等情况发生时,可能会导致在收到请求后无法处理(比如没有足够的线程资源),会直接丢弃链接而不进行处理。此时客户端就会报错:NoHttpResponseException。
解决建议:
重试2.客户端与服务端建立的请求在服务端已经失效。(例如:服务端 springboot 内置 tomcat 默认 keepAliveTimeout :20s,客户端自定义 keepAliveTimeout :30s,客户端连接池中取出的空闲连接可能已经被服务端失效,再次从连接池拿该失效连接进行请求时,就会报错。)
解决建议:
检查并关闭失效连接
解决方案
1.设置重试策略,这种要求服务端端接口是幂等的,但是业务反馈实际上请求的业务已经执行,所以我们不能重试。
HttpClient httpClient = HttpClients.custom()
.setConnectionManager(connectionManager)
// 问题一解决方案:设置重试
.setRetryHandler(new MyRetryHandler())
// 问题二解决方案:调整 keepAliveTimeout,这样无法复用长连接
.setKeepAliveStrategy(myStrategy)
.setDefaultRequestConfig(requestConfig)
.setDefaultConnectionConfig(connectionConfig)
.build();
2、设置校验机制(不百分百有效)
当每次拿到链接后会校验链接是否还建立,在validateAfterInactivity时间内不重复校验(默认两秒),比如,validateAfterInactivity设置的是5s,上次使用链接是在1s前,则不会校验直接使用 httpClientConnectionManager.setValidateAfterInactivity(5000);
HttpClient连接池-使用建议
对于 httpclient 连接池使用一般考虑以下几点:
- 向连接池申请连接的超时时间
- 连接建立的超时时间,即 socket 进行 3 次握手建立连接的超时时间
- 连接超时时间,即 socket 读写超时时间
- 设置最大 redirect 次数
- 是否开启可用性检查
- global 连接池中最大的连接数
- individual route 连接池中最大的连接数
- 请求重试次数
- 设置ssl 请求的证书 trust 策略和 cn host name 验证策略
- 开启对于空闲连接以及过期连接的清理,设置空闲连接的时长
- 是否重用池化对象以及使用长连接
我们通过如下代码设置上述 items :
RequestConfig requestConfig = RequestConfig.custom()
.setConnectionRequestTimeout(10000)//设置连接池申请连接的超时时间,默认-1为无限时间
.setConnectTimeout(5000)//设置socket进行3次握手建立连接的超时时间
.setSocketTimeout(8000)//设置连接超时时间,即socket读写超时时间
.setMaxRedirects(50)//设置最大的redirect次数,默认为50
.setStaleConnectionCheckEnabled(Boolean.TRUE)//设置开启可用性检查,默认不开启
.build();
CloseableHttpClient htttpClient = HttpClients.custom()
.setDefaultRequestConfig(requestConfig)
.setMaxConnPerRoute(50)//设置individual route连接池中最大的连接数,默认为2
.setMaxConnTotal(500)//设置global连接池中最大的连接数,默认为20
.setConnectionTimeToLive(-1, TimeUnit.MICROSECONDS)//设置连接池中连接存活时间,默认-1代表无限存活,连接使用之后由response header "Keep-Alive: timeout"决定。
.evictIdleConnections(60000, TimeUnit.MILLISECONDS)//开启空袭连接清理线程,设置连接池中连接最大空闲时间,以及连接清理线程的sleep时间,默认为10秒
.evictExpiredConnections()//开启过期连接清理线程,过期时间默认为-1,连接使用后由response header "Keep-Alive: timeout"决定。
//.setRetryHandler(retryHandler)//设置重试策略,默认3次重试
//.setSSLContext(sslContext)//设置ssl请求上下文
//.setSSLHostnameVerifier(hostnameVerifier)//设置ssl证书cn host name验证策略,默认为验证cn host name
.build();
如果希望重用池化对象并且保持长连接,那么务必请调用 EntityUtils 类之中的静态方法toByteArray(),toString(),consume(),consumeQuietly()等。如果不希望重用池化对象,同时也不希望使用长连接,那么请调用 CloseableHttpResponse 的close() 方法。另外我们也会经常使用 Spring 的 RestTemplate 来发送 https 请求,对于 RestTemplate 一般也是会去整合 Apache HttpComponents HttpClient 组件,所以在使用 RestTemplate 的时候也请考虑以上各个 items 的设置。
原理篇
1、org.apache.http.conn.HttpClientConnectionManager
线程安全。
httpclient中给出的实现类有两个:
1)org.apache.http.impl.conn.BasicHttpClientConnectionManager
* A connection manager for a single connection. This connection manager maintains only one active * connection. Even though this class is fully thread-safe it ought to be used by one execution * thread only, as only one thread a time can lease the connection at a time.
文档讲的很明白的,单链接管理类,对每个HttpRoute只保持一个有效链接,在实际项目中没有使用经验,不做评论。
PoolingHttpClientConnectionManager中的两个常用属性:
PoolingHttpClientConnectionManager connectionManager = new PoolingHttpClientConnectionManager(); connectionManager.setDefaultMaxPerRoute(DEFAULT_MAX_PER_ROUTE); connectionManager.setMaxTotal(DEFAULT_SOCKET_MAX_TOTAL);
MaxTotal:整个连接池的最大连接数
DefaultMaxPerRoute:单个HttpRoute最大连接数,项目中假如只连接一个route那么可以设置为等于MaxTotal
2、org.apache.http.client.config.RequestConfig
这个类属性很多,所以使用了典型的构建器模式,通过内部类RequestConfig.Builder的build()方法来创建RequestConfig对象。
一段典型的创建RequestConfig的代码
RequestConfig requestConfig = RequestConfig.custom() .setConnectTimeout(DEFAULT_CONNECT_TIMEOUT) .setConnectionRequestTimeout(DEFAULT_REQUEST_TIMEOUT) .setSocketTimeout(DEFAULT_SOCKET_TIMEOUT) .setStaleConnectionCheckEnabled(true).build();
几个常用的属性:
ConnectTimeout:建立连接的超时时间
ConnectionRequestTimeout:从连接池中获取连接超时时间
SocketTimeout:socket传输超时时间
StaleConnectionCheckEnabled:是否启用检查失效连接,这个属性在4.4版本中被PoolingHttpClientConnectionManager中的#setValidateAfterInactivity(int)替换掉了。
所以,这里是我们可以用到的。
3、org.apache.http.impl.client.HttpClientBuilder
使用HttpClientBuilder类的静态方法create()创建HttpClientBuilder对象,将我们之前创建的PoolingHttpClientConnectionManager和RequestConfig对象通过setter方法设置给HttpClientBuilder,调用HttpClientBuilder对象的工厂方法build()来构建我们需要使用的httpclient对象,一段典型示例代码如下:
CloseableHttpClient httpClient = HttpClientBuilder.create().setConnectionManager(connectionManager) .setDefaultRequestConfig(requestConfig).build();
在构建我们的httpclient对象之前,HttpClientBuilder中还有其他的一些配置需要我们注意,
setRetryHandler:设置重试策略,httpclient对象默认使用org.apache.http.impl.client.DefaultHttpRequestRetryHandler类维护的本类静态实例INSTANCE,重试3次,并且在请求已经完整发送的情况下不重试。
disableAutomaticRetries:禁用自动重试,如果此项设置为true,那么将忽略已经设置的RetryHandler。
另外还有重定向策略,keepalive策略,cookiestore等等,可以根据项目需要进行设置。
三、项目中使用httpclient
1、HttpClient实例:
httpclient中使用的PoolingHttpClientConnectionManager是线程安全的,httpclient也是线程安全的,在我们的项目中可以只维护一个httpclient对象,频繁的创建httpclient对象并不明智。通过设置PoolingHttpClientConnectionManager中的属性来保证性能。
2、快速创建默认配置的httpclient对象:
使用4.3版本中的org.apache.http.impl.client.HttpClients类的工厂方法来创建。
CloseableHttpClient closeableHttpClient = HttpClients.createDefault();
以上方法创建的httpclient对象,所有配置都将使用默认值:
PoolingHttpClientConnectionManager的默认配置
DefaultMaxPerRoute=2
MaxTotal=20
RequestConfig的默认配置:
this.staleConnectionCheckEnabled = false; this.redirectsEnabled = true; this.maxRedirects = 50; this.relativeRedirectsAllowed = true; this.authenticationEnabled = true; this.connectionRequestTimeout = -1; this.connectTimeout = -1; this.socketTimeout = -1; this.contentCompressionEnabled = true;
3、详细的自定义配置创建httpclient对象,以下为一段示例代码,其中添加了https信任所有证书的操作
private static final int DEFAULT_CONNECT_TIMEOUT = 2000; private static final int DEFAULT_REQUEST_TIMEOUT = 1000; private static final int DEFAULT_SOCKET_TIMEOUT = 10000; private static final int DEFAULT_SOCKET_MAX_TOTAL = 200; private static final int DEFAULT_MAX_PER_ROUTE = 200; private CloseableHttpClient httpClient; @PostConstruct public void init() { SSLConnectionSocketFactory sslsf = null; final SSLContext sslcontext; try { sslcontext = SSLContexts.custom().loadTrustMaterial(null, new TrustStrategy() { @Override public boolean isTrusted(X509Certificate[] chain, String authType) throws CertificateException { return true; } }).build(); sslsf = new SSLConnectionSocketFactory(sslcontext, SSLConnectionSocketFactory.ALLOW_ALL_HOSTNAME_VERIFIER); } catch (final SecurityException | KeyStoreException | NoSuchAlgorithmException | KeyManagementException ignore) { } final Registry<ConnectionSocketFactory> sfr = RegistryBuilder.<ConnectionSocketFactory>create() .register("http", PlainConnectionSocketFactory.getSocketFactory()) .register("https", sslsf != null ? sslsf : SSLConnectionSocketFactory.getSocketFactory()) .build(); PoolingHttpClientConnectionManager connectionManager = new PoolingHttpClientConnectionManager(sfr); connectionManager.setDefaultMaxPerRoute(DEFAULT_MAX_PER_ROUTE); connectionManager.setMaxTotal(DEFAULT_SOCKET_MAX_TOTAL); RequestConfig requestConfig = RequestConfig.custom() .setAuthenticationEnabled(false) .setConnectTimeout(DEFAULT_CONNECT_TIMEOUT) .setConnectionRequestTimeout(DEFAULT_REQUEST_TIMEOUT) .setSocketTimeout(DEFAULT_SOCKET_TIMEOUT) .setStaleConnectionCheckEnabled(true).build(); //默认重试策略,重试3次 httpClient = HttpClientBuilder.create().setConnectionManager(connectionManager) .setDefaultRequestConfig(requestConfig).build(); }
参考:
1、https://www.cnblogs.com/zjdxr-up/p/14530875.html
2、HttpComponents HttpClient连接池(10)-使用建议 - 腾讯云开发者社区-腾讯云 文章来源:https://www.toymoban.com/news/detail-473189.html
3、HttpClient的详细配置指南(基于HttpClient 4.3.5)_chenghui7393的博客-CSDN博客文章来源地址https://www.toymoban.com/news/detail-473189.html
到了这里,关于HttpClient 出现 failed to respond 异常解决的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!