专栏首页架构师之路跨公网调用的大坑与架构优化方案

跨公网调用的大坑与架构优化方案

第三方接口挂掉,我们的服务会受影响么?

一、缘起与大坑

很多时候,业务需要跨公网调用一个第三方服务提供的接口,为了避免每个调用方都依赖于第三方服务,往往会抽象一个服务:

  • 解除调用方与第三方接口的耦合
  • 当第三方的接口变动时,只有服务需要修改,而不是所有调用方均修改

此时接口调用流程是什么样的呢?

如上图1-4所述:

(1)业务调用方调用内部service

(2)内部service跨公网调用第三方接口

(3)第三方接口返回结果给内部service

(4)内部service返回结果给业务调用方

这个过程存在什么潜在的大坑呢?

内部服务可能对上游业务提供了很多服务接口,当有一个接口跨公网第三方调用超时时,可能导致所有接口都不可用,即使大部分接口不依赖于跨公网第三方调用。

为什么会出现这种情况呢?

内部服务对业务方提供的N个接口,会共用服务容器内的工作线程(假设有100个工作线程)。

假设这N个接口的某个接口跨公网依赖于第三方的接口,发生了网络抖动,或者接口超时(不妨设超时时间为5秒)。

潜台词是,这个工作线程会被占用5秒钟,然后超时返回业务调用方。

假设这个请求的吞吐量为20qps,言下之意,很短的时间内,所有的100个工作线程都会被卡在这个第三方超时等待上,而其他N-1个原本没有问题的接口,也得不到工作线程处理。

潜在优化方案?

  • 增大工作线程数(不根本解决问题)
  • 降低超时时间(不根本解决问题)
  • 垂直拆分,N个接口拆分成若干个服务,使得在出问题时,被牵连的接口尽可能少(依旧不根本解决问题,难道一个服务只提供一个接口吗?)

跨公网调用的稳定性优化,是本文要讨论的问题。

二、异步代理法

业务场景:通过OpenID实时获取微信用户基本信息

解决方案:增加一个代理,向服务屏蔽究竟是“本地实时”还是“异步远程”去获取返回结果

本地实时流程如上图1-5:

(1)业务调用方调用内部service

(2)内部service调用异步代理service

(3)异步代理service通过OpenID在本地拿取数据

(4)异步代理service将数据返回内部service

(5)内部service返回结果给业务调用方

异步远程流程如上图6-8粗箭头的部分:

(6)异步代理service定期跨公网调用微信服务

(7)微信服务返回数据

(8)刷新本地数据

优点:公网抖动,第三方接口超时,不影响内部接口调用

不足:本地返回的不是最新数据(很多业务可以接受数据延时)

有时候,内部service和异步代理service可以合成一个service

三、第三方接口备份与切换法

业务场景:调用第三方短信网关,或者电子合同等

解决方案:同时使用(或者备份)多个第三方服务

流程如上图1-4:

(1)业务调用方调用内部service

(2)内部service调用第一个三方接口

(3)超时后,调用第二个备份服务,未来都直接调用备份服务,直到超时的服务恢复

(4)内部service返回结果给业务调用方

优点:公网抖动,第三方接口超时,不影响内部接口调用(初期少数几个请求会超时)

不足:不是所有公网调用都能够像短息网关,电子合同服务一样有备份接口的,像微信、支付宝等就只此一家

四、异步调用法

业务场景:本地结果,同步第三方服务,例如用户在58到家平台下单,58到家平台需要通知平台商家为用户提供服务

解决方案:本地调用成功就返回成功,异步调用第三方接口同步数据(和异步代理有微小差别)

本地流程如上图1-3:

(1)业务调用方调用内部service

(2)内部service写本地数据

(3)内部service返回结果给业务调用方成功

异步流程如上图4-5粗箭头的部分:

(4)异步service定期将本地数据取出(或者通知也行,实时性好)

(5)异步调用第三方接口同步数据

优点:公网抖动,第三方接口超时,不影响内部接口调用

不足:不是所有业务场景都可以异步同步数据

五、总结

跨公网调用第三方,可能存在的问题

  • 公网抖动,第三方服务不稳定,影响自身服务
  • 一个接口超时,占住工作线程,影响其他接口

降低影响的优化方案

  • 增大工作线程数
  • 降低超时时间
  • 服务垂直拆分

业务需求决定技术方案,结合业务的解决方案:

  • 业务能接受旧数据:读取本地数据,异步代理定期更新数据
  • 有多个第三方服务提供商:多个第三方互备
  • 向第三方同步数据:本地写成功就算成功,异步向第三方同步数据

希望第三方的服务挂掉,不再影响大家的服务。

本文分享自微信公众号 - 架构师之路(road5858),作者:58沈剑

原文出处及转载信息见文内详细说明,如有侵权,请联系 yunjia_community@tencent.com 删除。

原始发表时间:2017-05-13

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

我来说两句

0 条评论
登录 后参与评论

相关文章

  • 第三方服务挂了,如何保证服务不受影响?

    内部服务可能对上游业务提供了很多服务接口,当有一个接口跨公网第三方调用超时时,可能导致所有接口都不可用,即使大部分接口不依赖于跨公网第三方调用。

    架构师之路
  • 微博与im消息实现对比[随想]

    这两天在Qcon的群里讨论im讨论的比较多,翻出11年写的一篇blog(略显稚嫩?),原文如下: ===== 在网上看了一篇关于微博feed系统的架构文章(S...

    架构师之路
  • 究竟啥才是互联网架构“高可用”

    一、什么是高可用 高可用HA(High Availability)是分布式系统架构设计中必须考虑的因素之一,它通常是指,通过设计减少系统不能提供服务的时间。 ...

    架构师之路
  • 第三方服务挂了,如何保证服务不受影响?

    内部服务可能对上游业务提供了很多服务接口,当有一个接口跨公网第三方调用超时时,可能导致所有接口都不可用,即使大部分接口不依赖于跨公网第三方调用。

    架构师之路
  • Upgrade Kali to 2019.4

    新版Kali推出了Undercover模式,可以在Windows 10 桌面和Kali 桌面之间来回切换,只需要在终端运行 kali-undercover命令即...

    徐焱
  • 世界著名期刊杂志里的表格样式

    我自己制作过不少糟糕的表格,也见过更多不规范的表格样式,其不专业的形态有很多种,不一而足。整体上看,这些不规范的表格,主要表现为结构混乱、逻辑不清以及外观粗糙。

    Lenis
  • 前端 | 设置隔行变色的单元格

    表格在日常生活中使用的非常的多,比如excel就是专门用来创建表格的工具,表格就是用来表示一些格式化的数据的,比如:课程表、银行对账单。在网页中也可以来创建出不...

    算法与编程之美
  • Hyperledger Fabric与其他块链实现有何不同?

    [表格]

    首席架构师智库
  • 写给小白看的JS异步

    某天突然写了个方法要从后台调用数据,显示在前台页面,但是输出结果总是空undefined,得不到数据。多方找资料才发现,原来是入了JS异步的“坑”。

    前端博客 : alili.tech
  • HTML|利用CSS美化一个html表格

    我们通常做一个表格的时候,会发现表格是左上对齐的,且表格看起来非常单调,整个页面也很简洁。我们以为表格都应该是这个样子的吗?其实不然,表格也可以在网页中体现得很...

    算法与编程之美

扫码关注云+社区

领取腾讯云代金券