专栏首页维C果糖Akka 指南 之「为什么现代系统需要新的编程模型?」

Akka 指南 之「为什么现代系统需要新的编程模型?」

为什么现代系统需要新的编程模型?

几十年前,卡尔·休伊特(Carl Hewitt)提出了 Actor 模型,将其作为在高性能网络中处理并行任务的一种方法——当时还没有这种环境。如今,硬件和基础设施能力已经赶上并超过了休伊特的设想。因此,构建高需求(demanding requirements)的分布式系统会遇到传统面向对象编程(OOP)模型无法完全解决的挑战,但这可以从 Actor 模型中获益。

如今,Actor 模型不仅被认为是一种高效的解决方案,而且已经在生产中为一些世界上要求极高的应用程序证明了这一点。为了突出 Actor 模型所能解决的问题,本主题讨论了传统编程假设与现代多线程、多 CPU 架构的现实之间的不匹配问题:

封装的挑战

OOP 的核心之一是封装。封装意味着不能直接从外部访问对象的内部数据;只能通过调用一组协调方法来修改它。对象负责暴露保护其封装数据不变性的安全操作。

例如,对有序二叉树实现的操作不允许违反树顺序不变量。调用方希望顺序是完整的,并且在查询树中某个数据块时,他们需要能够依赖于这个约束。

当我们分析 OOP 运行时行为时,有时会绘制一个消息序列图,显示方法调用的交互。例如:

不幸的是,上面的图表并不能准确地表示实例在执行期间的生命周期。实际上,一个线程执行所有这些调用,不变量的强制执行发生在调用该方法的同一个线程上。使用执行线程更新图表,如下所示:

当你试图对多个线程所发生的事情进行建模时,这种说明的意义就变得清晰了。突然间,我们画得很整齐的图表变得不合适了。我们可以尝试演示多个线程访问同一实例:

如上图所示,在这一部分中,两个线程进入同一个方法。不幸的是,对象的封装模型不能保证该部分中发生的事情。两个调用的指令可以以任意方式交错,这样就消除了在两个线程之间没有某种协调的情况下保持不变的希望。现在,假设这个问题是由多个线程的存在造成的。

解决这个问题的常用方法是在这些方法周围添加一个锁。虽然这样可以确保在任何给定的时间内最多有一个线程进入该方法,但这是一个非常昂贵的策略:

  • 锁严重限制了并发性,它们在现代 CPU 架构上非常昂贵,需要从操作系统中大量提升以挂起线程并稍后恢复。
  • 当调用线程被阻塞时,它不能执行任何其他有意义的工作。即使在桌面应用程序中,这也是不可接受的,我们希望让面向用户的应用程序部分(UI)即使在长后台作业运行时也能响应。在后端,阻塞完全是浪费。有人可能认为可以通过启动新的线程来补偿这一点,但线程也是一个代价高昂的抽象。
  • 锁带来了新的威胁:死锁。

这些现实导致了一种无法取胜(no-win)的局面:

  • 如果没有足够的锁,状态就容易受到破坏。
  • 使用太多的锁,性能就会受到影响,很容易导致死锁。

另外,锁只能在本地很好的工作。当涉及到跨多台机器协调时,唯一的选择是分布式锁。不幸的是,分布式锁的效率比本地锁低几个数量级,通常会对扩展施加硬限制。分布式锁协议需要跨多台机器在网络上进行多次往返通信,因此其造成最大的影响就是延迟。

在面向对象语言中,我们通常很少考虑线程或线性执行路径。我们通常将系统设想为一个对象实例网络,这些对象实例对方法调用作出反应,修改其内部状态,然后通过方法调用相互通信,从而推动整个应用程序状态前进:

但是,在多线程分布式环境中,实际发生的情况是线程通过以下方法调用“遍历”对象实例网络。因此,线程才是真正推动执行的因素:

总结

  • 对象只能在单线程访问时保证封装,多线程执行几乎总是导致内部状态损坏。
  • 虽然锁似乎是支持多线程封装的补救方法,但实际上它们效率低下,而且很容易在任何实际规模的应用程序中导致死锁。
  • 锁在本地工作,虽然可以使用分布式锁,但其提供的扩展能力有限。

共享内存在现代计算机架构中的错觉

80 ~ 90年代的编程模型概念中,写一个变量意味着直接写进了一个内存位置(这有点模糊了局部变量可能只存在于寄存器中)。在现代架构中,如果我们稍微简化一些,CPU 将写入「缓存线」,而不是直接写入内存。这些缓存中的大多数都是 CPU 核心的本地缓存,也就是说,一个核心的写操作对于另一个核心是不可见的。为了使本地更改对另一个核心可见,从而对另一个线程可见,需要将缓存线发送到另一个核心的缓存。

在 JVM 上,我们必须通过使用volatile标记或原子包装器(Atomic wrappers)显式地表示要在线程间共享的内存位置。否则,我们只能在锁定的部分中访问它们。为什么我们不把所有变量都标记为volatile变量呢?因为跨核心传送缓存线(cache line)是一项非常昂贵的操作!这样做将隐式地停止执行额外工作所涉及的核心,并导致缓存一致性协议(协议用于在主内存和其他 CPU 之间传输缓存线)上出现瓶颈。结果就是运行速度严重变慢。

即使对于了解这种情况的开发人员来说,找出哪些内存位置应该标记为volatile,或者使用哪些原子结构也是一门黑暗的艺术。

总结

  • 不再有真正的共享内存,CPU 核心像网络上的计算机一样,将数据块(缓存线)显式地传递给彼此。CPU 间通信和网络通信的共性比许多实现方式都要大。现在,无论是通过 CPU 还是通过网络连接的计算机传递消息都是很正常的。
  • 与通过标记为共享或使用原子数据结构的变量隐藏消息传递方面不同,一种更加规范和原则化的方法是将状态保持在并发实体的本地,并通过消息在并发实体之间显式地传播数据或事件。

调用栈的假象

今天,我们经常把调用栈(call stacks)视为理所当然。但是,它们是在一个并发编程不那么重要的时代发明的,因为多 CPU 系统并不常见。调用栈不跨线程,因此不为异步调用链提供能力。

当线程打算将任务委托给“后台”时,就会出现问题。在实践中,这实际上意味着委托给另一个线程。这不能是简单的方法/函数调用,因为调用是严格的在本地线程调用。通常会发生的情况是,“调用者”将一个对象放入一个工作线程(“被调用者”)共享的内存位置,而后者又在某个事件循环中接收它。这允许“调用者”线程继续执行并执行其他任务。

第一个问题是,如何通知“调用者”任务的完成?但是,当一个任务因异常而失败时,会出现一个更严重的问题。异常传播到哪里?它将传播到工作线程的异常处理程序,完全忽略实际的“调用者”是谁:

这是一个严重的问题。工作线程(worker thread)如何处理这种情况?它可能无法解决问题,因为它通常忽略了失败任务的目的。“调用者”线程需要以某种方式得到通知,但是没有调用栈来释放异常。失败通知只能通过一个侧通道(side-channel)完成,例如,将错误代码放在“调用者”线程预期结果应该在的地方。如果此通知不到位,则“调用者”永远不会收到失败通知,任务将丢失!这与网络系统的工作方式惊人地相似,在这种情况下,消息/请求可能会丢失/失败,而没有任何通知

当真的发生了错误,一个工作线程遇到了一个 bug,最后陷入了一个不可恢复的情况时,这种糟糕的情况会变得更糟。例如,由 bug 引起的内部异常会冒泡到线程的根目录,并使线程关闭。这立即引发了一个问题,谁应该重新启动由线程承载的服务的正常操作,以及如何将其恢复到已知的良好状态?乍一看,这似乎是可以管理的,但我们突然遇到了一种新的、意想不到的现象:线程当前正在处理的实际任务不再是从共享内存位置中获取任务(通常是队列)。实际上,由于异常到达顶部,因此会展开所有调用栈,任务状态完全丢失!我们丢失了一条消息,尽管这是本地通信,不涉及网络

总结

  • 为了在当前系统上实现任何有意义的并发性和性能,线程必须以有效的方式相互委托任务,而不阻塞。由于这种类型的任务委托并发性(在网络/分布式计算中更是如此),基于调用栈的错误处理会出现故障,因此需要引入新的显式错误信号机制。失败成为域模型(domain model)的一部分。
  • 具有工作委托的并发系统需要处理服务故障,并从故障中恢复。此类服务的客户端需要知道,任务/消息可能会在重新启动时丢失。即使没有发生丢失,响应也可能由于先前排队的任务(长队列)、垃圾收集等而被任意延迟。面对这些情况,并发系统应该以超时的形式处理响应截止时间,就像网络/分布式系统一样。

接下来,让我们看看如何使用 Actor 模型来克服这些挑战。


名词解析:缓存线

  • cache line,数据以固定大小的块在内存和缓存之间传输,称为缓存线或缓存块。当缓存线从内存复制到缓存中时,会创建一个缓存项。缓存项将包括复制的数据以及请求的内存位置(称为标记)。当处理器需要读取或写入主内存中的一个位置时,它首先检查缓存中的相应缓存项。缓存检查可能包含该地址的任何缓存线中请求的内存位置的内容。如果处理器发现内存位置在缓存中,则会发生缓存命中。但是,如果处理器在缓存中找不到内存位置,则会发生缓存未命中。在缓存命中的情况下,处理器会立即读取或写入缓存线中的数据。对于缓存未命中,缓存分配一个新缓存项并从主内存复制数据,然后从缓存的内容完成请求。

英文原文链接Why modern systems need a new programming model.

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

我来说两句

0 条评论
登录 后参与评论

相关文章

  • 详述 Java NIO 以及 Socket 处理粘包和断包方法

    NIO 是 New I/O 的简称,是 JDK 1.4 新增的功能,之所以称其为 New I/O,原因在于它相对于之前的 I/O 类库是新增的。由于之前老的 I...

    CG国斌
  • Guava 指南 之「前置条件」

    前置条件 Guava 提供了很多用于进行前置条件检查的工具,我们强烈建议静态导入这些方法。 每个方法都用三种形式: 没有额外的参数。抛出的任何异常都没有错误信息...

    CG国斌
  • 分库分表?如何做到永不迁移数据和避免热点?

    中大型项目中,一旦遇到数据量比较大,小伙伴应该都知道就应该对数据进行拆分了。有垂直和水平两种。

    CG国斌
  • volatile(1)

    1. volatile的作用是保证共享变量的可见性,不能保证原子性,也不能保证线程安全。

    黑洞代码
  • [并发基础篇]MESI协议,JMM,线程常见方法等

    我们在找工作时,经常在招聘信息上看到有这么一条:要求多线程并发经验。无论是初级程序员,中级程序员,高级程序员,也无论是大厂,小厂,并发编程肯定是少不了的。

    陈琛
  • 学习链表

    版权声明:本文为博主原创文章,遵循 CC 4.0 BY-SA 版权协议,转载请附上原文出处链接和本声明。 ...

    用户2141593
  • 终于有人把Java内存模型说清楚了

    JVM 中试图定义一种 JMM 来屏蔽各种硬件和操作系统的内存访问差异,以实现让 Java 程序在各种平台下都能达到一致的内存访问效果。

    李红
  • 初学者第68节多线程之线程池(十一)

    线程池是一种多线程处理形式,处理过程中将任务添加到队列,然后在创建线程后自动启动这些任务。线程池线程都是后台线程。每个线程都使用默认的堆栈大小,以默认的优先级运...

    用户5224393
  • 史上最严数据保护条例欧盟GDPR今日生效,你可能需要这版中文全文(下)

    大数据文摘
  • Mybatis系列之设置自动提交事务

    业务描述:最近遇到业务很复杂的方法,有通过Spring的@Transactional注解开启事务的,不过在ie11出现bug,console日志打印已经upda...

    SmileNicky

扫码关注云+社区

领取腾讯云代金券