Java并发编程实战系列6之任务执行(Task Execution)

1. 在线程中执行任务

1.1 串行的执行任务

这是最经典的一个最简单的Socket server的例子,服务器的资源利用率非常低,因为单线程在等待I/O操作完成时,CPU处于空闲状态。从而阻塞了当前请求的延迟,还彻底阻止了其他等待中的请求被处理。

public class SingleThreadWebServer {
    public static void main(String[] args) throws IOException {
        ServerSocket socket = new ServerSocket(80);
        while (true) {
            Socket connection = socket.accept();
            handleRequest(connection);
        }
    }

    private static void handleRequest(Socket connection) {
        // request-handling logic here
    }
}

1.2 显式地为任务创建线程

任务处理从主线程中分离出来,主循环可以快速等待下一个连接,提高响应性。同时任务可以并行处理了,吞吐量也提高了。

public class ThreadPerTaskWebServer {
    public static void main(String[] args) throws IOException {
        ServerSocket socket = new ServerSocket(80);
        while (true) {
            final Socket connection = socket.accept();
            Runnable task = new Runnable() {
                public void run() {
                    handleRequest(connection);
                }
            };
            new Thread(task).start();
        }
    }
    private static void handleRequest(Socket connection) {
        // request-handling logic here
    }
}

1.3 无限制创建线程的不足

  • 线程的生命周期开销非常高
  • 资源消耗。大量的空闲线程占用内存,给GC带来压力,同时线程数量过多,竞争CPU资源开销太大。 稳定性。容易引起GC问题,甚至OOM

2 Executor框架

任务就是一组逻辑工作单元(unit of work),而线程则是使任务异步执行的机制。

Executor接口,是代替Thread来做异步执行的入口,接口虽然简单,却为非常灵活强大的异步任务执行框架提供了基础。 提供了一种标准的方法将任务的提交与执行过程解耦,并用Runnable(无返回时)或者Callable(有返回值)表示任务。

Executor基于生产者-消费者模式 提交任务/执行任务分别相当于生产者/消费者,通常是最简单的实现生产者-消费者设计的方式了

2.1 基于Executor改造后的样例如下

将请求处理任务的提交与任务的实际执行解耦,并且只需采用另一种不同的Executor实现,就可以改变服务器的行为,其影响远远小于修改任务提交方式带来的影响

2.2 执行策略

这一节主要介绍做一个Executor框架需要靠那些点?

在什么线程中执行任务? 任务按照什么顺序执行?FIFO/LIFO/优先级 有多少个任务可以并发执行? 队列中允许多少个任务等待? 如果系统过载了要拒绝一个任务,那么选择拒绝哪一个?如何通知客户端任务被拒绝了? 在执行任务过程中能不能有些别的动作before/after或者回调? 各种执行策略都是一种资源管理工具,最佳的策略取决于可用的计算资源以及对服务质量的要求。

因此每当看到 new Thread(runnable).start(); 并且希望有一种灵活的执行策略的时候,请考虑使用Executor来代替

2.3 线程池

在线程池中执行任务比为每个任务分配一个线程优势明显:

重用线程,减少开销。 延迟低,线程是等待任务到达。 最大化挖掘系统资源以及保证稳定性。CPU忙碌但是又不会出现线程竞争资源而耗尽内存或者失败的情况。 Executors可以看做一个工厂,提供如下几种Executor的创建:

newCachedThreadPool
newFixedThreadPool
newSingleThreadExecutor
newScheduledThreadPool

2.4 Executor的生命周期

为解决执行服务的生命周期问题,Executor扩展了ExecutorService接口,添加了一些用于生命周期管理的方法

一个优雅停止的例子:

增加生命周期扩展Web服务器的功能

  • 调用stop
  • 客户端请求形式

关闭

2.5 延迟任务与周期任务

使用Timer的弊端在于

  • 如果某个任务执行时间过长,那么将破坏其他TimerTask的定时精确性(执行所有定时任务时只会创建一个线程),只支持基于绝对时间的调度机制,所以对系统时钟变化敏感
  • TimerTask抛出未检查异常后就会终止定时线程(不会捕获异常)

更加合理的做法是使用ScheduledThreadPoolExecutor,只支持基于相对时间的调度 它是DelayQueue的应用场景

3 找出可利用的并行性

3.1 携带结果的任务Callable和Future

Executor框架支持Runnable,同时也支持Callable(它将返回一个值或者抛出一个异常) 在Executor框架中,已提交但是尚未开始的任务可以取消,但是对于那些已经开始执行的任务,只有他们能响应中断时,才能取消。 Future非常实用,他的API如下

内部get的阻塞是靠LockSupport.park来做的,在任务完成后Executor回调finishCompletion方法会依次唤醒被阻塞的线程。

ExecutorService的submit方法接受Runnable和Callable,返回一个Future。ThreadPoolExecutor框架留了一个口子,子类可以重写newTaskFor来决定创建什么Future的实现,默认是FutureTask类。

3.2 示例:使用Future实现页面的渲染器

3.3 CompletionService: Executor与BlockingQueue

计算完成后FutureTask会调用done方法,而CompletionService集成了FutureTask,对于计算完毕的结果直接放在自己维护的BlockingQueue里面,这样上层调用者就可以一个个take或者poll出来。

3.3 示例:使用CompletionService提高渲染性能

void renderPage(CharSequence source) {
        final List<ImageInfo> info = scanForImageInfo(source);
        CompletionService<ImageData> completionService =
                new ExecutorCompletionService<ImageData>(executor);
        for (final ImageInfo imageInfo : info)
            completionService.submit(new Callable<ImageData>() {
                public ImageData call() {
                    return imageInfo.downloadImage();
                }
            });

        renderText(source);

        try {
            for (int t = 0, n = info.size(); t < n; t++) {
                Future<ImageData> f = completionService.take();
                ImageData imageData = f.get();
                renderImage(imageData);
            }
        } catch (InterruptedException e) {
            Thread.currentThread().interrupt();
        } catch (ExecutionException e) {
            throw launderThrowable(e.getCause());
        }
    }

6.3.7 为任务设置时限

Future的get支持timeout。

6.3.8 批量提交任务

使用invokeAll方法提交List<Callable>,返回一个List<Future>

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏安恒网络空间安全讲武堂

Python编写渗透工具学习笔记二 | 0x02利用FTP与web批量抓肉鸡

0x02利用FTP与web批量抓肉鸡 脚本要实现的目标和思路: 先尝试匿名登录ftp,当匿名登录失败时再尝试用用户/密码爆破登录,登录成功后,脚本会搜索ftp中...

1.7K7
来自专栏张善友的专栏

分布式文件存储的数据库开源项目MongoDB

MongoDB是一个基于分布式文件存储的数据库开源项目。由C++语言编写。旨在为WEB应用提供可护展的高性能数据存储解决方案。 它的特点是高性能、易部署、易使用...

3719
来自专栏前端侠2.0

asp.net5 的应用启动 原

http://docs.asp.net/en/latest/conceptual-overview/aspnet.html

1171
来自专栏编程

小白爬虫之爬虫快跑,多进程和多线程

使用多线程时好像在目录切换的问题上存在问题,可以给线程加个锁试试 Hello 大家好!我又来了。 你是不是发现下载图片速度特别慢、难以忍受啊!对于这种问题 一般...

2207
来自专栏前端说吧

Gulp安装流程、使用方法及cmd常用命令导览

4436
来自专栏小白鼠

ZookeeperZNode基本命令四字命令SessionWatcherACLZookeeper集群Paxos算法ZAB协议Curator分布式锁

在Zookeeper中,ZNode可以分为持久节点和临时节点两类。所谓持久节点是指一旦这个ZNode被创建了,除非主动进行ZNode的移除操作,否则这个ZNod...

1233
来自专栏公有云大数据平台弹性 MapReduce

Hbase Region Split compaction 过程分析以及调优

Hbase以高并发写入而闻名,而Compact和Split功能贯穿了hbase的整个写入过程,而只有掌握了Compact和Split内部逻辑以及控制参数才能根据...

1.8K0
来自专栏程序员宝库

vue-cli 脚手架中 webpack 配置基础文件详解

vue-cli是构建vue单页应用的脚手架,输入一串指定的命令行从而自动生成vue.js+wepack的项目模板。这其中webpack发挥了很大的作用,它使得我...

2763
来自专栏吴伟祥

文件拷贝工具 原

WinSCP是一个Windows环境下使用SSH的开源图形化SFTP客户端。同时支持SCP协议。它的主要功能就是在本地与远程计算机间安全的复制文件。.winsc...

1233
来自专栏名山丶深处

springboot集成schedule(深度理解)

2465

扫码关注云+社区

领取腾讯云代金券