腾讯云
开发者社区
文档
建议反馈
控制台
登录/注册
首页
学习
活动
专区
圈层
工具
MCP广场
文章/答案/技术大牛
搜索
搜索
关闭
发布
文章
问答
(9999+)
视频
沙龙
1
回答
Spring
batch
-并行处理
我在三台机器上运行
spring
batch
作业。例如,数据库有30条记录,每台机器上的批处理作业必须提取唯一的10条记录并对其进行处理。 我读了
分区
和并行处理,有点迷惑,哪一个更合适?
浏览 2
提问于2013-10-20
得票数 0
2
回答
Spring
Batch
分区
+
线程
、
、
、
如果我在
Spring
Batch
中使用
分区
(假设有10个
分区
)和块,任务执行器如下所示每个
分区
将运行多少个
线程
?
浏览 17
提问于2017-01-12
得票数 0
回答已采纳
2
回答
Spring
Batch
多
线程
vs
分区
我有一个需求,我想在下面的场景中使用
Spring
batch
框架。 我有一个对交易日期列进行
分区
的表。我想使用
Spring
batch
框架的读取器、处理器和写入器来处理这个表的记录。我想做的是创建单独的
线程
读取,写入和处理基于交易日期。假设有4个交易日期,然后我想创建4个单独的
线程
,每个单独的交易日期。在每个
线程
中,读取器将从表中读取该交易日期的记录,在处理器中丰富记录,然后在写入器中发布/写入。我是
Spring
b
浏览 0
提问于2014-07-07
得票数 0
1
回答
Spring
Batch
分区
DBtoFile Java配置示例
、
我目前正在使用
Spring
Boot和
Spring
Batch
应用程序从数据库中读取200,000条记录,处理它并生成XML输出。我编写了单
线程
Spring
批处理程序,它使用JDBCPagingItemReader从数据库中批量读取10K条记录,并使用StaxEventItemReader生成此输出。整个过程需要30分钟。我想通过使用
Spring
Batch
本地
分区
来增强这个程序。有没有人可以分享Java配置代码来完成
Spring
<
浏览 13
提问于2017-07-10
得票数 0
1
回答
如何对大文件进行
Spring
批量记录
分区
?
、
、
、
如何对大文件进行
Spring
批量记录
分区
? 例如,如果我在文件中有100条记录,我需要提高
spring
批处理速度,每10条记录创建1个
线程
。该怎么做呢?但是这个
分区
工具为每个文件创建
分区
。因此不会对一个大文件造成性能影响。该怎么做呢?是的,我需要写像https://mkyong.com/
spring
-
batch
/
spring
-
batch
-partitioning-example
浏览 29
提问于2020-04-21
得票数 0
3
回答
多步骤并行的
Spring
batch
Partitioning?
、
、
、
、
我已经为单个步骤实现了
spring
批处理
分区
,其中主步骤将其工作委托给几个从
线程
,然后这些从
线程
被并行执行。如下图所示。(参考) <
batch
:listener ref="myJoblistener"></
batch
:listener> </
batch
:listeners>" ha
浏览 3
提问于2014-04-29
得票数 5
1
回答
Spring
Batch
RepositoryItemReader多
线程
分区
、
、
、
我想对每个页面中的数据进行
分区
,并使用TaskExecutor在单独的
线程
中执行这些
分区
。我不知道需要做些什么才能做到这一点。任何指导/输入都将非常感谢。
浏览 16
提问于2017-03-07
得票数 0
2
回答
Spring
batch
用于大文件(10亿到50亿个平面文件数据)
2)如果有10亿条记录,我将得到10000个文件,每个文件包含10K条记录4)这10个
线程
应处理拆分过程中创建的所有10000个文件。5)我不想创建与文件计数相同数量的
线程
,因为在这种情况下,我可能会面临内存问题。我正在寻找的是,无论多少个文件,我想处理他们只使用10个
线程
。专家,你能让我知道这可以用
spring
batch
实现吗?如果是,你能
浏览 3
提问于2017-12-22
得票数 1
1
回答
使用春季批处理
分区
处理大量数据
、
我正在实现
spring
批处理作业,以便使用
分区
方法处理DB表中的数百万条记录,如下所示: 如何控制被创建的
线程
数量,因为
浏览 1
提问于2015-03-24
得票数 7
回答已采纳
1
回答
使用
分区
的
Spring
Batch
多
线程
、
、
如果我们将
分区
工具与多
线程
步骤一起使用,会有什么问题吗? 我的想法是,如果我必须处理来自两个不同数据库表的大量记录,那么我使用
分区
程序来拆分这些表,然后每个步骤都会以多
线程
的方式对一个表执行查询。
浏览 15
提问于2020-05-02
得票数 0
回答已采纳
1
回答
使用
Spring
Batch
远程
分区
将工作移交给
Spring
Integration工作流
、
我想写一个批处理,它从表中读取数据,对数据进行
分区
,并将其移交给
Spring
Integration工作流。 批处理和集成工作流都是单独的maven项目,并且集成项目是批处理项目中的依赖项。只有一个
分区
程序和一个微
线程
。在这个微
线程
中,我将数据(出于测试目的而硬编码)放入
Spring
集成网关。在此之后,我将消息传递到出站通道适配器,该适配器将消息打印到控制台。Integration项目是
Spring
Batch
项目中的一个普通库。我被告知要使用远程<e
浏览 41
提问于2021-01-08
得票数 0
1
回答
spring
batch
的优点
、
我知道
spring
batch
框架是以块为单位处理数据的。然而,我在想,当同样的分块功能可以通过java获得时,为什么我们还需要
batch
框架。谁能让我知道如果有更多的原因去
spring
batch
框架?
浏览 1
提问于2014-11-14
得票数 31
回答已采纳
1
回答
Spring
批处理
分区
-创建
分区
需要花费大量时间并影响批处理作业
、
、
我正在开发
Spring
批处理代码。我的应用程序从Account表中读取帐户的详细信息。通常我得到的Accounts在80万到160万之间。在
Spring
中,我想到使用
分区
,我使用了如下代码: <partition step=accountPartitioner"> <handler grid-size="
浏览 0
提问于2018-10-13
得票数 0
2
回答
Spring
批处理作业是
线程
安全的吗?
我需要并行化一个批处理
spring
作业的单个步骤。在要并行化的步骤之前,运行微
线程
,将一些结果放入作业的参数中。微
线程
产生的结果是执行
分区
程序和要并行化的步骤的项所必需的。由于我可以使用不同的初始参数同时多次运行相同的作业,所以微
线程
和步骤项是否安全
线程
安全?
浏览 35
提问于2019-05-17
得票数 0
回答已采纳
1
回答
Spring
Batch
分区
、
、
我们正在使用
spring
batch
来做到这一点。问题是,记录的分组基于表A中的数据,每个唯一分组标准都有一个主体组,如果每1000条记录属于同一主体组,则每1000条记录有一个子组。记录,表A-->子组,表B(每1000条记录属于唯一的分组标准)-->主体组,表C-->(用于唯一的分组标准)任何更好的想法来解决这个问题也是值得感谢的。
浏览 4
提问于2012-12-16
得票数 0
1
回答
创建n个任务并在
Spring
Batch
中并行执行
、
、
、
考虑使用
Spring
Batch
:类似于以下步骤: 1.遍历所有100个S3文件夹,并识别出每个文件夹中有文件,例如60个文件夹中有文件。2.创建多个作业\任务,例如60个作业,并并行执行它们。
浏览 8
提问于2020-05-14
得票数 0
1
回答
spring
batch
远程分块与远程
分区
的区别
、
、
spring
batch
远程分块和远程
分区
有什么区别? 我不能理解
spring
batch
中远程分块和远程
分区
之间的区别。有谁能解释一下吗?
浏览 4
提问于2013-12-02
得票数 15
回答已采纳
1
回答
Spring
Batch
并行作业缩放
、
、
、
我目前正在开发
Spring
Batch
POC,并且已经很好地掌握了大多数
Spring
Batch
的实际特性。我目前有一个程序,它使用
Spring
Integration接收HttpRequest,并使用消息通道最终将作业执行发送到队列中的作业启动器。我们的想法是,我们将有一个运行的服务器,可以在任何时候接受许多作业请求,以及一个大型的机器集群,作业将被
分区
到这些机器上。抱歉,如果有什么不清楚或令人困惑的地方,我只是一个上个月开始学习
Spring
和
Spring<
浏览 1
提问于2012-07-21
得票数 2
1
回答
带有
Spring
引导的Cassandra数据库。为什么?
、
、
我试图在批中插入(对象存储在数组中,一旦计数可被10000整除,我就将所有这些对象插入到我的表中。但这需要超过4分钟的时间。有没有更快的方法?if(count%10000==0){arr.clear();
浏览 0
提问于2020-03-06
得票数 2
回答已采纳
1
回答
Spring
batch
远程
分区
|是否可以在未完成从步骤的情况下完成主步骤
、
我已经编写了
spring
batch
远程
分区
方法,我不希望我的主步骤等待从步骤确认,我希望我的主步骤在对数据进行
分区
后立即完成。在
spring
batch
中有同样的配置吗?
浏览 31
提问于2021-04-12
得票数 0
回答已采纳
点击加载更多
相关
资讯
Spring Batch 4.1.0.M2 发布,简化远程分区
Spring Batch之批处理实践
Spring Batch 在大型企业中的最佳实践
通过例子讲解Spring Batch入门,优秀的批处理框架
Java近期新闻: JReleaser 1.2、Spring Batch、PrimeFaces、Quarkus、JobRunr与Apache Beam
热门
标签
更多标签
云服务器
ICP备案
对象存储
云点播
实时音视频
活动推荐
运营活动
广告
关闭
领券