流批一体平台 - 腾讯云开发者社区

文章/答案/技术大牛

发布

4回答

有哪些编程语言是用于机电一体化的？

programming-languages、robotics

有没有专为机电一体化编程而设计的语言？我知道LabView，这是一种数据流语言，但不确定它的主要平台。除了c/c++之外，你能向我推荐一些语言吗？用于机电一体化(机器人、传感器编程等)主题的任何语言。

浏览 0提问于2012-11-27得票数 1

回答已采纳

3回答

当使用Spark结构化流时，如何才能获得当前批处理的聚合结果，如Spark流？

apache-spark、spark-streaming、spark-structured-streaming

星火结构流( SSS )和星火流(SS)的一个很大的区别是SSS可以利用状态。它可以存储以前批的聚合结果，并将当前结果与先前的结果一起应用。因此，它可以从输入流的一开始就得到真正的聚合结果。在平台和框架方面，我们不能回到党卫军。以word计数应用为例，在火花结构流指南：中给出了该应用程序。当有一个"cat cat“在一个批，我的预期输出是cat|2。当下一批

浏览 0提问于2018-01-23得票数 3

回答已采纳

1回答

如何将openshift容器平台企业版安装为一体化安装

openshift、redhat、openshift-enterprise

我想安装openshift容器平台4.6.3版本作为一体机安装，因为我不想使用codeready容器平台为此目的，有什么方法可以安装openshift 4x版本作为一体机安装。

浏览 5提问于2020-11-19得票数 0

1回答

Windows和macOS上的跨平台应用程序是否应该有不同的GoogleWindows2.0客户端ID？

google-cloud-platform、google-oauth

对于Windows和macOS上的跨平台应用程序，这是为两个平台使用相同的GoogleWeb2.0客户端ID，还是使用单独的ID？Google声明，但是没有针对macOS和Windows的特定平台选择，只有“桌面”--而有一些特定的平台，比如iOS和安卓。这让我相信他们认为所有的桌面平台都是一体的。

浏览 5提问于2022-10-10得票数 0

回答已采纳

1回答

从批处理顺序Mule ESB调用流

mule、batch-processing、mule-component

我创建了一个批处理流。从一批流，我调用另一批，从第二批，我调用简单的第三流。我需要第三次流动的选择应该是完整的，然后，只有2条记录应

浏览 1提问于2017-04-05得票数 1

1回答

基于sk-学习模型的大查询预测

machine-learning、google-cloud-platform、gcp-ai-platform-notebook

我已经创建了一个模型和版本在人工智能平台上使用相同的模型。它正在为在线预测工作。现在，我希望执行批处理预测，并将数据存储到大查询中，比如每次执行预测时它都会更新大查询表。有人能建议我怎么做吗？

浏览 1提问于2019-07-15得票数 0

回答已采纳

1回答

tensorflow验证监视器流auc

python、tensorflow

在tensorflow验证监视器流auc中，它对流意味着什么？案例1:每次调用验证监视器时，都会重置auc状态，因为在每个验证步骤中，对10个批进行流处理。案例2: auc状态没有重置，因此流auc是从验证监视器的第一次调用中计算出来的。即，第一输出( 100步)从10批计算，第二验证输出( 200步骤)基于第

浏览 5提问于2017-06-09得票数 1

回答已采纳

0回答

Spark RDD apend

apache-spark

在Spark中，我以RDD的形式加载了一个数据集，并且喜欢不频繁地向其追加流数据。我知道RDDs是不可变的，因为它简化了锁定，等等。其他处理静态和流数据的方法是一体的吗？类似的问题以前也被问过：

浏览 7提问于2016-12-24得票数 0

1回答

为什么Apache气流不是数据流解决方案？

python、airflow、airflow-scheduler、airflow-2.x

我知道批处理依赖于数据的收集，流处理依赖于连续的数据。请简单地解释一下，为什么Apache气流不是数据流解决方案，而是批量处理。

浏览 3提问于2022-04-18得票数 1

1回答

用于亚马逊网络服务S3批处理操作的Terraform资源

amazon-s3、terraform

我找不到用于亚马逊网络服务S3批处理操作的平台资源？我可以通过terraform创建清单文件，但不能创建s3批处理操作。有人通过terraform创建了s3批处理操作吗？

浏览 13提问于2020-05-21得票数 3

1回答

火花结构化流避免延迟和检查点: startingOffsets最新版本不工作吗？

scala、apache-spark、apache-kafka、spark-structured-streaming

(分钟)似乎火花结构化流并没有很好地使用startingOffsets属性的最新。我不想读旧消息，只有重要的当前的！

浏览 3提问于2021-10-01得票数 1

1回答

将火花流连接到流集输入

streaming、spark-streaming、streamsets

我想知道是否有可能提供输入来激发来自StreamSets的流。我注意到在StreamSets连接器目的地中不支持火花流。我将探讨是否有其他方法将它们连接到一个示例POC。

浏览 3提问于2016-07-06得票数 3

回答已采纳

1回答

是否有一个变量来识别火花流中的每一批数据？

apache-spark、spark-streaming

在火花流中，数据按批间隔进行处理。is first batch of data10s~15s is third batch of data是否有一个变量来识别火花流中的每一批数据如果有这样的变量：我可以获得batchID的值来识别哪一批数据，也可以通过batchID (如：window(……).filter(_.batchId == 1) )过滤数据或者有什么方法来区分每一批数据？

浏览 6提问于2016-02-02得票数 3

回答已采纳

1回答

具有周期性更新静态数据集的结构化流

scala、apache-spark、spark-structured-streaming

流和静态数据集的合并是结构化流的一个很好的特点。但是每一批数据集都会从数据源中刷新。由于这些源并不总是动态的，因此在指定的时间段(或批数)缓存静态数据集将是一种性能增益。在指定的批处理期间/批数之后，数据集将从源重新加载，否则将从缓存中检索。在星火流中，我使用缓存的数据集来管理它，并在指定数量的批处理运行后取消它的持久化，但是由于某种原因，这不再适用于结构化流。

浏览 1提问于2017-12-13得票数 9

0回答

iOS 打包服务器？

云服务器、ios、打包、编译、服务器

iOS 打包服务器目前 iOS 的打包是 Jenkins 挂了一个 MAC 一体机做 salve 节点实现，但是这个一体机在办公网环境，由于办公网 /供电（节假日断电）等因素经常掉线，导致 Jenkins也看过 Linux 平台编译 iOS 的工具，感觉问题不少，没敢踩坑。问下大家一般怎么解决这个问题呢？

浏览 187提问于2023-04-11

2回答

星火流和星火结构化流使用相同的微批引擎吗？

apache-spark、spark-streaming、spark-structured-streaming

星火流和星火结构化流是否使用相同的微批调度引擎？星火结构流比星火流有更低的延迟吗？

浏览 0提问于2019-02-01得票数 3

回答已采纳

1回答

PyFlink性能与Scala的比较

pyspark、apache-flink、spark-streaming、pyflink

冷(批)层将用Apache (PySpark)实现。但是对于热(流)层有不同的选择:火花流或Flink。提前谢谢你！

浏览 3提问于2021-11-05得票数 1

回答已采纳

1回答

如何在其中一个作业失败时关闭/杀死火花流应用程序

apache-spark、spark-streaming

我正在运行一个星火流应用程序。有几次，其中一个作业由于某些运行时异常而失败。streaming将作业标记为失败，并继续处理下一个流批。如果其中一个作业失败，是否有一个参数可以设置为通知Spark关闭应用程序(而不是处理下一个流批)？我在独立集群模式上使用Spark1.4.1。

浏览 0提问于2016-06-10得票数 0

1回答

火花流-我如何通知消费者一旦生产者完成？

scala、apache-kafka、spark-streaming、kafka-producer-api

一旦notify Consumer将所有数据发布到Kafka topic，Producer是否有可能我曾想过要使用Sliding window，但问题仍然是，我们不知道生产者是否完成了发布数据？目前，我们计划使用多个分区来基于Default Partitioner拆分数据。更新：每隔十五分钟，生产者就会得到数据

浏览 0提问于2016-11-12得票数 2

回答已采纳

1回答