腾讯云
开发者社区
文档
建议反馈
控制台
登录/注册
首页
学习
活动
专区
圈层
工具
MCP广场
文章/答案/技术大牛
搜索
搜索
关闭
发布
文章
问答
(9999+)
视频
沙龙
3
回答
Spark
Cassandra
性能问题
、
、
我是
Spark
和
Cassandra
的
新手。我面临着一个主要
的
性能问题,我
在
Spark
中
每隔5秒流式传输来自Kafka
的
数据,然后使用JRI对R语言中
的
数据进行分析,最后将数据保存到
Cassandra
各自
的
列族
中
。将数据保存到
Cassandra
的
持续时间(以毫秒为单位)随着输入请求
的
数量增加非常快,每个请求为200KB。
浏览 0
提问于2015-11-10
得票数 0
1
回答
运行
中
的
Spark
Cassandra
连接器
:
如果
Cassandra
托管
在
不同
的
服务器
上
,
它是
如何
工作
的
、
、
、
场景:
Cassandra
托管
在
服务器
a.b.c.d
上
,而
spark
运行
在
服务器
上
,比如w.x.y.z。假设我想转换来自
cassandra
表(比如表)
的
数据,并使用
Spark
将相同
的
数据重写到
cassandra
中
的
其他表(比如tableNew),我编写
的
代码如下所示 val conf = ne
浏览 26
提问于2019-07-09
得票数 1
回答已采纳
1
回答
火花源节点是否可以使用
连接器
连接到
托管
在
不同
服务器
上
的
Cassandra
节点?
、
、
我使用过
的
连接器
引用了127.0.0.1,因此想知道
Spark
是否可以连接到
托管
在
不同
服务器
中
的
Cassandra
节点。
如果
可能的话,是否需要额外
的
步骤来建立连接,而不是
托管
在
同一个物理
服务器
上
。
如果
这是不可能
的
,否则我怎么能把火花与卡桑德拉联系起来。
浏览 3
提问于2015-11-05
得票数 2
回答已采纳
1
回答
Spark
是否使用数据局部性?
、
、
、
我
在
试着理解Apache
Spark
的
内部结构。
在
第一种情况(阅读)
中
,我
的
理解是,
在
使用InputFormat时,拆分与主机(或主机??)相关联。其中包含数据,因此
Spark
尝试将任务分配给执行器,以尽可能减少网络传输。
在
写作
的
情况下,这样
的
机制是
如何
工作
的
?我知道从技术
上
讲,HDFS
中
的
文
浏览 1
提问于2014-12-24
得票数 13
2
回答
从星火中访问卡桑德拉"com.esotericsoftware.kryo.KryoException:无法找到类:com.esotericsoftware.kryo.KryoException
、
、
我正在尝试
运行
一个通过datastax
的
Cassandra
连接器
访问
Cassandra
的
scala程序。2)将
连接器
罐添加到火花-defaults.conf
中
。同一问题 应该在
连接器
浏览 3
提问于2015-04-30
得票数 1
回答已采纳
1
回答
Apache
Cassandra
中
的
数据聚合(分组)
、
、
、
、
我正在寻找一个优雅
的
解决方案
在
Cassandra
数据库
中
的
数据聚合。(问题就像在
Cassandra
中
运行
group by查询一样简单)
在
我们
的
应用程序
中
,我们将客户登录历史记录存储
在
一个
cassandra
表
中
(为了获得更快
的
写入速度和更高
的
TPS支持
的
明显好处),目前我们应该在此数据之上开发
浏览 1
提问于2015-01-09
得票数 0
2
回答
触发本地rdd写入到本地
Cassandra
DB
、
、
、
我有一个DSE集群,集群
中
的
每个节点都在
运行
spark
和
Cassandra
。 当我从
Cassandra
加载数据到
spark
rdd并在Rdd
上
执行一些操作时,我知道数据将分布到多个节点中。
在
我
的
例子
中
,我想把这些rdds从每个节点直接写到它
的
本地
Cassandra
dB表
中
,有没有办法做到这一点。
如果
我执行普通
的</em
浏览 3
提问于2020-10-20
得票数 1
1
回答
Akka持久性:从jdbc (postgres)迁移到
cassandra
、
、
、
我有一个正在
运行
的
项目,使用akka-persistence-jdbc插件和postgresql作为后端。我应该写一个手动迁移程序吗?
在
cassandra
中
读取postgres并写入正确
的
格式?
浏览 1
提问于2016-10-14
得票数 4
2
回答
使用JDBC (例如松鼠SQL)使用
Spark
查询
Cassandra
、
、
、
我有一个
Cassandra
集群,它有一个位于同一位置
的
星火集群,我可以通过编译它们、复制它们并使用./
Spark
submit脚本来
运行
通常
的
星火作业。我编写了一个小作业,它接受SQL作为命令行参数,将它作为
Spark
提交给
Spark
,
Spark
针对
Cassandra
运行
该SQL,并将输出写入csv文件。现在,我觉得我
在
兜圈子,试图找出是否可以
在
JDBC连接
中<
浏览 4
提问于2015-12-10
得票数 1
回答已采纳
3
回答
卡桑德拉与火花
的
连接
、
、
、
、
我是连接火花与卡桑德拉,我是存储csv文件
在
卡桑德拉,当我输入这个命令,我得到错误。dfprev.write.format("org.apache.
spark
.sql.
cassandra
") .options(Map("keyspace"->"sensorkeyspace","tablecom.datastax.
spark
.connector.cql.CassandraConnector$.com$datastax$
spark
$c
浏览 0
提问于2018-03-08
得票数 0
0
回答
要将
Spark
Cassandra
连接器
与
Spark
作业
服务器
配合使用,需要进行哪些设置
、
、
我正在使用
Spark
和
Cassandra
,一般来说,事情都很简单,并按预期
工作
;特别是
spark
-shell和
运行
.scala进程来获得结果。我现在正在考虑
Spark
Job Server
的
使用;对于测试项目以及开发
的
一些初始
的
、简单
的
.scala,我已经启动并
运行
了作业
服务器
,并且
工作
正常。然而,我现在想要获取一个
在
spark
浏览 7
提问于2017-12-07
得票数 0
1
回答
在
Scala中使用
Spark
查询
Cassandra
数据
、
、
、
、
我试图使用Scala
中
的
Spark
查询
Cassandra
数据。","**.*.**.***") .set("
spark
.
cassandra
.auth.password$$anonfun$foreachUp$1.apply(Tre eNode.scala:126
的
浏览 0
提问于2017-07-26
得票数 0
回答已采纳
2
回答
spark
.
cassandra
.connection.connections_per_executor_max不是有效
的
火花卡桑德拉
、
、
、
在
使用
cassandra
连接器
2.5.2时,我得到了以下错误:卡桑德拉
连接器
2.5.2<
浏览 7
提问于2021-08-19
得票数 0
1
回答
带有批更新
的
Cassandra
不一致
、
我使用Apache和将数百万行写入
Cassandra
集群。复制因子被设置为3,我使用以下选项将写入一致性设置为submit(纱线客户端模式)
中
的
所有内容:
spark
-submit ...从文档来看,
如果
写一致性加上读一致性大于复制因子,我应该有一致
的
读取。 每次
运行
re
浏览 3
提问于2014-12-07
得票数 3
回答已采纳
1
回答
Spark
Cassandra
连接器
- where子句
、
我正在尝试使用Datasax
Cassandra
Connector执行select where,但收到以下错误:
spark
.cassandraTable(keySpace,table).select(column).where(whereColumn + " = ?", whereColumnValue).collect()user_id是表
的</em
浏览 0
提问于2016-05-03
得票数 1
1
回答
升级DSE
中
的
Spark
(DataStax企业版) 4.6
、
在
中
,是否可以将和相应
的
从版本1.1.0升级到最新
的
1.2.0。 DSE目前仅随
Spark
和
Spark
Cassandra
Connector 1.1.0一起提供。
浏览 1
提问于2015-01-29
得票数 0
2
回答
星火-卡桑德拉-
连接器
节点是否知道?
、
Datastax社区版与星火社区版
的
集成是使用
连接器
社区版本节点,还是只为企业版保留? 所谓节点感知,我
的
意思是
如果
Spark
将作业执行发送给拥有数据
的
节点
浏览 2
提问于2022-02-09
得票数 1
回答已采纳
2
回答
如何
使用火花-卡桑德拉-
连接器
连接火花和卡桑德拉?
、
、
、
、
您必须原谅我
的
noobness,但我正在尝试设置一个连接到
运行
python脚本
的
cassandra
的
星火集群,目前我正在使用datastax企业
在
solr搜索模式下
运行
cassandra
。我理解,为了使用datastax提供
的
火花-
cassandra
连接器
,您必须在分析模式下
运行
cassandra
(使用-k选项)。目前,我只使用dse火花版本使其
工作</
浏览 3
提问于2016-05-06
得票数 1
回答已采纳
1
回答
spark
-
cassandra
-connector读取
工作
原理
、
、
我有一个关于这个
连接器
的
问题。
如果
我
的
Spark
集群和我
的
Cassandra
集群不在同一个集群
上
,那么读取是
如何
工作
的
呢?
Spark
是否将整个
Cassandra
表放入自己
的
集群
中
,并将其重新排列到
Spark
分区
中
?
浏览 1
提问于2017-02-17
得票数 0
1
回答
星体
如何
选择卡桑德拉节点进行读取?
、
、
我
在
N台机器上有N个节点
的
Cassandra
集群。而且我
在
每台机器
上
都有火花工。为了阅读
Cassandra
,我使用Datastax火花-
cassandra
连接器
。当我设置
工作
人员(独立模式)时,我只为他们指定主主机。
在
驱动程序
中
,我将通过
spark
.
cassandra
.connection.host属性指定
Cassandra
种子。我看到了很多关于
浏览 3
提问于2016-04-26
得票数 4
点击加载更多
热门
标签
更多标签
云服务器
ICP备案
云直播
腾讯会议
实时音视频
活动推荐
运营活动
广告
关闭
领券