腾讯云
开发者社区
文档
建议反馈
控制台
登录/注册
首页
学习
活动
专区
圈层
工具
MCP广场
文章/答案/技术大牛
搜索
搜索
关闭
发布
文章
问答
(9999+)
视频
沙龙
2
回答
如何在星火中按对
合并
分区
?
apache-spark
我有一组点(每个点都是文本文件中的一行),我将其分布在Spark的
分区
之间。我将继续运行mapPartitions,直到我离开时只有几个
分区
。
浏览 1
提问于2015-08-27
得票数 0
回答已采纳
2
回答
合并
配置单元中的现有
分区
hive
、
partitioning
如何
合并
现有
分区
并将其
合并
为一个
分区
。例如:我在年份列上有
分区
,比如year=2011,year=2012,year=2013,year=2014。请帮帮忙。 问候你,Manoj
浏览 2
提问于2016-09-26
得票数 1
1
回答
spark的
合并
函数是否试图创建大小一致的
分区
?
apache-spark
我知道,coalesce(n_desired_partitions)是一种更便宜的选择,它避免了洗牌,而是将
分区
合并
在同一个执行器上。但是,我不清楚这个函数是尝试创建大小大致一致的
分区
,还是简单地
合并
输入
分区
,而不考虑它们的大小。支持
合并
的算法是否知道
合并
两个小
分区
(因为它们更小,我们需要平衡的
分区
大小),而不是仅仅
合并
两个任意
分区
?在其他地方讨论这个主题 根据 (跳到7:27),Netflix大数
浏览 2
提问于2016-12-08
得票数 1
2
回答
连接后的Dataframe保存正在创建许多部件文件。
apache-spark-sql
我正在尝试学习使用Dataframes编程。在下面的代码中,我尝试将两个CSV连接到一个列上,然后将其保存为一个组合CSV。在SCALA中运行这段代码的结果是,我看到了将近200个小部件文件。你能帮我理解一下这里出了什么问题吗- def main(args: Array[String]) { val sqlContex
浏览 1
提问于2016-04-19
得票数 2
1
回答
TSQL -联机
合并
分区
sql-server
、
t-sql
、
partitioning
、
blocking
、
filegroups
我问题的简短版本是:“在两个
分区
合并
期间,整个
分区
表被阻塞。我如何访问不受
合并
影响的读写部分?”我正在处理非常常见的场景--有一个以线性方式增长的生产表(每5分钟有几百行)。如何实现这一目标有很多教程--创建
分区
函数、方案、用它的索引对表进行
分区
、将
分区
切换到相同的空表等。如果我想再做一次,“标准”的方法是拆分当前的
分区
,并将其尾部与历史
分区
合并
。因此,在
分区
1(历史记录)中有一些行现
浏览 0
提问于2017-07-16
得票数 0
回答已采纳
2
回答
火花洗牌
分区
与聚结
apache-spark
当我要读取一些数据时,假设我有一个有20个
分区
的数据集。然后,我对该数据集进行聚合操作,这将使
分区
不为200(因为默认的洗牌
分区
大小)。现在,到目前为止,我没有对该数据集调用任何操作,而是在相同的数据集中应用
合并
,在
合并
操作中提供30个
分区
,然后在该数据集上调用一些星火操作。因此,我的问题是,当数据集有其聚合操作时,将有多少个
分区
在运行?它是30个
分区
(因为这是给出的
合并
分区
)还是200个洗牌
分区
?
浏览 0
提问于2020-10-09
得票数 1
1
回答
分区
合并
partitioning
、
gparted
、
merge
我需要把两个
分区
合并
到一起。📷 有人能教我怎么做吗?我害怕丢失主
分区
中的数据。
浏览 0
提问于2014-12-20
得票数 0
1
回答
如何在重新
分区
和
合并
中确定RDD的preferredLocation?
apache-spark
、
rdd
我在重新
分区
和
合并
中看到了一些奇怪的行为,我无法理解: 1.当从n到n-1
分区
合并
时,我看到火花只是将一个
分区
合并
到另一个
分区
。(我认为理想的行为应该是均匀分布在所有的n-1节点上) 上述行为与preferedLocations有关吗?
浏览 0
提问于2016-12-06
得票数 0
1
回答
我删除了窗口,
合并
未使用的
分区
有困难。
partitioning
我喜欢它,我清除了上面有窗口的
分区
,现在我似乎不能将我的/dev/sda5 5 ext4
分区
与未分配的
分区
合并
。Ubuntu安装在42 Gig
分区
上,但是我有一个320 Gig的未分配
分区
,我想
合并
这两个
分区
。
浏览 0
提问于2013-04-30
得票数 0
1
回答
合并
()是如何在火花内部工作的?
apache-spark
我正在探索聚合()函数,我有几个问题没有得到回答: 是只在executor中移动数据,还是将分布在多台机器上的数据
分区
移动?如果它只是执行器级别,那么在这种情况下,如果每台机器只有一个
分区
,并且在三个节点上有3个
分区
,则
合并
()是如何工作的?如何
合并
(1)?我知道coalesce()
分区
的大小并不相同,但是创建大文件的原因是什么。如何在内部工作,这在这两个文件之间创建了700 MB的数据差异?
浏览 4
提问于2021-06-10
得票数 0
2
回答
如何从已
分区
表和未
分区
表创建
合并
表
mysql
、
merge
、
union
我在mysql表中有一个已
分区
的表和一个未
分区
的表。我想为这两个表创建一个联合
合并
表。问题是,在创建
合并
表之后,当我尝试访问该表时得到以下错误:Unable to open underlying table which is differently defined or of non-MyISAMtype or doesn't existTable 'mydb.ptable' is di
浏览 5
提问于2013-01-29
得票数 1
1
回答
df.coalesce(1)是什么意思?
python-3.x
、
apache-spark
、
hdfs
、
parquet
我在python中使用了星星之火,所以我需要保存包含火花结果的拼花文件。.coalesce(1).save(save_path, format='parquet', mode='append'))所以我很好奇,如果我运行的火花大约30个拼花文件,火花结果将只保存一个拼花文件或不保存。谢谢
浏览 2
提问于2019-11-13
得票数 8
1
回答
如何回收未安装的磁盘空间
arch-linux
、
disk
最后,我将磁盘空间减半,希望将两个
分区
合并
在一起。下面是Gnome磁盘的图片:左边的蓝色
分区
是未使用的,右边的
分区
7是我引导到和当前使用的
分区
。在Gnome磁盘中,我只需单击红色减号就可以删除蓝色的未挂载
分区
。这会让我
合并
我的两个
分区
吗? 谢谢。
浏览 0
提问于2021-12-27
得票数 0
回答已采纳
1
回答
哪种情况下使用
合并
和重新
分区
更好?
scala
、
apache-spark
、
partitioning
我的数据被划分为静态数据
分区
和国家动态
分区
数据。因此,每一次约会,我可以有多达180个国家
分区
。us/ => 100kb /cntry=uk/ => 1.5mb 对于每个日期,数据都很小(约20-100 it ),并在国家
分区
之间进行划分再分割还是
合并
?既然数据很小,
合并
会更好吗?我非常困惑何时
合并
或重新
分区
将
浏览 2
提问于2019-01-17
得票数 0
回答已采纳
2
回答
如果我修改一个表来添加一个
分区
,我会丢失Oracle SQL中的数据吗?
sql
、
oracle
、
partition
我不确定是否修改一个表来创建一个新的
分区
,因为我担心我会丢失数据。如果Oracle SQL DB中的一个表已经被
分区
,但是我要添加一个新的
分区
,那么表中的现有数据会被删除吗?
浏览 4
提问于2016-12-05
得票数 3
回答已采纳
1
回答
如何使用GParted
合并
两个未分配的
分区
?
installation
、
partitioning
、
gparted
我在使用GParted
合并
两个未分配的
分区
(空闲空间)时遇到了问题。我需要将它们
合并
到一个
分区
中,然后我可以将其分解为"root“和"home”,用于我即将安装的Ubuntu。请帮帮我!下面是我的
分区
表现在的样子的快照:(有两个分别为36.23GB和11.16GB的未分配
分区
,需要
合并
) 📷
浏览 0
提问于2013-12-18
得票数 3
回答已采纳
3
回答
我想将一个未分配的空间与我的Ubuntu
分区
合并
,但我不能
dual-boot
、
partitioning
、
20.04
、
gparted
、
lts
我使用
分区
管理应用程序G-PARTED将我的Ubuntu安装
分区
(sda6)与未分配的空间
合并
。当我试图通过调整大小选项来增加Ubuntu
分区
时,没有额外的空间可用。如何扩大我的系统
分区
sda6?📷📷📷 它显示最大和最小大小相同,不允许我
合并
它们。
浏览 0
提问于2021-08-31
得票数 0
回答已采纳
1
回答
Server表
分区
无法在
分区
切换后删除文件组
sql-server
、
archive
、
partitioning
我有一张大桌子,大约有110个
分区
。我希望存档最古老的
分区
,并删除FileGroup。以下是我所采取的战略。 将表名切换
分区
1更改为tablename_archive
分区
1 在验证开关(
分区
交换)之后,我删除了归档表。使用第一个边界值作为followsALTER
分区
函数YMDatePF2 ()
合并
范围('2012-01-01 0
浏览 1
提问于2017-10-05
得票数 1
回答已采纳
2
回答
合并
2个
分区
(未分配)而不丢失数据
gparted
、
partitioning
、
merge
我有3个
分区
,100 in (sda5,lba),132 in(sda2,boot)和230 in(Sda3)。sda5未使用,sda2是Windows,sda3是Ubuntu。它们如下所示:我想
合并
第一个和第二个
分区
(sda5 & sda2),但是如果未分配的空间在要
合并
的
分区
之前,GParted就不能
合并
两个
分区
。我可以把sda5和GParted一起移动吗?是否还有其他可以与前面的
分区
合并
的程序? 任何帮助都将不胜感
浏览 0
提问于2016-08-06
得票数 1
回答已采纳
1
回答
在星火上,
合并
是重新分配
分区
还是仅仅
合并
它们?
apache-spark
如果我有3个
分区
和rdd,并且我做了一个coalesce(2)。我对星火的经验是,它只是将
分区
合并
在一起,而从来没有将任何现有的
分区
分割成多个。
浏览 2
提问于2016-10-25
得票数 1
回答已采纳
点击加载更多
热门
标签
更多标签
云服务器
ICP备案
对象存储
云点播
即时通信 IM
活动推荐
运营活动
广告
关闭
领券