腾讯云
开发者社区
文档
建议反馈
控制台
登录/注册
首页
学习
活动
专区
圈层
工具
MCP广场
文章/答案/技术大牛
搜索
搜索
关闭
发布
文章
问答
(9999+)
视频
沙龙
1
回答
如
何在
python
中
并行
压缩文件
、
有没有一种方法可以
并行
压缩而不是顺序压缩?
浏览 14
提问于2019-03-09
得票数 1
回答已采纳
1
回答
通过
Python
zipfile库单独读取压缩的csv文件(.zip、.z01等
、
、
由于FAT存储格式的4 GB限制,我将csv文件编译成多个
压缩文件
,
如
test.zip和test.z01。例如:提供了如
何在
一个
压缩文件
中
读取csv文件。
浏览 13
提问于2017-01-09
得票数 2
1
回答
如何为shell任务创建有界队列?
、
、
、
、
我有1000个
压缩文件
,我想分类。find .无论如何,我想
并行
的ungzip/排序作业,以使整个事情更快。另外,我不希望看到所有1000个进程同时运行。如果有一些具有可配置能力的有界作业队列(
如
Java
中
的BlockingQueue或.NET
中
的BlockingCollection ),那就太好了。在这种情况下,只有10个进程将
并行
运行。在shell
中
可以这样做吗?
浏览 0
提问于2011-12-06
得票数 5
回答已采纳
1
回答
C# -压缩gzip
中
的文件和文件夹
、
、
、
、
我需要创建一个
压缩文件
(rar,gz或其他女巫支持大文件和大
压缩文件
)。我需要创建文件夹并添加由文件夹分隔的文件。我有这样的文件夹结构 Folder 1.1 Folder 1.3 Folder 2.1在每个文件夹
中
我都有一些文件我需要在
压缩文件
中
复制压缩结构压缩压缩有一些限制,
如
文件大小和
压缩文件
大小。我尝试过使用GZipStream,但是我没有发现如
何
浏览 2
提问于2016-03-10
得票数 0
回答已采纳
1
回答
如
何在
python
中
轻松实现
并行
?
、
、
、
我是一个喜欢C++的人,我喜欢
并行
,喜欢高性能计算应用程序,我对OpenMP也很了解。现在我正在学习
python
,我知道一些基础知识。作为一个提高我的
python
技能的个人项目,我想实现一个
并行
版本的。用C和OpenMP实现该算法的一个
并行
版本是。 现在,我知道如
何在
python
...But
中
轻松实现Elkan算法了,那么
并行
性呢?关于OpenMP最酷的事情是,你使用串行代码,你加上#pragma omp parallel for和S
浏览 1
提问于2017-09-11
得票数 3
1
回答
从GCS加载文件到BigQuery -最好的方法是什么?
、
我需要将大约一百万行加载到bigquery表
中
。我的方法是将数据写入云存储,然后使用load api一次加载多个文件。做这件事最有效的方法是什么?我可以将代码
并行
化成gcs部分。我不确定这个加载是如
何在
后端进行的。如果我传入多个文件名,这个加载会在多个进程
中
运行吗?如何确定每个文件的大小以获得最佳性能?谢谢
浏览 2
提问于2016-12-23
得票数 1
1
回答
从.zip文件中提取和读取
Python
3
、
、
我有一个
压缩文件
的url链接。我想下载
压缩文件
。然后我要列出zip文件中所有文件的名称。其中之一是一个.csv文件。我还想从csv文件
中
读取。 有人能告诉我如
何在
python
3
中
做到这一点吗?
浏览 0
提问于2018-02-15
得票数 0
1
回答
当有多个源时,Google不能同时读取超过3个输入
压缩文件
、
、
、
背景:我有30天的数据存储在谷歌存储的30个单独的
压缩文件
。我必须将它们写到同一个表
中
30个不同分区的BigQuery表
中
。每个
压缩文件
大小约为750 was。所有这30个TextIO源都是
并行
读取的。现在,我直接使用PCollection将对应于PCollectionList
中
每一天的数据的每个BigQueryIO写入BigQuery。因此,又有30个水槽被
并行
写入。我发现,在30个
并行
源
中
,同样只有3个源正在以大约20000元素&
浏览 3
提问于2016-08-16
得票数 1
回答已采纳
1
回答
如何读取数据部分
中
的文件?
、
我有一个5 GB的
压缩文件
,解
压缩文件
超过80 GB。我想使用
python
的datatable库分部分阅读它。for chunk in pd.read_csv(file,compression='gzip',encoding='utf-8',chunksize=10**5): 如
何在
可数据文件
中
实现
浏览 2
提问于2022-04-08
得票数 0
1
回答
在
python
中
如何读取zip文件夹
中
的"htm“文件?
而不是html,在"htm“文件
中
,我如
何在
python
中
读取?A.htm位于C
压缩文件
(C/B/A.htm)内的B文件夹
中
。
浏览 4
提问于2022-11-17
得票数 0
3
回答
在内存
中
压缩
Python
对象
、
大多数关于在
Python
中
压缩文件
的教程都涉及到立即将该文件写入磁盘,而不使用中间的压缩
python
对象。我想知道如
何在
不写入或读取磁盘的情况下,在内存
中
对
python
对象进行酸洗和压缩。
浏览 0
提问于2013-10-22
得票数 14
回答已采纳
2
回答
海王星大容量负载
并行
化
、
我有1000个文件存储在S3桶
中
。我有一个加载请求指向有1000个文件的S3桶文件夹。当我得到负载状态时,我会得到以下响应。这意味着海王星并不试图在
并行
化中加载多个文件。我如何告诉海王星在一些
并行
化中加载1000文件,例如10的
并行
化因子。我是否缺少任何配置? 这就是我如何使用批量加载api。
浏览 6
提问于2021-12-14
得票数 0
回答已采纳
1
回答
逐行读取BZ2文件
; close $fh;我无法从中理解如
何在
一个真正的程序
中
实现这一点。如何像上面对普通文件那样逐行读取
压缩文件
?
浏览 3
提问于2017-04-28
得票数 1
回答已采纳
2
回答
使用
python
提取
压缩文件
(.7z)
中
的文件名
、
、
我想知道
压缩文件
(7zip)
中
的文件名,而不是解压缩该文件。我如
何在
python
中
做到这一点?
浏览 76
提问于2019-05-01
得票数 0
1
回答
并行
布鲁特力算法GPU
、
、
我已经在
Python
中
实现了一个
并行
BF生成器,
如
本文中的所示。有人能帮我解决GPU上
并行
BF生成器的一些代码示例吗?
浏览 1
提问于2016-11-17
得票数 1
回答已采纳
2
回答
在
python
中
,什么等同于javascript的promise.all?
、
在javascript
中
,我们可以使用promise.all
并行
运行函数,但是在
python
中
不存在,我如
何在
python
中
并行
运行两个函数?(): await asyncio.wait([bar(), ba()]) 但我注意到,当我运行函数时,它总是先运行最后一个函数,所以它不能
并行
运行因为它总是在第一个函数之前运行最后一个函数,所以它有一个模式,所以它不能
并行</
浏览 68
提问于2021-06-18
得票数 0
回答已采纳
1
回答
在Hadoop中使用S3输入文件时如何优化GZip读取性能
、
、
、
数据的存储方式:在GZip桶
中
存储数千个5-10 in的S3文件。最近,我将一个示例100 my数据集的所有文件解压缩,并将其作为一个GZip文件上传到同一个S3桶
中
,我的任务在3分钟内完成(与之前的1小时运行相比)。在鼓励下,我将示例2GB数据集的所有文件解压缩,并将其作为一个GZip文件上传到同一个S3桶
中
,并且任务再次花费了1个多小时:在此之后,我终止了任务。
浏览 2
提问于2012-07-03
得票数 1
1
回答
Blender通过ssh运行自定义脚本
、
我为blender 创建了以下自定义脚本blender -b -P __init__.py AL lib: (WW) alc_initconfig: Failed to initialize backend "pulse"ALSA lib conf.c:4528:(_snd_config_evaluate) function snd_f
浏览 0
提问于2018-04-11
得票数 0
1
回答
实现文件上传的端点(API网关+ Lambda +
Python
)
、
、
如
何在
API网关中配置什么,以便在AJAX调用
中
接受文件作为输入。另外,如
何在
Python
Lambda
中
读取文件的内容?官方aws文档中提供的示例没有太多帮助
浏览 11
提问于2018-02-20
得票数 1
1
回答
找到未压缩的文件大小
有使用gsutils获得未
压缩文件
大小的方法吗?我已经调查过du和ls -l。都返回压缩大小。我想避免不得不下载文件来查看它们的大小。
浏览 3
提问于2014-12-04
得票数 0
回答已采纳
点击加载更多
热门
标签
更多标签
云服务器
ICP备案
云直播
腾讯会议
实时音视频
活动推荐
运营活动
广告
关闭
领券