腾讯云
开发者社区
文档
建议反馈
控制台
登录/注册
首页
学习
活动
专区
工具
TVP
最新优惠活动
文章/答案/技术大牛
搜索
搜索
关闭
发布
精选内容/技术社群/优惠产品,
尽在小程序
立即前往
文章
问答
(6026)
视频
沙龙
1
回答
Cython
并行
读取
文件
并
绕过
GIL
、
、
尝试弄清楚如何使用
Cython
绕过
GIL
并为IO绑定任务
并行
加载
文件
。现在,我使用以下
Cython
代码尝试加载
文件
n0.npy、n1.py……n100.npy cdef int i with
gil
: np.load('n'+str(i)+
浏览 6
提问于2017-06-23
得票数 4
1
回答
使用openMP与
Cython
:内循环
并行
化
、
、
(如您所见,我对Python、
GIL
和PYTHON (或
cython
)中的多线程等概念并不十分熟悉) for j in range(J):我有一台带有4个CPU核心的机器,我希望
并行
化的不是第一个,而是第二个循环。所以在我看来我可以写: #In what case can I release th
浏览 4
提问于2017-08-18
得票数 1
回答已采纳
2
回答
Scipy:使用多线程的Brute (网格搜索)?
、
、
我使用的是,但我注意到它只使用了我的一个内核。网格搜索的一大优势是使所有迭代的解算法相互独立。
浏览 1
提问于2016-05-10
得票数 1
7
回答
OpenMP和Python
、
、
我之所以使用OpenMP,是因为串行代码可以转换成一个工作的
并行
代码,其中分散着几个!$OMP代码。实现粗略
并行
化所需的时间少得惊人。有没有办法在Python中复制这个特性?
浏览 22
提问于2012-07-06
得票数 82
回答已采纳
2
回答
在
GIL
之外使用scipy例程
、
、
、
、
这是一个与我脑海中的特定实现相关的一般性问题,即在共享内存环境中使用为
GIL
内部使用而设计的python例程是否安全。具体地说,我想做的是在
cython
函数中的大型数组上使用scipy.optimize.curve_fit。数据可以表示为一个2d numpy数组(例如,浮点数),其中一个轴是要拟合的轴,另一个轴是要
并行
化的轴。然后,我只想释放
GIL
,
并
开始使用
cython
.parallel.prange遍历数据(我的想法是,我可以让所有的内核同时进行拟合)。我也意识到这个问题与其他关于<
浏览 1
提问于2017-02-10
得票数 2
回答已采纳
1
回答
适用于小型计算的Python可伸缩
并行
处理
、
、
、
我已经尝试过使用Dask来
并行
化任务,但我不确定我的问题是否与Dask的专长一致。通过利用
并行
处理(每次计算可能需要一分钟),Dask非常适合于对大于内存的数据进行操作。理想的情况是一次处理多批粒子,但由于scipy.interpolate依赖,我遇到了
GIL
问题。 谢谢你的建议!
浏览 11
提问于2020-07-09
得票数 1
回答已采纳
2
回答
如何在
cython
纯模式下循环列表
、
、
为了加快struct.pack()的速度,我有以下方法将int打包为字节:from
cython
import nogil, compile, returns,------------------------------------------ 我试图将指向ints数组的指针传递给函数,
并
让它在没有
gil
的情况下工作,这样就可以
并行<
浏览 0
提问于2019-11-20
得票数 1
回答已采纳
1
回答
dask.array和
gil
锁中的循环
、
GIL
锁会显著降低以下代码的性能吗? 每个块上的函数使用python循环,而不是numpy函数。由于外部库,我必须使用python循环。
浏览 4
提问于2017-12-23
得票数 0
回答已采纳
1
回答
由于
GIL
,pickle.dump阻塞了多线程python应用程序中的主线程。
、
、
、
、
目前,我正在使用python3.4.3
并
开发PyQt5应用程序。我如何解决这个问题(不阻塞主线程)?我正在考虑使用
Cython
,但是由于我是
Cython
的初学者,我不确定使用
Cython</
浏览 3
提问于2016-07-31
得票数 2
1
回答
Cython
抱怨生成的pxd定义的C代码需要
gil
、
我有一些简单的
并行
化的成熟代码。但是,它使用的是C库。如何将pxd
文件
中的函数定义为nogil?它们是纯C语言,所以我看不出有什么问题。这是我得到的错误消息:------------------------------------------------------------^ ncls/src/ncls.pyx:545:37: Call
浏览 0
提问于2018-07-05
得票数 0
1
回答
为什么pandas.grouby.mean比
并行
实现快得多?
、
、
、
、
pandas as pddf.groupby(['variable']).mean() 然而,熊猫的实现似乎仍然是way比我的
并行
实现更快我正在查看熊猫群的,我发现它正在使用
cython
。这就是原因吗?
浏览 3
提问于2019-02-04
得票数 4
回答已采纳
2
回答
使用Clang编译
并行
化的
cython
、
、
、
、
我正在尝试使用prange
并行
化
cython
中的for循环。我的设置
文件
非常基本:from
Cython
.Build import cythonizeld: library not found for -lgomp clang: error: linker commandfaile
浏览 0
提问于2015-01-18
得票数 1
1
回答
使用基于回调的C库时无法使用
Cython
发布
GIL
、
、
、
、
我正在创建一个GTK/GStreamer应用程序(用于音频的gstreamer和用于gui的pygobject gtk ),它等待MIDI输入
并
响应它。MIDI捕获由RTMidi库处理。在过去,我能够使用nogil、和成功地发布
GIL
,并在
Cython
.pyx
文件
中使用
gil
关键字。问题是,我需要能够从python的C回调函数中
读取
MIDI输入值,以便能够根据这个输入对GUI进行更改。有关在
Cython
文档中发布
GIL
的一些信息: 语句正文
浏览 2
提问于2014-02-25
得票数 2
回答已采纳
2
回答
python多线程
读取
只读内存缓冲区
绕过
GIL
、
、
、
我有很多
文件
在磁盘上需要
读取
,第一个选项是使用多线程,它在固态硬盘上执行得很好。(当线程被IO阻塞时,它将释放
GIL
)所以我的问题是,有没有任何解决方案可以创建一个没有锁/
GIL
的只读内存缓冲区?
浏览 1
提问于2016-11-01
得票数 0
1
回答
Cython
:创建返回数组的C函数
、
、
我想创建一个
Cython
函数来
读取
一个数组
并
返回一个数组。这个函数将从其他cdef函数中调用,而不是python函数。这是我所拥有的。在我的.pxd
文件
中:在我的.pyx
文件
中: output[0]=1但是当我编译
浏览 2
提问于2017-10-11
得票数 5
回答已采纳
1
回答
从另一个线程释放解释器锁/强制另一个线程阻塞
、
pass #Some code here that will force the other thread to release its
GIL
def resume_evaluation(): def
浏览 0
提问于2016-03-05
得票数 0
3
回答
concurrent.futures.ThreadPoolExecutor.map比for循环慢
、
、
、
、
看起来,一个简单的平方操作,实际上是高度可
并行
的,应该不会花那么长时间。这可能是由于字典的数量(如果是的话,是什么导致了那里的增长放缓?)
浏览 9
提问于2014-01-18
得票数 9
回答已采纳
1
回答
在不同设置中使用和引用
GIL
时对I/O一词的混淆
、
、
、
我在Python上看到了名为"Python \O--第19部分,高级
文件
输入和输出“的博客,如果我进入Python
并
搜索输入/输出:,示例仅限于打印语句和
读取
/写入
文件
。最后,关于
GIL
的Python中也出现了术语I/O: “
GIL
之所以有争议,是因为它阻止多线程CPython程序在某些情况下充分利用多处理器系统。请注意,潜在的阻塞或长时间运行的操作、I/O图像处理和NumPy数字处理等操作都发生在
GIL
之外。因此,只有
浏览 2
提问于2017-07-27
得票数 2
1
回答
如何
并行
化
cython
中的numpy操作
、
、
、
、
我正在尝试
并行
化以下代码,其中包括许多numpy数组操作 import
cython
cimport numpyas np from libc.stdlib cimport malloc, free cdef int len_yr = len(yr) for i in prange(
浏览 7
提问于2016-03-26
得票数 0
2
回答
在没有
GIL
的情况下,spacy-io如何使用多线程?
、
、
、
= RedditComments('/path/to/reddit/corpus') # Parse a stream of documents, with multi-threading (no
GIL
浏览 3
提问于2016-05-05
得票数 7
回答已采纳
点击加载更多
扫码
添加站长 进交流群
领取专属
10元无门槛券
手把手带您无忧上云
相关
资讯
使用python 打开并读取 csv 文件
人生苦短,我用Cython!论用Cython加速Python并行计算的实践
使用Spark将本地文件读取并封装为DataFrame的完整指南
Python 大牛给出的 20条Python 性能优化的建议
Python使用pandas读取Excel文件多个WorkSheet的数据并绘制柱状图和热力图
热门
标签
更多标签
云服务器
ICP备案
腾讯会议
云直播
对象存储
活动推荐
运营活动
广告
关闭
领券