仅当在Slurm中提交python作业时出错
在Slurm中提交Python作业时出错可能有多种原因。以下是一些可能的解决方案和建议：
- 确保Slurm集群已正确配置和运行，并且有足够的资源可用。可以通过运行
sinfo命令来检查集群状态，以及squeue命令来查看当前作业队列。 - 检查作业提交脚本中的语法错误或其他错误。确保脚本中的Python路径正确，并且脚本本身没有错误。可以尝试在命令行中直接运行脚本，以确认是否存在问题。
- 确保所需的Python环境已正确安装和配置。可以使用
conda或virtualenv等工具创建和管理Python环境。在作业提交脚本中，可以使用module load命令加载所需的Python环境。 - 检查作业提交脚本中的资源请求是否正确。确保请求的CPU核心数、内存和运行时间等与集群配置相匹配。可以使用
sbatch命令提交作业，并使用--cpus-per-task、--mem和--time等选项指定资源请求。 - 检查作业提交脚本中的文件路径是否正确。确保脚本中引用的文件存在，并且具有适当的权限。可以使用绝对路径或相对路径来引用文件。
- 如果作业需要访问网络资源或外部库，请确保网络连接正常，并且所需的库已正确安装。可以使用
pip或conda等工具安装所需的Python库。 - 如果Slurm集群中有多个节点，可能需要使用分布式计算框架（如MPI）来并行执行Python作业。在作业提交脚本中，可以使用
mpirun命令来指定并行执行的方式。 - 如果问题仍然存在，可以查看Slurm的日志文件以获取更多详细信息。Slurm的日志文件通常位于
/var/log/slurm/目录下，可以使用tail或cat等命令查看。
总之，解决Slurm中提交Python作业时出错的关键是仔细检查和调试作业提交脚本，并确保正确配置和准备所需的环境和资源。腾讯云提供了一系列云计算产品，如云服务器、容器服务、函数计算等，可以根据具体需求选择适合的产品。更多关于腾讯云产品的信息，请参考腾讯云官方网站：https://cloud.tencent.com/
相关·内容
1回答
分配给SLURM作业的核心
linux、cluster-computing、slurm
假设我想提交一个slurm作业，只分配任务总数(--ntasks=someNumber)，而不指定节点数量和每个节点的任务。在已启动的slurm脚本中，是否有一种方法可以知道slurm为每个保留节点分配了多少个核心？我需要知道这个信息才能正确地为我正在启动的程序创建一个机器文件，它的结构必须如下所示：
节点02:7节点06:14 09:3
一旦作业启动，我了解到在节点上分配了哪些核心的唯一方法是使用以下命令：
scontrol显示-dd
在其输出中，存储上述信息(以及大量其他细节)。有什么更好的方法来获取这些信息吗？
谢谢你，洛伦佐
浏览 2提问于2020-05-30得票数 2
回答已采纳
1回答
在Slurm中运行Python脚本
python、slurm、hpc
我最近开始了一项新工作，需要通过Slurm在HPC上运行一些脚本。
我的脚本是用Python编写的，因此我希望在.slurm文件中使用.slurm来执行这些脚本。
但是，当我尝试运行.slurm文件时，它似乎无法调用python脚本。我尝试过使用module load anaconda3加载python环境及其变体(例如，module load python等)。附件是我的array.slurm文件，以供参考。我已经让帐户和邮件用户空的上传到这里进行匿名，但我有这些在我运行脚本。
Slurm输出的错误文件指示如下：
/var/spool/slurmd/job220829/slurm_scrip
浏览 3提问于2022-02-26得票数 1
3回答
由于python版本而运行PySpark DataProc作业时出错
python-3.x、apache-spark、google-cloud-dataproc
我使用以下命令创建dataproc集群
gcloud dataproc clusters create datascience \
--initialization-actions \
gs://dataproc-initialization-actions/jupyter/jupyter.sh \
然而，当我提交我的PySpark作业时，我得到了以下错误
例外情况: worker中的Python版本与驱动程序3.7中的版本不同，PySpark无法运行不同的次要versions.Please检查环境变量PYSPARK_PYTHON和PYSPARK_DRIVER_PYTHON。
浏览 0提问于2018-07-19得票数 7
回答已采纳
2回答
NoModuleFoundError:没有名为“分布式”的模块
python、dask、joblib
我试图在使用SLURM的集群上实现dask。但是，在行中成功地创建和缩放了客户端。
with joblib.parallel_backend('dask'):
操作将获得工人超时错误，我从slurm作业中获得以下错误：
/usr/bin/python3: Error while finding module specification for 'distributed.cli.dask_worker' (ModuleNotFoundError: No module named 'distributed')
我已经检查过了，以确保分布式已经安装在集
浏览 10提问于2020-08-27得票数 3
回答已采纳
4回答
使用python自动创建bash脚本
python、bash、slurm
我正在尝试为我在中列出的一个问题寻求帮助，从一些进一步的研究中，我认为Python脚本可能是答案。也就是说，我是Python的新手，不确定如何实现我的想法，也不确定它是否正确。
基本上，我认为我需要一个python脚本，它可以接受我传递给它的变量，然后将这些变量写到.sh文件中。有没有简单的方法可以做到这一点？
编辑:作为对一些评论的回应，我认为我应该更多地阐明我的问题。
我正在通过SLURM脚本运行matlab函数。SLURM脚本(我认为)是一种bash脚本，但它专门用于在HPC上调度作业。我的问题是，例如，我希望一次提交10个作业，但所有作业都将某个特定变量更改为某个值。现在，问题是我不能
浏览 1提问于2019-07-19得票数 0
1回答
Cgroup和Slurm
slurm、cgroups
我知道如何使用cgroups(分配内存、cpu使用率...)和slurm(提交、挂起/停止作业)。我想知道cgroups是如何使用slurm的。当我向slurm提交作业时，我可以在哪里修复内存或CPU使用率？我阅读了Slurm Schedmd()的文档，但它没有给出很好的解释。也许这是对我的误解。谁能解释一下如何使用slurm中的cgroup为作业分配一些资源？提前谢谢。
浏览 4提问于2017-05-22得票数 3
1回答
使用conda激活还是在bash脚本中指定python路径？
python、linux、bash、conda、slurm
我正在使用SGE或SLURM在Linux集群上运行一些python脚本。我已经使用登录节点正确设置了conda环境。我一直在写这样的东西
source ~/.bashrc
module purge #Kill all active modules
conda init bash
conda deactivate
conda deactivate
conda activate my_env
python my_script.py
适当地激活环境。(为了解决这个问题，我做了很多工作)但是，我发现了一些示例代码，如
/anaconda3/envs/my_env/bin/python my_scri
浏览 9提问于2022-05-18得票数 2
回答已采纳
1回答
为什么我不能在SLURM中模拟运行同一python脚本的多个实例
python、google-cloud-platform、google-compute-engine、slurm
我一直在努力尝试让python脚本的多个实例在SLURM上运行。在我的登录节点中，我已经安装了python3.6，并且我有一个python脚本"my_script.py“，它接受一个文本文件作为输入来读取运行参数。我可以使用以下命令在登录节点上运行此脚本
python3.6 my_script.py input1.txt
此外，我可以提交一个脚本submit.sh来运行该作业：
#!/bin/bash
#
#SBATCH --job-name=hostname_sleep_sample
#SBATCH --output=output1.txt
#SBATCH --cpus-per-ta
浏览 2提问于2018-10-24得票数 0
7回答
如何能够“移动”脚本在迁移到新机器时所需的所有库
linux、shared-libraries、cluster-computing、static-libraries、hpc
我们从事科学计算，并定期将计算提交到不同的计算集群。为此，我们使用linux shell连接，并通过SGE、Slurm等提交作业(这取决于集群)。我们的代码由python和bash脚本以及几个二进制文件组成。其中一些依赖于外部库，如matplotlib。当我们开始使用一个新的集群时，这是一个噩梦，因为我们需要告诉管理员我们需要的所有库，有时他们不能安装所有的库，或者他们只有无法升级的旧版本。所以我们想知道我们在这里能做什么。我想知道我们是否可以以某种方式将我们需要的所有库与我们的代码一起“打包”。你认为这有可能吗？否则，我们如何才能在不需要管理员安装任何东西的情况下迁移到新的集群？
浏览 3提问于2016-09-15得票数 10
1回答
如何在slurm作业期间监视资源？
memory、cpu、slurm、resource-monitor
我在我们的大学集群上运行作业(常规用户，没有管理权限)，它使用SLURM调度系统，我感兴趣的是绘制CPU和内存的使用情况，即在作业运行时。我了解sacct和sstat，我正在考虑在提交脚本中包含这些命令，例如在
#!/bin/bash
#SBATCH <options>
# Running the actual job in background
srun my_program input.in output.out &
# While loop that records resources
JobStatus="$(sacct -j $SLURM_JOB_ID
浏览 5提问于2017-05-08得票数 6
回答已采纳
2回答
无法从Slurm调用Keras
keras、slurm
我想在集群中使用Keras，使用Slurm作为作业引擎。
如果我打开一个终端并运行以下命令，一切都正常：
$python
>>> import tensorflow
>>> import keras
但是，如果我将import tensorflow和import keras放在Python文件中，然后从slurm调用：
srun [bunch of parameters for my cluster] python mypythonfile.py
然后我得到以下错误：ImportError: No module named keras。
在使用Slurm的集
浏览 7提问于2017-09-07得票数 1
回答已采纳
1回答
将参数传递到slurm脚本
arrays、bash、matlab、slurm、sbatch
我使用slurm脚本在集群上运行用于Matlab计算的数组。每个脚本都使用一个数组来循环matlab参数。
1)是否有可能创建一个shell脚本来循环另一个变量？
2)可以将变量传递给slurm脚本吗？
例如，我的slurm文件当前看起来像
#!/bin/bash
#SBATCH --array=1-128
...
matlab -nodesktop r "frame=[${SLURM_ARRAY_TASK_ID}]; filename=['Person24']; myfunction(frame, filename);";
我经常需要运行这个数组来处理许多不同
浏览 0提问于2019-06-18得票数 2
回答已采纳
我正在使用slurm和slurmdbd (使用MySQL)管理集群
我在/etc/slurm/slurm.conf中设置了以下选项
AccountingStorageEnforce=associations
我已经重新加载了配置：
scontrol reconfig
我在sacctmgr中配置了一些关联。
问题是，我仍然可以使用不存在的slurm用户提交作业。我对选项AccountingStorageEnforce=associations的理解是，非现有用户没有提交作业的权限。
浏览 0提问于2013-03-22得票数 1
回答已采纳
1回答
conda环境在计算集群上的bash脚本作业中不激活
bash、conda、slurm
我正试图在计算集群CentOS7上提交一个SLURM作业。该作业是一个python文件(cifar100-vgg16.py)，它需要tensorflow-GPU2.8.1，这是我在conda环境(tf_gpu)中安装的。下面复制了我提交给SLURM (我们的作业调度程序)的bash脚本。SLURM输出文件显示所使用的环境是基本conda环境Python/3.6.4-foss-2018a (使用tensorflow 1.10.1)，而不是tf_gpu。请就如何解决提出建议。
Bash脚本：
#!/bin/bash --login
########## SBATCH Lines for Resou
浏览 27提问于2022-08-11得票数 1
1回答
Slurm多处理Python作业
python、python-2.7、multiprocessing、slurm
我有一个4节点Slurm集群，每个都有6个核心。我想提交一个测试Python脚本(它产生的进程打印正在运行的节点的主机名)，它使用以下多处理：
def print_something():
print gethostname()
# number of processes allowed to run on the cluster at a given time
n_procs = int(environ['SLURM_JOB_CPUS_PER_NODE']) * int(environ['SLURM_JOB_NUM_NODES'])
# tell Pyt
浏览 4提问于2015-09-15得票数 4
回答已采纳
2回答
如何将提交SLURM作业的脚本从Bash转换为Perl？
bash、perl、slurm
我有以下Bash脚本，用于将作业提交给集群上的：
#!/bin/bash
#SBATCH -A 1234
#SBATCH -t 2-00:00
#SBATCH -n 24
module add xxx
srun resp.com
#SBATCH行是SLURM命令：
#SBATCH -A 1234是项目编号(1234)。
#SBATCH -t 2-00:00是工作时间
#SBATCH -n 24是核的数目
module add xxx加载 xxx (在本例中，我实际上使用的是module add gaussian，其中gaussian是一个计算量子化学程序)。
srun是
浏览 3提问于2015-02-17得票数 0
1回答
我对cpu如何与内存通信知之甚少，所以我不确定这是否是一个“正确”的问题。
在我提交给slurm集群的作业脚本中，脚本需要从存储在工作字典中的数据库中读取数据。我想监视运行这个脚本所使用的内存。
我如何编写bash脚本来做到这一点？我已经尝试过的脚本。但是，当作业正在运行时，文件中只有一行输出。
AveCPU|AveRSS|MaxRSS
如何修改此脚本以输出实时内存使用情况？
我知道sstat命令，但我不确定像sstat -j $JOBID.batch --format=MaxVMSize这样的东西是否能解决我的问题。
浏览 0提问于2018-11-27得票数 4
回答已采纳
1回答
如何使用Slurm/Sbatch提交/运行多个并行作业？
python、shell、slurm、sbatch
我正在尝试向Slurm服务器提交大量作业(数百个)，并希望避免为我想要运行的每个作业提交新的shell脚本。提交的代码是一个Python脚本，它接受shell脚本中的两个输入变量，并且这些变量是在不同作业之间唯一变化的变量。以下是适用于单个作业的简短shell脚本的示例： #!/bin/bash
#SBATCH -n 1
#SBATCH -t 01:00:00
srun python retrieve.py --start=0 --end=10 我想要的是用相同的python脚本提交大量的作业，并且只在作业之间改变'start‘和'end’变量。我读到了一些关于增加所需的
浏览 1898提问于2021-04-02得票数 0
1回答
我正在使用带有Slurm的back-fill调度器来管理一个小型GPU集群。回填调度程序每隔bf_interval秒(默认值为30秒)做出一次调度决策。这意味着即使GPU资源可用，有时我也必须等待一段时间，直到它们被分配。我显然可以减少bf_interval，但考虑到我们没有太多的作业提交，如果我能强制slurm在作业排队时运行调度例程，那就更好了。这个是可能的吗？
浏览 0提问于2019-10-14得票数 0
1回答
如何从IntelliJ IDEA向远程星火库集群提交代码
intellij-idea、apache-spark
我有两个集群，一个在本地虚拟机中，另一个在远程云中。这两个集群都处于独立模式。
我的环境：
Scala: 2.10.4
Spark: 1.5.1
JDK: 1.8.40
OS: CentOS Linux release 7.1.1503 (Core)
地方专题组：
火花主:火花://现场1:7077
远程集群：
火花主:火花://远程1:7077
我想结束这一切：
在本地(我的笔记本上)在IntelliJ IDEA中编写代码(只是简单的字数)，并将Spark设置为spark://local1:7077和spark://remote1:7077，然后在IntelliJ
浏览 2提问于2015-11-09得票数 7
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
即时通信 IM
ICP备案
对象存储
实时音视频活动推荐
腾讯云开发者
