AKS混合GPU和CPU群集管理
是指在Azure Kubernetes Service（AKS）中同时管理GPU和CPU资源的群集。AKS是Azure提供的一种托管的容器化应用程序部署和管理服务，它基于Kubernetes进行构建和管理。
混合GPU和CPU群集管理的优势在于可以充分利用GPU和CPU的计算能力，提高应用程序的性能和效率。GPU主要用于加速计算密集型任务，如机器学习、深度学习和图形渲染等，而CPU则适用于处理通用计算任务。通过混合GPU和CPU群集管理，可以根据应用程序的需求动态分配和管理资源，实现更好的资源利用和性能优化。
混合GPU和CPU群集管理适用于各种场景，包括但不限于以下几个方面：
- 机器学习和深度学习：通过将GPU资源与Kubernetes集群结合使用，可以加速模型训练和推理过程，提高机器学习和深度学习任务的效率。
- 图形渲染和视频处理：GPU在图形渲染和视频处理方面具有强大的计算能力，通过混合GPU和CPU群集管理，可以实现更快速、更高质量的图形渲染和视频处理。
- 大规模数据分析：对于需要处理大规模数据的任务，如数据挖掘、数据分析和大数据处理等，混合GPU和CPU群集管理可以提供更高的计算性能和并行处理能力。
在腾讯云中，推荐使用以下产品和服务来实现AKS混合GPU和CPU群集管理：
- 腾讯云容器服务（TKE）：TKE是腾讯云提供的一种托管的容器化应用程序部署和管理服务，基于Kubernetes进行构建和管理。通过TKE，可以轻松创建和管理混合GPU和CPU群集，提供高性能的容器化应用程序部署和管理环境。
- 腾讯云GPU云服务器：腾讯云提供了多种GPU云服务器实例，如NVIDIA Tesla V100、NVIDIA Tesla P100等，可以满足不同应用场景的需求。通过将GPU云服务器与TKE集群结合使用，可以实现混合GPU和CPU群集管理。
- 腾讯云容器镜像服务（TCR）：TCR是腾讯云提供的一种托管的容器镜像存储和分发服务，可以方便地管理和部署容器镜像。通过TCR，可以将容器镜像存储在云端，实现快速的容器部署和管理。
更多关于腾讯云相关产品和服务的介绍，请访问腾讯云官方网站：https://cloud.tencent.com/
相关·内容
2回答
我希望AKS集群有几个GPU实例和更多的CPU实例，这样ETL任务在CPU上执行，但培训在GPU实例上执行，这是可能的吗？
浏览 15提问于2018-12-19得票数 0
我创建了Azure Kubernetes服务( AKS )实例，并发现除了我在其中创建AKS实例的资源组之外，还为我创建了另一个资源组。
例：
我的AKS资源组: Production_MyAKSInstance附加资源组:Production_MyAKSInstance
是否有一种方法来重命名附加资源组，类似于Production_MyAKSInstance_Supportive？
浏览 2提问于2020-10-15得票数 1
回答已采纳
1回答
我有一个现有的AKS集群(我知道它的名称和其他详细信息)
是否可以使用ARM模板向现有的AKS集群添加额外的节点池？
浏览 17提问于2021-09-20得票数 0
1回答
在AKS中水平吊舱自动分频器的最大数量是多少。
背景-我们有100个港口的服务，我们正在为每个港口创建一个集装箱，并对每个集装箱使用hpa。
我们能有一个包含100个HPA的AKS集群吗？
浏览 10提问于2022-11-14得票数 0
回答已采纳
1回答
我想将Kubeflow安装到Azure中，所以我开始使用单节点(B4MS虚拟机)创建Azure Kubernetes集群(AKS)。在安装过程中，我没有启用虚拟节点池选项。在创建AKS集群之后，我运行命令"$ kubectl describe node aks-agentpool-3376354-00000“来检查规范。Pods的可分配数是110，我可以安装Kubeflow，没有任何问题。但是，稍后我想要一个启用虚拟节点池的AKS集群，以便我可以使用GPU进行培训。因此，我删除了旧的集群，创建了一个新的AKS集群，该集群具有相同的B4MS虚拟机，并且启用了虚拟节点池选项。这一次，当我运
浏览 2提问于2020-05-05得票数 1
回答已采纳
我正在尝试找出使用节点横向扩展AKS集群的触发因素是什么。我有一个集群，它在103%的CPU上运行5+分钟，但没有采取任何措施。你知道触发器是什么吗，以及我如何定制它们？如果我启动更多的作业，集群将降低所有pod的CPU分配。
微软的那篇文章没有任何关于的具体内容
浏览 0提问于2020-11-19得票数 0
我的客户目前正在评估AKS，这似乎真的很有希望。我们目前的平台是基于我们自己配置的Azure VM。我们希望在现有平台和托管AKS集群之间创建私有通信，但到目前为止似乎还不支持。
我们的一些示例用例是：-通过我们的主入口点将传入的HTTP流量代理到新的AKS环境中，这样我们就不必更改url-从AKS环境访问非公开的API
现在AKS集群是一个与我们平台的其他部分不同的订阅和资源组。我们无法连接的主要原因似乎是无法在创建AKS集群时指定使用哪个内网网段。
是否有计划对此提供支持，或者是否有可靠的解决方法？
浏览 11提问于2017-12-15得票数 2
如何在Slurm中设置每个作业可以请求的最大CPU数量？ 我们正在运行GPU集群，并希望有合理数量的CPU始终可用于GPU作业。只要任务需要GPU，这就没问题，因为gres.conf中有GPU <-> CPU映射。但这并不会阻止不要求任何GPU的作业不获取系统中的所有CPU。
浏览 126提问于2020-03-30得票数 0
我们在AKS有一个部署，我们在晚上缩减到3点，早上缩减到9点。
一个节点上只有3个pod的资源。所以在早上，AKS应该会创建2个新节点。
但发生的情况是，晚上的缩减有时会杀死每个节点上的2个pod，以保持3个正在运行的节点上有1个pod。有时两个节点，一个有1个pod，1个有2个pod。
我们想要的是在晚上运行1个节点和3个pod。
我们如何才能做到这一点呢？
浏览 1提问于2021-04-30得票数 0
我在AKS上有一个服务(容器)和一个带有证书管理器的nginx控制器，它可以自动更新我的证书。
我正在尝试找到AKS文件系统下包含证书、链、FullChain和私钥的/letsencrypt/live所在的确切位置。
浏览 0提问于2019-05-24得票数 0
如果有一个矩阵加法应用程序是由混合CPU-GPU实现的(在CUDA (即)中，每个线程在主机CPU和GPU中执行部分矩阵加法)，例如，如果矩阵大小为1000，第一个500将由主机cpu计算，其余由gpu计算，基本上计算在CPU和GPU之间，与只计算CPU和只计算GPU相比，这是最好的。请帮我理解这个概念。
是否有任何分析工具可以帮助在这3之间找到这样的计算性能？我是数据自动化系统的新手，所以任何帮助/指导都将不胜感激。
谢谢!
浏览 5提问于2014-08-02得票数 0
回答已采纳
当我试图在AKS中创建一个负载均衡器时，我遇到了以下错误，
{“错误”：{“代码”：“AuthorizationFailed”，“消息”：“对象为'85e23f21-xxxxxxxxxxx‘的客户端'85e23f21-xxxxxxxxxxx’没有授权对作用域'/subscriptions/xxxx-xxxx-xxxx-xxxx-xxxx/resourceGroups/my-vnet/providers/Microsoft.Network/virtualNetworks/my-vnet/subnets/my-subnet‘执行操作，或者该作用域无效。如果最近授予了访问权
浏览 5提问于2021-06-24得票数 4
回答已采纳
我的朋友创建了一个Aks集群，resource-group =abc，name = abc。
他添加了我作为集群管理员的凭据。
AKS_CLUSTER=$(az aks show --resource-group abc --name abc --query id -o tsv)
az role assignment create \
--assignee $ACCOUNT_ID \
--scope $AKS_CLUSTER \
--role "Azure Kubernetes Service Cluster Admin Role for <Blah&g
浏览 16提问于2019-11-01得票数 1
2回答
我们正在AKS上运行一个Kubernetes集群。群集运行在多个节点池上。启用自动标度以确保在必要时添加或删除节点。
通过导航到Azure上的AKS ->设置、->节点池，我可以看到当前节点的使用量。然而，我无法从历史上获得这些信息。
我想找到一个问题的答案:昨晚有多少节点处于节点池'x‘的活动状态？
我找不到AKS和虚拟机比例集资源的任何指标来回答我的问题。我有什么选择？
浏览 0提问于2021-11-17得票数 1
回答已采纳
我正在决定我是应该提供使用香草库伯内特斯还是使用Azure kubernetes服务为我的CI构建代理。
如果在集群中使用AKS；SSH，我将失去什么控制？打开和关闭VMS？那么成本呢，我看到AKS使用的是VM的定价，还有别的吗？
浏览 2提问于2020-04-24得票数 0
回答已采纳
1回答
我会有一个AKS。托管群集，而Microsoft正在管理主群集。一切都很花哨，除了我看到了很多被驱逐的豆荚，我不时地去删除这些“被驱逐的豆荚”。我应该如何/在哪里设置策略来自动清理这些退出的pods，特别是在Azure AKS中。
浏览 20提问于2020-03-27得票数 1
我使用 (当前稳定版本)。我用gpu::CascadeClassifier_GPU::detectMultiScale来检测人脸。我想使用它异步与我的CUDA内核代码，我在单独的cudaStream_t启动。但是默认情况下，CascadeClassifier_GPU在默认的零流中启动，这使得在GPU上不可能启动任何对此异步的操作。
正如我在这里所看到的，没有办法将gpu::Stream用于CascadeClassifier_GPU：
我可以将gpu::Stream用于CascadeClassifier_GPU，以及如何使用？
如果没有，那么在哪个版本的OpenCV中我可以这样做？
浏览 3提问于2014-12-17得票数 1
回答已采纳
1回答
我纠结于一个架构问题。我需要一个桌面解决方案有多个AD租户，但我还需要桌面应用程序来访问不同AKS命名空间中的服务。 每次创建AD租户时，它似乎都有自己的资源，需要自己的AKS集群。 在不同的租户中是否有访问AKS服务的概念？
浏览 11提问于2021-09-11得票数 0
我试图使用评分脚本文件从工作区部署多个azure模型，但我无法使用azure部署两个模型
az ml model deploy --name multi-model --model '[model1:9,model2:1]' --compute-target 'aks-cpu' --ic inferenceConfig.json -e 'inferen
ce-env' --ev 6 --dc aksDeploymentConfig.json -g 'Workspace' --workspace-name 'MLWorks
浏览 13提问于2022-08-05得票数 0
我想升级我的AKS集群使用terraform没有或与最小的停机时间。
在集群升级期间工作负载发生了什么变化。可以同时进行AKS集群升级和节点升级。 Azure提供预定的AKS集群维护(预览功能)，是Azure吗？。
浏览 2提问于2021-08-05得票数 2
我正在按照教程在上的Azure AKS上运行一个容器化应用程序，但我的部署无法为我的服务创建负载均衡器：
Normal EnsuringLoadBalancer 3m (x12 over 33m) service-controller
Ensuring load balancer
Warning CreatingLoadBalancerFailed 3m (x12 over 33m) service-controller
Error creating load balancer (will retry): Failed to ensure load balan
浏览 62提问于2018-02-15得票数 0
回答已采纳
我没有看到来自DevOps的AKS。我正在尝试创建一个管道，但AKS没有显示。
首先，我创建了一个服务连接--> Azure资源管理器-->服务主体(手动)
我一直在以这种方式工作，我看到了我所有的AKS。我对这个新的有问题。
我不知道问题出在哪里。在DevOps中，我可以看到除了这个新的AKS之外的所有AKS
有什么想法需要检查一下吗？
浏览 0提问于2020-08-29得票数 0
我们已经将Azure上的Kubernates服务集群升级到最新版本1.12.4。在此之后，我们突然意识到，通过私有ip，豆荚和节点之间再也不能通信了：
kubectl get pods -o wide -n kube-system -l component=kube-proxy
NAME READY STATUS RESTARTS AGE IP NODE
kube-proxy-bfhbw 1/1 Running 2 16h 10.0.4.4 aks-agent
浏览 0提问于2019-02-07得票数 0
我的办公室计划在AKS Azure中使用多集群。 当我使用不同子网设置新的AKS Azure Private Cluster授权时，API Server ip地址总是设置为10.240.0.4，但主机或api服务器URL是不同的(随机)。 对于具有不同虚拟网络的每个群集，我是否可以将API服务器IP地址设置为不同的IP地址？ 仅供参考，我通过Azure门户调配AKS私有群集
浏览 16提问于2021-02-02得票数 0
我为AKS中的服务创建了一个负载均衡器，该负载均衡器被批准可以从AKS网络子网组访问。负载均衡器具有与内部服务相对应的外部IP地址。但是我无法访问负载均衡器提供的IP地址。
浏览 8提问于2021-09-10得票数 0
我在GCP上的GKE环境中使用GPU实例。不幸的是，我已经失去了对GPU实例的互联网访问。我第一次发现这个问题是因为我从huggingface下载预先训练好的模型的请求无法解决。
我一直在尝试更好地抓住这个问题，而这种“网络损失”只发生在GPU实例中。
我一直在使用以下kubernetes容器来开始解决这个问题：
containers:
- name: test-img
image: test:0
command: [ "/bin/bash", "-c", "--" ]
ar
浏览 33提问于2021-11-28得票数 0
Azure Kubernetes Service (AKS)目前不支持可用区。在使用AKS (主节点和工作节点)时，我们可以通过哪些方式从数据中心故障中获得恢复能力？
我能想到的一件事是在两个不同的Azure区域中有一个AKS集群，并在它前面有流量管理器。欢迎使用任何其他建议、解决方案/参考架构。
浏览 2提问于2018-08-24得票数 3
目前，我正在为数据科学做课程。在这里，有下面的示例可以在Tensorflow中训练模型：
import tensorflow as tf
from tensorflow.keras.models import Sequential
from tensorflow.keras.layers import Dense,Dropout
model = Sequential()
# Choose whatever number of layers/neurons you want.
model.add(Dense(units=78,activation='relu'))
model
浏览 2提问于2020-08-16得票数 1
根据我的理解，Azure Kubernetes服务(AKS)允许获取管理员和用户身份的凭据。用户标识可以是AD应用程序还是托管标识？
我在写.Net代码。您能提供一些示例，我们可以通过使用AD应用凭证从AKS集群中获取用户凭据吗?假设我已经完成了与我的AKS集群的AD集成，并且已经为我的AD应用程序分配了适当的角色绑定？
这里的安全部分- 需要隐式流。对于AD应用程序凭证，隐式流是如何工作的？
浏览 4提问于2020-06-14得票数 0
回答已采纳
重建步骤：
创建RG "A“
在RG "A“中创建VNET
使用上一步创建的VNET部署AKS
将VNET从RG "A“移动到AKS创建的RG (MC_RG_something_else)
从蔚蓝门户输入AKS的网络信任，就会出现一个错误，指定：
获取AKS的JSON规范，请参见在AgentPoolProfiles数组中有一行指向RG "A“中的VNET
在我看来，这似乎是Azure中的一个bug，move资源api应该用VNET的新ID更新AKS，但显然没有。
有什么想法或想法吗？
浏览 5提问于2022-07-05得票数 1
我注意到其中一个AKS服务处于失败状态。当我去诊断时，我发现现在的版本已经不受支持了。因此，我试着遵循这里所述的说明：https://docs.microsoft.com/en-us/azure/aks/upgrade-cluster
我先跑了命令：
az aks get-upgrades --resource-group myResourceGroup --name myAKSCluster --output table
然后：
az aks upgrade --resource-group myResourceGroup --name myAKSCluster --kubernetes-v
浏览 0提问于2021-06-22得票数 4
回答已采纳
在Azure中创建了AKS集群，在ECR中运行了镜像注册表，在从ECR下载镜像之前，我需要将AKS公网IP列入白名单 我怎么才能得到这个呢？
浏览 18提问于2021-04-23得票数 0
回答已采纳
我使用Azure CLI提供AKS集群。我从我的电脑上运行脚本，所以它在我是校长的范围内运行。
那么，为什么当我查看门户中的资源，然后尝试查看它的任何资源时，却被告知我没有足够的特权？
未经授权。“'my username”没有查看此资源所需的Kubernetes权限。确保您对此用户或组具有正确的角色/角色绑定。
在创建集群时，--aad-admin-group-object-ids选项被赋予一个AD组的ID，该ID已经用于管理另一个集群，并且我有足够的权限查看该集群的资源。
我遗漏了什么？
浏览 1提问于2021-08-25得票数 1
回答已采纳
1回答
我正在尝试在Azure ML工作室上部署Kubernetes服务(AKS)。我收到一份通知，上面写着“准备部署”，但在那之后什么也没有出现。过了一段时间，我检查了端点列表，它也不存在。
在“准备部署”通知之后，我不会收到任何成功或失败通知。
如果有人对这一问题有任何解决办法，我们将非常感谢。
我附上了通知和ml管道的屏幕截图，我试图为上下文进行部署。
在使用容器实例时也要面对这些问题。
保存端点详细信息并单击create之后的通知：
我试图部署的管道：
更新：我认为问题在于管道.我删除了web服务，运行了管道，然后从它创建了一个推断管道，然后我能够使用AKS进行部署。虽然很
浏览 3提问于2022-06-25得票数 1
我遵循了下面的示例，并且没有错误地走到最后 https://docs.microsoft.com/en-us/azure/aks/quickstart-helm 除了以下外部IP地址发生超时错误之外， http://20.62.159.20/ 有什么想法吗？ ? ?
浏览 28提问于2021-03-23得票数 0
回答已采纳
2回答
我正在尝试将服务与可用服务名称列表进行比较，如果在列表中找到服务，则更新服务，否则部署服务。但在下面的条件下，即使服务在列表变量中可用，也只能部署新服务吗？ SERVNAME=ner
SERVICE=$(az ml service list -g $(ml_rg) --workspace-name $(ml_ws) --model-name $(model_name) --query "[].name")
if [[ "$SERVNAME" == "$SERVICE" ]];
then
echo "Service Found:
浏览 45提问于2021-10-11得票数 1
回答已采纳
1回答
根据的文章(2018年4月)，AKS能够在可用集中运行时智能地跨故障域放置荚，但它还没有考虑更新域。更新域会很快被用于在AKS中放置豆荚吗？
浏览 0提问于2018-10-26得票数 0
回答已采纳
我正在考虑在AKS上建立一个GPU节点集群。 为了避免手动安装nvidia设备守护程序，显然我可以注册GPUDedicatedVHDPreview并发送带有AKS自定义标头(https://docs.microsoft.com/en-us/azure/aks/gpu-cluster)的UseGPUDedicatedVHD=true。 我知道如何在命令行上执行此操作，但我不明白如何使用azurerm_kubernetes_cluster terraform提供程序执行此操作。 这有可能吗？
浏览 11提问于2021-02-09得票数 0
回答已采纳
我们运行的AKS集群大约有35个微服务，现在需要一个HiveMQ。
我们不确定该如何进行。我们可以在AKS集群上部署一个HiveMQ，就像在dev集群上那样。
但我们不确定这是否是个好主意。我们担心的是，如果我们这样做，服务和HiveMQ的扩展就不是独立的。
当然，为AKS集群的每个阶段和市场设置一个洞ci/cd过程需要一些工作和成本。
我们有大约2000万终端设备使用我们的后端和缩放是一个大问题。但我没有发现明确指出我们需要一个不同的集群来证明工作的计划是正确的。
你的意见是什么？
谢谢!罗宾
浏览 3提问于2022-05-24得票数 0
回答已采纳
我有一个带有AMD Ryzen 52500 u(与集成的radeon 8移动GPU)处理器的笔记本，并使用Ubuntu18.04.2。我想在CPU和GPU上使用C++运行一些C++计算。我的问题是，我不知道opencl如何识别cpu。
我已经安装了amdgpu从amd网站和AMD应用软件SDK 3.0。运行clinfo后，将得到以下输出：
平台数目2
平台名三叶草
平台供应商台面
平台版本OpenCL 1.1Mesa18.2.8
平台配置文件FULL_PROFILE
平台扩展cl_khr_icd
平台扩展函数后缀MESA
平台名称AMD加速
并行处理平台供应商高级微设备公司。
平台版本Ope
浏览 4提问于2019-03-25得票数 3
回答已采纳
我将得到一个NVIDIA GeForce RTX 3060 Ti和eGPU底盘为我的电脑。我有一个MacBook Air (我知道macOS不支持NVIDIA )，并且在bootcamp上使用eGPU。
我听说你的CPU可以瓶颈GPU的性能。我购买这个GPU的主要原因是增加搅拌机周期渲染时间。我的CPU在这个GPU上会有多少瓶颈？
英特尔核心i5 8210 Y (1.6 GHz，双核，4个线程)
8GB LPDDR3 2133 MHz RAM
MacBook Air (Retina，13英寸，2019年)
浏览 0提问于2021-10-20得票数 0
回答已采纳
因此，对于AKS，我可以使用查看Azure Kubernetes服务(AKS)控制器日志- Azure Kubernetes服务，而对于EKS，我可以使用本官方教程为这些组件启用日志记录。
GKE有类似的东西吗？
浏览 0提问于2020-12-30得票数 0
目前，我有点进退两难，因为我知道Windows 2012支持“共享无生命迁移”，但最近我了解到这个特性可以用于独立的超级V服务器。我的设置是，我有3台服务器运行Windows 2012 Hyper-v故障转移群集，我需要将所有内容迁移到运行在Windows 2012 R2上的新集群，并且在迁移过程中有些VM无法关闭，所以我需要在生产时间内实时运行。另一个注意事项是，两个集群将在不同的LUN上运行，因为每个集群都有自己的CSV。我需要知道是否可以在不需要VM/角色停机的情况下迁移这些VM/角色？
浏览 0提问于2014-03-10得票数 1
如果没有在kubernetes中应用任何资源配额，那么将有多少cpu和内存资源分配给一个吊舱？当我们扩大/减少部署时，它们是如何改变的？我试着读库伯奈茨的博士论文，但找不到上面的答案。我用的是亚马逊。
浏览 2提问于2019-04-04得票数 2
回答已采纳
试图使用下面的命令访问Kubernetes仪表板(Azure AKS)，但附加错误。
az aks browse --resource-group rg-name --name aks-cluster-name --listen-port 8851
浏览 4提问于2020-07-16得票数 0
回答已采纳
1回答
C或GLSL中的乘积矩阵？
、、、、
我有一个OpenGL程序，它可以每秒完成相当多的矩阵乘法。它们将是4x4矩阵和128个字节。我的CPU和GPU都是最新的(我有一个MacBook Pro (Retina，13英寸，Mid 2014))。我知道GPU通常更面向并行，并且可能会针对这类东西进行优化。让CPU执行乘法或我的GPU会更快吗？
浏览 2提问于2015-10-12得票数 3
回答已采纳
2回答
我有一个运行在AKS中的node.js应用程序，需要访问一个密钥库。我已经使用K8s服务中的部署中心来设置DevOps。错误地，我在部署中心进行了两次设置，这导致了两个.yml文件的副本(deploytoAksCluster.yml和部署到Aks集群-1.yml)。我已经修复了这个问题，但是当我运行下面的命令来启用pod标识时，我会得到一个错误。
az aks update -g $resource_group -n $k8s_name --enable-pod-identity
错误：
( hidden-DevOpsInfo:GH:my-GithubOrg/myApplication:ma
浏览 7提问于2022-03-14得票数 0
我们正在测试各种估计器，如LinearEstimator、DNNClassifier等。目前，我们仅限于使用CPU进行培训，我们正在测试参数和杠杆，例如
CPU: 8~32 cpu
内存: 16~48 GB
批/缓冲区大小(dataset.batch(N))：n=128~512
散列bucket_size: 10,000 ~ 500,000
线程数: Tensorflow默认值，这应该是逻辑核的数目
优化器: GradientDescent，FtrlOptimizer
结果:全球每秒* batch_size在20~50之间。
因此，我们正在通过Tensorboa
浏览 0提问于2019-03-16得票数 0
1回答
通过对AKS集群的一些新特性的测试，我想为我的蔚蓝k8s集群启用托管标识功能，有人能简单地告诉我使用它的主要好处吗？我需要这样一个外部DNS区域吗？
浏览 0提问于2020-04-04得票数 0
回答已采纳
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
实时音视频
对象存储
即时通信 IM活动推荐
腾讯云开发者
