首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

(译)Google 发布 Kubernetes Operator for Spark

但是如果只是想在 Kubernetes(k8s) 而非 Mesos 上运行 Spark 工作负载,也不想使用 YARN,这可行么?...Spark Operator 让 Spark 可以原生运行在 Kubernetes 集群上。 Spark 应用(这些应用用于分析、数据工程或者机器学习)可以部署在这些集群上运行,像在其它集群上一样。...Google 声明,Spark Operator 是一个 Kubernetes 自定义控制器,其中使用自定义资源来声明 Spark 应用的元数据;它还支持自动重启动以及基于 cron 的计划任务。...今后,开发者、数据工程师以及数据科学家可以创建声明式的规范,来描述他们的 Spark 应用,并使用原生的 Kubernetes 工具(例如 Kubectl)来管理他们的应用。...现在就试试 Spark Operator 目前在 GCP 的 Kubernetes 市场已经可用,可以方便的部署到 Google Kubernetes Engine(GKE)。

1.2K10

超适合小项目的 K8S 部署策略

你可以使用ansible、salt、chef、puppet 等来完成这件事。当然,你需要学习使用很多 Kubernetes 相关工具,这要比学习替代品轻松的多。...要构建我们的 Kubernetes 集群,我们将需要: 域名(10 美元 /年,具体取决于域名); DNS 主机由 cloudflare 提供(免费); GKE 的 3 个 node kubernetes...然后前往 hamburger 菜单Kubernetes 页面并创建一个新的集群。...我们需要做的事情: 为我们的 crystal-www-example Web 应用程序创建部署和服务; 为 Nginx 创建一个 Daemon Set 和 Config Map; 运行自定义应用程序使用...我认为这也是一个很好的说明示例,说明如何Kubernetes 为你工作而不是反对它。Kubernetes 完全可编写脚本,并且具有强大的 API。因此你可以使用不太难编写的自定义组件填补空白。

2.3K30
您找到你想要的搜索结果了吗?
是的
没有找到

GKE使用eBPF提高容器安全性和可视性

Kubernetes 真正的超级功能之一是其开发者优先的网络模式,它提供了易于使用的功能,如 L3/L4 服务和 L7 入口,将流量引入集群,以及用于隔离多租户工作负载的网络策略。...也就是说,当你使用 Dataplane V2 时,你不再需要担心显式启用网络策略,或者选择正确的 CNI 在 GKE 集群使用网络策略。...eBPF 使用自定义元数据扩展增强网络数据包的能力,可以实现很多可能的用例,我们和您一样对 Kubernetes 和 eBPF 的未来充满期待,请继续关注更多创新。...eBPF使用自定义元数据扩展网络数据包的能力使一长串可能的用例成为可能。我们对您和Kubernetes和eBPF的未来一样感到兴奋,请继续关注更多创新。...要试用 Kubernetes 网络策略日志功能,可以使用以下命令使用 Dataplane V2 创建一个新的 GKE 群集。

1.3K20

GKE Autopilot:掀起托管 Kubernetes 的一场革命

那些需要为其应用程序提供 最高级别可靠性、安全性和可扩展性 的组织选择了谷歌 Kubernetes 引擎(Google Kubernetes Engine, GKE)。...GKE Autopilot GKE 一直以来都在简化 Kubernetes,同时仍然给用户控制权。或许用户也想自定义 Kubernetes 集群配置,或者手动为集群配置并管理节点基础结构。...如果是这样,用户可以继续使用 GKE 的当前运营模式,即所谓的 标准(GKE Standard)模式,该模式提供了与 GKE 目前提供的同样的配置灵活性。...像 Kubernetes 专家一样优化生产 在使用 Autopilot 时,GKE 基于从谷歌 SRE 和工程经验获得的经过实战检验和强化的最佳实践创建集群。...使用谷歌作为节点和控制平面的 SRE 谷歌 SRE 已经处理过 GKE集群管理;使用 Autopilot,Google SRE 还可以管理节点,包括配置、维护和生命周期管理。

1K20

通过Kyverno使用KMS、Cosign和工作负载身份验证容器镜像

首先,我们需要在 GKE创建一个 Kubernetes 集群,并启用工作负载身份(Workload Identity)特性。...工作负载身份[10]允许 GKE 集群Kubernetes 服务帐户充当 IAM 服务帐户。...先决条件 kubectl v1.20+ gcloud v375.0.0 cosign v1.6.0 首先,我们需要在 GKE创建一个 Kubernetes 集群,并启用工作负载身份特性。...我们将使用PROJECT_ID.svc.id.goog形式的固定工作负载身份池。 当你在集群上启用工作负载身份时,GKE 会自动为集群Google Cloud 项目创建一个固定的工作负载身份池。...工作负载身份池允许 IAM 理解和信任 Kubernetes 服务帐户凭证。GKE 将该池用于项目中使用工作负载身份的所有集群

4.8K20

Kubernetes集群网络揭秘,以GKE集群为例

我们将使用由两个Linux节点组成的一个标准的Google Kubernetes Engine(GKE集群作为示例,并说明与其他平台上可能不同的细节。...我们还可以可视化网络堆栈中用于评估和修改数据包的链和规则,以查看我们在集群创建的服务如何将流量定向到副本集成员。...Kubernetes网络模型要求集群的所有Pod能够直接相互寻址,而不管其主机节点如何。...GKE集群使用Kubernetes CNI,它在每个节点上创建到Pod网络的网桥接口,为每个节点提供自己的Pod IP地址专用CIDR块,以简化分配和路由。...请注意,我们没有通过在GKE集群启用Kubernetes网络策略支持来安装Calico CNI, 因为Calico会创建大量的其他iptables规则,从而在可视化跟踪到Pod的虚拟路由时添加了额外的步骤

4K41

Kubernetes网络揭秘:一个HTTP请求的旅程

在我们的GKE集群上,使用kubectl查询这些资源类型将返回以下内容: ?...我们还可以可视化网络堆栈中用于评估和修改数据包的链和规则,以查看我们在集群创建的服务如何将流量定向到副本集成员。 ?...Kubernetes网络模型要求集群的所有Pod能够直接相互寻址,而不管其主机节点如何。...请注意,我们没有通过在GKE集群启用Kubernetes网络策略支持来安装Calico CNI,因为Calico创建了大量其他iptables规则,在视觉上跟踪到Pod的虚拟路由时增加了额外的步骤。...但是,我们强烈建议您使用在生产集群实现NetworkPolicy API的CNI,并创建限制Pod流量的策略。 启用HostNetwork属性创建的Pod将共享节点的网络空间。

2.7K31

2020年Kubernetes7个最佳日志管理工具

缺点: Sematex和Kibana不能在一个仪表板上混合使用自定义解析需要在日志传送器(log shipper)完成,Sematext仅在服务器端解析Syslog和JSON。...Cloud Logging与GKE紧密集成,默认情况下会添加到你创建的每个GKE群集中。你的日志存储在Logging的数据存储,并为搜索和可视化编制索引。...Cloud Logging支持灵活的查询,并且可以与Google基础架构的其他工具无缝集成。 优点: 实时的日志管理和分析。 内置大规模的度量指标。 可以集成Google基础架构的其他工具。...没有集群照样学Ansible:托管的容器环境(实用) ? GitLab CICD与Kubernetes实践·部署Flask Web服务 ?...kubernetes炼气期之掌握kuebernetes背景 ? kubernetes炼气期之k8s平台快速搭建 ? 二进制部署Kubernetes集群1.9版本 ? ?

4.3K21

认识Service Mesh(1): Deploy Istio on Kubernetes with GKE

通过GKE创建自己的kubernetes集群 越来越多的国内外所谓的云平台厂商推出了基于kubernetes的容器云平台,并支持私有化部署。不妨先来看看,祖师爷Google是怎么做这口饭的。...在自己的终端上,推荐使用gcloud这个命令行工具进行一切与Google Cloud的交互操作,包括使用GKE创建kubernetes集群: gcloud container clusters create...打开Google Cloud的Kubernetes Engine相关页面,也能看到集群的完整信息: ? ?...比较奇怪的是,GKE默认创建kubernetes版本是1.8.7,而当前最新版本是1.9.3。看来连Google自己都跟不上kubernetes的快速发展了。...Istio官方社区已经提供了多种平台的部署方法,包括Google Cloud以及纯Kubernetes集群上。

68930

ApacheCN DevOps 译文集(二)20211230 更新

七、OCI、CNCF、CoreOS 和 Tectonic 八、为生产做准备 Kubernetes Windows 实用指南 零、前言 第一部分:创建使用容器 一、创建容器 二、管理容器的状态...三、使用容器映像 第二部分:理解 Kubernetes 的基本原理 四、Kubernetes 概念和 Windows 支持 五、不可思议的网络 六、与 Kubernetes 集群交互 第三部分:创建...十八、无停机升级您的集群 十九、Kubernetes 自定义资源定义 精通 Kubernetes 零、前言 一、理解 Kubernetes 架构 二、创建 Kubernetes 集群 三、高可用性和可靠性...简介 二、Ansible 简介 三、创建多个用户/项目 四、自定义您的云配额 五、为您的云保存快照 六、迁移实例 七、管理云上的容器 八、设置活动-活动区域 九、清点您的云 十、使用 Nagios 检查您的云的运行状况...五、走向云端 六、从 Ansible 获取通知 第三部分:使用 Ansible 部署应用 七、创建自定义模块 八、调试和错误处理 九、复杂环境 第四部分:使用 Ansible 部署应用 十、为企业引入

4.2K20

JFrog助力Google Anthos混合云Devops实践,实现安全高质量的容器镜像管理

Google Anthos推出以来在混合云领域受到极大关注,作为Google进入ToB混合云市场的战略级产品,Anthos集成了如GKEGoogle Kubernetes Engine...客户使用GKE控制平面来管理在谷歌的云、内部数据中心和其他云平台上运行的分布式基础设施。...GKE On-prem提供了一个与GKE一致的基于kubernetes的软件平台负责用户私有资产部分的基础设施管理。...一旦确定了应用程序的合规性和安全性,它就会被推广到在GKE On-Prem上运行的Artifactory,在那里可以将其安全地部署到生产K8s集群。...3 GKE将构建容器镜像部署到K8s集群的节点。 4当其已知漏洞的数据库更新时,Xray会扫描生成的图像。如果发现已经部署的映像具有新发现的漏洞,及时通知到相关人员进行升级或安全维护。

1.6K40

加密 K8s Secrets 的几种方案

Kubeseal 将创建一个 SealedSecret 自定义资源。4.开发者将此 CR 推送到自己的 git 仓库5.可使用 ArgoCD 等 CD 工具在集群上部署 CR。...在集群上,管理员将: 1.部署 ArgoCD2.使用 age 生成密钥3.在 特定(如 GitOps) Namespace 创建存储公钥和私钥的密钥4.定制 Argo CD 以使用 Kustomize...以下是相关的一些参考文档: 1.原生 K8s: 使用 KMS 驱动进行数据加密 | Kubernetes[16]2.GKE: 在应用层对 Secret 加密 | Google Kubernetes Engine...ESO 作为部署资源运行在 Kubernetes 集群,利用自定义资源定义(CustomResourceDefinitions,CRD)通过 SecretStore 资源配置对 Secret Provider...17] 在应用层对 Secret 加密 | Google Kubernetes Engine (GKE) | Google Cloud: https://cloud.google.com/kubernetes-engine

55920

推荐一些热门的DevOps工具

它们是谷歌 Kubernetes 引擎(用于容器群集管理)、Google 计算引擎(用于虚拟机和 CI/CD 管道)和 Google 应用引擎灵活环境(用于完全托管的 PaaS 上的容器)。...您可以使用一个 YAML 来配置您应用程序的服务。然后,使用 docker-compose up 命令,从您的配置创建并启动所有服务。...部署 Kubernetes 为我们提供了一个集群Kubernetes 集群由一组工作机(称为节点)组成,这些节点上运行容器化的应用。每个群集至少有一个工作节点。...Minikube Minikube 允许您在本地计算机上使用 Kubernetes,并允许您在计算机上使用单节点 Kubernetes 集群。...Rancher 提供了管理容器所需的软件,组织无需使用一套不同的开源技术从头开始构建容器服务平台。Rancher 允许管理在客户指定的提供商上运行的 Kubernetes 集群

1.7K20

@所有人: 不要慌,Kubernetes和Docker没分手

如果你正在使用GKE 或 EKS 这样的托管 Kubernetes 服务,那么在 Kubernetes 的未来版本删除 Docker 支持之前,你需要确保你的工作节点使用的是受支持的容器运行时。...如果你有节点自定义,则可能需要根据环境和运行时需求更新它们。请与你的服务提供商合作,以确保适当的升级测试和计划。 如果你在创建自己的集群,你还需要进行更改,以避免集群崩溃。...在 Kubernetes 集群,有一个称为容器运行时的东西,它负责提取和运行容器镜像。...这一改变解决了一个与大多数人使用 Docker 进行交互的不同环境。你在开发中使用的 Docker 安装与 Kubernetes 集群的 Docker 运行时无关。我知道这很令人困惑。...无论你使用什么工具构建它,任何符合 OCI 标准的镜像在 Kubernetes 看来都是一样的。containerd 和 CRI-O 都知道如何提取这些镜像并运行它们。

78110

每个人都必须遵循的九项Kubernetes安全最佳实践

如果你的应用程序需要访问Kubernetes API,请单独创建服务帐户,并为每个使用站点提供所需的最小权限集。这比为命名空间的默认帐户授予过宽的权限要好。...GKE的元数据隐藏功能会更改集群部署机制以避免此暴露,我们建议使用它直到有永久解决方案。在其他环境可能需要类似的对策。 6. 创建和定义集群网络策略 网络策略允许你控制进出容器化应用程序的网络访问。...要使用它们,你需要确保拥有支持此资源的网络提供程序,对于一些托管的Kubernetes供应商,例如Google Kubernetes Engine(GKE),你需要选择启用。...(如果你的集群已经存在,在GKE启用网络策略将需要进行简短的滚动升级。)一旦到位,请从一些基本默认网络策略开始,例如默认阻止来自其他命名空间的流量。...如果你在Google容器引擎运行,可以检查集群是否在启用了策略支持的情况下运行: ? 7. 运行集群范围的Pod安全策略 Pod安全策略设置在集群中允许运行工作负载的默认值。

1.4K10

Kubestriker:一款针对Kubernetes的快速安全审计工具

Kubestriker不依赖于特定平台运行,它可以在多个平台上工作,比如说自托管的Kubernetes、Amazon EKS、Azure AKS和Google GKE等。...我们建议广大研究人员在虚拟环境安装和使用该工具。 接下来,我们可以在命令行工具运行下列命令。...请使用下面提供的链接创建只读用户: Amazon EKS只读权限用户创建:点击底部【阅读原文】获取 Azure AKS只读权限用户创建:点击底部【阅读原文】获取 Google GKE只读权限用户创建:点击底部...【阅读原文】获取 使用基于访问控制的角色创建一个主题:点击底部【阅读原文】获取 从EKS集群获取一个令牌: $ aws eks get-token --cluster-name cluster-name...myAKSCluster 从GKE集群获取一个令牌: $ gcloud container clusters get-credentials CLUSTER_NAME --zone=COMPUTE_ZONE

1.6K40
领券