现有CDP-DC集群启用Auto-TLS

文档编写目的

本文主要介绍如何在现有的CDP-DC集群上启用TLS。

内容概述

1) TLS概述

2) Level-0：基础TLS/SSL配置（在CM server主机上进行）

3) Level-1：为集群启用加密

测试环境

1) CM和Cloudera Runtime版本为7.1.1

2) Redhat7.7

3) 拥有Cloudera Manager的管理员账号

4) 集群未启用Kerberos和LDAP认证

TLS概述

背景

部署了Kerberos之后，CM会提示有安全隐患，至少需要一级TLS加密。

介绍

传输层安全性（TLS）在ClouderaManager服务器和代理之间的通信中提供加密和身份验证。 加密可防止通信侦听，并且身份验证有助于防止恶意服务器或代理在群集中引起问题。Cloudera Manager支持三种级别的TLS安全性，三种必须逐级配置。

• 级别1（好） - 此级别仅配置浏览器和ClouderaManager之间以及代理和ClouderaManager服务器之间的加密通信。请参阅仅为Cloudera Manager配置TLS加密，然后按照级别1：为Cloudera Manager代理配置TLS加密，以获取说明。 1级加密可以防止对代理和Cloudera Manager之间的通信进行窥探。
• 级别2（更好） - 此级别包括代理和服务器之间的加密通信，以及代理对Cloudera Manager服务器证书的强大验证。请参阅第2级：由代理配置ClouderaManager服务器的TLS验证。级别2通过验证由Cloudera Manager服务器提供的证书的信任，为代理提供额外的安全级别。
• 级别3（最佳） - 代理和服务器之间的加密通信。3级TLS包括代理和服务器之间的加密通信，由代理对Cloudera Manager服务器证书进行强大的验证，并使用自签名或CA签名的证书将代理验证到Cloudera Manager服务器。请参阅第3级：将代理的TLS验证配置到Cloudera Manager服务器。级别3解决了不受信任的网络场景，您需要防止群集服务器被主机上运行的不受信任的代理人欺骗。 Cloudera建议您在启用Kerberos身份验证之前，为不受信任的网络环境配置3级TLS加密。这提供了Cloudera Manager服务器和集群中经过验证的代理之间的keytab的安全通信。

Cloudera强烈建议您在开始配置Cloudera Manager服务器和代理使用TLS之前，设置完整功能的CDH群集和Cloudera Manager。Cloudera Manager将继续接收端口7180上的HTTP请求（默认值），但一旦启用TLS，它将立即将客户端重定向到端口7183以进行HTTPS连接。

一旦配置了3级TLS，如果要添加运行代理的新主机，则必须手动部署适用于您的平台的ClouderaManager代理和守护程序软件包，为主机发出新的证书，配置/etc /cloudera-scm-agent/config.ini使用SSL / TLS，然后使主机联机。相反，您可以禁用TLS添加主机，配置TLS的新主机，然后重新启用适当的配置。任何一种方法都是有效的，根据您的需要。

对于运行代理的所有主机，Cloudera建议您首先使用Java创建密钥库，然后使用openSSL导出密钥和证书以供代理或色相使用。

工具概述

Java Keytool和OpenSSL是密钥管理工具，可让您创建TLS / SSL所需的安全工件。除了下面的两个简短概述之外，有关更多信息，请参见“如何为TLS / SSL证书和密钥转换文件编码（DER，JKS，PEM）”。

Java Keytool

Oracle Java keytool是Oracle JDK附带的实用程序，用于创建和管理加密密钥和证书。在针对Cloudera Manager集群配置TLS / SSL的过程中，您将创建私有密钥对、密钥库、证书签名请求，并使用此软件工具创建供集群特定使用的信任库，如本指南中各个步骤所述。

Cloudera Manager TLS / SSL配置的Java Keytool要求

对于使用Java Keytool的任何步骤，请确保：

• 使用Oracle Java keytool而非OpenJDK之类的工具。

• 使用从Oracle下载的JDK或Cloudera Manager服务器主机上此默认路径中的Cloudera提供的Oracle JDK：

/usr/java/jdk1.8.0_232-cloudera/bin/jre/lib/security

• 所有步骤均使用相同版本的Java keytool。如果主机上安装了多个JDK，请设置PATH 变量，以便首先调用Oracle JDK，如本例所示：

export JAVA_HOME=/usr/java/jdk1.8.0_232-cloudera

export PATH=$JAVA_HOME/bin:$PATH

• 在任何调用-keypass 和-storepass两个选项的命令中，请使用和相同的密码。Cloudera Manager要求密钥及其密钥库使用相同的密码。

OpenSSL

OpenSSL是一种开放源代码加密和TLS / SSL工具包，自1999年成立以来已被广泛使用。与Java Keytool一样，OpenSSL允许您创建私钥，证书请求和密钥库，并提供用于验证证书的选项。

在RPC客户端和服务器通信期间，Cloudera Manager Agent主机充当Cloudera Manager Server主机的客户端。代理主机、Hue、Impala和其他基于Python的服务需要PEM格式的密钥和证书（PKCS＃8），这就是为什么以下步骤包括使用此工具转换一些JKS工件的原因。有关更多信息，请参见“如何为TLS / SSL证书和密钥转换文件编码（DER，JKS，PEM）”。

如何将自签名证书用于TLS

自签名证书不应用于生产部署。自签名证书将在密钥生成过程中创建并存储在指定的密钥库中，并且应替换为已签名证书。使用自签名证书要求生成和分发证书，并为证书建立显式信任。

但是，使用自签名证书可以轻松获取用于TLS / SSL配置的证书，并且可能适用于非生产或测试设置。有关更多信息，请参阅为 手动配置 加密 。

在下面的命令中为您的系统替换路径，文件名，别名和其他示例。

1) 创建证书目录：

mkdir -p /opt/cloudera/security/x509/ /opt/cloudera/security/jks/

向Cloudera Manager授予对目录的访问权限，设置正确的权限，然后更改为目录：

sudo chown -R cloudera-scm:cloudera-scm /opt/cloudera/security/jks
sudo umask 0700
cd /opt/cloudera/security/jks

2) 生成密钥对和自签名证书，并使用与密钥库和storepass相同的密码将所有内容存储在密钥库中，如下所示。将当前主机的FQDN用于CN，以避免引发java.io.IOException: HTTPS hostname wrong 异常。用适合您的环境的条目替换OU，O，L，ST和C的值：

keytool -genkeypair -alias cmhost -keyalg RSA -keysize 2048 -dname "cn=cm01.example.com, ou=Department,
o=Company, l=City, st=State, c=US" -keypass password -keystore example.jks -storepass password

[root@ip-10-0-0-168 jks]# keytool -genkeypair -alias cmhost -keyalg RSA -keysize 2048 -dname "cn=ap-southeast-1.compute.internal, ou=ipausers,
> o=Cloudera, l=Shanghai, st=Shanghai, c=CN" -keypass cloudera -keystore example.jks -storepass cloudera

Warning:
The JKS keystore uses a proprietary format. It is recommended to migrate to PKCS12 which is an industry standard format using "keytool -importkeystore -srckeystore example.jks -destkeystore example.jks -deststoretype pkcs12".
[root@ip-10-0-0-168 jks]#

3) 将默认的Java信任库（cacerts）复制到备用系统信任库（jssecacerts）：

export JAVA_HOME=/usr/lib/jvm/java-1.8.0-openjdk
source /etc/profile
sudo cp $JAVA_HOME/jre/lib/security/cacerts $JAVA_HOME/jre/lib/security/jssecacerts

4) 从密钥库（example.jks）导出证书。

keytool -export -alias cmhost -keystore example.jks -rfc -file selfsigned.cer

[root@ip-10-0-0-168 jks]# keytool -export -alias cmhost -keystore example.jks -rfc -file selfsigned.cer
Enter keystore password:  
Certificate stored in file <selfsigned.cer>

Warning:
The JKS keystore uses a proprietary format. It is recommended to migrate to PKCS12 which is an industry standard format using "keytool -importkeystore -srckeystore example.jks -destkeystore example.jks -deststoretype pkcs12".
[root@ip-10-0-0-168 jks]#

5) 将自签名证书（selfsigned.cer）复制到/opt/cloudera/security/x509/ 目录中。

cp selfsigned.cer /opt/cloudera/security/x509/cmhost.pem

6) 将公共密钥导入备用系统信任库（jssecacerts），以便在此计算机上使用Java运行的任何进程都将信任该密钥。Java信任库的默认密码为changeit。不要使用在步骤2中为密钥库创建的密码。

$ keytool -import -alias cmhost -file /opt/cloudera/security/jks/selfsigned.cer
-keystore $JAVA_HOME/jre/lib/security/jssecacerts -storepass changeit

[root@ip-10-0-0-168 jks]# keytool -import -alias cmhost -file /opt/cloudera/security/jks/selfsigned.cer
Enter keystore password:  
Re-enter new password:
Owner: CN=ap-southeast-1.compute.internal, OU=ipausers, O=Cloudera, L=Shanghai, ST=Shanghai, C=CN
Issuer: CN=ap-southeast-1.compute.internal, OU=ipausers, O=Cloudera, L=Shanghai, ST=Shanghai, C=CN
Serial number: 33f6581e
Valid from: Sun Jul 19 06:07:24 UTC 2020 until: Sat Oct 17 06:07:24 UTC 2020
Certificate fingerprints:
     MD5:  41:C5:94:8B:32:D2:95:67:1D:A2:12:75:6E:05:22:E0
     SHA1: 8B:BE:F7:7F:75:A0:9B:55:0E:A7:6C:6E:2D:CD:32:CB:79:41:9C:EF
     SHA256: 54:ED:FE:C2:FA:89:27:DC:3B:06:27:5C:EA:FB:93:2A:8B:A4:6B:27:4A:6E:13:DF:36:DB:76:E9:DE:33:10:55
Signature algorithm name: SHA256withRSA
Subject Public Key Algorithm: 2048-bit RSA key
Version: 3

Extensions:

#1: ObjectId: 2.5.29.14 Criticality=false
SubjectKeyIdentifier [
KeyIdentifier [
0000: 6F C9 8E D3 60 A8 EA 33   BB 44 01 C8 34 5C 14 B1  o...`..3.D..4..
0010: E9 CF 6D 1C                                       ..m.
]
]

Trust this certificate? [no]:  yes
Certificate was added to keystore
[root@ip-10-0-0-168 jks]#

重要

在群集中的每个主机上重复此过程。

7) 重命名密钥库：

mv /opt/cloudera/security/jks/example.jks /opt/cloudera/security/jks/cmhost-keystore.jks

8) 您还可以删除证书，因为它已在步骤5中复制到相应的路径。

rm /opt/cloudera/security/jks/selfsigned.cer

9) 自签名证书设置完成。

CM配置更新

通过CM管理主页面->管理->安全

点击Enable Auto-TLS，进入Auto-TLS的配置页面

填写配置信息

点击下一步：

按照提示，登陆到Cloudera-Manager server的服务器上，然后重启Cloudera Manager Server服务。

systemctl restart cloudera-scm-server

待CM Server的服务重启后，继续使用原来的登陆端口登陆，浏览器会自动跳转到7183端口。

点击高级

点击继续前往…链接，进入到CM的主页面

从主页面可以看到，有很多过期配置。点击过期配置需要重启按钮，进行服务重启（集群和CMS服务都需要重启）

如果有更新TLS Certificates信息，则点击Rotate TLS Certificates

总结

通过Auto-TLS,可以简单的启动整个集群的TLS，减少了手工配置的复杂度。

参考：https://docs.cloudera.com/cloudera-manager/7.1.1/security-how-to-guides/topics/cm-security-how-to-obtain-server-certs-tls.html

https://blog.cloudera.com/auto-tls-in-cloudera-data-platform-data-center/

https://docs.cloudera.com/cloudera-manager/7.1.2/security-encrypting-data-in-transit/topics/cm-security-self-signed-tls.html#sg_self_signed_tls