HAWQ技术解析（五） —— 连接管理

        服务器启动后，还要经过一系列配置，才能被客户端程序所连接。本篇说明如何配置客户端身份认证，HAWQ的权限管理机制，HAWQ最常用的命令行客户端工具psql及与mysql命令行常用命令类比，最后还将列举一些客户端连接HAWQ数据库的常见问题排查。

一、配置客户端身份认证

        上一篇曾经提到，HAWQ系统初始安装后，数据库包含一个预定义的超级用户。这个用户和安装HAWQ的操作系统用户用户具有相同的名字，叫做gpadmin。缺省时，系统只允许使用gpadmin用户从本地连接至数据库。为了允许任何其它用户从本地或远程主机连接数据库，需要配置HAWQ允许此类连接。

1. 配置允许连接至HAWQ

        HAWQ脱胎于PostgreSQL，它的客户端访问与认证，是由标准的PostgreSQL基于主机的认证文件 — pg_hba.conf所控制。master和每个segment的数据目录下都存在一个pg_hba.conf文件。在HAWQ中，master实例的pg_hba.conf文件控制客户端对HAWQ系统的访问和认证。而segment的pg_hba.conf文件，作用只是允许每个segment作为master节点主机的客户端连接数据库，而segment本身并不接受其它客户端的连接。正因如此，不要修改segment实例的pg_hba.conf文件。

        pg_hba.conf的格式是普通文本，其中每行一条记录，表示一个认证条目，HAWQ忽略空行和任何#注释字符后面的文本。一行记录由四个或五个以空格或tab符分隔的字段。如果字段值中包含空格，则需要用双引号引起来，并且记录不能跨行。与MySQL类似，HAWQ也接受TCP连接和本地的UNIX套接字连接。

        每个TCP连接客户端的访问认证记录具有以下格式：

host|hostssl|hostnossl   <database>   <role>   <CIDR-address>|<IP-address>,<IP-mask>   
<authentication-method>

        本地UNIX域套接字的访问记录具有下面的格式：

local   <database>   <role>   <authentication-method>

        表1描述了每个字段的含义。

表1

（1）配置pg_hba.conf文件

        这个例子显示如何编辑master的pg_hba.conf文件，以允许远程客户端使用加密口令认证，用所有角色访问所有数据库。

        注意：对于更高安全要求的系统，应考虑从master的pg_hba.conf文件中删除所有信任认证方式（Trust）的连接。信任方式意味着角色被授予访问权限而不需要任何认证，因此会绕过所有安全检查。

        编辑pg_hba.conf

1. 从hawq-site.xml文件的hawq_master_directory属性获得master数据目录的位置，并使用文本编辑器打开此目录下的pg_hba.conf文件。
2. 在该文件中，为允许的每个连接增加一行。记录是顺序读取的，因此记录的顺序至关重要。例如图1：

图1

1. 保存并关闭文件。
2. 执行下面的命令重载pg_hba.conf文件的配置，使修改生效：hawq stop cluster -u -M fast

（2）限制并发连接

        HAWQ的某些资源分配是以连接为基础的，因此推荐配置允许的最大连接数。为了限制HAWQ系统的并发会话数量，可以配置master的max_connections服务器配置参数，或者segment的seg_max_connections服务器配置参数。这些参数是本地参数，因此必须在所有HAWQ实例的hawq-site.xml文件中进行设置。

        如果设置了max_connections，必须也要设置其依赖参数max_prepared_transactions。该参数值必须大于等于max_connections的值，并且所有HAWQ实例要配置相同的值。下面是一个$GPHOME/etc/hawq-site.xml配置示例：

<property>
    <name>max_connections</name>
    <value>500</value>
</property>
<property>
    <name>max_prepared_transactions</name>
    <value>1000</value>
</property>
<property>
    <name>seg_max_connections</name>
    <value>3000</value>
</property>

        增加这些值会引起HAWQ需要更多的共享内存。为了缓解内存使用压力，可以考虑降低其它内存相关的服务器配置参数，如gp_cached_segworkers_threshold等。

        不需要手工编辑每个节点的hawq-site.xml文件设置允许的连接数。可以使用Ambari或命令行配置这些参数。

        使用Ambari：

1. 通过HAWQ service Configs > Advanced > Custom hawq-site > Add Property ... 配置max_connections、seg_max_connections和 max_prepared_transactions属性。
2. 选择Service Actions > Restart All重载更新的配置。

        使用命令行：

1. 作为管理员登录HAWQ的master节点并设置环境：source /usr/local/hawq/greenplum_path.sh
2. 使用hawq config应用程序设置max_connections、seg_max_connections和max_prepared_transactions参数值，max_prepared_transactions的值必须大于等于max_connections。。例如： $ hawq config -c max_connections -v 100 $ hawq config -c seg_max_connections -v 640 $ hawq config -c max_prepared_transactions -v 200
3. 重启HAWQ集群重载新的配置值。$ hawq restart cluster
4. 使用hawq config的-s选项显示服务器配置参数的值，确认配置生效：$ hawq config -s max_connections $ hawq config -s seg_max_connections

二、管理角色与权限

1. HAWQ角色与权限概述

        pg_hba.conf文件限定了允许连接HAWQ的客户端主机、用户名、访问的数据库，认证方式等。用户名、口令，以及用户对数据库对象的使用权限保存在HAWQ的元数据表中（pg_authid、pg_roles、pg_class等）。

        HAWQ采用基于角色的访问控制机制，通过角色机制，简化了用户和权限的关联性。HAWQ系统中的权限分为两种：系统权限和对象权限。系统权限是指系统规定用户使用数据库的权限，如连接数据库、创建数据库、创建用户等。对象权限是指在表、序列、函数等数据库对象上执行特殊动作的权限，其权限类型有select、insert、update、delete、references、trigger、create、connect、temporary、execute和usage等。

        与Oracle、SQLServer等数据库中角色的概念不同，这些系统中的所谓角色，是权限的组合和抽象，创建角色最主要的目的是简化对用户的授权。举一个简单的例子，假设需要给五个用户每个授予相同的五种权限，如果没有角色，需要授权二十五次，而如果把五种权限定义成一种角色，只需要先进行一次角色定义，再授权五次即可。

        然而HAWQ中的角色既可以代表一个数据库用户，又可以代表一组权限。而角色所拥有的预定义的系统权限是通过角色的属性实现的。角色可以是数据库对象（例如表）的属主，也可以给其它角色赋予访问这些对象的权限。角色可以是其它角色的成员，因此一个成员角色可以从其父角色继承对象权限。

        HAWQ系统可能包含多个数据库角色（用户或组）。这些角色并不是运行服务器上操作系统的用户和组。但是为方便起见，可能希望维护操作系统用户名和HAWQ角色名的关系，因为很多客户端应用程序，如psql，使用当前操作系统用户名作为缺省的角色，gpadmin就以最典型的例子。

        用户通过master实例连接HAWQ，mater通过pg_hba.conf里的条目验证用户的角色和访问权限。之后master以当前登录的角色，从后台向segment实例发布SQL命令。系统级定义的角色对系统中所有数据库都是有效的。为了创建更多的角色，首先需要使用超级用户gpadmin连接HAWQ。

2. 角色和权限的安全最佳实践

• 保证gpadmin系统用户安全。HAWQ需要一个UNIX用户ID安装和初始化HAWQ系统。这个系统用户ID在HAWQ文档中被称为gpadmin。gpadmin用户是HAWQ中缺省的数据库超级用户，也是HAWQ安装及其底层数据文件的文件系统属主。这个缺省的管理员账号是HAWQ的基础设计。缺了这个用户系统无法运行。并且，没有方法能够限制gpadmin用户对数据库的访问。应该只使用gpadmin账号执行诸如扩容和升级之类的系统维护任务。任何以这个用户登录HAWQ主机的人，都可以读取、修改和删除任何数据，尤其是系统目录数据和数据库访问权力。因此，gpadmin用户的安全非常重要，仅应该提供给关键的系统管理员使用。应用的数据库用户应该永不作为gpadmin登录，ETL或者生产环境的应用程序也不应该以gpadmin用户连接数据库。
• 赋予每个登录用户不同的角色。出于记录和审核目的，每个登录HAWQ的用户都应该被赋予自己的数据库角色。对于应用程序或者web服务，最好为每个应用或服务创建不同的角色。
• 使用组管理访问权限。
• 限制具有超级用户角色属性的用户。超级用户角色绕过HAWQ中所有的访问权限检查和资源队列，所以只应该将超级用户权限授予系统管理员。

3. 创建角色（用户）

        此时的角色指的是一个可以登录到数据库，并开启一个数据库会话的用户。使用create role命令创建一个角色时，必须授予login系统属性（功能类似于Oracle的connect角色），使得该角色可以连接数据库。例如：

create role jsmith with login;

        一个数据库角色有很多属性，用以定义该角色可以在数据库中执行的任务类型，或者具有的系统权限。表2描述了有效的角色属性。

表2

可以在创建角色时，或者创建角色后使用alter role命令指定这些属性。例如：

alter role jsmith with password 'passwd123';
alter role admin valid until 'infinity';
alter role jsmith login;
alter role jsmith resource queue adhoc;
alter role jsmith deny day 'sunday';

使用drop role或drop user命令删除角色（用户）。在删除角色前，先要收回角色所拥有的全部权限，或者先删除与角色相关联的所有对象，否则删除角色时会提示“cannot be dropped because some objects depend on it”错误。

4. 角色成员

        通常将多个权限合成一组，能够简化对权限的管理。使用这种方法，对于一个组中的用户，其权限可以被整体授予和回收。在HAWQ中的实现方式为，创建一个表示组的角色，然后为用户角色授予组角色的成员。

        下面的SQL命令使用create role创建一个名为admin组角色，该组角色具有createrole和createdb系统权限。

create role admin createrole createdb;

        一旦组角色存在，就可以使用grant和revoke命令添加或删除组成员（用户角色）。例如：

grant admin to john, sally;
revoke admin from bob;

        为了简化对象权限的管理，应当只为组级别的角色授予适当的权限。成员用户角色继承组角色的对象权限。例如：

grant all on table mytable to admin;
grant all on schema myschema to admin;
grant all on database mydb to admin;

        角色属性LOGIN、SUPERUSER、CREATEDB和CREATEROLE不会当做普通的数据库对象权限被继承。为了让用户成员使用这些属性，必须执行SET ROLE指定一个具有这些属性的角色。在上面的例子中，我们已经为admin指定了CREATEDB和CREATEROLE属性。sally是admin的成员，当以sally连接到数据库后，执行以下命令，使sally可以拥有父角色的CREATEDB和CREATEROLE属性。

set role admin;

        有关角色属性信息可以在系统表pg_authid中找到，pg_roles是基于系统表pg_authid的视图。系统表pa_auth_members存储了角色之间的成员关系。

5. 管理对象权限

        当一个对象（表、视图、序列、数据库、函数、语言、模式或表空间）被创建，它的权限被赋予属主。属主通常是执行create语句的角色。对于大多数类型的对象，其初始状态是只允许属主或超级用户在对象上做任何操作。为了允许其它角色使用对象，必须授予适当的权限。HAWQ对每种对象类型支持的权限如表3所示。

表3

        注意：必须为每个对象单独授权。例如，授予数据库上的ALL权限，并不会授予数据库中全部对象的访问权限，而只是授予了该数据库自身的数据库级别的全部权限（CONNECT、CREATE、TEMPORARY）。

        使用grant SQL语句为一个角色授予一个对象权限。例如：

grant insert on mytable to jsmith;

        使用revoke命令回收权限。例如：

revoke all privileges on mytable from jsmith;

        也可以使用drop owned和reassign owned命令为一个角色删除或重新赋予对象属主权限。只有对象的属主或超级用户可以删除或重新赋予对象的属主权限。例如：

reassign owned by sally to bob;
drop owned by visitor;

        HAWQ不支持行级和列级的访问控制，但是可以使用视图限制查询的行或列，模拟行级和列级访问控制。此时角色被授予对视图而不是基表的访问权限。

        对象权限，存储在pg_class.relacl中，更多对象权限的信息，可以参考”PostgreSQL 表和列权限(ACL)解读“

6. 口令加密

        HAWQ缺省使用MD5为用户口令加密，通过适当配置服务器参数，也能实现口令的SHA-256加密存储。为了使用SHA-256加密，客户端认证方法必须设置为password而不是缺省的MD5。口令虽然以加密形式存储在系统表中，但仍然以明文在网络间传递。为了避免这种情况，应该建立客户端与服务器之间的SSL加密通道。

（1）系统级启用SHA-256加密

        如果使用Ambari管理HAWQ集群：

1. 通过HAWQ service Configs > Advanced > Custom hawq-site下拉列表设置password_hash_algorithm配置属性，有效值为SHA-256。
2. 选择Service Actions > Restart All重载更新的配置。

        如果从命令行管理HAWQ集群：

1. 作为管理员登录HAWQ master并设置路径：$ source /usr/local/hawq/greenplum_path.sh
2. 使用hawq config应用程序设置password_hash_algorithm为SHA-256：$ hawq config -c password_hash_algorithm -v 'SHA-256'
3.  重载HAWQ配置：$ hawq stop cluster -u
4. 验证设置：$ hawq config -s password_hash_algorithm

（2）会话级启用SHA-256加密

        为单个数据库会话设置password_hash_algorithm服务器参数：

1. 以超级用户登录HAWQ实例。
2. 设置password_hash_algorithm参数为SHA-256：set password_hash_algorithm = 'SHA-256';
3. 验证参数设置：show password_hash_algorithm;

（3）验证口令加密方式生效

        建立一个具有login权限的新角色，并设置口令：

create role testdb with password 'testdb12345#' login;

        修改客户端认证方法，允许存储SHA-256加密的口令，打开master的pg_hba.conf文件并添加下面一行：

host all testdb 0.0.0.0/0 password

        重启集群：

hawq restart cluster

        以刚创建的testdb用户登录数据库。

psql -d postgres -h hdp3 -U testdb

        在提示时输入正确的口令。

        验证口令被以SHA-256哈希方式存储，哈希后的口令存储在pg_authid.rolpasswod字段中。

1. 作为超级用户登录。
2. 执行下面的查询：select rolpassword from pg_authid where rolname = 'testdb';

        查询结果如图2所示。

图2

三、使用psql连接HAWQ

        用户可以使用与一个PostgreSQL兼容的客户端程序连接到HAWQ，最常用的客户端工具就是psql。再次强调，用户和管理员总是通过master连接到HAWQ，segment不能接受客户端连接。

        为了建立一个到master的连接，需要知道表4所示的连接信息，并在psql命令行给出相应参数或配置相关的环境变量。

表4

        下面的例子显示如何通过psql访问一个数据库，没有指定的连接参数依赖于设置的环境变量或使用缺省值。

psql -d mytest -h hdp3 -p 5432 -U `gpadmin`
psql mytest
psql

        如果一个用户定义的数据库还没有创建，可以通过连接template1数据库访问系统。例如：

psql template1

        连接数据库后，psql提供一个由当前连接的数据库名后跟=>构成的提示符（超级用户是=#）。例如：

mytest=>

        在提示符下，可以键入SQL命令。一个SQL命令必须以;（分号）结束，以发送到诉服务器执行。例如：

select * from mytable;

        psql常用命令与mysql命令行的比较如表5所示。

表5

四、用Kettle连接HAWQ

1. 在pg_hba.conf文件中添加客户端连接

echo "host  all     kettle     192.168.8.187/32      md5" >> /data/hawq/master/pg_hba.conf

2. 重载pg_hba.conf文件使修改生效

hawq stop cluster -u -M fast

3. 在psql中建立用户并授权

create role kettle with login;
alter role kettle with password '123456';
\t on
\o /tmp/grant.sql
select 'grant select on '||tablename || ' to kettle;' from pg_tables where schemaname='public';
\o
\i /tmp/grant.sql

4. 在Kettle中建立DB连接

（1）新建转换。

（2）选中“主对象树” -> 转换 -> 转换1 -> DB连接，右键点击“新建”。

（3）如图3配置数据库连接。

图3

（4）点击“测试”，弹出图4所示的测试成功页面。

图4

（5）新建一个“表输入”步骤，在编辑窗口中，“数据库连接”选择“hawq”，然后点击“获取查询SQL语句...”，在图5所示的弹出窗口中选择一个表并确定，结果如图6所示。

图5

图6

（6）点击“预览”，结果如图7所示。

图7

        正确显示出查询的数据，连接成功。如果在HAWQ中授予kettle用户的insert权限，HAWQ也可作为表输出步骤的数据库连接，在Kettle中创建转换，从其它数据源向HAWQ导入数据。

五、连接常见问题

        很多问题会引起客户端应用连接HAWQ失败。表6是HAWQ提供的造成连接问题的常见原因及其排查方法。

表6