我创建了一个带有ShellCommandActivity = "true“的stage。Shell命令创建一个新文件并将其存储在${OUTPUT1_STAGING_DIR}中。我希望这个新文件在S3中被服务器端加密。
根据文档,在s3数据节点中创建的所有文件默认是服务器端加密的。但是,在我的管道完成后,将在s3中创建一个未加密的文件。我尝试在s3EncryptionType datanode中显式地将SERVER_SIDE_ENCRYPTION设置为SERVER_SIDE_ENCRYPTION,但这也没有帮助。我想加密这个新文件。
以下是管道的相关部分:
{
"id": "DataNodeId_Fdcnk",
"schedule": {
"ref": "DefaultSchedule"
},
"directoryPath": "s3://my-bucket/test-pipeline",
"name": "s3DataNode",
"s3EncryptionType": "SERVER_SIDE_ENCRYPTION",
"type": "S3DataNode"
},
{
"id": "ActivityId_V1NOE",
"schedule": {
"ref": "DefaultSchedule"
},
"name": "FileGenerate",
"command": "echo 'This is a test' > ${OUTPUT1_STAGING_DIR}/foo.txt",
"workerGroup": "my-worker-group",
"output": {
"ref": "DataNodeId_Fdcnk"
},
"type": "ShellCommandActivity",
"stage": "true"
}
发布于 2015-03-25 14:59:18
当我下载新的TaskRunner-1.0.jar时,这个问题就解决了。我在运行旧版本。
发布于 2015-03-23 17:15:11
简短的回答:你的流水线定义看起来是正确的。您需要确保您正在运行任务运行程序的最新版本。我会尽量重复你的问题,让你知道。
让我们在这里或在AWS数据管道论坛中保持对话,以避免混淆。
https://stackoverflow.com/questions/29161720
复制