我要收集AWS datapipeline操作的失败日志。当datapipeline操作(步骤)失败时,AWS提供的标准故障处理是向SNS主题发送通知。相反,我希望将这些故障存储在日志存储中。(理想情况下,在S3中)。
有没有办法将我的数据线配置为记录这些失败通知,而不是将通知推送到SNS?我要将数据流水线故障日志发送到S3。
根据documentation的说法,SNS似乎是故障通知的唯一支持目的地。
我希望有一种方法,因为在亚马逊网络服务中,能够将日志推送到S3存储桶中是一种非常常见的模式。
我想知道,我是否能够在为每个数据线步骤配置的pipelineLogUri S3存储桶中找到故障日志?(如果我可以过滤这些细粒度日志中的致命错误,我将可以接受)
发布于 2018-12-18 04:11:17
我决定为SNS通知订阅一个lambda函数,并从那里将它们推送到S3。不是很理想(因为它给我们的系统增加了额外的复杂性),但它是有效的。
https://stackoverflow.com/questions/53768395
复制相似问题