前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >Matano:一款针对AWS的开源安全湖平台

Matano:一款针对AWS的开源安全湖平台

作者头像
FB客服
发布2022-11-14 15:17:30
4290
发布2022-11-14 15:17:30
举报
文章被收录于专栏:FreeBufFreeBuf

关于Matano

Matano是一款针对AWS的开源安全湖平台,该平台允许我们从各种数据源获取并注入大量和安全以及日志相关的数据,并将其存储到一个开源的Apache Iceberg数据湖中,同时这也方便广大研究人员进行后续的安全数据查询。除此之外,该工具还会创建Python脚本对代码进行实时监测,并会在检测到问题是发出实时警报。Matano是以完全无服务架构形式实现的,并且专为AWS设计。该工具的特性为大规模、低成本和零操作,支持广大研究人员轻松将Matano部署到目标AWS账户中。

功能介绍

从各种数据源收集安全与日志数据

Matano支持从各种数据源收集数据并存储到S3或其他给予SQS的存储中。

存储、传输和日志数据格式化处理

Matano可以使用VRL来对数据进行格式化和传输,Matano默认使用ECS,我们也可以定义自己的模式。

将数据存储至S3对象存储中

日志数据存储在S3对象存储中,实现经济高效、长期耐用地数据存储。

Apchae Iceberg数据湖

所有数据都被接收到一个基于Apache Iceberg的数据湖中,允许我们对所有日志数据执行ACID事务和其他操作等。Apache Iceberg是一种开放表格式,因此我们始终拥有自己的原始数据,不存在其他锁定或限制。

无服务架构

Matano是一个完全无服务平台,旨在实现零操作和无限弹性的水平扩展。

Python脚本实时监测日志数据

可以通过编写Python脚本实现对日志数据的实时警报。

工具运行机制

工具安装

依赖要求

Docker

Nightly版本

Matano还提供了一个Nightly版本,其中包含最新版本的预构建文件,可以用来安装matano命令行工具。除此之外,我们也可以直接下载和安装Matano安装程序。

比如说,下列命令可以在Linux上安装并配置好Matano命令行工具:

代码语言:javascript
复制
curl -OL https://github.com/matanolabs/matano/releases/download/nightly/matano-linux-x64.sh
chmod +x matano-linux-x64.sh
sudo ./matano-linux-x64.sh

(向右滑动,查看更多)

源码安装

广大研究人员还可以使用下列命令直接将项目源码克隆至本地,并完成项目构建:

代码语言:javascript
复制
git clone https://github.com/matanolabs/matano.git
cd matano
make package

上述命令将在项目根目录下生成一个matano-linux-x64.sh安装文件,直接运行该文件即可。

工具部署

如需使用Matano,直接运行下列命令即可:

代码语言:javascript
复制
matano init
代码语言:javascript
复制

确保你已经在环境变量或AWS CLI配置文件中定义了AWS凭证。

交互式命令行工具的安装程序会自动帮助我们生成一个初始化Matano目录,并初始化AWS账号,然后将Matano部署到AWS账号中。

部署过程需要几分钟,请耐心等待。

工具使用演示

许可证协议

本项目的开发与发布遵循Apache-2.0开源许可证协议。

项目地址

Matano:https://github.com/matanolabs/matano

参考资料:

https://github.com/matanolabs/matano# https://vector.dev/docs/reference/vrl/ https://www.elastic.co/guide/en/ecs/current/index.html https://www.matano.dev/docs

本文参与 腾讯云自媒体分享计划,分享自微信公众号。
原始发表:2022-10-28,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 FreeBuf 微信公众号,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体分享计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • 关于Matano
  • 功能介绍
    • 从各种数据源收集安全与日志数据
      • 存储、传输和日志数据格式化处理
        • 将数据存储至S3对象存储中
          • Apchae Iceberg数据湖
            • 无服务架构
              • Python脚本实时监测日志数据
              • 工具运行机制
              • 工具安装
                • 依赖要求
                  • Nightly版本
                  • (向右滑动,查看更多)
                    • 源码安装
                    • 工具部署
                    • 工具使用演示
                    • 许可证协议
                    • 项目地址
                    • 参考资料:
                    相关产品与服务
                    对象存储
                    对象存储(Cloud Object Storage,COS)是由腾讯云推出的无目录层次结构、无数据格式限制,可容纳海量数据且支持 HTTP/HTTPS 协议访问的分布式存储服务。腾讯云 COS 的存储桶空间无容量上限,无需分区管理,适用于 CDN 数据分发、数据万象处理或大数据计算与分析的数据湖等多种场景。
                    领券
                    问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档