首页
学习
活动
专区
圈层
工具
发布
首页
学习
活动
专区
圈层
工具
社区首页 >问答首页 >用Lambda变换代替S3触发Lambda转换的优点

用Lambda变换代替S3触发Lambda转换的优点
EN

Stack Overflow用户
提问于 2022-09-30 16:14:26
回答 3查看 119关注 0票数 0

如果我每隔几秒钟就有KBs的数据,那么是否使用带有Lambda函数的Kinesis来执行转换,并且使用Redshift作为目标,肯定比只做相同的操作更好,除了使用S3而不是Kinesis吗?我知道Kinesis是用于实时处理的,但是使用它是否有好处,而不仅仅是使用S3和将文件放入S3触发用于处理和存储到Redshift中的lambda函数?它们似乎是等价的,而不是与实时处理相关,而S3不是。

EN

回答 3

Stack Overflow用户

发布于 2022-09-30 18:25:03

AmazonKinsisDataFire浩可以根据大小或时间将数据流组合成更少、更大的亚马逊S3对象。这使得在S3中存储并加载到Redshift中更加容易。

Amazon 的性能很差,如果您继续在几行数据上使用INSERT,而在更大的数据集中使用COPY (这也允许并行加载)。

将负责整个接收数据的过程,并将其插入Redshift。如果您想自己动手,您可能会为每个对象触发一个AWS函数,您需要编写代码将其插入Redshift并处理错误。这实际上是一个平衡成本与方便的问题。

票数 2
EN

Stack Overflow用户

发布于 2022-09-30 18:35:30

最大的一件事是火龙软管的功能。本部分将Kinesis打包到大小合理的S3文件中。将许多小文件加载到Redshift中可能效率很低。因此,您的Lambda进程还需要绑定到Redshift可加载的文件中。

票数 1
EN

Stack Overflow用户

发布于 2022-10-02 23:58:12

问得好。

如果你不使用防火墙,真正的问题将是、costperformance

成本

S3的存储成本较低,但对于put请求也有成本。如果有很多小文件,那么存储成本就会更低,但是你会有更多的存档请求成本。因此,您不希望创建大文件并将其放入S3 .In --在这种情况下,您必须积累许多文件,然后放入s3 .Firehose,为您做这件事。否则,你需要写一些东西,然后跑到某个地方。

性能

当插入次数较少时,几乎所有的数据池都有更好的性能。就像明智的红移。因此,您将再次希望将所有小文件组合起来,创建一个大文件,然后将/insert加载到Redshift中。福尔豪斯又为你做了一次。

如果累积小文件,则创建更大的文件。

票数 0
EN
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/73914996

复制
相关文章
Lambda Optional代替if-else
函数式的编程可以极大的简化逻辑代码的编写,虽然是一种语法糖,但是好用就是好用。 Optional 这个功能可以用来防止null值给程序带来的异常,提供的API也可以用来简化逻辑代码的编码,简化if-else的编写。
潇洒
2023/10/20
4490
aws lambda python 上传s3
代码编写 Code writing 编写lambda函数 Write lambda functions 主要功能是查询数据库,在本地生成test.csv,而后上传至s3://test-bucket-dev桶,bthlt目录下. test.csv is generated locally and uploaded to s3://test-bucket-dev bucket,bthlt path. import pymysql import logging import boto3 from botocore
葫芦
2021/12/20
2.2K1
aws lambda python 上传s3
Lambda Evens(Lambda 偶数)
你需要对 Lambda 表达式比较熟悉,需要知道 Lambda 是什么。在 Java 世界中,Lambda 是在 Java 8 中引进的一个表达式。属于函数式。
HoneyMoose
2020/07/25
8360
Lambda Evens(Lambda 偶数)
Java Lambda 和 Kotlin Lambda 的区别
Java 匿名内部类在编译时会创建一个 class ,增加类的加载开销,运行时该内部类无论是否用到外部参数每次都会生成该类的实例。jdk 1.8 后 lambda 的实现是在当前类增加一个私有静态方法,减少了类的开销
萬物並作吾以觀復
2021/11/24
2.5K0
Java中的集合转换(lambda表达式)
        在Java应用中进行集合对象间的转换是非常常见的事情,有时候在处理某些任务时选择一种好的数据结构往往会起到事半功倍的作用,因此熟悉每种数据结构并知道其特点对于程序员来说是非常重要的,而只知道这些是不够的,有时候你需要一个Map来处理数据,而此时你手中只有一个List,此时知道如何将List转为Map就非常重要了,而只知道for循环将List转为Map这就太Low了,JDK1.8 吸收了许多函数式编程的思想,其中的lambda表达式不仅功能强大,而且减少了很多不必要的代码,本文不是介绍lambda表达式的,主要是利用lambda表达式进行Java中结合的转换,当然lambda表达式的使用往往离不开JDK1.8 的stream类,本文主要使用lambda表达式和stream类来实现Java中集合的转换,也会涉及到利用stream对数据进行的一些处理。
Tyan
2022/05/09
8010
神奇的Lambda
你可以在一个接口中声明一个抽象方法,然后再不同的实现类中去实现这个方法。这样不就进行了统一了吗。
用户1260737
2019/05/24
7080
数据系统架构——Lambda architecture(Lambda架构)
“我们正在从IT时代走向DT时代(数据时代)。IT和DT之间,不仅仅是技术的变革,更是思想意识的变革,IT主要是为自我服务,用来更好地自我控制和管理,DT则是激活生产力,让别人活得比你好”——阿里巴巴董事局主席马云。
全栈程序员站长
2022/09/12
3.6K0
数据系统架构——Lambda architecture(Lambda架构)
Lambda的诞生
版权声明:本文为博主原创文章,遵循 CC 4.0 BY-SA 版权协议,转载请附上原文出处链接和本声明。
bering
2019/12/03
5620
lambda函数
lambda函数就是我们常说的匿名函数,就是不用定义函数名,lambda更像是一个表达式,限制了程序的嵌套,是一个为编写简单的函数而设计的。
dogfei
2020/07/31
9400
Lambda 架构[通俗易懂]
Lambda 架构(Lambda Architecture)是由 Twitter 工程师南森·马茨(Nathan Marz)提出的大数据处理架构。这一架构的提出基于马茨在 BackType 和 Twitter 上的分布式数据处理系统的经验。
全栈程序员站长
2022/09/13
1.3K0
Lambda 架构[通俗易懂]
聊聊lambda
公众号链接:https://mp.weixin.qq.com/s/MFXRBr16LuGn6G2rlOFFEw
阿超
2022/09/27
5760
聊聊lambda
死磕Lambda表达式(二):Lambda的使用
在上一篇文章(传送门)中介绍了Lambda表达式的基本语法,其中的举了一个Lambda表达式的例子,就是按照品牌给口罩列表进行排序:
万猫学社
2022/04/22
4440
死磕Lambda表达式(二):Lambda的使用
python lambda
lambda 相当于是一个匿名函数,因为python是属于脚本语言,所以在和shell结合中使用起来是很方便的,具体怎么用,通过列子来说明吧
py3study
2020/01/08
5800
lambda with template
好久没发文了,一方面因为实在太忙了,一方面也在自我提升,发现要学的越来越多。在群里的,大抵都知道我上半年基本在重构和优化,将gcc版本进行了升级,从之前的4.9.2升级到了现在的11.2.1(支持c++17),这样在重构过程中难免要用到新特性,所以也就在这个过程中一边学习一遍应用于项目中,毕竟这样才能完全吸收为自己所用嘛。
高性能架构探索
2023/09/05
1770
lambda with template
获取lambda
重要的是这个函数java.lang.invoke.LambdaMetafactory#metafactory以及altMetafactory
阿超
2022/12/20
5200
python lambda表达式详解_lambda python
lambda 表达式是现代编程语言争相引入的一种语法,如果说函数是命名的、方便复用的代码块,那么 lambda 表达式则是功能更灵活的代码块,它可以在程序中被传递和调用。
全栈程序员站长
2022/09/27
6600
针对map的lambda
例如原来的: Steam.of(Maps.of("foo", "bar")) .map(e -> e.getKey() + e.getValue()) .findFirst(); 现在 Steam.of(Maps.of("foo", "bar")) .map(SerFunc.entryFunc((key, value) -> key + value)) .findFirst();
阿超
2023/05/22
2190
python的lambda函数
在Python中,lambda函数是一种匿名函数,也被称为"小型"或"即时"函数。与常规的函数不同,lambda函数没有名称,并且通常用于单行代码的简单功能。它们的语法如下:
叶茂林
2023/07/30
2540
从Lambda到无Lambda,领英吸取到的教训
Lambda 架构已经成为一种流行的架构风格,它通过使用批处理和流式处理的混合方法来保证数据处理的速度和准确性。但它也有一些缺点,比如额外的复杂性和开发 / 运维开销。LinkedIn 高级会员有一个功能,就是可以查看谁浏览过你的个人资料 (Who Viewed Your Profile,WVYP),这个功能曾在一段时间内采用了 Lambda 架构。支持这一功能的后端系统在过去的几年中经历了几次架构迭代:从 Kafka 客户端处理单个 Kafka 主题开始,最终演变为具有更复杂处理逻辑的 Lambda 架构。然而,为了追求更快的产品迭代和更低的运维开销,我们最近把它变成无 Lambda 的。在这篇文章中,我们将分享一些在采用 Lambda 架构时的经验教训、过渡到无 Lambda 时所做的决定,以及经历这个过渡所必需的转换工作。
深度学习与Python
2021/01/22
5940
从Lambda到无Lambda,领英吸取到的教训
死磕Lambda表达式(一):初识Lambda
Lambda表达式是表示可传递匿名函数的一种简洁方式,Lambda表达式没有名称,但是有参数列表、函数主体、返回类型,还可能有一个可以抛出的异常列表。它是Java8新增的特性,有了它我们再也不用像之前那样写一堆笨重的匿名类代码了,我们先来体验一下。
万猫学社
2022/04/22
3130
死磕Lambda表达式(一):初识Lambda

相似问题

从s3触发lambda与从sqs触发lambda

11

AWS S3 ObjectCreated用延迟触发lambda

21

Kotlin:用lambda代替函数接口?

22

上传到触发lambda的s3,等待lambda响应

122

AWS S3用部分对象键触发Lambda

19
添加站长 进交流群

领取专属 10元无门槛券

AI混元助手 在线答疑

扫码加入开发者社群
关注 腾讯云开发者公众号

洞察 腾讯核心技术

剖析业界实践案例

扫码关注腾讯云开发者公众号
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档
查看详情【社区公告】 技术创作特训营有奖征文