00:00
做满外连接。啊,做咱们这个满外连接的时候,对吧?因为为什么做满外连接呢?因为我现在要根据它那个返回结果对来决定我这个东西是要到ready取,或者放到原接中去对,比如说你看啊同学们,假如说我们现在这里边代表两个流对吧,这个呢,你可以列成订单,这理解成订单明细对吧?那么如果都返回sum的话,那说明什么,说明这两个东西啊才能正常匹配对吧?但是呢,咱们考虑到对吧,这个订单里边注意啊,第一个是订单,第二订单明细,但咱们考虑到订单里边啊,那我是不是还能还有订单明细会来呀,所以说这个时候你如果是这种形式,大家想想如果是sum sum的话,那你应该缓存,那你说缓存谁呢?是不是应该把一号流缓存到我们这边就去,对吧,就把订单的ID你给得缓存过去啊,因为后面还可能有咱们这个订单明细过来,对吧,就是我现在说,那我说这个东西我还会不会有订单跟他匹配的,不可能同学们就这个东西如果说在咱们当年流利出现了,匹配上了,不可能在咱下个财周期中再出现了,能。
01:02
理解嘛,对不就一个明细嘛,对吧,就一个明细嘛,然后接下来,那如果说我现在呢,看到咱们这种形式了,对吧?看这种形式了,那说明什么?说明咱们现在光找到订单明细了,但是没找到订单的,没找订单,那这个时候大家想一想,那没找订单那说明什么?说明有可能订单没来,有可能订单的ready就去呢,那所以说咱们是不是得先去ready这找一圈,如果找不到的话,那你想那说明什么?说订单没来的呀,没来咱们是不是得在专等等订单呀,对吧?所以说如果这种形式的话,那你是这种逻辑,还有一个如果是这种情况的话,那说明什么?说明咱们现在订单有了,但是订单明细对吧,还没有,那么如果订单有了,订单明细没有的话,那这个时候那说明什么呢?说明咱们现在这个明细还没过来,那没过的话,那咱们是不是应该把它给保存到我们这个专辑里面,去等待咱们这个订单明细,对吧?来呀,对吧?诶那么这块呢,需要注意一下对吧,需要注意一下,那么另外一个咱们再去做我们这个。
02:02
这个ready ready的时候呀,那你像这些呢,它都可以设置些我失效时间,具体失效时间设置多少,同学们其实没有特别对说这个精准的说你一定要设置这个就合适了,短就像刚才我们在这个下面在使用这个方案的时候,我们时间设置多少,小设十分钟,短期实这个时间呢,大家想想,只要你不比你的窗口小都可以,只要大你的窗口是都可以对吧,但是在咱生产环境里边也不会说,哎呀,我一定对这窗口大小就20秒,我给它设置20秒或者25秒,对也没有这样,对也没有这样对吧?这块呢,是关于我们现在这个这个驱虫第一种方案啊,那么第二种方案呢,我们是通过划窗加上咱驱虫,注意啊这个东西,这种方案和咱上面这种方案呢,它两个不同的形式啊,它俩不同的形式啊,但是呢,同学们这个我在连接的时候,我可没有再使用咱们全外连接了,就是正常的中完全匹配,只不过什么呢?只不过是我把采集周期对吧,你可以这么理解,把采集周期呢,对吧,或或计算范围给扩大了。
03:02
对,原来是一个采集周期作业的计算范围,现在呢啊,结合我的程序是两个了,到十秒了吗?是两个了对吧?那这样的话,我现在一个啊,我要匹配不上那两个的话,那这两个东西总应该可以匹配上的吧,对吧?哎,总应该匹配上的吧,对吧?那么这块呢,是关于我们现在它的一个滑窗对吧,这会的处理对吧?划窗这样的处理对吧?呃,那么具体咱们代码呢,刚才带大家呢,也把它简单简单的敲了一下,对吧?那么其实和我们原来在日日活的时候啊,这个判断我们这个是不是曾经登陆过,其实呢,这个思路差不多啊,其实思路差不多,然后接下来咱现在呢,来看一看测试一下,来看一看啊它的一个效果啊,来看一看测试一下它的效果,那么如果想去把它运行起来的话,那么这个时候呢,大家想一想,我要想看效果,我需要起的东西。啊,我需要写的东西,首先这个东西我是在记起来对吧?来右键右行,然后除了它之外,咱们现在DWD从这两个订单,订单明细是不是再提起来,就上午这四个端起呗,对吧?来订单这个提起来,然后呢,订单明细对吧,这个呢提起来。
04:17
啊,然后接下来咱们订单现在它的宽表给提起来,到原来大家看啊,原来咱们在拿的时候,他订单和订单明细的输出的分开的呀,现在呢,咱们要把它合并到一块了,对吧,说出来来在这里提起来对吧,提起来。提完之后,咱们现在呢,来做一个测试,A,我看哪边搞错了。还是在这块是吧,那把这个稍微改一下啊同学们是吧?那么咱们来看一看,在咱们这里我是不是直接对它做什么咱们的输出了啊,其实呢,在咱们这里我一般呢,对我们这个card呀,在去做它处理的时候呢,这块其实是谨慎一点的对吧,我看一看,呃,来到这是吧,来到这然后呢,点map对吧?哦,在咱们这里边,在咱们这个map之前对吧?那应该呢,还把它稍微的处理一下这块啊,咱们一般呢这样,比如说同学们,呃,我现在呢,来到这儿,这里是不是去拿到的是什么拿到的其实是我们当前的它的一个我们这个带偏移量的对吧,这stream对吧,拿到当前偏移量了对吧,然后拿到偏量之后呢,那么这块呢,这是订单明细的拿到偏量对吧?然后接下来,那么咱们现在其实问题出在哪呢?对吧,出在这儿了,对,就是我现在本身啊,那么你现在直接上来给我开窗。
05:43
方,然后开创完之后呢,在这里的给我做一些转换,他其实需要什么,需望你提前呢的去转换一下,就我现在呢,在这在在这啊你的这个操作的是谁?你操作的直接是我们这个consumer card啊,你操作customer card,所以说呢,那我们现在呢,在这里去把它转换一下吧,啊这个怎么转换呢?其实把这个操作拿过来我看一下吧,来在这啊我在那之前再开窗试一试,对吧,试一试,比如说这个叫什么呢?呃,这个呢是我们的order info stream对吧,然后呢,那它这里咱们只做啊它的一个转换,就目前咱们现在在这里我只做它的一个转换,对吧,这块呢我不要了对吧,这个不要了,然后接下来那么咱们现在呢,拿到一个结果对吧,这个结果什么呢?把这个order info对吧,给拿过来啊,Order info啊,给它打过去对吧,然后接下来咱们点VR一下对吧,那么这个呢,拿的是我们这个order info DS。
06:43
是吧,奥DS对吧,然后接下来那么除了它之外呢,咱们再往下走对吧,再往下走谁呢,我们把这个它对吧也转换一下。我直接从这来复制了,对吧,从这来复制了,然后这块呢,是我们的order detail DS对吧,那我现在用谁呢?用我们这个order detail把stream来做一个我处理,把这个呢,我直接把它删掉,把这些删掉,然后删完之后呢,咱们把这块我呢不去转换它了,对吧?这块呢,我把这个改一下,这个是order detail啊。
07:21
然后这块呢,Order detail s tr,然后这块呢,是我们这个order detail order detail,然后这块呢,返回的那也应该是order detail对吧?然后这块呢,也是对吧,Order detail对吧,它其实在咱们这里处理的对吧,这个是不让咱们对我这个啊customer record进行操作,对吧?来呢,Order detail对吧,Order detail。DS啊,这个呢,然后再叫DS,然后接下来,那咱们拿到这个之后呢,然后接下来咱们再往下去走对吧,干什么呢?我去转换它的结构啊,我去转换结构对吧,或者说呢,我去开窗对吧,咱们现在呢,在这里我先去干什么,我先去把这些东西啊给它拿到咱们这两个不同的,我们这样的一个DS,然后接下来再去开窗,对,咱试一试啊,在这里我不用它去开了,这个呢DS啊。
08:20
这个去开窗,那这会开窗的话,他拿到的对这个内容对吧,咱们现在呢去叫它对吧,来在这里order in for ds.window然后他拿到的是我们这个order info对吧,这个内容,它这个是不是就不是咱们现在卡record了,他操作的不是他了啊,他操作不是他,要不然你现在输出的还是它嘛,对吧,咱们现在呢,在这里我直接呢,呃拿到的是我们这个order in for,然后呢,Window stream。然后这块呢,咱们也是对,也不是把这个东西达到了,我直接呢先把它转换成我们现在order detail了,对吧,所以说呢,咱们用order detail DS对吧,来去做一个操作,那这块呢,他拿到的应该是我们这个order detail对吧,Order detail对吧?哎,那么这块呢,做完W开窗之后,那接下来这个KV结构它的一个转换对吧,那这块咱们是不需要的,同学们如果转换KV的话,大家想一想,咱们在这里对吧,直接对吧转换一下就行了呗,转换KB结构没必要这么麻烦了吧,对吧,大家想想,如果转换KB的话,你直接给我拿出一个这个东西对吧,这个呢不是我们这个record了,这个呢,就是我们现在这个order in inform,对,然后接下来咱们把这个order in inform对吧,一个转换,这就OK了,那这块转换呢,这个也不是record了,直接是order detail,然后咱现在呢,把这order detail1转换,那就OK了,对吧?哎,然后接下来咱们现在呢,在这里对吧,处理的是什么?处理是我现在一个数据了,对吧,好了,那么咱。
09:49
那现在呢,把这个东西完成之后,后面的东西应该是没变的,咱们现在呢,再运行一下,看一下行不行啊。
10:04
好了,那么他现在呢,这个没报错对吧,大家下去的时候呢,也稍微注意一下这块呢,就是相当于什么,就是咱们直接对卡不卡卡斯莫里克尔进行操作的时候呢,对吧,那么他呢,这个不允许咱们对吧,就直接对我这做一些输出啊,或者做一些其实主要是输出的时候有问题,但是大家想一想,你还不能用正常的咱们那个B包检查去解释这个事。对吧,同学你想一想,如果B包检测的话,是不是只要我调到这算子那都不行啊,对吧,你想一想,咱们如果是调正常B包检测的话,说你看我原来呢,在这里你光是瑞克了,我说我叫print不行,但你说我现在调map的话,这个算子它没有访问到咱们瑞克了吗?也访问了呀,短吧暂这就没事是不是对就是我现在呢,在这呢,这个关于我们现在卡送块的话,对吧,大家知道就是你拿到它之后呢,你别对它对吧,进行一些我们的转换,先干什么呢?先把它value给拿到对吧,先把value拿到对吧,然后呢,拿到value之后,然后接下来再去做后续的一些处理啊,这个后续的处理好了,然后接着把这些东西都取完之后呢,那么咱们呢,来看一看我们现在这个运营效果对吧?呃,把这个呢,我去运行一下啊,来看啊,咱们成新的效果。
11:24
这个订单还有订单明细是吧。来大家看一看,那么咱们现在输出的这个东西,对咱们现在呢,不好心好不容易出来的,是不是这个手啊,咱们现在好不容易出来啊,咱好不易出来这个东西,大家想一想,我现在这里包含的东西是不是应该是订单订单明细这两部分啊,对吧?你觉得这个记录条数应该和谁是一样的啊,和订单一样,和订订单明细是一样的,应该和明细一样的,对吧?应该明细一样的,那来来看一看啊,啊这回咱现在呢,这里边咱们主要想看什么呢?我是想点他们的同学们对吧?那么咱们现在主要想看什么呢?那这里呢,那你应该把这个东西给看到,这说明什么,说明这个是我们订单,它围绕关联之后的结果是不是展示到这儿了,那么咱们呢,应该可以把这个东西给他看到,对吧,像这些东西说明什么,说明是不是应该是咱们订单明细里边它的一些品牌呀,什么这些东西是不是有啊,对吧,你像咱现在这个东西,那应该是我们。
12:39
这个PU啊,然后这块呢,那应该什么品牌品类什么的,像这些东西呢,那应该在咱们明细系里边做关联的时候,对吧,给他给他关联上了对吧,那所以说我现在呢,这个双流合并这块呢,就完事了啊,双流合并就完事了对吧?来我现在把它停一。
我来说两句
666
6666
666
感谢分享
666
可以
棒啊
感谢分享
666
厉害了,学习学习。