我有一个csv文件,它有以下结构。
ERP,J,JACKSON,8388 SOUTH CALIFORNIA ST.,TUCSON,AZ,85708,267-3352,,ALLENTON,MI,48002,810,710-0470,369-98-6555,462-11-4610,1953-05-00,F,
MARKETING,J,JACKSON,8388 SOUTH CALIFORNIA ST.,TUCSON,AZ,85708,267-3352,,ALLENTON,MI,48002,810,710-0470,369-98-6555,462-11-4610,1953-05-00,F,
正如您所看到的,这里没有标题,但是对于您的信息,第一部分(第一列)表示获取数据的扇区。
我要做的是根据第一列值,例如(营销或ERP),我必须将所有这些行发送到不同的输出目录。
例如,有ERP到/output/ERP的所有行/有营销到/output/销售/的所有行
我有一个如何做它的想法,但我的问题是关于我正在使用的RouteOnAttribute处理器,我不知道如何引用第一列,并指出什么是价值(ERP或市场营销)以后发送到正确的输出目录。
这是我的模式。
谢谢。
发布于 2018-12-12 22:59:24
在这种情况下使用PartitionRecord
处理器。
用record reader/writer controller services
配置处理器。即使没有标头,也可以在avro模式中使用col1、col2...etc。
现在分区记录处理器用值添加partition field attribute
,通过使用这个属性值,我们可以动态地将dynamically store files
添加到受尊重的目录中。
流:
1.GetFile
2.PartitionRecord
3.PutFile //configure directory as /output/${<keep_partition_field_name_here>}
请参考这链接配置分区记录处理器的使用。
(或)
旧方法:
使用RouteText
处理器代替SplitText + RouteOnAttribute
处理器
将RouteText处理器配置为
使用ERP/MARKETING
连接连接到PutFile处理器,并使用RouteText.Route
属性值动态地将文件保存到目录中。
流:
1.GetFile
2.RouteText
3.PutFile //configure directory as /output/${RouteText.Route}/
还可以使用组正则表达式属性值创建分区。
Note
使用PartitionRecord处理器将比RouteText处理器更有效地处理。
https://stackoverflow.com/questions/53752491
复制相似问题