hive高频使用的拼接函数及“避坑”
说到拼接函数应用场景和使用频次还是非常高,比如一个员工在公司充当多个角色,我们在底层存数的时候往往是多行,但是应用的时候我们通常会只需要一行,角色字段进行拼接,这样join其他表的时候呢也不会造成数据被重复引用计算。
1、拼接多个字符串concat_null(…)
从上图中的说明中我们可以看到,在应用场景中,通常使用concat_null(…)防止由于有null存在导致的拼接异常。
2. 用分隔符拼接多个字符串concat_ws(…)
需要注意的是concat_ws(…)可以直接处理掉null,而且如果将sep分割符使用’'(空值),则功能和concat_null(…)一样。
3、collect_set、collect_list实现列转行
由于collect_set在实现列转行的时候进行了去重处理,自然实际应用中应用的也会更多。文章来源:https://www.toymoban.com/news/detail-646225.html
4、“避坑” null和非字符串字段
由于在实际生产环境中,我们所使用的引擎有所不同,兼容性也不同。有时候NULL和非字符串字段在查询时也会出现问题。文章来源地址https://www.toymoban.com/news/detail-646225.html
1、通常我们可以把null进行替换。if(字段名 is null,‘’,字段名)
2、非字符串转化为字符串 cast(字段名 as string)
`SELECT id, concat_ws(',',collect_set( cast(if(角色 is null,'',角色) as string) )) AS `角色`
-- 将每个id对应多个的角色去重组合放到一行,并使用英文','分隔角色
FROM emp WHERE dt = '20230618' GROUP BY 1 `
到了这里,关于hive高频使用的拼接函数及“避坑”的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!