第1关:Hive排序
任务描述
本关任务:2013
年7
月22
日买入量最高的三种股票。
相关知识
为了完成本关任务,你需要掌握:1. Hive
的几种排序;2. limit
使用。
hive的排序
① order by
-
order by
后面可以有多列进行排序,默认按字典排序(desc
:降序,asc
(默认):升序); -
order by
为全局排序; -
order by
需要reduce
操作,且只有一个reduce
,无法配置(因为多个reduce
无法完成全局排序); - 如果指定了
hive.mapred.mode=strict
(默认值是nonstrict
),这时就必须指定limit
来限制输出条数。
表名:student
class | name | scores |
---|---|---|
A |
xiaoming |
89 |
A |
xiaojun |
72 |
B |
xiaohong |
88 |
C |
xiaoqiang |
92 |
C |
xiaogang |
84 |
按scores
降序:
select * from student order by scores desc;
输出
C xiaoqiang 92
A xiaoming 89
B xiaohong 88
C xiaogang 84
A xiaojun 72
② sort by
Hive
中指定了sort by
,那么在每个reducer
端都会做排序,也就是说保证了局部有序(每个reducer
出来的数据是有序的,但是不能保证所有的数据是有序的,除非只有一个reducer
),好处是:执行了局部排序之后可以为接下去的全局排序提高不少的效率(其实就是做一次归并排序就可以做到全局排序了)。
按scores
降序:
select * from student sort by scores desc;
输出:
C xiaoqiang 92
A xiaoming 89
B xiaohong 88
C xiaogang 84
A xiaojun 72
③ distribute by
distribute by
控制map
输出结果的分发,相同字段的map
输出会发到一个reduce
节点去处理。sort by
为每一个reducer
产生一个排序文件,他俩一般情况下会结合使用。(这个肯定是全局有序的,因为相同的class
会放到同一个reducer
去处理。这里需要注意的是distribute by
必须要写在sort by
之前)。
按scores
降序:
select * from student distribute by class sort by scores desc;
输出:
C xiaoqiang 92
A xiaoming 89
B xiaohong 88
C xiaogang 84
A xiaojun 72
④ cluster by
如果sort by
和distribute by
中所用的列相同,可以缩写为cluster by
以便同时制定两者所用的列cluster by
的功能就是distribute by
和sort by
相结合(注意被cluster by
指定的列只能是升序,不能指定asc
和desc
)。
以下两句HQL
查询结果相同:
select * from student cluster by scores;
select * from student distribute by scores sort by scores desc;
输出:
A xiaojun 72
C xiaogang 84
B xiaohong 88
A xiaoming 89
C xiaoqiang 92
limit
在Hive
查询中要限制查询输出条数, 可以用limit
关键词指定
只输出2
条数据:
select * from student limit 2;
输出:
A xiaoming 89
A xiaojun 72
编程要求
在右侧编辑器补充代码,查询出2013
年7
月22
日的哪三种股票买入量最多。
表名:total
col_name | data_type | comment |
---|---|---|
tradedate |
string |
交易日期 |
tradetime |
string |
交易时间 |
securityid |
string |
股票ID |
bidpx1 |
string |
买入价 |
bidsize1 |
int |
买入量 |
offerpx1 |
string |
卖出价 |
bidsize2 |
int |
卖出量 |
部分数据如下所示:
20130724 145004 152896 2.62 6960 2.63 13000
20130724 145101 152896 2.86 13880 2.89 6270
20130724 145128 152896 2.85 327400 2.851 1500
20130724 145143 152896 2.603 44630 2.8 10650
数据说明:
(152896:每种股票id)
(20130724: 2013年7月24日)
(145004: 14点50分04秒)
测试说明
平台会对你编写的代码进行测试:
预期输出:
股票id
买入量文章来源:https://www.toymoban.com/news/detail-423449.html
553211 680580680
412233 230929160
856947 104360800
开始你的任务吧,祝你成功!文章来源地址https://www.toymoban.com/news/detail-423449.html
----------禁止修改----------
create database if not exists mydb;
use mydb;
create table if not exists total(
tradedate string,
tradetime string,
securityid string,
bidpx1 string,
bidsize1 int,
offerpx1 string,
bidsize2 int)
row format delimited fields terminated by ','
stored as textfile;
truncate table total;
load data local inpath '/root/files' into table total;
----------禁止修改----------
----------begin----------
select securityid, sum(bidsize1) s
from total
where tradedate="20130722" group by securityid order by s desc limit 3;
----------end----------
到了这里,关于HIVE基本查询操作(二)——第1关:Hive排序的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!