Flink学习20:聚合算子(sum,max,min)

这篇具有很好参考价值的文章主要介绍了Flink学习20:聚合算子(sum,max,min)。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

1.聚合算子简介

常见的聚合算子 sum,max,min等

聚合算子可以在在keyedStream 流上进行滚动的聚合(即累计的操作),而且同一个 keyedStream 流上只能调用一次 聚合算子

Flink学习20:聚合算子(sum,max,min)

 文章来源地址https://www.toymoban.com/news/detail-471425.html

sum 示例:

import org.apache.flink.api.scala.createTypeInformation
import org.apache.flink.streaming.api.scala.StreamExecutionEnvironment

object aggregationTest {

//defined the dataSource's type
  case class StockPrice(stockId:String, timeStamp:Long, price:Double)


  def main(args: Array[String]): Unit = {

    //create env
    val env = StreamExecutionEnvironment.getExecutionEnvironment

    //generate ds

    val stockList = List(StockPrice("stock_1", 66666, 1)
      , StockPrice("stock_1", 8888, 2)
      , StockPrice("stock_2", 77777, 1)
      , StockPrice("stock_2", 999, 3)
      , StockPrice("stock_3", 3333, 1)
    )

    val ds = env.fromCollection(stockList)

    //transformation

    val keyedStream = ds.keyBy("stockId")

    val sumedStream = keyedStream.sum(2)

    sumedStream.print()

    env.execute()

  }

}

输出结果:

Flink学习20:聚合算子(sum,max,min)

max示例:

import org.apache.flink.api.scala.createTypeInformation
import org.apache.flink.streaming.api.scala.StreamExecutionEnvironment

//defined the dataSource's type
case class StockPrice(stockId:String, timeStamp:Long, price:Double)

object maxTest {

  def main(args: Array[String]): Unit = {

    //create env
    val env = StreamExecutionEnvironment.getExecutionEnvironment

    //generate ds
    val stockList = List(StockPrice("stock_1", 66666, 1)
      , StockPrice("stock_1", 8888, 2)
      , StockPrice("stock_2", 77777, 1)
      , StockPrice("stock_2", 999, 3)
      , StockPrice("stock_3", 3333, 1)
    )

    val ds = env.fromCollection(stockList)

    //transformation
    val keyedStream = ds.keyBy("stockId")

    val maxedStream = keyedStream.max(2)

    maxedStream.print()

    env.execute()

  }


}

输出结果:

Flink学习20:聚合算子(sum,max,min)

 

 

到了这里,关于Flink学习20:聚合算子(sum,max,min)的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • Max-Min算法

    任务调度算法,随着多核处理器的发展,带来了新的挑战。如何利用高效的任务调度策略使得多核处理器充分发挥性能,是急需解决的问题。动态任务调度是根据运行时的情况动态的将任务分配到对应的资源上,但是需要实时的收集系统计算资源、存储资源以及网络资源等信

    2024年02月11日
    浏览(29)
  • Flink学习之旅:(三)Flink源算子(数据源)

            Flink可以从各种数据源获取数据,然后构建DataStream 进行处理转换。source就是整个数据处理程序的输入端。 数据集合 数据文件 Socket数据 kafka数据 自定义Source         创建 FlinkSource_List 类,再创建个 Student 类(姓名、年龄、性别三个属性就行,反正测试用) 运行结果

    2024年02月06日
    浏览(35)
  • Flink|《Flink 官方文档 - DataStream API - 算子 - 窗口》学习笔记

    学习文档:《Flink 官方文档 - DataStream API - 算子 - 窗口》 学习笔记如下: 窗口(Window):窗口是处理无界流的关键所在。窗口可以将数据流装入大小有限的 “桶” 中,再对每个 “桶” 加以处理。 Keyed Windows 在 Keyed Windows 上使用窗口时,要调用 keyBy(...) 而后再调用 window(..

    2024年01月18日
    浏览(34)
  • 组合数学——Min-Max容斥

    Min-Max 容斥,即 $$max(S)=sum_{Tin S,Tneqemptyset}(-1)^{|T|-1}min(T)$$ 接下来证明上面那个式子是对的。定义 (S) 中共有 (N) 个元素,由大到小分别为 (s_1,s_2,dots,s_N) , (T_i) 为所有 (S) 大小为 (i) 的子集。 所有元素都大于 (s_i) 且大小为 (j) 的子集有 (tbinom{i-1}{j}) 个;则最

    2024年04月08日
    浏览(24)
  • C++ max() 、min() 函数进行多数比较

    很多人知道C++中max(),min(),函数的二数比较,即max(a, b),min(a, b)。但很多人不知道有多个数如何利用该自带的函数比较,这里给出方法:只需要在max(),min()函数内用一个大括号括住自己想要比较的数的集合即可, 同理,大括号内是自己提前定义的变量也能进行比较 运行结果

    2024年02月06日
    浏览(28)
  • C++ max和min函数详细使用指南

    C++ 是一种强大而灵活的编程语言,具有丰富的标准库,其中包括了一系列实用的函数。其中, max 和 min 函数是处理数值的时候经常用到的工具。本文将深入探讨这两个函数的使用方法,以及它们在不同情景下的应用。 首先,让我们来看一下 max 函数。该函数用于获取一组值

    2024年01月25日
    浏览(31)
  • 【C++】详解 INT_MAX 和 INT_MIN(INT_MAX 和 INT_MIN是什么?它们的用途是什么?如何防止溢出?)

    目录 一、前言  二、什么是 INT_MAX 和 INT_MIN ? 三、INT_MAX 和 INT_MIN 的用途  四、如何避免溢出问题出现 ?  五、 INT_MAX 和 INT_MIN 的运算  六、leetcode 常考面试题  七、共勉     大家在平时刷 leetcode 的时候,肯定会碰到 溢出问题 ,之后查看题解,大部分题解都会通过 INT_

    2024年03月26日
    浏览(42)
  • Go 1.21.0 新特性min 和 max 内置函数解析

    Go 1.21.0 是 Go 语言的最新版本,它将在 2023 年 8 月发布,会带来了一些语言和工具的变化。其中一个值得关注的变化是增加了两个新的内置函数 min 和 max,用来对任意可比较类型进行最小值和最大值的操作。这是很常见的需求,现在有内置实现了。本文将介绍这两个函数的背

    2024年02月12日
    浏览(31)
  • python入门,数据容器的通用操作(len,max,min,sorted)

        list(容器)将给定容器转化为列表 字符串转列表将字符串内的每一个元素都取了出来作为列表的每一个元素 字典则只会取出它的key,value会消失 str(容器)将给定容器转化为字符串 转化为字符串相当于在容器的两边加上双引号 tuple(容器)将给定容器转化为元组 set(

    2024年01月16日
    浏览(29)
  • 数据聚合和联邦学习,常见的聚合有三类

    目录 数据聚合和联邦学习 数据仓库方法 常见的聚合有三类:

    2024年02月07日
    浏览(25)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包