大数据Flink进阶(三):Flink核心特性_天天视点
Flink具有先进的架构理念,拥有诸多的优秀特性以及完善的编程接口,Flink的优势有以下几点:
Flink具有先进的架构理念,拥有诸多的优秀特性以及完善的编程接口,Flink的优势有以下几点:
Flink可以在底层用同样的数据抽象和计算模型来进行批处理和流处理。事实上,Flink在设计理念上没有刻意强调批处理和流处理,而更多的强调数据的有界和无界,这就意味着Flink能够满足企业业务需求,无需用两种甚至多种框架分别实现批处理和流处理,这大大降低了架构设计、开发、运维的复杂度,可以节省大量的人力成本。
(相关资料图)
Flink是目前开源社区中唯一一套集高吞吐、低延迟、高性能三者于一身的分布式流式数据处理框架。像Apache Spark也只能兼顾高吞吐和高性能特性,主要因为在SparkStreaming流式计算中无
法做到低延迟保障;而流式计算框架Apache Storm只能支持低延迟和高性能特性,但是无法满足高吞吐的要求。而满足高吞吐、低延迟、高性能这三个目标对分布式流式计算框架来说是非常重要的。
在流式计算领域中,窗口计算的地位举足轻重,但目前大多数框架窗口计算采用的都是系统时间(Process Time),也是事件传输到计算框架处理时,系统主机的当前时间。Flink能够支持基于事件时间(Event Time)语义进行窗口计算,也就是使用事件产生的时间,这种基于事件驱动的机制使得事件即使乱序到达,流系统也能够计算出精确的结果,保持了事件原本产生时的时序性,尽可能避免网络传输或硬件系统的影响。
Flink在1.4版本中实现了状态管理,所谓状态就是在流式计算过程中将算子的中间结果数据保存在内存或者文件系统中,等下一个事件进入算子后可以从之前的状态中获取中间结果中计算当前的结果, 从而无须每次都基于全部的原始数据来统计结果,这种方式极大地提升了系统的性能,并降低了数据计算过程的资源消耗。对于数据量大且运算逻辑非常复杂的流式计算场景,有状态计算发挥了非常重要的作用。
在流处理应用中,数据是连续不断的,需要通过窗口的方式对流数据进行一定范围的聚合计算,例如统计在过去的1分钟内有多少用户点击某一网页,在这种情况下,我们必须定义一个窗口,用来收集最近一分钟内的数据,并对这个窗口内的数据进行再计算。Flink将窗口划分为基于Time、Count、Session,以及Data-driven等类型的窗口操作,窗口可以用灵活的触发条件定制化来达到对复杂的流传输模式的支持,用户可以定义不同的窗口触发机制来满足不同的需求。
Flink能够分布式运行在上千个节点上,将一个大型计算任务的流程拆解成小的计算过程,然后将task分布到并行节点上进行处理。在任务执行过程中,能够自动发现事件处理过程中的错误而导致数据不一致的问题,比如:节点宕机、网路传输问题,或是由于用户因为升级或修复问题而导致计算服务重启等。在这些情况下,通过基于分布式快照技术的Checkpoints,将执行过程中的状态信息进行持久化存储,一旦任务出现异常停止,Flink就能够从Checkpoints中进行任务的自动恢复,以确保数据在处理过程中的一致性(Exactly-Once)。
内存管理是所有计算框架需要重点考虑的部分,尤其对于计算量比较大的计算场景,数据在内存中该如何进行管理显得至关重要。针对内存管理,Flink实现了自身管理内存的机制,尽可能减少JVM GC 对系统的影响。另外,Flink通过序列化/反序列化方法将所有的数据对象转换成二进制在内存中存储,降低数据存储的大小的同时,能够更加有效地对内存空间进行利用,降低GC带来的性能下降或任务异常的风险,因此Flink较其他分布式处理的框架会显得更加稳定,不会因为JVM GC等问题而影响整个应用的运行。
对于7*24小时运行的流式应用,数据源源不断地接入,在一段时间内应用的终止有可能导致数据的丢失或者计算结果的不准确,例如进行集群版本的升级、停机运维操作等操作。值得一提的是, Flink通过Save Points技术将任务执行的快照保存在存储介质上,当任务重启的时候可以直接从事先保存的Save Points恢复原有的计算状态,使得任务继续按照停机之前的状态运行,Save Points技术可以让用户更好地管理和运维实时流式应用。
Flink为用户提供了多个层级API,用户可以根据自身对于表达力和易用性的需求来选择,不同的API 层级可以混用以实现复杂的业务逻辑。
关键词:
[ 相关文章 ]
Flink具有先进的架构理念,拥有诸多的优秀特性以及完善的编程接口,Flink的优势有以下几点:
新华视点丨木棉花开“零碳村”
据环球网援引美国全国广播公司(NBC)18日爆料,了解情况的5名高级官员透露,美国前总统特朗普可能最早于下周被起诉,当地州与联邦的执法和安
1、Shndun,人物是舞蹈的化身,是戏曲表演艺术塑造人物形象,促使其内心活动的手段之一。2、源于生活,但绝不是对生活的
1、写明因为什么原因要进行调班,调班的时间段写清楚,还要写明调班的人员等等。2、说明调班原因,几点到几点,哪个班组进行调
1、第一幕应该是火箭吧……火箭的话一把狐弓,一件硬皮,一顶骷髅帽。2、火球在第三幕,火球的话装备很好配的,一个稍微附加一
当下的经济形势,对于一些普通创业者来说,选择在再生资源领域谋求挣钱,就不失为一条好的发展途径,特别是在农村,因为资源丰富,且项目整体
为了竞选?特朗普重返“脸书”:我回来了!---当地时间17日,美国前总统特朗普时隔两年在YouTube和脸书(Facebook)上发帖,用透着“特朗普风”
1、去百度文库,查看完整内容>内容来自用户:叶祎昕一施工技术组织措施(一)施工技术措施1 工期目标及保证措施(1
1、晋城市众辉供电服务有限公司于2015年06月25日在晋城市工商行政管理局登记成立。2、法定代表人李海青,公司经营范围
1、《我是一只小小鸟》填词:李宗盛谱曲:李宗盛歌曲原唱:赵传有时候我觉得自己像一只小小鸟,想要飞却怎么样也飞不高也许有一
取消发行“23长兴农商银行CD011”
1、您需要的小说。2、已发送请注意查收。3、望阅读愉快----------西铭末羽。本文到此分
2023年3月17日,科学技术部高技术研究发展中心(科学技术部基础研究管理中心)发布了2022年度中国科学十大进展,分别
》》》最新消息:第32届天津运河桃花文化商贸旅游节即将隆重拉开帷幕,为增加桃花节的文化元素,红桥邮政专门为本届桃花节设计了主题邮品,包
3月15日,第十三届狄耐克“3·15全国质量万里行”启动仪式发布会以线下主会场、线上同步直播的方式拉开帷幕。狄耐克副总经理侯宏强对记者表示
1、可笑,微笑,大笑,笑柄、笑话、笑料、笑貌、笑面虎、笑眯眯、笑纳、笑容、笑纹、笑窝、笑星、笑颜、笑影、笑语、笑吟吟、笑
2023年3月16日禾川科技融资净偿还34 89万元,融资余额6146 05万元
1、如果子宫内有积液,一般认为子宫内可能有炎症。2、那么这种情况主要需要通过药物对症治疗。3、这个要看目前的积液量,如果
【拉尼娜事件预计于2023年春季结束厄尔尼诺或卷土重来】中国自然资源部国家海洋环境预报中心16日公布的会商预测结果显示,连续三年的拉尼娜事
[ 相关新闻 ]
Copyright 2015-2022 起点医院网 版权所有 备案号:皖ICP备2022009963号-12 联系邮箱: 39 60 29 14 2@qq.com