架構(gòu)師
互聯(lián)網(wǎng)
大數(shù)據(jù)
API
推薦課程
average > 0 ? $model->average . '分' : '10.0分' ?>

如何利用DDD思想、使用Flink框架,搭建流計算平臺

蓋瑞

一線互聯(lián)網(wǎng)公司 大數(shù)據(jù)專家

曾在微博、樂視、新浪負責(zé)過多個業(yè)務(wù)線的PB級數(shù)據(jù)倉庫建設(shè)、流式計算服務(wù)、AIOps的探索應(yīng)用。精通Hadoop, Spark, Flink, Kafka, Elasticsearch等大數(shù)據(jù)技術(shù)。在Github上,他領(lǐng)導(dǎo)團隊開源了Waterdrop項目,一個支持Spark,F(xiàn)link引擎的數(shù)據(jù)計算產(chǎn)品。Waterdrop在字節(jié)跳動、360、微博、新浪等生產(chǎn)環(huán)境中有持續(xù)產(chǎn)生收益。
參與設(shè)計、研發(fā)PB級面向運維以及用戶行為分析的數(shù)據(jù)倉庫,每日數(shù)據(jù)增量70T+,管理超過200個計算任務(wù)。
設(shè)計并研發(fā)過自助化構(gòu)建圖表、看板的BI系統(tǒng),基于此系統(tǒng)管理超過100個用戶行為分析的數(shù)據(jù)模型及看板。

曾在微博、樂視、新浪負責(zé)過多個業(yè)務(wù)線的PB級數(shù)據(jù)倉庫建設(shè)、流式計算服務(wù)、AIOps的探索應(yīng)用。精通Hadoop, Spark, Flink, Kafka, Elasticsearch等大數(shù)據(jù)技術(shù)。在Github上,他領(lǐng)導(dǎo)團隊開源了Waterdrop項目,一個支持Spark,F(xiàn)link引擎的數(shù)據(jù)計算產(chǎn)品。Waterdrop在字節(jié)跳動、360、微博、新浪等生產(chǎn)環(huán)境中有持續(xù)產(chǎn)生收益。 參與設(shè)計、研發(fā)PB級面向運維以及用戶行為分析的數(shù)據(jù)倉庫,每日數(shù)據(jù)增量70T+,管理超過200個計算任務(wù)。 設(shè)計并研發(fā)過自助化構(gòu)建圖表、看板的BI系統(tǒng),基于此系統(tǒng)管理超過100個用戶行為分析的數(shù)據(jù)模型及看板。

課程費用

5800.00 /人

課程時長

3小時

成為教練

課程簡介

此議題首先會介紹近5年大海量數(shù)據(jù)計算技術(shù)的演進規(guī)律,并詳細對比主流計算框架如Spark,F(xiàn)link,Beam的異同,從中梳理出海量數(shù)據(jù)計算的通用編程模型。其次,針對Flink的核心技術(shù)點包括有狀態(tài)的數(shù)據(jù)處理、常用API、窗口、異步IO等做深入的介紹。之后將介紹如何從0到1開發(fā)出一個基于Flink的配置化、高度可擴展、計算平臺,以及如何應(yīng)用領(lǐng)域驅(qū)動設(shè)計(DDD)來更好的實現(xiàn)各業(yè)務(wù)的大數(shù)據(jù)計算需求。

一、海量數(shù)據(jù)處理技術(shù)的演進規(guī)律及核心技術(shù)點
二、Flink核心技術(shù)深入淺出(有狀態(tài)的數(shù)據(jù)處理、常用API、窗口、checkpoint,異步IO等)
三、Spark,F(xiàn)link,Beam深入比較和應(yīng)用場景分析
四、從0到1開發(fā)出一個基于Flink的配置化、高度可擴展、計算平臺
五、領(lǐng)域驅(qū)動設(shè)計核心知識;如何用Flink結(jié)合領(lǐng)域驅(qū)動設(shè)計拆解業(yè)務(wù)需求。

目標收益

1. Flink核心技術(shù)的深入理解。
2. 流式和離線海量數(shù)據(jù)計算平臺的設(shè)計的抽象與分層能力
3. 用Flink實現(xiàn)一個通用數(shù)據(jù)計算產(chǎn)品的方法。
4. 領(lǐng)域驅(qū)動設(shè)計(DDD)的核心知識和它在大數(shù)據(jù)領(lǐng)域的應(yīng)用。

培訓(xùn)對象

課程內(nèi)容

此議題首先會介紹近5年大海量數(shù)據(jù)計算技術(shù)的演進規(guī)律,并詳細對比主流計算框架如Spark,F(xiàn)link,Beam的異同,從中梳理出海量數(shù)據(jù)計算的通用編程模型。其次,針對Flink的核心技術(shù)點包括有狀態(tài)的數(shù)據(jù)處理、常用API、窗口、異步IO等做深入的介紹。之后將介紹如何從0到1開發(fā)出一個基于Flink的配置化、高度可擴展、計算平臺,以及如何應(yīng)用領(lǐng)域驅(qū)動設(shè)計(DDD)來更好的實現(xiàn)各業(yè)務(wù)的大數(shù)據(jù)計算需求。

一、海量數(shù)據(jù)處理技術(shù)的演進規(guī)律及核心技術(shù)點
二、Flink核心技術(shù)深入淺出(有狀態(tài)的數(shù)據(jù)處理、常用API、窗口、checkpoint,異步IO等)
三、Spark,F(xiàn)link,Beam深入比較和應(yīng)用場景分析
四、從0到1開發(fā)出一個基于Flink的配置化、高度可擴展、計算平臺
五、領(lǐng)域驅(qū)動設(shè)計核心知識;如何用Flink結(jié)合領(lǐng)域驅(qū)動設(shè)計拆解業(yè)務(wù)需求。

活動詳情

提交需求