ETL工程師是做什么的?本文提供ETL工程師的崗位職責(zé)例子,包括詳細(xì)的工作內(nèi)容及任職要求。
崗位職責(zé):
1、現(xiàn)有數(shù)據(jù)倉(cāng)庫(kù)維護(hù)工作,SQL編寫(xiě);
2、負(fù)責(zé)數(shù)據(jù)倉(cāng)庫(kù)的數(shù)據(jù)模型設(shè)計(jì),新數(shù)據(jù)應(yīng)用需求開(kāi)發(fā),包括ETL,存儲(chǔ)過(guò)程等;
1、本科及以上學(xué)歷,計(jì)算機(jī)、數(shù)理統(tǒng)計(jì)等專(zhuān)業(yè)優(yōu)先;
2、2年及以上工作經(jīng)驗(yàn);1年以上數(shù)據(jù)分析開(kāi)發(fā)工作;
3、熟悉關(guān)系數(shù)據(jù)庫(kù)原理,熟悉sql server、Oracle等數(shù)據(jù)庫(kù),具有良好的SQL語(yǔ)言技能,精通存儲(chǔ)過(guò)程、函數(shù);
4、熟練使用主流的數(shù)據(jù)庫(kù)分析、設(shè)計(jì)工具,能獨(dú)立完成數(shù)據(jù)倉(cāng)庫(kù)的架構(gòu)設(shè)計(jì)、ETL數(shù)據(jù)整合方案的實(shí)現(xiàn);
5、精通數(shù)倉(cāng)的ETL、建模、報(bào)表開(kāi)發(fā)的能力;
6、精通一門(mén)編程語(yǔ)言的優(yōu)先;(C# 或者 JAVA)
7、對(duì)數(shù)據(jù)分析和數(shù)據(jù)挖掘有濃厚興趣者優(yōu)先考慮。
1.負(fù)責(zé)數(shù)據(jù)收集整理分析,對(duì)多種數(shù)據(jù)源進(jìn)行深度分析,利用ETL工具或者開(kāi)發(fā)程序完成數(shù)據(jù)抽取、清洗、轉(zhuǎn)換、裝載
2.負(fù)責(zé)ETL流程的優(yōu)化及解決ETL相關(guān)技術(shù)問(wèn)題,開(kāi)發(fā)Kettle處理插件并能根據(jù)業(yè)務(wù)需求修改Kettle源碼
崗位要求:
1.熟練掌握java語(yǔ)言,至少一年以上開(kāi)發(fā)經(jīng)驗(yàn)
2.熟悉Linux或Unix操作系統(tǒng),掌握常用命令
3.熟練掌握腳本語(yǔ)言shell、perl、python至少一種
4.熟悉Oracle、SQLServer、Mysql等數(shù)據(jù)庫(kù),有較好的SQL性能調(diào)優(yōu)經(jīng)驗(yàn)者優(yōu)先
5.一年以上ETL項(xiàng)目開(kāi)發(fā)和實(shí)施工作經(jīng)驗(yàn),熟練掌握ETL工具
6.有互聯(lián)網(wǎng)公司或海量數(shù)據(jù)處理工作經(jīng)驗(yàn),數(shù)據(jù)分析和挖掘經(jīng)驗(yàn)者優(yōu)先
1、參與數(shù)據(jù)平臺(tái)相關(guān)應(yīng)用項(xiàng)目的ETL設(shè)計(jì)、開(kāi)發(fā)、維護(hù)工作;
2、參與ETL調(diào)度架構(gòu)的開(kāi)發(fā)優(yōu)化工作;
4、與團(tuán)隊(duì)內(nèi)部以及需求部門(mén)進(jìn)行有效溝通,跟進(jìn)項(xiàng)目進(jìn)度以及解決相關(guān)數(shù)據(jù)問(wèn)題;
5、完成上級(jí)主管分配的工作任務(wù),并達(dá)到公司制度規(guī)定的考核要求;
6、參與Informatica服務(wù)工作,包括Informatica性能調(diào)優(yōu),服務(wù)的安裝發(fā)布,及Informatica工具的相關(guān)培訓(xùn)。
崗位職責(zé):
1、 參與數(shù)據(jù)平臺(tái)的定義,規(guī)劃,設(shè)計(jì)和項(xiàng)目監(jiān)督;
3、 與技術(shù)部和基礎(chǔ)設(shè)施團(tuán)隊(duì)協(xié)助,完成數(shù)據(jù)倉(cāng)庫(kù)的建設(shè)與推進(jìn);
4、 協(xié)助經(jīng)理從技術(shù)層面完成所有的技術(shù)實(shí)施架構(gòu),包括hadoop大數(shù)據(jù)平臺(tái)、數(shù)據(jù)倉(cāng)庫(kù)、數(shù)據(jù)模型、etl、olap、報(bào)表平臺(tái)、元數(shù)據(jù)管理、主數(shù)據(jù)管理、分布式數(shù)據(jù)平臺(tái)等;
5、 參與建立和維護(hù)技術(shù)規(guī)范、流程、文檔,確保和項(xiàng)目需求保持同步;
6、 參與Informatica服務(wù)工作,包括Informatica性能調(diào)優(yōu),服務(wù)的安裝發(fā)布,及客戶(hù)現(xiàn)場(chǎng)培訓(xùn)。
任職資格:
1、 本科及以上學(xué)歷,特別優(yōu)秀者可放寬到大專(zhuān)學(xué)歷。
2、 精通ETL開(kāi)發(fā)實(shí)施流程和原理,有豐富的實(shí)際大型數(shù)據(jù)倉(cāng)庫(kù)的ETL開(kāi)發(fā)和ETL流程優(yōu)化經(jīng)驗(yàn);
3、 熟練使用一種以上常用的數(shù)據(jù)倉(cāng)庫(kù)工具:ETL工具如Datastage,Informatica等和報(bào)表工具如Cognos、BO等;
5、 掌握主流傳統(tǒng)數(shù)據(jù)庫(kù),精通SQL,有一定的SQL編寫(xiě)和優(yōu)化調(diào)優(yōu)經(jīng)驗(yàn);
4、 熟練使用Linux/AIX系統(tǒng),熟練使用Shell等腳本語(yǔ)言;
6、 具有主數(shù)據(jù)管理經(jīng)驗(yàn)者優(yōu)先;
7、 具有豐富的數(shù)據(jù)統(tǒng)計(jì)及分析經(jīng)驗(yàn),能夠準(zhǔn)確把握企業(yè)用戶(hù)需求;
8、性格積極樂(lè)觀、誠(chéng)信、有較強(qiáng)的語(yǔ)言表達(dá)能力,具備強(qiáng)烈的進(jìn)取心、求知欲及團(tuán)隊(duì)合作精神。
ETL工程師
職位描述:
- 負(fù)責(zé)數(shù)據(jù)倉(cāng)庫(kù)/數(shù)據(jù)集市ETL設(shè)計(jì)開(kāi)發(fā);負(fù)責(zé)與業(yè)務(wù)部門(mén)數(shù)據(jù)需求的溝通與確認(rèn);
任職資格:
- 三以上工作經(jīng)驗(yàn);熟悉主流ETL開(kāi)發(fā)工具,如:SSIS 、Kettle、Datastage等;熟練掌握主流數(shù)據(jù)庫(kù)的使用,如:SQL Server、Mysql、Oracle,對(duì)SQL查詢(xún)優(yōu)化有豐富的經(jīng)驗(yàn);熟悉主流報(bào)表工具,如:Tableau、PowerBi、Cognos;良好的溝通技能,清晰的邏輯思維能力;工作認(rèn)真仔細(xì),積極主動(dòng),具備較強(qiáng)的自主學(xué)習(xí)、自我總結(jié)能力。
加分項(xiàng):
- 熟練使用HIVE/HBASE/Sqoop等大數(shù)據(jù)框架具有Hadoop、Spark、Springboot與SpringMVC等大數(shù)據(jù)開(kāi)發(fā)經(jīng)驗(yàn)的優(yōu)先。