當前位置:才華齋>範例>職場>

大資料開發工程師的具體職責

職場 閱讀(1.12W)
大資料開發工程師的具體職責1

職責:

大資料開發工程師的具體職責

1、 負責公司大資料平臺數據處理工具ETL、流處理平臺等建設,功能規劃,平臺演進,維護調優等;

2、 結合公司業務特徵,負責公司資料倉庫規劃、資料倉庫建設、數倉管理等;

3、 負責大資料處理技術研究及新技術引進,參與超大規模實時/離線資料計算框架,儲存、查詢、視覺化解決方案的設計,研發;

4、 負責公司業務資料倉庫模型建設及全業務資料域打通;

5、 負責BI報表和視覺化專案,和客戶深度溝通,理解客戶的業務挑戰,提供解決方案,制定開發計劃並執行,支援各單位日常資料需求和任務;

任職資格:

1、 熟練掌握關係型資料庫,例如:Oracle、Mysql、Vertica等;熟悉NoSql資料庫,例如HBase、Redis、MongodDB等;具備豐富的資料庫管理和運維調優經驗;

2、 熟悉資料倉庫領域知識和技能者優先,包括但不侷限於:元資料管理、資料開發測試工具與方法、資料質量、主資料管理,資料打通等;

3、 有從事分散式資料儲存與計算平臺應用開發經驗,熟悉Hadoop生態相關技術並有相關實踐經驗著優先,如Hdfs、Mapreduce、Hive、Hbase、Spark、Storm;

4、 精通資料預處理、檢驗、清洗、分析方法,精通各種常用統計檢驗方法;熟練掌握一門或多門程式語言,並有大型專案建設經驗者優先,如Java、Python、Shell和scala等;

5、精通Linux,熟悉日常運維、搭建常見伺服器、定位解決日常問題的能力,具備ETL開發經驗優先;

6、 良好的語言溝通與表達能力,有豐富的資料開發經驗,較強的資料、平臺、技術理解能力;

7、 具備數學類、計算機類等相關專業統招本科及以上學歷,具有3年及以上大資料開發工作經驗,有網際網路行業背景優先。

大資料開發工程師的具體職責2

職責

1. 負責大資料分析需求設計和開發工作,包括資料儲存、預處理、查詢、統計、實時分析、資料優化及配置等功能;

2. 對大資料分析系統存在的問題進行跟蹤和定位並及時解決;

3. 負責上級交辦的其他相關工作。

崗位要求:

1. 本科以上學歷,2年以上工作經驗;

2. Java基礎紮實,熟練使用Java IDE 進行程式碼編寫和除錯,熟悉JUnit單元測試框架;

3. 熟悉Linux作業系統,能在Linux上完成開發、除錯工作;

4. 熟悉網路IO、多執行緒併發程式設計、集合等基礎框架,精通資料結構和資料演算法;

5. 參與過分散式高效能服務的設計開發過程,有大規模分散式系統的實踐經驗;

6. 熟悉資料庫操作和使用的基本技能,熟練一種關係型資料庫的使用;

7. 能獨立編寫詳細設計文件;

8. 有大資料分析工具Hadoop、spark使用開發經驗優先;

9. 具有團隊精神與敬業精神,學習鑽研能力強,具有良好的協調溝通能力。

大資料開發工程師的具體職責3

職責:

1、大資料的分散式採集與環境搭建和測試;

2、大資料儲存、處理和分析工作;

3、大資料相關產品線的改進和相關核心開發工作;

4、其他大資料相關工作。

任職要求:

1、本科及以上學歷,計算機相關專業;

2、2年以上Java開發及大資料相關開發經驗,java基礎紮實,熟練掌握多執行緒、集合、快取、序列化、nio等技術;

3、熟悉Linux環境,熟悉Linux shell/python/perl任一指令碼;

4、熟悉Hadoop、Spark、ZooKeeper等主流的大資料處理架構,並有1年以上Hadoop相關的實際開發、架構及調優經驗;

5、使用過阿里雲;

6、熟悉架構;

7、具有較好的'學習能力、溝通表達能力及團隊合作能力。

大資料開發工程師的具體職責4

職責:

1、本崗位培養方向為證券基金行業資料架構師;

2、輔助大資料架構師制定專案開發流程、規範,輔助資料模型設計人員進行模型設計;

3、輔助技術架構師進行大資料平臺調優(業務邏輯角度);

4、負責大資料平臺開發,包括資料抽取、轉換和載入;

5、負責控制資料需求、管理專案開發進度,配合QA完成專案質量管理;

職位要求:

1、2年以上證券或者基金行業資料中心、大資料平臺建設經驗;

2、具備較強的學習能力,對資料模型和大資料技術有濃厚的興趣;

3、熟練掌握基於ORACLE或MPP資料庫或Hadoop等開發技術;

4、至少掌握一種ETL開發工具。如:Informatica、DataStage、SSIS、Kettle等;

5、良好的團隊合作精神、公司提供優厚待遇。

大資料開發工程師的具體職責5

職責:

1、在hadoop平臺進行hive/hbase/spark開發;

2、處理公司大資料平臺產品的技術工作,包括儲存、處理、分析、挖掘、架構設計、研發工作;

3、熟悉設計、構建和優化基於hadoop/Hbase的儲存平臺架構;

4、熟悉整體提升hadoop/Hbase/Storm/Spark叢集的高可用性、高效能、高擴充套件特性;

5、部門相關工作。

崗位要求:

1、計算機等相關專業大專及以上學歷;

2、3年以上軟體開發經驗,精通Java開發,至少2年以上Hadoop相關開發經驗;

3、熟悉分散式系統、分散式計算系統的工作機制,具有大規模資料平臺,高併發大型系統,大資料等架構設計和開發經驗;

4、熟悉sqoop、Hive、hbase、spark等大資料生態元件;

5、精通linux shell和sql指令碼;

6、有java web開發經驗者優先;

7、良好的團隊精神和溝通能力,很強的邏輯思維能力和學習能力。