大數(shù)據(jù)架構師的主要職責說明

　　大數(shù)據(jù)架構師負責解決核心技術問題，對技術方案進行決策。下面是學習啦小編為您精心整理的大數(shù)據(jù)架構師的主要職責說明。

　　大數(shù)據(jù)架構師的主要職責說明1

　　職責：

　　1、負責公司大數(shù)據(jù)底層框架的整體架構設計，結合公司實際業(yè)務情況進行技術選型及大數(shù)據(jù)戰(zhàn)略規(guī)劃;

　　2、負責公司項目的整體評估、設計、架構及關鍵模塊的開發(fā);

　　3、負責架構優(yōu)化，協(xié)助團隊解決開發(fā)過程中遇到的技術難題;

　　4、負責新技術的調研和大數(shù)據(jù)相關開源組件的研究，并能在團隊進行推廣應用;

　　5、參與數(shù)據(jù)分析、數(shù)據(jù)建模、項目核心模塊及核心框架的開發(fā);

　　6、負責大數(shù)據(jù)平臺的性能條有和問題診斷。

　　任職要求：

　　1、計算機相關專業(yè)，本科及以上學歷，3-5年以上工作經驗，2-3年大數(shù)據(jù)相關經驗;

　　2、具有扎實的大數(shù)據(jù)和數(shù)據(jù)倉庫理論功底，負責過大數(shù)據(jù)平臺或數(shù)據(jù)倉庫設計;

　　3、對基于Hadoop的大數(shù)據(jù)體系有深入的認識，具備相關產品(Hadoop、Hive、HBase、Spark、Storm、Flume、Kafka、Redis、ES等)項目應用研發(fā)經驗，有Hadoop集群搭建和管理經驗，度過Hadoop和Spark源碼;

　　4、熟悉Linux和Python語言，了解Scala原理和底層技術;

　　5、熟悉分布式系統(tǒng)的架構及對其進行設計和優(yōu)化，對海量數(shù)據(jù)的清晰、分析處理及存儲有相關的實戰(zhàn)經驗;

　　6、算法基礎扎實，熟悉常見的數(shù)據(jù)結構，深入理解分布式算法和以上提到的分布式系統(tǒng)，

　　7、必須有一線coding的能力;

　　8、有統(tǒng)計學、數(shù)學知識，海量數(shù)據(jù)處理、分析和挖掘，大型互聯(lián)網(wǎng)公司從業(yè)經歷著優(yōu)先。

　　大數(shù)據(jù)架構師的主要職責說明2

　　職責：

　　1. 負責大數(shù)據(jù)基礎和應用平臺的整體規(guī)劃和架構設計，參與需求分析，架構設計，詳細設計以及技術選型決策

　　2. 參與數(shù)據(jù)挖掘和建模相關核心算法的代碼實現(xiàn)

　　3. 負責大數(shù)據(jù)算法平臺的技術把關，性能調優(yōu)，控制架構質量，解決項目技術難題;對研發(fā)項目和任務需求進行評估和方案設計、拆分任務并指導工程師完成開發(fā)

　　4. 帶領團隊提供并實現(xiàn)大數(shù)據(jù)算法平臺上各項數(shù)據(jù)接入、數(shù)據(jù)挖掘分析及數(shù)據(jù)可視化的架構設計與能力，支持解決方案實施

　　5. 負責數(shù)據(jù)庫設計、應用架構設計、核心技術選型等工作

　　6. 協(xié)調解決開發(fā)中的技術問題、設計和監(jiān)控運營指標，保障系統(tǒng)穩(wěn)定運行

　　7. 培養(yǎng)，指導有能力的員工，指導工程師進行技術驗證實現(xiàn)，核心技術攻關，解決開發(fā)過程中的技術難題

　　任職要求：

　　1. 熟悉大數(shù)據(jù)和數(shù)據(jù)倉庫的系統(tǒng)架構設計方法

　　2. 熟練使用并理解HadoopSpark架構及生態(tài)。(Hadoop，Hive，Hbase，Elasticsearch，Kafka，SparkFlink等)

　　3. 熟悉分布式系統(tǒng)架構，有分布式實時、離線和機器學習的平臺的架構和開發(fā)經驗，具備海量數(shù)據(jù)清洗、分析處理及存儲的實踐經驗

　　4. 熟練使用JAVA，具有大規(guī)模分布式系統(tǒng)調優(yōu)經驗

　　5. 熟悉AI相關算法，熟悉機器學習、深度學習。熟悉AI學習開源框架(Tensorflow、PyTorch等)者優(yōu)先;

　　6. 具備良好的團隊合作精神，對工作充滿激情。

　　7. 熟悉FusionInsight平臺開發(fā)經驗者優(yōu)先

　　大數(shù)據(jù)架構師的主要職責說明3

　　職責：

　　(1) 負責公司大數(shù)據(jù)平臺搭建，相關的設計和技術開發(fā)工作，負責大數(shù)據(jù)存儲系統(tǒng)、分布式計算系統(tǒng)、數(shù)據(jù)集成、挖掘算法等的設計、研發(fā)以及維護、優(yōu)化工作;

　　(2) 通過數(shù)據(jù)分析技術，挖掘有利于營銷中各業(yè)務場景的變量或規(guī)則類標簽，以提升模型效果，為文旅、教育業(yè)務提供數(shù)學模型理論及編程支撐;

　　(3) 對接溝通業(yè)務系統(tǒng)研發(fā)團隊和產品部門，提供數(shù)據(jù)驅動方面的專業(yè)咨詢方案，并對業(yè)務的大數(shù)據(jù)應用場景提出建設性意見;

　　(4) 配合部門領導進行項目需求分析、設計開發(fā)工作。

　　任職要求：

　　(1) 計算機、統(tǒng)計學，數(shù)學等相關專業(yè)本科以上學歷，5年以上大數(shù)據(jù)或文旅、教育數(shù)據(jù)產品設計開發(fā)經驗，高效高質量產出需求和技術文檔;

　　(2) 精通Hadoop，熟悉大數(shù)據(jù)生態(tài)技術，如Storm、Spark、Scala、Flume、Kafka、Zookeeper、Hive、Hbase、Kerberos等，有大規(guī)模集群架構、開發(fā)及運維經驗;熟悉HDFS/MapReduce等;

　　(3) 熟悉Java，能夠獨立應用python、R、SAS或類似分析工具進行數(shù)據(jù)分析;

　　(4) 熟悉大數(shù)據(jù)挖掘、可視化分析，各種BI算法和產品等，在計算廣告、搜索引擎、推薦系統(tǒng)、用戶畫像等有一個或多個算法領域的研發(fā)經驗，能夠運用數(shù)據(jù)作為產品解決業(yè)務方運營及決策問題;

　　(5) 有互聯(lián)網(wǎng)行業(yè)工作經驗者優(yōu)先，有海量數(shù)據(jù)的機器學習算法實踐經驗優(yōu)先;

　　(6) 工作認真、負責，有良好的團隊合作精神，良好的分析能力、溝通技巧。

　　大數(shù)據(jù)架構師的主要職責說明4

　　職責：

　　1. 負責公司大數(shù)據(jù)平臺的設計和開發(fā)，負責spark, hadoop, flink等云計算平臺的開發(fā)和優(yōu)化;制定數(shù)據(jù)架構規(guī)范，進行核心代碼編寫，指導團隊落地;

　　2. 負責數(shù)據(jù)基礎架構和數(shù)據(jù)處理體系的升級和優(yōu)化，技術難題攻關，持續(xù)提升核心系統(tǒng)性能，保證系統(tǒng)的安全、穩(wěn)定、高效運行

　　3. 設計并實現(xiàn)對BI分析、數(shù)據(jù)產品開發(fā)、算法開發(fā)的系統(tǒng)性支持

　　4. 研究未來數(shù)據(jù)模型和計算框架的創(chuàng)新與落地，包括但不限于以下領域：大規(guī)模數(shù)據(jù)實時化、研發(fā)模式敏捷化、數(shù)據(jù)計算框架輕量化、數(shù)據(jù)模型組織方式業(yè)務化等方面參與制定并實踐團隊的技術發(fā)展路線

　　5. 建立良好的公司內外的業(yè)界技術影響力;參與培養(yǎng)未來數(shù)據(jù)人才;有效輔導團隊，提升數(shù)據(jù)研發(fā)能力

　　任職要求：

　　1. 有很強的數(shù)據(jù)設計抽象能力，善于從復雜的數(shù)據(jù)問題中找到關鍵路徑，能夠開發(fā)創(chuàng)新而實際的分析方法以解決復雜的商業(yè)問題

　　2. 有作為技術負責人系統(tǒng)化解決問題的成功案例;有海量數(shù)據(jù)建模實踐經驗優(yōu)先

　　3. 熟練掌握Hadoop、Spark、Flink、HBase的原理特性以及適用場景，精通流式計算開發(fā)，有開源二次開發(fā)經驗者優(yōu)先，有NLP數(shù)據(jù)處理經驗者優(yōu)先

　　4. 性格積極樂觀，誠信，能自我驅動，有較強的語言表達能力;具備強烈的進取心、求知欲及團隊合作精神;具有良好的溝通、團隊協(xié)作、計劃和創(chuàng)新的能力

　　5. 本科以上學歷，扎實的計算機專業(yè)基礎，有5年以上大數(shù)據(jù)平臺開發(fā)經驗;

　　大數(shù)據(jù)架構師的主要職責說明5

　　職責：

　　1、負責大數(shù)據(jù)平臺的技術選型，基于Spark、Hadoop大數(shù)據(jù)平臺建設和開發(fā);

　　2、完成包括數(shù)據(jù)模型設計、數(shù)據(jù)采集、數(shù)據(jù)存儲等方面的大數(shù)據(jù)系統(tǒng)架構的設計和數(shù)據(jù)層架構設計;

　　3、構建數(shù)據(jù)中臺，為多種行業(yè)應用提供主數(shù)據(jù)(畫像標簽/關系圖譜)、數(shù)據(jù)模型、人工智能業(yè)務算法及數(shù)據(jù)服務。

　　4、對海量數(shù)據(jù)處理的業(yè)務需求進行評估和方案設計、拆分任務并指導工程師完成開發(fā);

　　5、帶領大數(shù)據(jù)技術團隊提供并實現(xiàn)大數(shù)據(jù)平臺上各項數(shù)據(jù)分析和數(shù)據(jù)可視化的架構設計，支撐解決方案實施。

　　任職要求：

　　1、本科及以上學歷，具有5年及以上大數(shù)據(jù)架構設計和開發(fā)經驗;2年及以上帶領團隊經驗;溝通能力強。在大型互聯(lián)網(wǎng)企業(yè)從事大數(shù)據(jù)架構設計者優(yōu)先考慮;有分布式大型商業(yè)軟件系統(tǒng)設計經驗、主導過大型商業(yè)軟件的架構設計并取得過市場商業(yè)成功者優(yōu)先考慮;

　　2、熟悉整個大數(shù)據(jù)的完整處理流程，包括數(shù)據(jù)的采集、清洗、預處理、存儲、分析挖據(jù)、機器學習和數(shù)據(jù)可視化;

　　3、精通Oracle/MySQL/PostgreSQL/Greenplum/MongoDB等其中至少一種主流數(shù)據(jù)庫的使用，并能進行性能調優(yōu);

　　4、具備優(yōu)秀的團隊意識和溝通能力，學習能力和主動性強，具有鉆研精神，充滿激情，樂于接受挑戰(zhàn)。