大数据研发工程师

关键字：华为云大数据，大数据迁移、pyspark、python、scala spark 主要职责： 1、承担大数据平台搬迁及系统集成相关工作。 2、使用华为云数据迁移工具完成数据仓库的迁移任务，并执行数据一致性核对。 3、处理大规模数据集，开展实时与批量数据分析，满足业务发展需要。 4、具备扎实的SQL调优能力；可高效完成数据比对，在数据异常时能通过日志追溯并准确定位问题脚本。 任职资格： 1、具有5年大数据开发从业经历，掌握主流大数据技术体系。 2、深入理解 Hadoop、Spark、Flink、Hive 等大数据处理框架，具备4年以上 python、pyspark、hive、sparksql 开发经验，可独立承担 flink、spark 作业的开发与迁移，并完成端到端联调测试。 3、熟练运用 Java、SQL、Scala 或 Python 编程语言。 4、拥有较强的SQL性能优化能力，了解关系型数据库与NoSQL数据库特性。 5、有大数据平台性能调优的实际项目经验。 6、具备良好的沟通协作能力及文档撰写能力。 7、本科及以上学历。 8、熟悉华为MRS、DataArt Studio、Data Lake、GaussDB(DWS)者优先，具备数据迁移项目经验者优先。