职位介绍
岗位职责:
1、负责支撑数据产品及服务体系的底层系统设计、开发、测试以及部署、运行维护工作;
2、负责基于Hadoop等开源体系的大数据平台运维、优化和二次开发工作;
3、负责数据采集、数据实时处理设计、研发、测试以及部署、运维工作;
4、负责数据生命周期管理;
5、负责制定、维护、实现和解释数据标准管理领域的目标和计划、管理办法和细则;
6、负责公司数据治理平台的建设维护工作及各领域制度规范的技术方案落地;
7、负责数据平台的devops相关工作;
8、负责跟踪业界动态,着重点在基于Hadoop的生态变动、实时数据处理、机器学习与AI,能充分利用开源产品,并结合本中心业务特定,推动先进技术的实际落地,促进业务创新。
任职资格:
1、计算机相关专业,本科及以上学历;
2、有扎实的计算机基础,包括linux、网络等,熟练shell脚本编写;
3、熟悉Hadoop生态体系架构,熟练掌握Java、Python语言,熟练掌握基于Presto、flink、Spark的数据处理、机器学习、离线、流式处理方法,有一定的大数据平台运维经验;
4、熟悉敏捷开发体系,具有良好的沟通能力和表达能力;
5、学习能力强,严谨的工作态度和高质量意识,有积极主动的工作热情和高度负责的精神;
6、三年以上软件开发与数据开发相关工作经验,能快速掌握新的开源技术框架;
7、熟悉CI/CD、K8S,Docker的相关知识,有实际使用经验者优先。