职位描述
职位职责:
管理和维护Hadoop集群,包括HDFS、YARN、MapReduce、HBase等组件。
配置、调优和监控Hadoop集群的性能,确保高可用性和稳定性。
协助数据工程师,提供技术支持,解决与数据处理相关的问题。
制定和执行备份、恢复和安全策略,确保数据的完整性和安全性。
编写自动化脚本和工具,以简化运维任务和提高效率。
跟踪Hadoop生态系统的最新发展和安全漏洞,及时进行升级和修补。
参与容量规划和资源管理,以满足业务需求的增长。
提供紧急支持和排障,确保系统的24/7可用性。
职位要求:
本科或以上学历,计算机科学、信息技术或相关领域优先。
拥有Hadoop集群管理经验,熟悉Hadoop生态系统,包括HDFS、YARN、MapReduce、HBase等。
精通Linux操作系统,能够进行系统配置、调优和故障排除。
了解大数据处理框架和工具,如Spark、Hive等。
具备Shell脚本编写能力,能够编写自动化任务。
有优秀的沟通和团队合作能力,能够与不同部门合作解决问题。
具备故障排除和问题解决的能力,能够迅速应对紧急情况。
对数据安全和隐私保护有充分的认识,能够实施相应的安全措施。
有相关认证如Cloudera Certified Administrator for Apache Hadoop (CCAH)或Hortonworks Certified Administrator等者优先考虑。