职位详情
职位概述:
作为高级数据工程师/ETL工程师,您将在设计、开发和优化数据处理系统方面发挥关键作用,以支持组织的数据计划。您在SQL、大数据和Google云平台(GCP)方面的专业知识对于构建强大的ETL管道至关重要,这些管道将原始数据转化为可执行的洞察。您将与跨职能团队合作,确保数据的准确性、可访问性和决策价值。
职责:
1.设计与开发ETL流程:
-使用各类批处理/流式处理工具设计和实施ETL流程,从各种数据源提取、转换和加载数据到GCP。
-与利益相关者协作,收集需求并确保ETL解决方案满足业务需求。
2.数据管道优化:
-优化数据管道的性能、可扩展性和可靠性,确保高效的数据处理工作流。
-监控并排查ETL流程问题,主动解决瓶颈和故障。
3.数据集成与管理:
-集成来自不同来源的数据(包括数据库、API和平面文件),确保数据质量和一致性。
-在GCP中管理和维护数据存储解决方案(如BigQuery、CloudStorage),以支持分析和报告。
4.GCPDataflow开发:
-编写基于ApacheBeam的Dataflow作业,用于数据提取、转换和分析,确保最佳性能和准确性。
-与数据分析师和数据科学家协作,为分析和报告准备数据。
6.自动化与监控:
-使用ApacheAirflow或CloudComposer等工具实现ETL工作流的自动化,提高效率并减少人工干预。
-设置监控和告警机制,确保数据管道的健康运行并满足SLA要求。
7.数据治理与安全:
-应用数据治理最佳实践,确保符合行业法规(如GDPR、HIPAA)和内部政策。
-与安全团队合作,实施数据保护措施并解决潜在漏洞。
8.文档与知识共享:
-编写ETL流程、数据模型和架构文档,促进知识共享和新团队成员快速上手。
-组织培训和研讨会,分享专业知识并在团队内推广最佳实践。
任职要求:
-教育背景:
-计算机科学、信息系统或相关领域的学士学位。
-经验:
-至少5年数据工程或ETL开发行业经验,重点关注DataStage和GCP。
-有设计和实施ETL解决方案的经验,包括数据建模、数据仓库和SQL开发。
-技术技能:
-熟悉GCP服务(如BigQuery、Dataflow、CloudStorage、Pub/Sub)及其在数据工程中的应用。
-有基于云的解决方案经验,尤其是GCP,持有云认证者优先。
-具备批处理和流式处理的大数据经验,熟悉大数据生态系统(如Hadoop、HBase、Hive、MapReduce、Kafka、Flink、Spark等)。
-熟悉Java和Python在云/大数据平台上的数据操作。
-分析能力:
-具备出色的解决问题能力和对细节的高度关注。
-能够分析复杂数据集并提取有意义的洞察。
作为高级数据工程师/ETL工程师,您将在设计、开发和优化数据处理系统方面发挥关键作用,以支持组织的数据计划。您在SQL、大数据和Google云平台(GCP)方面的专业知识对于构建强大的ETL管道至关重要,这些管道将原始数据转化为可执行的洞察。您将与跨职能团队合作,确保数据的准确性、可访问性和决策价值。
职责:
1.设计与开发ETL流程:
-使用各类批处理/流式处理工具设计和实施ETL流程,从各种数据源提取、转换和加载数据到GCP。
-与利益相关者协作,收集需求并确保ETL解决方案满足业务需求。
2.数据管道优化:
-优化数据管道的性能、可扩展性和可靠性,确保高效的数据处理工作流。
-监控并排查ETL流程问题,主动解决瓶颈和故障。
3.数据集成与管理:
-集成来自不同来源的数据(包括数据库、API和平面文件),确保数据质量和一致性。
-在GCP中管理和维护数据存储解决方案(如BigQuery、CloudStorage),以支持分析和报告。
4.GCPDataflow开发:
-编写基于ApacheBeam的Dataflow作业,用于数据提取、转换和分析,确保最佳性能和准确性。
-与数据分析师和数据科学家协作,为分析和报告准备数据。
6.自动化与监控:
-使用ApacheAirflow或CloudComposer等工具实现ETL工作流的自动化,提高效率并减少人工干预。
-设置监控和告警机制,确保数据管道的健康运行并满足SLA要求。
7.数据治理与安全:
-应用数据治理最佳实践,确保符合行业法规(如GDPR、HIPAA)和内部政策。
-与安全团队合作,实施数据保护措施并解决潜在漏洞。
8.文档与知识共享:
-编写ETL流程、数据模型和架构文档,促进知识共享和新团队成员快速上手。
-组织培训和研讨会,分享专业知识并在团队内推广最佳实践。
任职要求:
-教育背景:
-计算机科学、信息系统或相关领域的学士学位。
-经验:
-至少5年数据工程或ETL开发行业经验,重点关注DataStage和GCP。
-有设计和实施ETL解决方案的经验,包括数据建模、数据仓库和SQL开发。
-技术技能:
-熟悉GCP服务(如BigQuery、Dataflow、CloudStorage、Pub/Sub)及其在数据工程中的应用。
-有基于云的解决方案经验,尤其是GCP,持有云认证者优先。
-具备批处理和流式处理的大数据经验,熟悉大数据生态系统(如Hadoop、HBase、Hive、MapReduce、Kafka、Flink、Spark等)。
-熟悉Java和Python在云/大数据平台上的数据操作。
-分析能力:
-具备出色的解决问题能力和对细节的高度关注。
-能够分析复杂数据集并提取有意义的洞察。
2026-05-22 12:49
IP属地:广东广州
职位福利
本科5-10年银行证券英语基金ETL设计/开发经验Python汇丰银行

中电金信软件有限公司
不需要融资 · 10000人以上


鱼泡安全保障
如遇到办证收费、刷单、传销、诱导买车等违规行为,请立即向鱼泡直聘投诉举报投诉举报 >

附近适合您的职位
DataEngineer(具备良好英语沟通能力)
1.4-2万元/月
ETL工程师3-5年本科金融行业数据相关经验大数据开发经验MySQL/Oracle/DB2Python
广州

杨先生 · 中电金信今日活跃
BI 实施工程师
8000-13000元/月
ETL工程师1年以下大专Kettle/InformaticaMySQL/Oracle/DB2计算机相关专业Tableau/Power BIBI项目开发经验ETL设计/开发经验
广州 天河区

王女士 · 花阳科技7日内活跃






