Desenvolvedor(a) Big Data | Spark / Scala
Grupo Data · São Paulo, Brazil · On-site
Sign up free: we match you to jobs like this, tailor your application and fill the form. 2 free applications every day.
Estamos buscando um(a) Desenvolvedor(a) Big Data para atuar em um projeto internacional do mercado financeiro, com foco em Datalake, pipelines de dados e Risco de Mercado .
É obrigatória a disponibilidade para trabalhar no fuso horário da Espanha.
Principais responsabilidades
Desenvolver e manter pipelines de dados utilizando Apache Spark e Scala;
Implementar processos de ingestão, transformação, validação e publicação de dados;
Trabalhar com SQL e PL/SQL no processamento e tratamento de dados;
Planejar e orquestrar processos utilizando Control-M;
Otimizar o desempenho, a confiabilidade e a escalabilidade dos processos Spark;
Realizar testes unitários e integrados e apoiar testes de aceitação (UAT);
Investigar e resolver incidentes em produção;
Colaborar com equipes internacionais em ambiente Agile.
Requisitos obrigatórios
Experiência em desenvolvimento Big Data, com atuação em Apache Spark e Scala;
Conhecimento de SQL e PL/SQL;
Experiência com pipelines de dados e Datalake;
Conhecimento de Control-M e Airflow;
Experiência com testes e suporte a ambientes produtivos;
Conhecimento de Databricks, Azure, AWS Compute e/ou YARN;
Experiência com CI/CD e ferramentas como GitHub, Jenkins e Sonar;
Conhecimento de Power BI;
Conhecimento de ServiceNow e experiência em monitoramento de produção;
Conhecimentos de qualidade e rastreabilidade de dados;
Experiência no setor bancário, especialmente em Risco de Mercado, métricas regulatórias, P&L, exposição, limites, ratings ou reporting;
Inglês em nível de conversação;
Espanhol em nível de conversação;
Disponibilidade para atuar no fuso horário da Espanha.