FREE ACCESS
5,000–10,000 jobs/day
See all jobs on JobTailor
Search thousands of fresh jobs every day.
Discover
- Fresh listings
- Fast filters
- No subscription required
Create a free account and start exploring right away.
Core Competencies
Role fitCore Competencies
Use this summary to align your resume positioning with the role.
Expertise in Google Cloud Platform, particularly in BigQuery and Cloud Composer, with strong skills in SQL and Python/PySpark for data engineering tasks. Proficient in modernizing data ingestion workflows and ensuring data integrity through automated testing and validation processes.
Highest-signal resume keywords
Google Cloud PlatformBigQuerySQL AvançadoPython/PySparkApache Iceberg
ATS Keywords
Tailor your resumeApplicant Tracking System Keywords
Tip: use these terms in your resume and cover letter to boost ATS matches.
Hard Skills
Engenharia ReversaAutomação de TestesOrquestração de DadosFrameworks de Testes AutomatizadosValidação de Agregações
Tools & Technologies
Cloud ComposerDataflowDatastreamCloud RunDataform
Industry Keywords
Open Table FormatsSchema EvolutionAlta VolumetriaControle de CustosPerformance
Tech Stack
Tools & technologiesAirflowApacheBigQueryCloudGoogle Cloud PlatformPySparkPythonSparkSQL
About the role
Key responsibilities & impact- Realizar engenharia reversa de lógicas complexas escritas em PySpark, traduzindo-as para SQL nativo e otimizado no BigQuery;
- Operar ferramentas de IA para acelerar a conversão de pipelines de dados e automatizar testes;
- Modernizar e construir fluxos de ingestão substituindo ferramentas legadas por serviços nativos do GCP (Datastream, Dataflow, Cloud Run) orquestrados pelo Cloud Composer;
- Gerenciar e otimizar dados no formato Apache Iceberg integrados via BigLake, garantindo performance e controle de custos;
- Criar e executar frameworks de testes automatizados para validar a equivalência volumétrica, chaves de negócio e agregações entre o ambiente legado e o novo;
- Contagem de linhas: Verificação por tabela e por partição;
- Reconciliação por chave de negócio: Comparação direta dos registros entre a origem (Spark) e o destino (BigQuery);
- Checksum/Hash: Agregação das colunas relevantes para garantir a integridade dos dados;
- Validação de agregações-chave: Conferência de somas, contagens distintas, mínimos e máximos utilizados nos indicadores de negócio.
Requirements
What you’ll need- - Forte experiência em Google Cloud Platform, especialmente BigQuery, GCS e Cloud Composer (Airflow), experiência profissional de no mínimo 6 anos;
- - Sólido domínio técnico em SQL avançado e Python/PySpark, experiência profissional de no mínimo 6 anos;
- - Experiência prática com formatos de dados abertos (Open Table Formats), especificamente conversão e manipulação de Apache Iceberg e Delta;
- - Conhecimento em orquestração de transformações de dados utilizando Dataform ou dbt;
- - Capacidade de resolver problemas complexos de performance e schema evolution em cenários de alta volumetria (escala de Terabytes).
Benefits
Comp & perks- PcD 📊 Check your resume score for this job Improve your chances of getting an interview by checking your resume score before you apply. Check Resume Score
