Databricks Lakehouse Engenheiro(a) de Dados | Sênior (Remote)
Compass UOL · Remoto · Remote Brasil · CLT
Recebendo candidaturas · conferida em 09/11
Ficha da vaga
- Modelo
- Remoto
- Onde aceita
- Aceita candidatos do Brasil
- Senioridade
- Sênior
- Salário
- Salário não divulgado
- Contrato
- CLT
Fonte: Gupy · Ver vaga original →
- python
- sql
- cloud basico
- ci cd
- git github
- mentoring
Organizei a descrição em seções com IA. O texto completo da vaga está logo abaixo.
Sobre a vaga
A Compass UOL busca um(a) Engenheiro(a) de Dados Sênior para atuar remotamente na construção e administração de plataforma Enterprise Lakehouse em Databricks, com foco em Data Mesh, Unity Catalog e arquitetura medalhão.
O que você vai fazer
- Colaborar na construção da plataforma Enterprise Lakehouse em Databricks, estruturada em domínios de dados conforme os princípios de Data Mesh
- Implementar e administrar o Unity Catalog como camada de governança central e o compartilhamento de dados entre domínios via Delta Sharing
- Desenvolver padrões de ingestão de dados (streaming e batch) e o template de arquitetura medalhão (bronze/silver/gold) para uso dos domínios
- Desenvolver o framework de contrato de dados e o framework de Data Quality da plataforma
- Integrar a plataforma Databricks ao produto Data Mesh existente na AWS, garantindo interoperabilidade de catálogos e aderência ao modelo de contrato de dados
O que pedem
- Databricks: experiência sólida com a plataforma — administração de workspaces, clusters, jobs e workflows
- Unity Catalog: governança de dados, modelo de permissões, lineage, external locations e integração com storage
- Delta Lake e arquitetura medalhão (bronze, silver, gold) em ambientes produtivos
- Padrões de ingestão de dados: streaming e batch em escala
- Ecossistema AWS: S3, Glue, Lake Formation, EMR (EC2 e Serverless), Athena, Lambda, IAM, DMS, Kinesis, Step Functions, SNS, SQS e EventBridge
Descrição completa da vaga
.Responsabilidades e atribuiçõesColaborar na construção da plataforma Enterprise Lakehouse em Databricks, estruturada em domínios de dados conforme os princípios de Data Mesh;Implementar e administrar o Unity Catalog como camada de governança central e o compartilhamento de dados entre domínios via Delta Sharing;Desenvolver padrões de ingestão de dados (streaming e batch) e o template de arquitetura medalhão (bronze/silver/gold) para uso dos domínios;Desenvolver o framework de contrato de dados e o framework de Data Quality da plataforma;Integrar a plataforma Databricks ao produto Data Mesh existente na AWS, garantindo interoperabilidade de catálogos e aderência ao modelo de contrato de dados;Contribuir com decisões de arquitetura, documentação técnica e mentoria do time.Requisitos e qualificaçõesDatabricks: experiência sólida com a plataforma — administração de workspaces, clusters, jobs e workflows;Unity Catalog: governança de dados, modelo de permissões, lineage, external locations e integração com storage;Delta Lake e arquitetura medalhão (bronze, silver, gold) em ambientes produtivos;Padrões de ingestão de dados: streaming e batch em escala;Ecossistema AWS: S3, Glue, Lake Formation, EMR (EC2 e Serverless), Athena, Lambda, IAM, DMS, Kinesis, Step Functions, SNS, SQS e EventBridge;IaC (Terraform, incluindo o provider do Databricks);Python e PySpark avançados para desenvolvimento de pipelines e automações de plataforma;SQL avançado;Data Contracts e ferramentas de metadados como OpenMetadata;DataDog ou ferramentas similares para controles e monitoramentos de observabilidade.Requisitos Desejáveis CI/CD para Databricks (Databricks Asset Bundles, Repos, integração com esteiras como GitHub Actions, Azure DevOps ou similares);Vivência em projetos de Data Mesh (domínios, data products, governança federada) — diferencial importante;Experiência no mercado financeiro ou de crédito — diferencial importante;Observabilidade e monitoramento de plataformas de dados (system tables, métricas de jobs, qualidade de dados);FinOps: monitoramento, alocação e otimização de custos em Databricks (DBUs, dimensionamento de clusters, políticas de compute);Delta Sharing em cenários cross-company, cross-cloud ou cross-region;Certificações AWS (ex.: Data Engineer Associate, Solutions Architect);Certificações Databricks (Data Engineer Associate, Data Engineer Professional, Platform Administrator).
Perguntas e respostas sobre a vaga
- Aceita candidatos de onde?
- Aceita candidatos do Brasil.
- Qual o regime de contratação?
- CLT.
- É remota?
- Sim, é remota.
- Informa salário?
- Não, a vaga não divulga.
Nenhuma vaga séria cobra para você se candidatar, e eu nunca peço dado bancário dentro de uma candidatura. O plano pago é cobrado só pelo Asaas, meu parceiro de pagamento.
Vagas parecidas
Data Engineer
hojeCDC Foundation · Remoto · Américas
$103,500 - $143,500 annually
- analise dados
- sql
- python
Engenheiro de Dados Sênior
há 1 diaEngenheiro de Dados Sênior N8N
há 1 dia