Senior Data Engineer (AWS Serverless & Airflow)

Información general

- Ubicación: Argentina
- Tipo de contrato: Relación de dependencia, full-time
- Industria / Proyecto: Plataforma de datos sobre AWS serverless para cliente internacional (industria a confirmar)

Sobre el rol

Buscamos un/a Senior Data Engineer para diseñar, construir y operar una plataforma de datos sobre AWS serverless, orquestada con Apache Airflow y gestionada íntegramente como código.

La posición combina ingeniería de datos, calidad y gobierno de datos. El foco está en pipelines confiables, automatizados y desplegados mediante CI/CD, que permitan al negocio contar con datos consistentes, trazables y disponibles a tiempo, con un uso eficiente de los costos cloud.

Vas a tener autonomía técnica para tomar decisiones de arquitectura, elegir el servicio adecuado para cada caso y definir buenas prácticas sobre toda la plataforma.

Responsabilidades

- Diseñar, construir y operar la plataforma de datos sobre el ecosistema serverless de AWS, eligiendo cada servicio según el caso de uso, el costo y la operabilidad.
- Desarrollar DAGs de Airflow de punta a punta, con foco en idempotencia, reintentos, SLAs y manejo de fallos.
- Configurar y operar entornos MWAA: dependencias, plugins, escalado de workers y despliegues blue/green.
- Orquestar desde Airflow jobs de Glue, Lambda, ECS y Step Functions, e integrar dbt (vía Cosmos) y dlt.
- Implementar ingesta multi-fuente con dlt y Python: APIs REST y GraphQL, Microsoft Graph, Cost Explorer, SharePoint, bases de datos y archivos.
- Diseñar y mantener el data lake / lakehouse en S3 con Parquet y Apache Iceberg sobre Glue Catalog.
- Modelar datos en Snowflake y dbt por capas, con tests y documentación.




- Desarrollar procesamiento con Spark / PySpark garantizando escrituras idempotentes y particionado eficiente.
- Aprovisionar la infraestructura como código con Terraform y/o AWS CDK / CloudFormation: entornos MWAA, Glue jobs, Lambdas, buckets S3, roles IAM y permisos de Lake Formation.
- Construir y mantener pipelines de GitLab CI/CD con separación de entornos (dev / staging / prod) y despliegues controlados por rama.
- Aplicar seguridad de mínimo privilegio, gobierno de datos con Lake Formation y manejo seguro de secretos.
- Implementar observabilidad con CloudWatch (logs, métricas, alarmas) y testing de DAGs.
- Optimizar costos de la arquitectura serverless aplicando prácticas de FinOps.

Requisitos

- +3 años de experiencia como Data Engineer en entornos cloud productivos.
- AWS serverless (excluyente, nivel avanzado): Cómputo: Lambda (layers, concurrencia, timeouts, cold starts, empaquetado con contenedores), Fargate / ECS; Procesamiento: Glue (jobs Spark y Python Shell, Data Catalog, crawlers), Athena (particionado, optimización de costos por escaneo), EMR Serverless; Orquestación y eventos: Step Functions, EventBridge (reglas y schedulers), SQS, SNS; Almacenamiento: S3 (diseño de data lake, lifecycle, eventos), DynamoDB (modelado por patrones de acceso, índices, streams); Integración y APIs: API Gateway, AppSync; Streaming: Kinesis Data Streams / Firehose, MSK Serverless; Seguridad:



IAM con mínimo privilegio, Lake Formation, Secrets Manager; Observabilidad y costos: CloudWatch, FinOps y Cost Explorer.
- Apache Airflow (excluyente, nivel avanzado): Arquitectura interna (scheduler, executor, workers, triggerer, metadata DB), ciclo de vida de tareas, data intervals, catchup y backfills; Operadores, hooks y sensores: providers de AWS, operadores custom y deferrable operators; TaskFlow API, XComs, dynamic task mapping, task groups y assets; MWAA en producción; Testing de DAGs, parametrización por entorno, monitoreo y alertas.
- CI/CD y control de versiones (excluyente): Git avanzado: rebase, merge, cherry-pick, resolución de conflictos e historial limpio; Estrategias de branching (GitFlow, trunk-based, feature branches) y versionado semántico; GitLab: merge requests, code review, protección de ramas, aprobaciones y reglas de merge; GitLab CI/CD: stages, jobs, runners, variables y secretos protegidos, artefactos, caché, ambientes y despliegues manuales o automáticos.
- Infraestructura como código: Terraform avanzado: módulos reutilizables, variables por ambiente e import de recursos existentes; AWS CDK y/o CloudFormation: stacks, parámetros, outputs, change sets y drift detection; Buenas prácticas: separación de entornos, versionado, revisión del plan antes de aplicar.
- Ingeniería de datos: Snowflake: modelado, SQL avanzado y optimización de consultas; dbt: modelado por capas, tests, documentación e integración con Cosmos; Python para ingesta y automatización (boto3, APIs REST y GraphQL, procesamiento de archivos); Spark / PySpark, incluyendo conocimiento de internals; Parquet y Apache Iceberg sobre Glue Cata

📌 Senior Data Engineer (La Pampa)
🏢 Kake
📍 La Pampa