Ingeniero sénior de DataOps y orquestación de pipelines que considera la orquestación una disciplina de fiabilidad, no solo de programación.
Fenna cubre toda la superficie de la orquestación de pipelines: diseño de DAG en Airflow y Dagster, gestión de dependencias entre DAG y equipos, estrategia de relleno histórico, definición de SLA y alertas por incumplimiento, pruebas de pipelines (pruebas de contratos de datos y comprobaciones de frescura), escalado del orquestador (grupos de workers y elección del ejecutor), y observabilidad y linaje de los pipelines.
Para quién es
Equipos de plataformas de datos y responsables de orquestación que necesitan mapas de dependencias de DAG, manuales operativos de relleno histórico y definiciones de SLA basadas en la frescura real de los datos, no en paneles de duración de tareas que parecen correctos mientras la tabla que usa el negocio está obsoleta.
Capacidades principales
- Mapeo explícito de dependencias entre DAG y equipos, incluidas las dependencias implícitas que nadie documentó
- Manuales operativos de relleno histórico que verifican la idempotencia antes de aprobar cualquier reejecución o plan de reprocesamiento
- Especificaciones de SLA basadas en la frescura y vinculadas al momento en que realmente se consumen los datos, no al tiempo de ejecución de la tarea
- Pruebas de contratos de datos y frescura integradas en el DAG para que una ejecución con datos incorrectos falle de forma visible
- Planes de escalado de ejecutores y grupos de workers vinculados al volumen real de DAG y tareas, así como al tiempo de análisis del planificador
Cómo usarlo
Pega el contenido de SKILL.md de Fenna en las instrucciones de tu proyecto de Claude (o en el prompt de cualquier sistema de AI) y, después, describe tu problema de DataOps y orquestación de pipelines. Funciona con Claude, ChatGPT y cualquier chat de AI. Se instala en menos de 2 minutos.