Saltar al contenido principal
Adrià García
← Volver a los simuladores

Experience Platform · ingesta batch

La carga que falló a medias

Cada noche entra el batch de pedidos del ecommerce: 10.000 compras y 500.000 € en total. Esta noche, parte de las filas trae el importe como texto. Elige cómo se ingiere y cómo se reprocesa con el origen ya arreglado. Mira cuántas compras y cuánto dinero ven Profile y el data lake.

Escenario

El importe llega como texto, por ejemplo "12,90 €".

Primera carga: ingesta parcial

Por encima del umbral, el batch entero falla.

Al día siguiente se vuelve a cargar

El origen ya está arreglado.

El _id de cada compra

Escenario ilustrativo ↑ Volver a los controles
Supuestos del ejemplo

Batch, pedidos, importes y porcentajes de ejemplo. Cada pedido vale 50 € de media.

Dos noches

Qué entra en cada carga

La carga de pedidos de esta noche y el reproceso de mañana, fila a fila.

Profile y data lake

Qué cuenta cada sitio

Los mismos pedidos pueden sumar distinto en Profile, en el data lake y en el informe de ventas.

La recomendación

Ingesta parcial con umbral, _id estable y reprocesar solo lo que falló

Una carga fallida no es grave. Lo grave es arreglarla recargando todo con identificadores nuevos.

  1. 01

    Ingesta parcial con umbral

    Así unas pocas filas malas no tumban las buenas. El umbral depende de lo que tolere el negocio. Por encima, mejor que el batch falle entero y alguien lo mire.

  2. 02

    Un _id de negocio

    El número de pedido, no un identificador aleatorio que cambia en cada carga. Con el mismo _id, Profile descarta el evento repetido.

  3. 03

    Reprocesar solo las filas fallidas

    Se descarga el diagnóstico de errores, se corrigen esas filas y se cargan solo esas. Recargar el fichero entero duplica en el data lake aunque el _id sea estable.

  4. 04

    Deduplicar donde se analiza

    En Query Service y en los informes, un registro por _id. Y una alerta sobre batches fallidos, para no enterarse por el informe del lunes.

Nota de arquitectura · 07 El traspaso operativo es arquitectura Una arquitectura no está terminada hasta que otra persona puede operarla. Leer la nota →

Para revisar esta decisión