AWS Glue database JDBC writes PARTIAL data.. how to avoid that ?

0

How to make sure a particular dynamic frame is not committed partially to MySQL database ? Is there an option in write_from_catalog to achieve that ?

feita há 9 meses204 visualizações
1 Resposta
0

Not really, you would need a distributed transactions coordination between nodes that neither Glue nor Spark support.
What you can do is instead of writing to the final table, write to a temporary table and once the write operation is complete issue a DB command (using JDBC or other library) to do the merge inside the DB in a transactional way.

profile pictureAWS
ESPECIALISTA
respondido há 9 meses

Você não está conectado. Fazer login para postar uma resposta.

Uma boa resposta responde claramente à pergunta, dá feedback construtivo e incentiva o crescimento profissional de quem perguntou.

Diretrizes para responder a perguntas