Can I run S3DistCp on EMR Serverless?

0

Is there a way to utilize EMR Serverless to run S3DistCp? Looking at the base Docker images, I can see that the s3-dist-cp command is included in the Hive image. How can I submit a job run that runs it? Is this even supported - or planned to be supported in the future?

Thanks

Themen

Tags

Amazon EMR Amazon EMR Serverlos

Sprache

English

gefragt vor 2 Jahren683 Aufrufe

1 Antwort

Neueste
Die meisten Stimmen
Die meisten Kommentare

Sind diese Antworten hilfreich? Stimmen Sie der richtigen Antwort zu, damit die Community von Ihrem Wissen profitieren kann.

0

S3DistCp uses mapreduce framework to copy the data in distributed manner. In EMR Serverless, only Tez as execution engine is supported.

Ref https://docs.aws.amazon.com/emr/latest/ReleaseGuide/UsingEMR_s3distcp.html

beantwortet vor 2 Jahren

Relevanter Inhalt

Wie installiere ich Python-Bibliotheken in Amazon EMR- und Amazon EMR Serverless-Clustern und behebe Fehler?
AWS OFFICIALAktualisiert vor 5 Monaten
Wie aktualisiere ich meine Python-Version auf Amazon EMR und konfiguriere PySpark-Aufträge, um die aktualisierte Python-Version zu verwenden?
AWS OFFICIALAktualisiert vor 3 Monaten
Wie behebe ich den Fehler „Failed to start the job flow due to an internal error“ in Amazon EMR?
AWS OFFICIALAktualisiert vor 2 Monaten
Wie behebe ich den Fehler „The security token included in the request is expired“, wenn ich Java-Anwendungen auf Amazon EC2 ausführe?
AWS OFFICIALAktualisiert vor 2 Monaten