¿Cómo soluciono los problemas al actualizar mi clúster de Amazon MSK?

Solución

Nota: Si se muestran errores al ejecutar comandos de la Interfaz de la línea de comandos de AWS (AWS CLI), consulta Solución de problemas de AWS CLI. Además, asegúrate de utilizar la versión más reciente de la AWS CLI.

Consideraciones y prácticas recomendadas

Antes de actualizar tu clúster de Amazon MSK, revisa las siguientes prácticas recomendadas:

• Establece el factor de replicación del clúster en 3 o más. Un factor de replicación de 1 puede provocar que las particiones estén sin conexión durante una actualización continua. Un factor de replicación de 2 podría provocar la pérdida de datos.
• Establece el mínimo de réplicas sincronizadas (minISR) en un valor de factor de replicación - 1 o inferior. Si el valor de minISR es igual al factor de replicación, es posible que bloquee la producción del clúster durante una actualización continua. Un minISR de 2 permite que los temas replicados en tres direcciones estén disponibles cuando una réplica está sin conexión.
• Antes de actualizar la configuración de un clúster, asegúrate de que el clúster esté en estado ACTIVO.
• Utiliza la versión recomendada de Apache Kafka al crear nuevos clústeres de Amazon MSK.
• Incluye al menos un agente de cada zona de disponibilidad en las cadenas de clientes. Tener varios agentes en la cadena de conexión de un cliente permite conmutaciones por error cuando un agente específico se queda sin conexión para realizar una actualización.
• Utiliza Apache Kafka AdminClient versión 2.8.0 o posterior para la administración de temas.
• Actualiza los clientes que se conectan a la versión recomendada o posterior. Las actualizaciones de los clientes no están sujetas a las fechas de fin de vida útil (EOL) de la versión de Kafka de tu clúster de Amazon MSK.
  Nota: Apache Kafka proporciona una política de compatibilidad de clientes bidireccional que permite a los clientes más antiguos trabajar con clústeres más nuevos y permite a los clientes más nuevos trabajar con clústeres más antiguos. Para obtener más información, consulta Compatibility (Compatibilidad) en el sitio web de Apache Kafka.
• Actualiza tu clúster en momentos de poco tráfico. La cantidad de tiempo necesaria para actualizar la versión de Apache Kafka depende de la cantidad de agentes del clúster.
  Nota: Al actualizar la versión del clúster, no puedes realizar otras actualizaciones hasta que se complete la actualización de la versión. Sin embargo, puedes seguir produciendo y consumiendo desde el clúster durante la actualización.

Nota: Cuando actualizas el tipo de instancia, no actualizas automáticamente la versión del clúster.

Para obtener más información, consulta Prácticas recomendadas para la actualización de versiones.

Supervisión de la actualización

Al crear un clúster de Amazon MSK, puedes especificar qué versión de Apache Kafka necesitas en el clúster. También puedes actualizar el clúster a una versión más reciente de Apache Kafka después de crear el clúster.

Puedes supervisar el progreso de la actualización en la pestaña Operaciones de clúster de la consola de Amazon MSK. Cuando la actualización alcance el 17 %, es posible que tarde varias horas en completarse.

Nota: Amazon MSK realiza la actualización mediante un proceso de reinicio continuo. Amazon MSK retira un agente del clúster cada vez y actualiza su versión de Kafka. El agente actualizado vuelve a unirse al clúster y Amazon MSK elimina al siguiente agente. Este proceso continúa hasta que Amazon MSK actualice el último agente con la nueva versión de Kafka.

Para supervisar el progreso de la actualización del clúster, ejecuta el comando describe-cluster-operations mediante la AWS CLI:

aws kafka describe-cluster-operation —cluster-operation-arn ClusterOperationArn

Si la operación está incompleta o con error, ponte en contacto con AWS Support.

Solución de errores

Las operaciones de partición en un agente consumen grandes cantidades de recursos del sistema. Si tienes un número de particiones superior al límite recomendado, es posible que se agoten los recursos disponibles en el clúster. Cuando los recursos del clúster se agotan, no puedes actualizar la configuración del clúster ni la versión de Apache Kafka del clúster ni actualizar el clúster a un tipo de agente más pequeño. Cuando el número de particiones por intermediario supera el valor recomendado, recibirás uno de los siguientes errores:

«Error updating cluster configuration There was a problem updating cluster configuration. If the problem persists, contact AWS Support. The number of partitions per broker is above the recommended limit. Add more brokers and rearrange the partitions per broker to be below the recommended limit, then retry the request».

Alternativa:

«Upgrade is stuck in the stage 'Initializing upgrade'»

Para resolver los errores anteriores, lleva a cabo las siguientes acciones:

• Aumenta la cantidad de agentes dentro del clúster. A continuación, reasigna las particiones para reducir la cantidad de particiones por agente. Utiliza las métricas de Amazon CloudWatch para supervisar el número de particiones por agente. Para obtener más información, consulta Configuración predeterminada de Amazon MSK.
• Elimina los temas no utilizados. Para ver todos los temas del clúster y el número de particiones, ejecuta el siguiente comando:

  KAFKA_ROOT/bin/kafka-topics.sh --bootstrap-server
  BOOTSTRAP_SERVER --describe --topic Topic_name

  Nota: Sustituye Topic_name por el nombre del tema.
  Antes de ejecutar el comando anterior, configura un cliente de Apache Kafka en una máquina de Amazon Elastic Compute Cloud (Amazon EC2).
• Modifica el tipo de instancia a un tipo de instancia superior.