¿Cómo soluciono el problema de falta de espacio de almacenamiento en mi dominio de OpenSearch Service?

Resolución

Tu dominio de OpenSearch Service tiene requisitos de espacio de almacenamiento que debes cumplir. Si te quedas sin espacio de almacenamiento en el dominio, es posible que recibas el error «ClusterBlockException».

Para resolver los problemas de poco espacio de almacenamiento, lleva a cabo una o más de las siguientes acciones.

Comprobación de particiones desequilibradas

Las particiones desequilibradas (sesgo del espacio en disco) pueden provocar que algunos nodos tengan poco espacio de almacenamiento. Para resolver este problema, distribuye las particiones de manera uniforme en todos los nodos.

Para comprobar cuánto espacio de almacenamiento hay disponible para cada nodo del clúster, ejecuta el siguiente comando:

curl -XGET "aos_endpoint/_cat/allocation?v"

Nota: Sustituye aos_endpoint por el punto de enlace que aparece en la consola de OpenSearch Service.

Resultado de ejemplo:

shards | disk.indices | disk.used | disk.avail | disk.total | disk.percent | host         | ip          | node
8    |   989.4kb    |   25.9gb    |   32.4gb   |   58.4gb   |   44         | 192.0.2.0    | 192.0.2.3   | node1
8    |   962.4kb    |   25.9gb    |   32.4gb   |   58.4gb   |   44         | 192.0.2.1    | 192.0.2.4   | node2

En el resultado, puedes ver las métricas de espacio en disco de cada nodo. OpenSearch Service reserva 20 GiB o el 20 % del almacenamiento disponible en cada instancia de Amazon Elastic Compute Cloud (Amazon EC2) para las operaciones internas. El resultado anterior para cat/allocation no incluye el almacenamiento reservado. Para ver el almacenamiento de datos total y reservado, consulta la métrica de OpenSearch Service FreeStorageSpace en Amazon CloudWatch.

Nota: Como cat/allocation no incluye datos reservados, su valor siempre es inferior al almacenamiento que se muestra en la consola de OpenSearch Service.

Aumento del tamaño de los volúmenes de Amazon EBS del dominio

Si tu dominio usa volúmenes de Amazon Elastic Block Store (Amazon EBS) para el almacenamiento, aumenta el tamaño de los volúmenes de EBS.

Si no puedes aumentar el tamaño del volumen de EBS, lleva a cabo una o más de las siguientes acciones para escalar el clúster:

• Aumenta el tamaño de las instancias de EC2 para tus nodos de datos.
• Agrega más nodos para distribuir mejor la carga.

Nota: Si utilizas instancias I3 de Amazon EC2 para el almacenamiento de datos, agrega nodos al clúster o escala verticalmente tu tipo de instancia. Al escalar la instancia, es posible que se produzca un despliegue azul-verde.

Eliminación de índices no utilizados

Para reducir la cantidad de datos que se almacenan en tu dominio, elimina los índices o documentos no utilizados, optimiza los índices antiguos o reduce el número de réplicas del dominio. Si el clúster ya tiene el máximo uso de disco, debes escalar los volúmenes o nodos de EBS.

Nota: Si reduces el recuento de réplicas del dominio, la tolerancia a errores se reduce. Se recomienda configurar al menos una réplica por cada índice.

Crea una copia de seguridad de los índices no deseados en tu bucket de Amazon Simple Storage Service (Amazon S3). Puede usar las instantáneas automatizadas que OpenSearch Service realiza para restaurar la instancia. A continuación, para liberar espacio en el disco elimina los índices del clúster de OpenSearch Service.

También se recomienda tomar instantáneas de forma manual. Antes de crear copias de seguridad, debes crear un repositorio de instantáneas manual.

Para comprobar la fecha de creación de los índices, ejecuta el siguiente comando:

GET _cat/indices?h=h,s,i,id,p,r,dc,dd,ss,creation.date.string&s=creation.date.string:desc

Para eliminar un índice único, ejecuta el siguiente comando:

DELETE index-name

Nota: Sustituye index-name por el nombre de tu índice.

Para eliminar varios índices, ejecuta el siguiente comando:

DELETE index-pattern

Nota: Sustituye index-pattern por tu patrón de índice.

Uso de ISM para administrar la falta de espacio de almacenamiento

También puedes utilizar Index State Management (ISM) para rotar los índices en OpenSearch Service. Con ISM, puedes definir políticas de administración personalizadas para mitigar problemas como el bajo espacio en disco. Por ejemplo, utiliza una política de ISM para eliminar automáticamente los índices en función de condiciones como el tamaño del índice. A continuación, usa una operación de transferencia para transferir un destino hacia un nuevo índice cuando un índice existente cumple la condición definida.

El siguiente ejemplo de política ISM elimina los índices después de 50 minutos:

PUT _plugins/_ism/policies/delete_ism_policy  {
    "policy": {
        "policy_id": "delete_ism_policy",
        "description": "A simple default policy that deletes old unused indexes",
        "last_updated_time": 1658834661281,
        "schema_version": 13,
        "error_notification": null,
        "default_state": "example_hot_state",        
        "states": [
            {
                "name": "example_hot_state",
                "actions": [],
                "transitions": [
                    {
                        "state_name": "delete",
                        "conditions": {
                            "min_index_age": "50m"  
                        }
                    }
                ]
            },
            {
                "name": "delete",                    
                "actions": [
                    {
                        "delete": {}
                    }
                ],
                "transitions": []
            }
        ],
        "ism_template": [
            {
                "index_patterns": [                  
                    "sample*"
                ],
                "priority": 100,                    
                "last_updated_time": 1658834436349
            }
        ]
    }
}

Nota: La política anterior se adjunta a todos los índices del patrón de índice que agregas a la política.

Para adjuntar una política de ISM al índice, ejecuta el siguiente comando:

POST _plugins/_ism/add/your-index-*  {
     "policy_id": "your_policy_id"
}

Nota: Sustituye your-index-* por tu índice o patrón de índice y your_policy_id por el ID de tu política.

Para obtener más información, consulta ¿Cómo utilizo ISM para administrar la falta de espacio de almacenamiento en OpenSearch Service?

Uso de las alarmas de CloudWatch para supervisar el almacenamiento

Para supervisar la cantidad de almacenamiento disponible en el clúster, usa la métrica FreeStorageSpace. Para recibir notificaciones cuando se agote el espacio de almacenamiento, crea una alarma de CloudWatch para FreeStorageSpace.

Para obtener más información, consulta Alarmas recomendadas de CloudWatch para OpenSearch Service.

Información relacionada

Prácticas operativas recomendadas de OpenSearch Service

¿Por qué mi clúster de OpenSearch Service aparece en rojo o amarillo?