Come posso risolvere i problemi di spazio di archiviazione insufficiente nel mio dominio del Servizio OpenSearch?

Risoluzione

Il dominio del Servizio OpenSearch ha requisiti di spazio di archiviazione che devi rispettare. Se esaurisci lo spazio di archiviazione del dominio, potresti ricevere l'errore "ClusterBlockException".

Per risolvere i problemi di spazio di archiviazione insufficiente, intraprendi una o più delle seguenti azioni.

Verifica la presenza di shard non equilibrati

Gli shard non equilibrati (asimmetria dello spazio su disco) possono causare uno spazio di archiviazione insufficiente per alcuni nodi. Per risolvere il problema, distribuisci gli shard in modo uniforme su tutti i nodi.

Per verificare la quantità di spazio di archiviazione disponibile per ogni nodo del cluster, esegui questo comando:

curl -XGET "aos_endpoint/_cat/allocation?v"

Nota: sostituisci aos_endpoint con l'endpoint indicato nella console del Servizio OpenSearch.

Esempio di output:

shards | disk.indices | disk.used | disk.avail | disk.total | disk.percent | host         | ip          | node
8    |   989.4kb    |   25.9gb    |   32.4gb   |   58.4gb   |   44         | 192.0.2.0    | 192.0.2.3   | node1
8    |   962.4kb    |   25.9gb    |   32.4gb   |   58.4gb   |   44         | 192.0.2.1    | 192.0.2.4   | node2

Nell'output, puoi visualizzare le metriche dello spazio su disco per ogni nodo. Il Servizio OpenSearch riserva 20 GiB o il 20% dello spazio di archiviazione disponibile in ciascuna istanza Amazon Elastic Compute Cloud (Amazon EC2) per le operazioni interne. L'output precedente per cat/allocation non include lo spazio di archiviazione riservato. Per visualizzare lo spazio di archiviazione riservato e totale dei dati, controlla la metrica FreeStorageSpace del Servizio OpenSearch in Amazon CloudWatch.

Nota: poiché cat/allocation non include lo spazio di archiviazione riservato, il suo valore è sempre inferiore allo spazio di archiviazione visualizzato nella console Servizio OpenSearch.

Aumenta le dimensioni dei volumi Amazon EBS del dominio

Se il dominio utilizza volumi Amazon Elastic Block Store (Amazon EBS) per l'archiviazione, aumenta le dimensioni dei volumi EBS.

Se non riesci ad aumentare le dimensioni dei volumi EBS, intraprendi una o più delle seguenti azioni per scalare il cluster:

• Aumenta le dimensioni delle istanze EC2 per i nodi di dati.
• Aggiungi più nodi per distribuire meglio il carico.

Nota: se utilizzi istanze Amazon EC2 I3 per l'archiviazione dei dati, aggiungi nodi al cluster o aumenta verticalmente il tipo di istanza. Quando scali l'istanza, potresti causare un'implementazione blu/verde.

Elimina gli indici non utilizzati

Per ridurre la quantità di dati archiviati nel dominio, elimina gli indici o i documenti inutilizzati, ottimizza i vecchi indici o riduci il numero di repliche del dominio. Se il cluster è già al massimo utilizzo del disco, devi scalare i nodi o i volumi EBS.

Nota: se riduci il numero di repliche del dominio, la tolleranza ai guasti si riduce. È consigliabile configurare almeno una replica per ogni indice.

Prima di tutto, crea un backup degli indici indesiderati nel bucket Amazon Simple Storage Service (Amazon S3). Puoi utilizzare gli snapshot automatizzati che il Servizio OpenSearch crea per ripristinare l'istanza. Quindi elimina gli indici dal cluster del Servizio OpenSearch per liberare spazio su disco.

È consigliabile creare anche snapshot manuali. Prima di creare un backup manuale, devi creare un repository di snapshot manuali.

Per verificare la data di creazione degli indici, esegui questo comando:

GET _cat/indices?h=h,s,i,id,p,r,dc,dd,ss,creation.date.string&s=creation.date.string:desc

Per eliminare un solo indice, esegui questo comando:

DELETE index-name

Nota: sostituisci index-name con il nome dell'indice.

Per eliminare più indici, esegui questo comando:

DELETE index-pattern

Nota: sostituisci index-pattern con il tuo modello di indice.

Utilizza ISM per gestire lo spazio di archiviazione insufficiente

Utilizza Index State Management (ISM) per eseguire il rollover degli indici nel Servizio OpenSearch. Con ISM, puoi definire policy di gestione personalizzate per mitigare problemi come lo spazio su disco insufficiente. Ad esempio, utilizza una policy ISM per eliminare automaticamente gli indici in base a condizioni quali la dimensione dell'indice. Quindi utilizza un'operazione di rollover per spostare una destinazione su un nuovo indice quando un indice esistente soddisfa la condizione definita.

Il seguente esempio di policy ISM elimina gli indici dopo 50 minuti:

PUT _plugins/_ism/policies/delete_ism_policy  {
    "policy": {
        "policy_id": "delete_ism_policy",
        "description": "A simple default policy that deletes old unused indexes",
        "last_updated_time": 1658834661281,
        "schema_version": 13,
        "error_notification": null,
        "default_state": "example_hot_state",        
        "states": [
            {
                "name": "example_hot_state",
                "actions": [],
                "transitions": [
                    {
                        "state_name": "delete",
                        "conditions": {
                            "min_index_age": "50m"  
                        }
                    }
                ]
            },
            {
                "name": "delete",                    
                "actions": [
                    {
                        "delete": {}
                    }
                ],
                "transitions": []
            }
        ],
        "ism_template": [
            {
                "index_patterns": [                  
                    "sample*"
                ],
                "priority": 100,                    
                "last_updated_time": 1658834436349
            }
        ]
    }
}

Nota: la policy precedente si collega a tutti gli indici del modello di indice aggiunto alla policy.

Per collegare una policy ISM all'indice, esegui questo comando:

POST _plugins/_ism/add/your-index-*  {
     "policy_id": "your_policy_id"
}

Nota: sostituisci your-index-* con il tuo indice o modello di indice e your_policy_id con l'ID della tua policy.

Per ulteriori informazioni, consulta Come faccio a usare ISM per gestire lo spazio di archiviazione insufficiente nel Servizio OpenSearch di Amazon?

Utilizza allarmi in CloudWatch per monitorare lo spazio di archiviazione

Per monitorare lo spazio di archiviazione disponibile nel cluster, utilizza la metrica FreeStorageSpace. Per ricevere notifiche quando lo spazio di archiviazione è insufficiente, crea un allarme in CloudWatch per FreeStorageSpace.

Per ulteriori informazioni, consulta Allarmi CloudWatch consigliati per il Servizio OpenSearch.

Informazioni correlate

Best practice operative per il Servizio OpenSearch di Amazon

Perché il mio cluster del Servizio OpenSearch di Amazon è rosso o giallo?