Wie behebe ich den Mangel an Speicherplatz in meiner OpenSearch-Service-Domain?

Lesedauer: 5 Minute

Ich möchte den Mangel an Speicherplatz in meiner AmazonOpenSearchService-Domain beheben.

Lösung

Deine OpenSearch-Service-Domain hat Speicherplatzanforderungen, die du einhalten musst. Wenn dir der Speicherplatz in der Domain ausgeht, erhältst du möglicherweise einen „ClusterBlockException“-Fehler.

Führe eine oder mehrere der folgenden Maßnahmen durch, um Probleme mit wenig Speicherplatz zu beheben.

Nach unausgeglichenen Shards suchen

Unausgeglichene Shards (Speicherplatzversatz) können bei einigen Knoten zu wenig Speicherplatz führen. Um dieses Problem zu beheben, verteile die Shards gleichmäßig auf alle Knoten.

Führe den folgenden Befehl aus, um zu überprüfen, wie viel Speicherplatz für jeden Knoten im Cluster verfügbar ist:

curl -XGET "aos_endpoint/_cat/allocation?v"

Hinweis: Ersetze aos_endpoint durch den Endpunkt, der in der OpenSearch-Service-Konsole aufgeführt ist.

Beispielausgabe:

shards | disk.indices | disk.used | disk.avail | disk.total | disk.percent | host         | ip          | node
8    |   989.4kb    |   25.9gb    |   32.4gb   |   58.4gb   |   44         | 192.0.2.0    | 192.0.2.3   | node1
8    |   962.4kb    |   25.9gb    |   32.4gb   |   58.4gb   |   44         | 192.0.2.1    | 192.0.2.4   | node2

In der Ausgabe kannst du die Speicherplatz-Metriken für jeden Knoten anzeigen. OpenSearch Service reserviert entweder 20 GiB oder 20 % des verfügbaren Speichers auf jeder Amazon Elastic Compute Cloud (Amazon EC2)-Instance für interne Operationen. Die vorherige Ausgabe für cat/allocation beinhaltet nicht den reservierten Speicher. Um den reservierten und den gesamten Datenspeicher anzuzeigen, überprüfe in Amazon CloudWatch die OpenSearch-Service-Metrik FreeStorageSpace.

Hinweis: Da cat/allocation keine reservierten Daten enthält, ist ihr Wert immer niedriger als der Speicherplatz, den du in der OpenSearch-Service-Konsole siehst.

Die Größe des Amazon-EBS-Volumes der Domain erhöhen

Wenn die Domain Amazon Elastic Block Store (Amazon EBS)-Volumes für die Speicherung verwendet, erhöhe die Größe des EBS-Volumes.

Wenn du das EBS-Volume nicht vergrößern kannst, führe eine oder mehrere der folgenden Maßnahmen durch, um deinen Cluster zu skalieren:

Erhöhe die Größe der EC2-Instances für deine Datenknoten.
Füge mehr Knoten hinzu, um die Last besser zu verteilen.

Hinweis: Wenn du Amazon-EC2-I3-Instances als Datenspeicher verwendest, füge dem Cluster Knoten hinzu oder skaliere den Instance-Typ hoch. Wenn du deine Instance skalierst, kann dies zu einer Blau/Grün-Bereitstellung führen.

Unbenutzte Indizes löschen

Um die Menge der in deiner Domain gespeicherten Daten zu reduzieren, lösche ungenutzte Indizes oder Dokumente, optimiere alte Indizes oder reduziere die Anzahl der Replikate der Domain. Wenn der Cluster bereits die maximale Festplattennutzung erreicht hat, musst du deine EBS-Volumes oder -Knoten skalieren.

Hinweis: Wenn du die Anzahl der Replikate der Domain reduzierst, verringert sich die Fehlertoleranz. Es hat sich bewährt, mindestens ein Replikat für jeden Index zu konfigurieren.

Erstelle zuerst eine Sicherungskopie unerwünschter Indizes im Amazon Simple Storage Service (Amazon S3)-Bucket. Du kannst automatische Snapshots verwenden, die OpenSearch Service erstellt, um deine Instance wiederherzustellen. Lösche dann die Indizes aus dem OpenSearch-Service-Cluster, um Speicherplatz freizugeben.

Es hat sich bewährt, auch manuelle Snapshots zu machen. Bevor du ein manuelles Backup erstellst, musst du ein manuelles Snapshot-Repository erstellen.

Führe den folgenden Befehl aus, um das Erstellungsdatum von Indizes zu überprüfen:

GET _cat/indices?h=h,s,i,id,p,r,dc,dd,ss,creation.date.string&s=creation.date.string:desc

Führe den folgenden Befehl aus, um einen einzelnen Index zu löschen:

DELETE index-name

Hinweis: Ersetze index-name durch den Indexnamen.

Führe den folgenden Befehl aus, um mehrere Indizes zu löschen:

DELETE index-pattern

Hinweis: Ersetze index-pattern durch dein Indexmuster.

ISM verwenden, um wenig Speicherplatz zu verwalten

Verwende Index State Management (ISM), um Indizes in OpenSearch Service zu übertragen. Mit ISM kannst du benutzerdefinierte Verwaltungsrichtlinien definieren, um Probleme wie etwa zu wenig Speicherplatz zu mindern. Verwende beispielsweise eine ISM-Richtlinie, um Indizes basierend auf Bedingungen wie der Indexgröße automatisch zu löschen. Verwende dann eine Rollover-Operation, um ein Ziel in einen neuen Index zu verschieben, wenn ein vorhandener Index die definierte Bedingung erfüllt.

Das folgende Beispiel für eine ISM-Richtlinie löscht Indizes nach 50 Minuten:

PUT _plugins/_ism/policies/delete_ism_policy  {
    "policy": {
        "policy_id": "delete_ism_policy",
        "description": "A simple default policy that deletes old unused indexes",
        "last_updated_time": 1658834661281,
        "schema_version": 13,
        "error_notification": null,
        "default_state": "example_hot_state",        
        "states": [
            {
                "name": "example_hot_state",
                "actions": [],
                "transitions": [
                    {
                        "state_name": "delete",
                        "conditions": {
                            "min_index_age": "50m"  
                        }
                    }
                ]
            },
            {
                "name": "delete",                    
                "actions": [
                    {
                        "delete": {}
                    }
                ],
                "transitions": []
            }
        ],
        "ism_template": [
            {
                "index_patterns": [                  
                    "sample*"
                ],
                "priority": 100,                    
                "last_updated_time": 1658834436349
            }
        ]
    }
}

Hinweis: Die vorherige Richtlinie wird an alle Indizes für das Indexmuster angefügt, das du der Richtlinie hinzufügst.

Führe den folgenden Befehl aus, um eine ISM-Richtlinie an den Index anzufügen:

POST _plugins/_ism/add/your-index-*  {
     "policy_id": "your_policy_id"
}

Hinweis: Ersetze your-index-* durch deinen Index oder dein Indexmuster und your_policy_id durch deine Richtlinien-ID.

Weitere Informationen findest du unter Wie verwende ich ISM, um wenig Speicherplatz in OpenSearch Service zu verwalten?

CloudWatch-Alarme verwenden, um den Speicher zu überwachen

Um die Menge des verfügbaren Speichers im Cluster zu überwachen, verwende die FreeStorageSpace-Metrik. Um Benachrichtigungen zu erhalten, wenn dein Speicherplatz knapp wird, erstelle einen CloudWatch-Alarm für FreeStorageSpace.

Weitere Informationen findest du unter Empfohlene CloudWatch-Alarme für OpenSearch Service.