AWS Bedrockで、テキスト生成等を使用時、「Too many requests, please wait before trying again.」となり、使用できないので解消したい。
昨日より、Bedrockのプレイグラウンドにおいて、テキスト、イメージのいずれを使用した際も、「Too many requests, please wait before trying again.」となり回答がされない状況となった。
＊ずーと今も使えない状況で、困っています。
・リージョン：バージニア北部 ・使用モデル：テキストは、Claude 3 Sonnet、Claude 3 Haiku イメージは、SDXL 1.0
何か対処法などございますでしょうか？
【追記】参考まで、下はPythonで invokeするAPを実行した際に表示されるメッセージです。(1コールだけです) response = bedrock_runtime.invoke_model(body=body, modelId=modelId, File "/usr/local/lib/python3.9/site-packages/botocore/client.py", line 565, in _api_call return self._make_api_call(operation_name, kwargs) File "/usr/local/lib/python3.9/site-packages/botocore/client.py", line 1021, in _make_api_call raise error_class(parsed_response, operation_name) botocore.errorfactory.ThrottlingException: An error occurred (ThrottlingException) when calling the InvokeModel operation (reached max retries: 4): Too many requests, please wait before trying again. You have sent too many requests. Wait before trying again.
- 新しい順
- 投票が多い順
- コメントが多い順
Service Quotas > AWS services > Amazon Bedrock でサービスのクォーツを確認することができます。
Claude 3 Sonnet、Claude 3 Haikuはバージニア北部においてはQuotasの設定が0であることを確認しました。
もしかしたらここに原因があるかもしれません。
同様の問題が下記のre:Postでも確認されました。
一部のリージョンでは機能していますが、一部のリージョンではQuoatsが0になっているのかもしれません。
東京リージョンで記載してしまっていたため、内容を編集しました。
回答ありがごうございます。 既に、re:Postで記載されているとのこと、失礼しました。（＊結構、影響がありそうですね） 東京リージョンでは、”0”でないので、少し様子を見て対応させていただきます。
（追伸） まだ、バージニア北部は使用できないので、（あくまで暫定ですが） Quoatsが0でない、東京リージョンの「Claude 3 Haiku」を使用し、解消しています。