Bedrock: 1 model unit = how many tokens/min throughput?

4

No where in the docs does it actually say what 1 model unit = how many tokens/min throughput. I'm sure this is different per model. There are on-demand pricing examples but the only provisioned example has model units with no token information.

Bedrock: 1 model unit = how many tokens/min throughput?

dres
質問済み 8ヶ月前984ビュー
2回答
0

See: https://docs.aws.amazon.com/bedrock/latest/userguide/quotas.html#quotas-runtime It highlights "Tokens processed per minute" for each model. And yes, its different for different models.

rkt
回答済み 2ヶ月前
-3

Open a ticket to get these details from support.

AWS
エキスパート
回答済み 8ヶ月前
  • I did. They couldn’t. This isn’t an answer nor is it helpful

  • if don't know the answer don't answer please

ログインしていません。 ログイン 回答を投稿する。

優れた回答とは、質問に明確に答え、建設的なフィードバックを提供し、質問者の専門分野におけるスキルの向上を促すものです。

質問に答えるためのガイドライン

関連するコンテンツ