我想在 Amazon Bedrock 上访问 Anthropic Claude 模型,但我不知道该怎么做。
简短描述
由于请求访问权限的过程与其他基础模型不同,因此您可能无法在 Amazon Bedrock 上访问 Anthropic Claude 模型。要获取 Anthropic Claude 模型的访问权限,请提交用例详细信息表。获得访问权限后,保存您的更改。
解决方法
在 Amazon Bedrock 上申请访问 Anthropic Claude 模型
要在 Amazon Bedrock 上访问 Anthropic Claude 模型,请完成以下步骤:
- 打开 Amazon Bedrock 控制台。
- 在导航窗格中,选择 Model access(模型访问权限)。
- 选择 Submit use case details(提交用例详细信息),然后输入信息。然后,选择 Submit(提交)。
- 等待 Submit use case details(提交用例详细信息)按钮变灰。
- 选择 Anthropic,然后选择 Save changes(保存更改)。
测试您对 Anthropic 的访问权限
要测试您是否可以访问 Anthropic Claude 模型,请使用 Amazon Bedrock 控制台上的 Text(文本)或 Chat(聊天)功能。或者,您可以使用 API 调用。
在以下示例中,为 Amazon Bedrock 配置了 Amazon SageMaker 角色。要测试 Amazon Bedrock 运行时设置,请运行以下命令:
import boto3
import json
bedrock = boto3.client(service_name='bedrock-runtime')
body = json.dumps({
"prompt": "\n\n
Human:explain black holes to 8th graders\n\n
Assistant:",
"max_tokens_to_sample": 300,
"temperature": 0.1,
"top_p": 0.9,
})
modelId = 'anthropic.claude-v2'
accept = 'application/json'
contentType = 'application/json'
response = bedrock.invoke_model(body=body, modelId=modelId, accept=accept, contentType=contentType)
response_body = json.loads(response.get('body').read())
# text
print(response_body.get('completion'))
要测试 Amazon Bedrock 设置,请运行以下命令:
import boto3
bedrock = boto3.client(service_name='bedrock')
bedrock.get_foundation_model(modelIdentifier='anthropic.claude-v2')