Amazon Bedrock에서 Anthropic Claude 모델에 액세스하려고 하는데 방법을 모릅니다.
간략한 설명
액세스를 요청하는 프로세스가 다른 파운데이션 모델과 다르기 때문에 Amazon Bedrock에서 Anthropic Claude 모델에 액세스하지 못할 수 있습니다. Anthropic Claude 모델에 액세스하려면 사용 사례 세부 정보 양식을 제출하십시오. 액세스 권한이 부여된 후 변경 사항을 저장하십시오.
해결 방법
Amazon Bedrock에서 Anthropic Claude 모델에 대한 액세스 요청
Amazon Bedrock에서 Anthropic Claude 모델에 액세스하려면 다음 단계를 완료하십시오.
- Amazon Bedrock 콘솔을 엽니다.
- 탐색 창에서 **Model access(모델 액세스)**를 선택합니다.
- **Submit use case details(사용 사례 세부 정보 제출)**를 선택하고 정보를 입력합니다. 그런 다음, **Submit(제출)**을 선택합니다.
- Submit use case details(사용 사례 세부 정보 제출) 버튼이 회색으로 표시될 때까지 기다립니다.
- Anthropic을 선택한 다음, **Save changes(변경 사항 저장)**를 선택합니다.
Anthropic에 대한 액세스 테스트
Anthropic Claude 모델에 액세스할 수 있는지 테스트하려면 Amazon Bedrock 콘솔에서 Text(텍스트) 또는 Chat(채팅) 기능을 사용하십시오. 또는 API 호출을 사용할 수 있습니다.
다음 예시에서는 Amazon Bedrock에 대해 Amazon SageMaker 역할이 구성되어 있습니다. Amazon Bedrock 런타임 설정을 테스트하려면 다음 명령을 실행합니다.
import boto3
import json
bedrock = boto3.client(service_name='bedrock-runtime')
body = json.dumps({
"prompt": "\n\n
Human:explain black holes to 8th graders\n\n
Assistant:",
"max_tokens_to_sample": 300,
"temperature": 0.1,
"top_p": 0.9,
})
modelId = 'anthropic.claude-v2'
accept = 'application/json'
contentType = 'application/json'
response = bedrock.invoke_model(body=body, modelId=modelId, accept=accept, contentType=contentType)
response_body = json.loads(response.get('body').read())
# text
print(response_body.get('completion'))
Amazon Bedrock 설정을 테스트하려면 다음 명령을 실행합니다.
import boto3
bedrock = boto3.client(service_name='bedrock')
bedrock.get_foundation_model(modelIdentifier='anthropic.claude-v2')