View a markdown version of this page

도구를 사용하여 Amazon Bedrock 모델 응답 완성 - Amazon Bedrock

기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.

도구를 사용하여 Amazon Bedrock 모델 응답 완성

Amazon Bedrock API를 사용하여 모델에 전송하는 메시지에 대한 응답을 생성하는 데 도움이 되는 도구에 대한 액세스 권한을 모델에 제공할 수 있습니다. 예를 들어, 사용자가 라디오 방송국에서 재생되는 가장 인기 있는 노래를 찾을 수 있는 채팅 애플리케이션이 있을 수 있습니다. 가장 인기 있는 노래에 대한 요청에 답변하려면 모델에 노래 정보를 쿼리하고 반환할 수 있는 도구가 필요합니다.

참고

이제 도구 사용과 함께 구조화된 출력을 사용할 수 있습니다. 자세한 내용은 모델에서 검증된 JSON 결과 가져오기 섹션을 참조하세요.

Amazon Bedrock에서는 모델이 도구를 직접 호출하지 않습니다. 메시지를 보낼 때 모델이 응답을 생성하는 데 도움이 될 수 있는 하나 이상의 도구에 대한 정의도 제공합니다. 모델은 도구가 필요한 시기를 결정합니다. 애플리케이션 코드(또는 서버 측 모드에서 Amazon Bedrock 자체)는 도구를 실행하고 모델이 최종 응답에 통합할 결과를 반환합니다.

Amazon Bedrock은 호출하는 API와 사용하는 모델 패밀리에 따라 세 가지 도구 사용 모드를 지원합니다.

Mode(모드) 도구를 실행하는 사람 사용 시기
클라이언트 측 도구 사용 모델이 도구 호출 요청을 반환한 후의 애플리케이션 코드입니다. 대부분의 사용 사례. 응답, 채팅 완료, Converse 및 InvokeModel APIs.
서버 측 도구 사용 Amazon Bedrock 자체. Lambda 함수 또는 AgentCore Gateway를 등록하면 Amazon Bedrock이 모델을 대신하여 도구를 호출합니다. 애플리케이션에서 오케스트레이션을 관리하지 않고도 중앙 집중식 보안 도구 실행. 현재 응답 API에서 사용할 수 있습니다.
Anthropic Claude 도구 사용 Anthropic정의된 도구 유형(, computer_*, bash_*text_editor_*, memory_*) 및 Anthropic 메시지 API 요청 형식을 사용하는 애플리케이션 코드입니다. bedrock-runtime 또는의 Claude 모델을 사용한 컴퓨터 사용, 코드 실행, 파일 편집, 영구 메모리 또는 세분화된 도구 스트리밍bedrock-mantle.