도구 선택 방법 제어 - Amazon Nova

도구 선택 방법 제어

Amazon Nova Sonic은 도구 실행을 관리하는 데 도움이 되는 세 가지 도구 선택 파라미터를 지원합니다. toolChoice 파라미터를 지정하여 모델에서 사용하는 도구를 제어할 수 있습니다.

  • 도구 - tool 옵션은 응답 생성이 시작될 때 명명된 특정 도구가 정확히 한 번 직접적으로 호출되도록 합니다. 예를 들어, 지식 기반 도구를 지정하면 모델이 해당 도구가 필요하다고 판단하는지 여부와 관계없이 응답 전에 이 지식 기반을 쿼리합니다.

  • 모두 - any 옵션은 응답 생성이 시작될 때 사용 가능한 도구 중 하나 이상이 직접적으로 호출되게 하면서 모델이 가장 적합한 도구를 선택할 수 있도록 합니다. 이 옵션은 지식 기반이나 도구가 여러 개 있는데 어떤 도구를 사용할지 지정하지 않고도 모델이 그 중 하나 이상을 활용하도록 하려는 경우에 유용합니다.

  • 자동 - auto 옵션을 사용하면 응답 생성이 시작될 때 모델이 필요한 도구가 있는지 여부를 유연하게 판단하고 필요한 경우 여러 도구를 직접적으로 호출할 수 있습니다. 이 또한 기본 동작입니다.

자세한 내용은 Tool use with Amazon Nova를 참조하세요.

다중 도구 시퀀스 동작

Amazon Nova Sonic은 각 응답 주기 내에서 도구 실행을 지능적으로 처리합니다. tool 옵션을 사용하면 모델은 먼저 지정된 도구를 실행한 다음 최종 응답을 생성하기 전에 추가 도구가 필요한지 여부를 평가합니다. 마찬가지로 any 옵션을 사용하면 모델은 먼저 사용 가능한 옵션 중에서 하나의 도구를 선택하여 직접적으로 호출한 다음 추가 도구 직접 호출이 필요한지 여부를 결정한 후 응답을 생성합니다.

모든 경우에서 모델은 단일 응답 생성 주기 내에서 전체 도구 실행 시퀀스를 관리하여 적절한 응답을 생성하기에 충분한 정보가 수집된 시점을 결정합니다.

다음 예제 시나리오를 검토해보세요.

Knowledge base example
  • toolChoice: "knowledge_tool"을 사용하면 모델은 항상 지정된 지식 기반을 먼저 쿼리한 다음, 필요한 경우 응답 전에 다른 도구를 사용합니다.

  • toolChoice: "any"를 사용하면 여러 지식 기반을 사용할 수 있는 경우 모델은 가장 관련성 높은 지식 기반을 선택하여 쿼리한 다음, 필요한 경우 추가 소스를 참조할 수 있습니다.

  • toolChoice: "auto"를 사용하면 모델은 직접 답변할 수 있는 질문에 대해서는 지식 조회를 완전히 생략하거나, 복잡한 질문에 대해서는 여러 지식 기반을 쿼리할 수 있습니다.

Multi-functional assistant example
  • 날씨, 캘린더, 지식 도구가 있는 가상 어시스턴트는 toolChoice: "auto"를 사용하여 다양한 쿼리에 유연하게 대응하면서 필요한 도구만 직접적으로 호출할 수 있습니다.

  • toolChoice: "any"를 사용하면 모델이 직접 답변할 수 있는 쿼리에 대해서도 항상 적어도 하나의 도구가 사용됩니다.

자세한 내용은 도구 선택을 참조하세요.