프롬프트 구성

최대 프롬프트 템플릿 길이:이 설정은 프롬프트 템플릿의 최대 길이(자)를 결정합니다. 값이 높을수록 AI 모델에 더 많은 컨텍스트를 제공할 수 있으므로 응답이 더 정확할 수 있습니다. 그러나 프롬프트가 너무 길면 노이즈가 발생하여 성능에 부정적인 영향을 미칠 수도 있습니다. Amazon Bedrock 모델의 경우 최대 프롬프트 템플릿 길이(문자)의 기본값은 기본 모델 토큰 제한을 사용하여 계산됩니다. Bedrock 내에서 모델 이름을 편집하고 변경하면 '기본값으로 재설정' 버튼이 강조 표시되어 새로 선택한 모델의 기본값을 채택하는 데 사용할 수 있습니다. Amazon SageMaker AI 모델의 경우 적절한 기본값이 제공되지만 기본 모델을 확인하고 이에 따라 이러한 최대 프롬프트 템플릿 길이와 입력 텍스트 길이를 선택하는 것이 좋습니다. 자세한 내용은 모델 토큰 한도 관리에 대한 팁 섹션을 참조하세요.

최대 입력 텍스트 길이:이 설정은 사용자 입력 텍스트의 최대 길이(자)를 제한합니다. 입력이 길수록 관련 없는 정보가 포함되어 AI 모델에서 관련 없거나 부정확한 응답을 얻을 위험이 커질 수 있습니다.

사용자 프롬프트 편집:이 옵션을 사용하면 사용자가 채팅 UI를 통해 프롬프트 템플릿을 수정할 수 있는 기능을 활성화하거나 비활성화할 수 있습니다. 이 기능을 비활성화하면 일관성을 유지하고 프롬프트에 의도하지 않은 변경 사항을 방지하는 데 도움이 될 수 있습니다.

프롬프트 템플릿: 원하는 프롬프트 템플릿을 작성하거나 붙여 넣을 수 있는 기본 텍스트 영역입니다. 템플릿은 AI 모델에 필요한 컨텍스트와 지침을 제공하도록 만들어야 합니다. 여기에는 일반적으로 다음과 같은 자리 표시자가 포함됩니다.

질문 재구분:이 옵션(RAG 배포에만 사용 가능)은 AI 모델로 전달되기 전에 사용자의 원래 입력 쿼리를 재구분할지 아니면 모호하게 할지를 결정합니다. 쿼리를 다시 작성하면 모델이 사용자의 의도를 더 잘 이해하는 데 도움이 되어 잠재적으로 응답이 더 정확해질 수 있습니다.

후행 기록 크기:이 설정은 최종 프롬프트에 포함되어야 하는 이전 메시지 수를 결정합니다. 이 값을 0으로 설정하면 프롬프트 템플릿 또는 모호하지 않은 프롬프트 템플릿에 기록이 삽입되지 않습니다. 참고: 0으로 설정하더라도 프롬프트 템플릿에 {history} 자리 표시자가 있어야 합니다. 런타임 시 빈 문자열로 대체됩니다.

인적 접두사: 대화 기록에서 사용자가 보낸 메시지를 식별하는 데 사용되는 접두사입니다.

AI 접두사: 대화 기록에서 AI 모델이 반환한 메시지를 식별하는 데 사용되는 접두사입니다.

모호화 해제 활성화:이 옵션은 지식 기반에 보내기 전에 사용자 입력을 모호화해야 하는지 여부를 결정합니다.

모호화 해제 프롬프트 템플릿: 지식 기반에 연결할 때 사용자 입력을 모호화하는 데 사용되는 프롬프트 템플릿입니다. 이 프롬프트에서 생성된 출력은 지식 기반에 전송된 쿼리로 사용됩니다. 모호성을 비활성화하면 사용자의 원시 쿼리가 지식 기반에 변경 없이 전송됩니다.