프롬프트 엔지니어링이란 무엇인가요?
프롬프트 엔지니어링이란 대규모 언어 모델(LLM)에 대한 텍스트 입력을 최적화하여 출력을 개선하고 원하는 응답을 받는 방법을 말합니다. 프롬프팅은 LLM이 분류, 질문 응답, 코드 생성, 창의적인 글쓰기 등을 비롯하여 다양한 태스크를 수행하는 데 도움이 됩니다. LLM에 제공하는 프롬프트의 품질은 모델의 응답 품질에 영향을 미칠 수 있습니다. 이 섹션에서는 프롬프트 엔지니어링을 시작하는 데 필요한 정보를 제공합니다. 그리고 Amazon Bedrock에서 LLM을 사용할 경우 사용 사례에 가장 적합한 프롬프트 형식을 찾는 데 도움이 되는 도구도 다룹니다.
프롬프트의 효과는 제공된 정보의 품질과 프롬프트 자체의 특징에 따라 달라집니다. 프롬프트에는 모델을 효과적으로 안내하고 결과의 품질을 개선하기 위한 지침, 질문, 컨텍스트 세부 정보, 입력 및 예제가 포함될 수 있습니다. 이 문서에서는 Amazon Nova 2 Sonic 모델 제품군의 성능을 최적화하기 위한 전략과 전술을 간략하게 설명합니다. 여기에 제시된 방법은 효과를 높이기 위해 다양한 조합으로 사용할 수 있습니다. 사용자가 직접 실험에 참여하여 자신의 특정 요구에 가장 적합한 접근 방식을 찾아볼 것을 권장합니다.
프롬프트 엔지니어링 시작하기
프롬프트 엔지니어링을 시작하기 전에 다음 요소를 준비하여 사용 사례에 가장 적합한 프롬프트를 반복적으로 개발할 수 있도록 하는 것이 좋습니다.
- 사용 사례 정의
-
4개의 차원에서 사용 사례를 정의합니다.
-
태스크 - 모델에서 수행하려는 태스크를 정의합니다. 이는 올바른 프롬프트 기법을 결정합니다.
-
역할 - 해당 태스크를 수행하기 위해 모델이 수임해야 하는 역할을 정의합니다. Amazon Nova 모델은 세 가지 역할(시스템, 사용자 또는 어시스턴트)을 지원합니다.
-
응답 스타일 - JSON, 마크다운 또는 대화와 같은 오디언스에 따라 모델이 따라야 하는 응답 구조 또는 스타일을 정의합니다.
-
지침 - 모델이 성공 기준을 충족하기 위해 따라야 할 일련의 지침을 정의합니다.
-
- 성공 기준 설정
-
성공 기준 또는 평가 지표를 정의합니다. 기준 목록을 제공하거나 길이, BLEU 점수, ROUGE, 형식, 사실성 및 충실도와 같은 특정 평가 지표를 제공할 수 있습니다.
- 프롬프트 초안 작성
-
태스크, 역할, 응답 스타일 및 지침을 통합하는 시작 프롬프트를 생성합니다. 결과를 기반으로 반복합니다.
프롬프트의 효과는 제공하는 정보의 품질에 따라 달라집니다.
