고급 프롬프트 기법
이 섹션에서는 프롬프트의 품질을 개선하고 확장된 사고와 같은 주요 기능을 활용하는 방법에 대한 고급 지침을 제공합니다.
Amazon Nova 2 모델은 응답하기 전에 문제를 체계적으로 해결할 수 있도록 지원함으로써 복잡한 문제 해결에 대한 모델의 접근 방식을 개선하는 선택적 추론 모드를 제공합니다. 모델의 추론 모드 활용은 프롬프트의 정확도를 개선하는 강력한 방법입니다.
사용 시점: 추론 모드는 다음 사용 사례와 같이 복잡한 태스크에 대해 권장됩니다.
-
여러 추론 단계: 수학적 증명, 알고리즘 설계, 시스템 아키텍처
-
교차 참조 정보: 문서 분석, 옵션 비교, 장단점 평가
-
오류가 발생하기 쉬운 계산: 재무 모델링, 데이터 분석, 복잡한 디버깅
-
제약 조건을 포함하는 계획: 리소스 최적화, 종속성 관리, 위험 평가
-
복잡한 분류: 다중 레이블 분류, 계층적 분류, 미묘한 의사 결정 경계
-
도구 직접 호출 시나리오: 여러 단계의 API 워크플로, 데이터베이스 쿼리 최적화, 조정된 시스템 통합
참고
추론 모드에 대한 자세한 내용은 추론 사용 섹션을 참조하세요.
모델이 문제를 해결하기 위해 여러 접근 방식을 평가해야 하는 상황에서 하향식 접근 방식을 채택하도록 지시합니다.
-
Amazon Nova 2 모델은 모델이 전체적 상황 파악부터 시작한 다음 이를 더 작고 세부적인 하위 문제 또는 단계로 나눌 때 더 나은 성능을 발휘합니다.
-
모델이 먼저 주요 목표를 식별한 다음 이를 관리 가능한 구성 요소로 분해한 후 각 부분의 세부 정보를 살피도록 명시적으로 지시합니다.
-
이 구조화된 접근 방식은 모델이 사고를 구성하고 보다 일관된 추론 체인을 생성하는 데 도움이 됩니다.
예시:
{{User query}}. Start with the big picture and break it down into progressively smaller, more detailed subproblems or steps.
추론 모드는 체계적인 문제 해결을 통해 향상된 정확도를 제공하지만, 비추론 모드에서의 연쇄적 사고(CoT) 프롬프트가 요구 사항을 더 잘 충족할 수 있는 특정 시나리오가 있습니다.
이 기능을 사용해야 하는 경우:
-
투명성 및 감사 가능성: 모델의 추론 프로세스를 참조, 확인 또는 감사하려는 경우 CoT는 각 단계에 대한 전체 가시성을 제공합니다. 이는 규제 대상 산업, 고위험 의사 결정 또는 답변 뒤에서 로직을 문서화하려는 경우에 매우 중요합니다.
-
사용자 지정 추론 구조: CoT를 사용하여 특정 추론 패턴 또는 방법론을 적용합니다. 조직의 의사 결정 프레임워크를 따르거나 도메인별 문제 해결 접근 방식을 사용하거나 요소를 특정 순서로 고려하도록 모델을 안내할 수 있습니다.
-
프롬프트 개발 및 디버깅: 프롬프트 엔지니어링 단계에서 CoT는 모델이 문제에 접근하는 방식을 이해하고 추론이 중단되는 위치를 식별하며 프롬프트를 더 효과적으로 반복하는 데 도움이 됩니다.
-
하이브리드 접근 방식: 개발 중에 CoT를 사용하여 프롬프트를 완성한 다음, 특정 사용 사례에 대한 모델의 접근 방식에 자신이 있으면 프로덕션 배포를 위한 추론 모드로 전환하는 방법을 고려합니다.
참고
모든 태스크에 CoT가 필요한 것은 아닙니다. 더 간단한 태스크의 경우 모델에서 자체 추론 프로세스를 사용하도록 허용합니다.
모델의 CoT 방향 안내
{{User query}} Please follow these steps: 1. {{Step 1}} 2. {{Step 2}} ...
Amazon Nova 2 모델에서 지원되는 컨텍스트 길이는 1백만 개의 토큰이며 긴 문서에서 코드 이해 및 질문 답변에 뛰어납니다. 컨텍스트 크기가 증가함에 따라 성능(시스템 프롬프트 준수 및 도구 사용 포함)이 약간 저하될 수 있습니다.
이 기능을 사용하는 방법:
-
긴 형식 데이터를 시작 부분에 배치: 긴 문서와 입력을 프롬프트 시작 부분에 배치합니다. 쿼리, 지침 및 예제 앞에 배치합니다.
-
끝에 지침 배치: 프롬프트 끝에 지침을 배치합니다. 모델은 컨텍스트가 먼저 제공되고 지침이 끝에 제공될 때 가장 성능이 좋습니다.
-
문서 콘텐츠 시작 및 종료 마커 구조화:
DOCUMENT {idx} START및DOCUMENT {idx} END와 같은 시작 및 종료 마커를 사용하여 긴 문서의 시작과 끝을 나타냅니다. 여기서 {idx}는 특정 문서의 인덱스를 나타냅니다.
템플릿 예제:
// Provide your long inputs at the top of your prompt BEGIN INPUT DOCUMENTS DOCUMENT 1 START {{Your document}} DOCUMENT 1 END END INPUT DOCUMENTS // Then specify your query and instructions BEGIN QUESTION {{User query}} END QUESTION BEGIN INSTRUCTIONS {{Instructions}} END INSTRUCTIONS
모델에 입력 쿼리와 관련된 신뢰할 수 있는 정보를 제공하는 것이 좋습니다. 이 정보는 종종 입력 쿼리와 함께 검색 증강 생성(RAG)이라는 시스템에 포함됩니다.
-
이 과정에서 일부 관련성 있고 맥락에 맞는 문서 또는 정보가 실제 사용자 프롬프트에 보강되어 모델이 신뢰할 수 있는 콘텐츠를 확보하여 관련성 있고 정확한 응답을 생성합니다.
-
Amazon Nova 2에 신뢰할 수 있는 출처의 참조 텍스트를 사용하여 답변하도록 지시하면 제공된 자료를 기반으로 답변을 작성하도록 안내하고 정확하고 관련성 있는 정보를 기반으로 답변을 작성하여 생성된 콘텐츠의 신뢰성과 신뢰도를 높일 수 있습니다.
-
참조 텍스트를 사용하면 할루시네이션을 피할 수 있어 응답의 전반적인 품질과 신뢰성이 향상됩니다. 할루시네이션을 최소화하려면 모델 지침에
DO NOT USE INFORMATION THAT IS NOT IN REFERENCE TEXTS!를 명시적으로 언급하는 것이 좋습니다.
프롬프트 템플릿
System: In this session, the model has access to search results and a user's question, your job is to answer the user's question using only information from the search results. Model Instructions: - DO NOT USE INFORMATION THAT IS NOT IN SEARCH RESULTS! User: {Query} Resource: Search Results: {Reference texts}
이 예제에서는 그라운딩 컨텍스트를 통해 모델에서 할루시네이션을 방지하는 방법을 보여줍니다.
시스템:
In this session, the model has access to search results and a user's question, your job is to answer the user's question using only information from the search results. Model Instructions:- DO NOT USE INFORMATION THAT IS NOT IN SEARCH RESULTS!
사용자:
What were the economic impacts of the COVID-19 pandemic on the United States in 2020? Resource: Search Results: In 2020, the United States experienced significant economic impacts due to the COVID-19 pandemic. The U.S. economy contracted by 3.5% in 2020, according to the Bureau of Economic Analysis. Unemployment rates surged to 14.7% in April 2020, the highest since the Great Depression, before gradually declining. Small businesses faced severe challenges, with millions of firms closing permanently. Additionally, consumer spending dropped sharply as people reduced non-essential expenditures and saved more. Government intervention played a critical role in mitigating these impacts through stimulus packages and support programs, such as the Paycheck Protection Program (PPP) for small businesses and direct payments to individuals. Despite these measures, the economic recovery remained uneven across different sectors and regions.
인용 마커를 사용하는 그라운딩
긴 문서 태스크의 경우 Amazon Nova 2 모델이 태스크를 진행하기 전에 문서의 관련 섹션의 인용을 사용하여 응답을 근거하도록 지시하는 것이 좋습니다.
이 접근 방식은 모델이 가장 관련성이 높은 정보에 집중하고 불필요한 콘텐츠로 인해 산만해지는 것을 방지하는 데 도움이 됩니다. 모델에 응답을 그라운딩하도록 요청할 때 인용할 수 있는 섹션에 숫자가 지정되어야 합니다. 예: Passage
%[1]%, Passage %[2]% 등.
예인용 마커 프롬프트
You are an AI financial assistant. Your task is to find patterns and insights from multi-year financial documents Passage %[1]% {{Your document}} Passage %[2]% {{Your document}} ## Task: Analyze my LLC's reports across multiple years to identify significant performance trends, segment growth patterns and strategic shifts. ## Context information: - You have access to my LLC's annual financial reports (10-K) for multiple fiscal years in PDF format - These reports contain comprehensive financial data including income statements, balance sheets, cash flow statements and management discussions - The analysis should focus on year-over-year comparisons to identify meaningful trends - I operate two business segments, one in Massachusetts and one in New York Based on the provided Context, extract key financial metrics from each year's reports phrases from the documents. Place citations as inline markers (e.g., %[1]%, %[2]%, etc.) directly within the relevant parts of the response text. Do not include a separate citation section after the response. ## Response Schema: %% (Extracted Financial Metrics) %% (Extracted Financial Metrics) %% (Extracted Financial Metrics) ...
사용자의 태스크를 기반으로 주요 정보를 추출한 후, 추출된 재무 지표를 사용하여 다음과 같이 관련 질문에 답변할 수 있습니다.
예추출된 지표를 사용한 후속 분석
## Task Analyze my LLC's financial reports across multiple years to identify significant performance trends, segment growth patterns and strategic shifts. {{extracted financial metrics}} ## Model Instructions: - Organize data chronologically to identify meaningful trends - DO compare segment performance across the five-year period - DO identify significant strategic shifts or investments mentioned in management discussions - DO NOT make speculative predictions beyond what is supported by the data - ALWAYS note any changes in accounting practices or reporting methodologies that might affect year-over-year comparisons ## Response style and format requirements: - Respond in markdown - Structure the analysis with clear headings and subheadings - Present key financial metrics in tabular format showing all five years side-by-side - Include percentage changes year-over-year for all major metrics - Create a section dedicated to visualizing the most significant trends (with descriptions of what would be shown in charts) - Limit the executive summary to 250 words maximum - Format segment analysis as separate sections with consistent metrics across all segments - MUST include a Key Insights bullet-pointed list at the end of each major section
Nova 웹 그라운딩 사용
Amazon Nova 2 모델은 지원 텍스트에 모델을 그라운딩하도록 인용을 직접 프롬트로 작성하는 대신, 사용 가능한 내부 웹 그라운딩 도구를 제공합니다. 이 기능이 활성화되면 Amazon Nova 2 모델은 웹 및 Amazon의 지식 그래프를 직접 쿼리하고 인용을 사용하여 최종 응답을 그라운딩합니다.
Amazon Nova Web Grounding을 활용하는 방법에 대해 자세히 알아보려면 Amazon Nova Web Grounding 사용 설명서를 참조하세요.
일관되고 구조화된 출력 형식을 보장하기 위해 XML, JSON, 마크다운과 같은 형식을 비롯해 구조화된 출력을 사용하거나 도구 사용 기능을 사용할 수 있습니다.
-
이 접근 방식을 사용하면 다운스트림 시스템에서 모델에 의해 생성된 출력을 보다 효과적으로 이해하고 구문 분석할 수 있습니다.
-
모델에 명시적 지침을 제공하면 미리 정의된 스키마를 준수하는 방식으로 응답이 생성됩니다.
예를 들어 다운스트림 구문 분석기가 JSON 객체의 키에 대한 특정 명명 규칙을 예상하는 경우 프롬프트 끝에서 응답 스키마를 지정해야 합니다. 또한, 머리말 텍스트 없이 JSON 형식으로 응답을 받는 것을 선호하는 경우 모델에 그에 맞는 지시를 내리세요. 즉, 깨끗한 출력을 위해 명시적으로 다음과 같이 진술합니다. JSON 출력만 생성하세요. 프리앰블을 제공하지 마세요.
작은 정보
-
예제(예: YYYY/MM/DD 형식으로 날짜 지정)를 사용하는 대신, 스키마 자체에 정의된 경우 데이터 형식 요구 사항을 가장 잘 준수하는 것으로 나타났습니다.
-
최대 10개의 키가 있는 단순한 JSON 출력의 경우 아래에서 스키마를 찾을 수 있습니다. 보다 복잡한 스키마의 경우 도구를 통해 스키마를 정의하는 것이 좋습니다. 도구 사용 시 이러한 복잡한 스키마에 대한 모델의 준수 정도를 높이는 제한된 디코딩이라는 기술을 활용합니다.
일반적인 형식 지정 스키마
다음은 몇 가지 일반적인 형식 지정 스키마에 대한 예제입니다.
어시스턴트 콘텐츠 미리 채우기
비추론 모드에서 구조화된 출력을 생성하는 경우 어시스턴트 콘텐츠를 미리 채워 모델의 응답을 유도할 수 있습니다.
미리 채우는 방식은 비추론 모드인 동안 출력 형식의 일관성을 개선합니다. 이를 통해 사용하면 모델의 작업을 지시하고, 머리말을 우회하며, JSON 및 XML과 같은 특정 출력 형식을 적용할 수 있습니다. 예를 들어 어시스턴트 콘텐츠에 { 또는 ```json을 미리 채우면 추가 정보를 제공하지 않고도 모델이 JSON 객체를 생성하도록 안내할 수 있습니다.
작은 정보
명시적으로 JSON을 추출하려는 경우 일반적인 패턴은 ```json으로 미리 채우고 ```에 중지 시퀀스를 추가하는 것입니다. 이렇게 하면 모델이 프로그래밍 방식으로 구문 분석할 수 있는 JSON 객체를 출력합니다.
예어시스턴트 콘텐츠 미리 채우기
다음 코드는 API로 미리 채우는 방법을 보여줍니다.
import boto3 import json # Create a Bedrock Runtime client. client = boto3.client( "bedrock-runtime", region_name="us-east-1" ) request_body = { "system": [ {"text": "You write JSON objects based on the given instructions"} ], "messages": [ { "role": "user", "content": [{"text": "Provide details about the best selling full-frame cameras in past three years. Answer in JSON format with keys like name, brand, price and a summary."}] }, { "role": "assistant", "content": [{"text": " Here is the JSON response: ```json"}] } ], "inferenceConfig": { "maxTokens": 1000, } } # Invoke the model and extract the response body. response = client.invoke_model( modelId="amazon.nova-2-lite-v1:0", body=json.dumps(request_body) ) model_response = json.loads(response["body"].read())
복잡한 스키마에 대해 사용할 도구 지정
또 다른 접근 방식은 도구 사용 스키마 섹션에 Pydantic JSON 스키마를 포함하여 모델 응답에 대한 특정 스키마를 강제로 적용하도록 도구를 사용하는 것입니다. 제공된 스키마에 도구 선택을 지정할 수 있으며 선택한 도구에 따라 Amazon Nova의 응답이 구성됩니다. 도구 활용 방법에 대해 자세히 알아보려면 도구 사용을 참조하세요.
예제
적절한 스키마로 출력 스키마 섹션을 추가하면 모델이 해당 스키마에 맞게 설정됩니다. 그러나 모델 출력은 결정적이지 않으며 출력 스키마와 다를 수 있습니다.
또 다른 접근 방식은 어시스턴트의 메시지에 원하는 초기 텍스트를 포함하여 모델의 응답을 미리 채우는 것입니다. 이 경우 Amazon Nova 모델의 응답은 어시스턴트의 메시지가 중단된 지점부터 계속됩니다.
팁: 미리 채우기는 추론이 활성화되지 않은 경우에만 유효합니다.
사용자:
Provide details about the best selling full-frame cameras in past three years. Your response should be in JSON format, with the following keys: name, brand, year, price, summary.
어시스턴트(미리 채우기):
```json
어시스턴트:
{ "cameras": [ { "name": "Sony Alpha A7 III", "brand": "Sony", "year": 2018, "price": "$1999", "summary": "The Sony Alpha A7 III is a highly acclaimed full-frame mirrorless camera known for its excellent image quality, advanced autofocus system, and 4K video capabilities." }, { "name": "Canon EOS R5", "brand": "Canon", "year": 2020, "price": "$3899", "summary": "The Canon EOS R5 is a top-tier full-frame mirrorless camera that offers stunning 45MP images, 8K video recording, and exceptional performance in various lighting conditions." }, { "name": "Nikon Z7 II", "brand": "Nikon", "year": 2020, "price": "$2999", "summary": "The Nikon Z7 II is a flagship full-frame mirrorless camera with a 45.7MP sensor, superb image quality, and advanced video recording features." }, { "name": "Fujifilm GFX 100S", "brand": "Fujifilm", "year": 2020, "price": "$7999", "summary": "The Fujifilm GFX 100S is a medium format mirrorless camera known for its impressive 102MP sensor, beautiful film simulations, and versatile lens options." }, { "name": "Sony Alpha A7R IV", "brand": "Sony", "year": 2019, "price": "$3499", "summary": "The Sony Alpha A7R IV features a 61MP sensor, excellent low-light performance, and advanced video capabilities, making it a favorite among professional photographers." } ] } ```
구조화된 출력에 대해 미리 채우기 기술을 사용하는 대신 Nova의 도구 기능을 toolChoice와 결합할 수 있습니다. 이 예제에서 모델은 제공된 JSON 스키마를 준수하고 정의된 전체 JSON 형식으로 지정된 특정 도구를 직접 호출하는 도구 직접 호출을 생성합니다. 추가 지침은 고급 시스템을 참조하세요.
사용자:
From the below provided Query, extract the relevent entities Query: John works in BUILDING-0987 and have been incharge of product id 23564#. His performance have been excellent in past year and is up for a raise. Use the extract_ner tool.
ToolConfig:
{ "tools": [ { "toolSpec": { "name": "extract_ner", "description": "Extract all the named entities. based on provided input", "inputSchema": { "json": { "type": "object", "properties": { "entities": { "type": "array", "items": { "type": "object", "properties": { "name": { "type": "string", "description": "The extracted entity name. This should be a name of a person, place, animal or thing" }, "location": { "type": "string", "description": "The extracted location name. This is a site name or a building name like SITE-001 or BUILDING-003" }, "product": { "type": "string", "description": "The extrcted product code, this is generally a 6 digit alphanumeric code such as 45623#, 234567" } }, "required": [ "name", "location", "product" ] } } }, "required": [ "entities" ] } } } }], "toolChoice": { "tool": { "name": "extract_ner" } } }
Amazon Nova 2 모델은 200개가 넘는 언어에서 훈련되었으며 15개 언어에 대해 최적화되었습니다.
정확한 번역을 위한 프롬프트
짧은 양식 번역(몇 개의 문장)에 이 기능을 활용하려면 텍스트를 지정된 대상 언어로 번역하도록 모델에 지시할 수 있습니다.
예번역 프롬프트
Translate the following text into {target language}. Please output only the translated text with no prefix or introduction: {text}
Translate the following sentence from {source_language} to {target language}: {text}
{text} How do you say this sentence in {target_language}
일관된 쓰기 규칙 적용
문자 기반 언어에서 Amazon Nova 2 모델은 소스 언어의 문자 세트를 활용할 수 있습니다. 다음 프롬프트를 사용하여 일관된 출력을 적용할 수 있습니다.
예쓰기 규칙 적용
When translating, ensure to use the correct orthography / script / writing convention of the target language, not the source language's characters
에이전트 시스템
주제
올바른 추론 파라미터 설정
도구를 직접 호출하려면 모델의 매우 구체적인 구조화된 출력이 필요하며, 다음과 같은 추론 파라미터를 사용하여 개선됩니다.
-
비추론 모드: 온도: 0.7 및 상위 P: 0.9
-
추론 모드: 온도: 1 및 상위 P: 0.9
지연 시간 요구 사항 고려
작은 정보
Amazon Nova 2 모델은 추론을 켜거나 끈 상태에서 도구를 직접 호출할 수 있습니다. 그러나 추론 모드는 지연 시간에 상당한 영향을 미칩니다.
지연 시간에 민감한 애플리케이션의 경우 추론 꺼짐 모드에 맞게 최적화하고 가능한 경우 필요한 도구 직접 호출을 단순화해야 합니다. 여러 단계의 워크플로를 개별 단계로 분할하여 불필요한 파라미터의 재귀에 대한 모델의 의존도를 줄입니다.
도구 직접 호출 지침에 대해 의도적인 문구 사용
도구 이름: 시스템 프롬프트에서 도구를 참조하는 것은 도구를 직접 호출할 때 모델을 지시하는 도구 직접 호출 시스템에서 일반적입니다. 프롬프트에서 도구를 참조할 때는 xml 또는 pythonic 참조나 예제 대신 도구 이름을 사용하는 것이 좋습니다.
Use the 'run_shell_command' tool for running shell commands
Call run_shell_command() to run shell commands
'사고' 명령 활용
사고가 도구 직접 호출에 도움이 되는 모든 사용 사례의 경우 모델에 '태그 내 사고'를 유도하거나 '사고' 도구를 사용하라는 프롬프트를 작성하는 대신 추론 모드를 활용하는 것이 좋습니다.
Amazon Nova 2 모델은 추론 모드를 위해 광범위하게 훈련되었으며 연쇄적 사고를 위해 추론 모드에서 사용할 때 최적의 결과를 생성합니다.
도구 직접 호출 순서 지정
기본 제공 도구와 네이티브 도구 직접 호출을 동시에 사용해야 할 수 있는 사용 사례에서는 모델이 기본 제공 도구를 먼저 직접 호출하는 쪽을 택합니다.
프롬프트에서 다르게 작동하도록 모델에 지시하지 마세요. 대신 이를 고려하도록 워크플로를 설계합니다.
예를 들어 모델이 기본 제공 도구를 사용하지 않도록 하려면 모델이 해당 도구에 편향되지 않도록 워크플로에 포함하지 않습니다.
품질 도구 스키마 생성
도구 스키마는 엔지니어에게 효과적인 도구 직접 호출 시스템을 프롬프트할 수 있는 주요 위치 중 하나입니다. 그러나 도구 스키마 자체에서 캡처되는 내용, 각 스키마 요소의 시맨틱을 설명하는 방법, 시스템 프롬프트가 시스템 지침 내에서 도구 및 스키마 요소를 참조하는 방법을 고려하는 것이 중요합니다.
Amazon Nova 2 모델은 도구 스키마에서 간결한 설명에 최적화되어 있습니다. 짧게 유지하세요.
도구 스키마 및 시스템 프롬프트 지침 비교:
도구 스키마에 다음을 포함합니다.
-
핵심 기능: 도구가 수행하는 작업(20~50개 단어가 권장됨)
-
파라미터 사양: 각 파라미터에 대한 명확한 설명(파라미터당 약 10개의 단어)
-
예상 형식: 데이터 유형(예: 열거형, 정수, 부동 소수점), 필수 필드 및 유효한 값 범위
시스템 프롬프트에 다음을 포함합니다.
-
오케스트레이션 로직(특정 도구를 사용하는 시점과 이유) 및 비즈니스 규칙(조건부 로직, 시퀀싱 요구 사항 및 종속성)이 포함된
#Tool Usage섹션을 지정합니다. -
오류 처리 전략: 실패 또는 예상치 못한 출력에 응답하는 방법에 대한 지침이 포함된
#Error Handling and Troubleshooting섹션 추가 -
출력 형식 지정: 사용자에게 제시하는 방법에 대한 세부 정보 추가
You are a software engineering issue root cause analysis agent. You are tasked with reviewing a customer issue and examining the repository to identify a plan to resolve the issue. # Core Mandates - **DO NOT** update the original issue that was posted by the user. You only add *additional* comments to the reported issue if necessary # Primary Workflows 1. **Understand:** Analyze the user's request and explore the codebase thoroughly using **get_file_contents** to grasp file structures and conventions. 2. **Plan:** Create a coherent, evidence-based plan for resolving the task and share it with the user following the format below # Tool Usage - **Read the Issue:** Always start by using the **read_issue** tool to get the details about the requested issue - **File Paths:** Always end the file path with "/" if you are searching a directory using the **get_file_contents** tools - **Parallelism:** Execute multiple independent tool calls in parallel when feasible # Error Handling and Troubleshooting - **File Exploration:** If you get an error that a file doesn't exist, try searching at the directory level first to validate the file path # Output Formatting Return your plan in markdown in the following format ## Issue <Your root cause analysis of the issue> ## Resolution Plan <your step by step plan of how to solve the issue>
하위 에이전트 생성
다음과 같은 상황이 발생하면 많은 도구가 있는 단일 에이전트 대신 특수 하위 에이전트를 생성하는 방법을 고려합니다.
-
20개를 초과하는 도구 수: 큰 도구 세트는 관리하기 어렵고 선택 오류가 증가하는 경우
-
고유한 기능 도메인: 도구가 자연스럽게 별도의 카테고리(예: 데이터 검색, 처리, 보고)로 클러스터링되는 경우
-
복잡한 스키마: 파라미터 깊이가 3~4 수준을 초과하거나 도구에 복잡한 상호 종속성이 있는 경우
-
대화 길이: 워크플로가 정기적으로 15~20회 턴을 초과하면 특수 하위 에이전트의 이점을 얻을 수 있는 경우
-
성능 저하: 도구 선택의 정확도 감소 또는 지연 시간 증가가 관찰되는 경우
작은 정보
MCP 서버는 사용자가 제어할 수 없는 도구 및 스키마와 함께 제공됩니다. 워크플로에서 필요한 태스크를 완료하는 데 필요한 도구만 포함합니다.
멀티모달 입력에 대해 도구 사용
멀티모달 태스크의 경우 구조화된 태스크(예: 추출 또는 타임스탬프 생성)를 위한 도구를 활용하는 정확도가 향상되지 않았습니다.
대신 제공된 템플릿을 사용하여 모델을 성공적으로 프롬프트하는 방법을 알아보려면 멀티모달 입력 프롬프트 섹션에서 관련 섹션을 검토하는 것이 좋습니다.
다음 단계
-
멀티모달 프롬프트는 멀티모달 입력 프롬프트 섹션을 참조하세요.