기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.
# gpt-oss-120b
##  OpenAI — gpt-oss-120b
## 모델 세부 정보
GPT OSS 120B는 텍스트 생성, 코딩 및 추론 작업을 위한 OpenAI의 1200억 파라미터 오픈 소스 범용 모델입니다. 모델 개발 및 성능에 대한 자세한 내용은 [모델/서비스 카드를](https://cdn.openai.com/pdf/419b6906-9da6-406c-a19d-1bb078ac7637/oai_gpt-oss_model_card.pdf) 참조하세요.
+ **모델 출시 날짜:** 2025년 8월 5일
+ **EOL 이전:** 2026년 8월 5일
+ **레거시 기간:** 최소 6개월
+ **모델 수명 주기 정책:** [모델 수명 주기(2026년 9월 7일 이전에 출시된 모델의 경우)](model-lifecycle-legacy.md)
+ **모델 EOL 날짜:** 해당 사항 없음
+ **최종 사용자 라이선스 계약 및 이용 약관:** [보기](https://huggingface.co/openai/gpt-oss-120b/blob/main/LICENSE)
+ **모델 수명 주기:** 활성
+ **컨텍스트 창:** 128K 토큰
+ **최대 출력 토큰:** 16K
| **입력 모달리티** | **출력 모달리티** |
| --- | --- |
|  오디오 |  임베딩 |
|  이미지 |  이미지 |
|  음성 |  음성 |
|  텍스트 |  텍스트 |
|  비디오 |  비디오 |
## 지원되는 엔드포인트 및 APIs
다음 표에는 gpt-oss-120b에 지원되는 엔드포인트 및 APIs가 나와 있습니다. 자세한 내용은 [Amazon Bedrock에서 지원하는 APIs](apis.md) 및 [Amazon Bedrock에서 지원하는 엔드포인트](endpoints.md) 섹션을 참조하세요.
**엔드포인트 지원**
| **Endpoint** | **지원됨** |
| --- | --- |
| bedrock-runtime |  |
| bedrock-mantle |  |
**`bedrock-runtime` 엔드포인트에서 지원되는 APIs **
| **메시지** | **응답** | **채팅 완료** | **Converse** | **Invoke** |
| --- | --- | --- | --- | --- |
|  |  |  |  |  |
**`bedrock-mantle` 엔드포인트에서 지원되는 APIs **
| **메시지** | **응답** | **채팅 완료** | **Converse** | **Invoke** |
| --- | --- | --- | --- | --- |
|  |  |  |  |  |
**참고**
에서 `bedrock-mantle`두 APIs가 아닌 `/v1` 기본 경로를 사용합니다`/openai/v1`. 이 모델과 함께 API를 사용합니다.
응답에는를 사용합니다`/v1/responses`.
채팅 완료의 경우를 사용합니다`/v1/chat/completions`.
**작은 정보**
가능하면 새 애플리케이션에 `bedrock-runtime` 엔드포인트를 사용하는 것이 좋습니다. 세부 정보는 [Amazon Bedrock에서 지원하는 엔드포인트](endpoints.md) 섹션을 참조하세요.
## 기능 및 기능
***Bedrock 기능***
**`bedrock-mantle` 엔드포인트를 사용하여 지원되는 기능**
| **지원됨** | **지원되지 않음** |
| --- | --- |
| +  [서버 측 도구 호출](tool-use.html)
+  [프로젝트](projects.html)
+  [클라이언트 측 도구 호출](tool-use.html) | — |
**`bedrock-runtime` 엔드포인트를 사용하여 지원되는 기능**
| **지원됨** | **지원되지 않음** |
| --- | --- |
| +  [응답 스트리밍](/bedrock/latest/APIReference/API_runtime_InvokeModelWithResponseStream.html)
+  [가드레일](guardrails.html)
+  [구조화된 출력](structured-outputs.html) | +  [지능형 프롬프트 라우팅](prompt-routing.html)
+  [남용 탐지](abuse-detection.html)
+  [프롬프트 최적화](prompt-management-optimize.html)
+  [토큰 수 계산](count-tokens.html)
+  [지식 기반](knowledge-base.html)
+  [모델 평가](evaluation.html)
+  [프롬프트 관리](prompt-management.html)
+  [흐름](flows.html)
+  [에이전트](agents.html) |
## 요금
요금 정보는 [Amazon Bedrock 요금](https://aws.amazon.com/bedrock/pricing/) 페이지를 참조하세요.
## 프로그래밍 방식 액세스
다음 모델 IDs 및 엔드포인트 URLs 사용하여이 모델에 프로그래밍 방식으로 액세스합니다. 사용 가능한 APIs 및 엔드포인트에 대한 자세한 내용은 [APIs 지원](apis.html) 및 [엔드포인트 지원 단원을](endpoints.html) 참조하십시오.
| **Endpoint** | **모델 ID** | **리전 내 엔드포인트 URL** | **지리 추론 ID** | **글로벌 추론 ID** |
| --- | --- | --- | --- | --- |
| bedrock-runtime | openai.gpt-oss-120b-1:0 | https://bedrock-runtime.{region}.amazonaws.com | us-gov.openai.gpt-oss-120b-1:0 | 지원되지 않음 |
| bedrock-mantle | openai.gpt-oss-120b | https://bedrock-mantle.{region}.api.aws/v1 | 지원되지 않음 | 지원되지 않음 |
*예를 들어 리전이 us-east-1(버지니아 북부)인 경우 bedrock-runtime 엔드포인트 URL은 "https://bedrock-runtime.us-east-1.amazonaws.com"이고 bedrock-mantle의 경우 "https://bedrock-mantle.us-east-1.api.aws/v1"입니다.*
## 서비스 티어
Amazon Bedrock은 워크로드 요구 사항에 맞는 여러 서비스 계층을 제공합니다. **표준**은 약정 없이 pay-per-token 액세스를 제공합니다(필드 설정 `"service_tier": "default"` 또는 생략). **Priority**는 가격 프리미엄( 설정)에 가장 빠른 응답 시간을 제공합니다`"service_tier": "priority"`. **Flex**는 유연하고 non-time-sensitive 워크로드( 세트 )에 대해 저렴한 액세스를 제공합니다`"service_tier": "flex"`. **예약은** 예측 가능한 워크로드에 대한 기간 약정과 함께 전용 처리량을 제공하며, 요청당이 아닌 계정 수준에서 설정됩니다(AWS 계정 팀에 문의하여 활성화). 자세한 내용은 [서비스 계층을 참조하세요](service-tiers-inference.html).
| **표준** | **우선 순위** | **Flex** | **예약됨** |
| --- | --- | --- | --- |
|  |  |  |  |
## 리전별 가용성
***리전별 가용성 개요***
Amazon Bedrock은 세 가지 추론 옵션을 제공합니다. **리전 내**는 엄격한 규정 준수를 위해 요청을 단일 리전 내에 유지하고, 리전 내 리전(예: 미국, EU, APAC) 간 **지리적 교차** 리전 경로는 데이터 레지던시를 준수하면서 라우팅하며, **글로벌 교차 리전** 경로는 레지던시 제약 조건이 없는 경우 전 세계 어디서나 라우팅합니다. 자세한 내용은 [모델별 리전별 가용성](models-region-compatibility.md) 페이지를 참조하세요.
| **리전** | **리전 내** | **지리** | [**Global**] |
| --- | --- | --- | --- |
| us-east-1 (버지니아 북부) |  |  |  |
| us-east-2 (오하이오) |  |  |  |
| us-west-2 (오레곤) |  |  |  |
| eu-central-1 (프랑크푸르트) |  |  |  |
| eu-north-1 (스톡홀름) |  |  |  |
| eu-south-1 (밀라노) |  |  |  |
| eu-west-1 (아일랜드) |  |  |  |
| eu-west-2 (런던) |  |  |  |
| ap-northeast-1 (도쿄) |  |  |  |
| ap-south-1 (뭄바이) |  |  |  |
| ap-southeast-2 (시드니) |  |  |  |
| ap-southeast-3 (자카르타) |  |  |  |
| sa-east-1 (상파울루) |  |  |  |
| ap-southeast-4 (멜버른) |  |  |  |
| us-gov-west-1 (GovCloud) |  |  |  |
***Geo CRIS 추론 세부 정보***
**미국 GovCloud CRIS**
미국 GovCloud CRIS 추론 ID: `us-gov.openai.gpt-oss-120b-1:0`
| **소스 리전** | **대상 리전** |
| --- | --- |
| us-gov-west-1(GovCloud 서부) | us-gov-west-1(GovCloud West), us-gov-east-1(GovCloud East) |
| us-gov-east-1(GovCloud East) | us-gov-west-1(GovCloud West), us-gov-east-1(GovCloud East) |
## 할당량과 제한
AWS 계정에는 서비스 성능을 유지하고 Amazon Bedrock을 적절하게 사용할 수 있는 기본 할당량이 있습니다. 계정에 할당된 기본 할당량은 리전 요인, 결제 기록, 사기 사용 및/또는 할당량 [증가 요청](quotas-increase.html) 승인에 따라 업데이트될 수 있습니다. 자세한 내용은 [Amazon Bedrock의 할당량](quotas.md) 설명서를 참조하고 모델의 [제한을](/general/latest/gr/bedrock.html#limits_bedrock) 참조하세요.
## 샘플 코드
**1단계 - AWS 계정:** AWS 계정이 이미 있는 경우이 단계를 건너뜁니다. 를 처음 사용하는 경우 [AWS 계정에](https://portal.aws.amazon.com/billing/signup) AWS가입합니다.
**2단계 - API 키:** [Amazon Bedrock 콘솔](https://console.aws.amazon.com/bedrock/home#/api-keys/long-term/create)로 이동하여 장기 API 키를 생성합니다.
**3단계 - SDK 가져오기:이 시작 안내서를** 사용하려면 Python이 이미 설치되어 있어야 합니다. 그런 다음 사용 중인 APIs에 따라 관련 소프트웨어를 설치합니다.
응답 또는 채팅 완료에서 OpenAI SDK 탭을 선택합니다. 간접 호출 또는 대화에서 Boto3 탭을 선택합니다.
------
#### [ OpenAI SDK ]
```
pip install boto3 openai
```
------
#### [ Boto3 ]
```
pip install boto3
```
------
### 4단계 - 환경 변수 설정
인증에 API 키를 사용하도록 환경을 구성합니다.
SDK 및 엔드포인트의 탭을 선택합니다.
------
#### [ bedrock-mantle ]
```
OPENAI_API_KEY=""
OPENAI_BASE_URL="https://bedrock-mantle..api.aws/v1"
```
------
#### [ bedrock-runtime ]
```
OPENAI_API_KEY=""
OPENAI_BASE_URL="https://bedrock-runtime..amazonaws.com/openai/v1"
```
------
#### [ Boto3 ]
```
AWS_BEARER_TOKEN_BEDROCK=""
```
------
### 5단계 - 첫 번째 추론 요청 실행
파일을 로 저장 `bedrock-first-request.py`
#### bedrock-mantle
[4단계 - 환경 변수 설정](#model-card-openai-gpt-oss-120b-sample-code-environment)의 설정을 사용합니다. `bedrock-mantle` 탭을 선택합니다. 채팅 탭은 채팅 완료 API를 사용합니다.
------
#### [ Responses API ]
```
from openai import OpenAI
client = OpenAI()
response = client.responses.create(
model="openai.gpt-oss-120b",
input="Can you explain the features of Amazon Bedrock?"
)
print(response)
```
------
#### [ Chat ]
```
from openai import OpenAI
client = OpenAI()
response = client.chat.completions.create(
model="openai.gpt-oss-120b",
messages=[{"role": "user", "content": "Can you explain the features of Amazon Bedrock?"}]
)
print(response)
```
------
#### bedrock-runtime: OpenAI SDK
[4단계 - 환경 변수 설정](#model-card-openai-gpt-oss-120b-sample-code-environment)의 설정을 사용합니다. `bedrock-runtime` 탭을 선택합니다. 채팅 탭은 채팅 완료 API를 사용합니다.
------
#### [ Responses API ]
```
from openai import OpenAI
client = OpenAI()
response = client.responses.create(
model="openai.gpt-oss-120b",
input="Can you explain the features of Amazon Bedrock?"
)
print(response)
```
------
#### [ Chat ]
```
from openai import OpenAI
client = OpenAI()
response = client.chat.completions.create(
model="openai.gpt-oss-120b",
messages=[{"role": "user", "content": "Can you explain the features of Amazon Bedrock?"}]
)
print(response)
```
------
#### bedrock-runtime: Boto3
[4단계 - 환경 변수 설정](#model-card-openai-gpt-oss-120b-sample-code-environment)의 Boto3 설정을 사용합니다. 요청에 대한 API를 선택합니다.
------
#### [ Invoke API ]
```
import json
import boto3
client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.invoke_model(
modelId='openai.gpt-oss-120b-1:0',
body=json.dumps({
'messages': [{ 'role': 'user', 'content': 'Can you explain the features of Amazon Bedrock?'}],
'max_tokens': 1024
})
)
print(json.loads(response['body'].read()))
```
------
#### [ Converse API ]
```
import boto3
client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.converse(
modelId='openai.gpt-oss-120b-1:0',
messages=[
{
'role': 'user',
'content': [{'text': 'Can you explain the features of Amazon Bedrock?'}]
}
]
)
print(response)
```
------