Amazon Bedrock 또는 Amazon SageMaker AI?

Amazon Bedrock은 사용자 지정 모델 개발에 크게 투자하지 않고 생성형 AI 애플리케이션을 구축하려는 사용 사례를 위해 설계되었습니다. 예를 들어 소셜 미디어 플랫폼의 콘텐츠 조절 시스템은 Amazon Bedrock의 사전 훈련된 모델을 사용하여 부적절한 텍스트 또는 이미지를 자동으로 식별하고 플래그를 지정할 수 있습니다. 마찬가지로 고객 지원 챗봇은 Amazon Bedrock의 자연어 처리 기능을 사용하여 사용자 문의를 이해하고 이에 대응할 수 있습니다. Amazon Bedrock은 광범위한 사내 개발 없이 AI를 활용하는 데 도움이 되므로 기계 학습 전문 지식이나 리소스가 제한된 경우 특히 유용합니다.

SageMaker AI는 사용자 지정 빌드 모델이 필요한 고유하거나 특수한 AI/ML 요구 사항에 적합한 선택입니다. off-the-shelf 솔루션으로 충분하지 않고 모델 아키텍처, 훈련 프로세스 및 배포를 세밀하게 제어할 필요가 있는 시나리오에 적합합니다. SageMaker AI를 사용하면 도움이 되는 시나리오의 한 가지 예는 특정 생체 지표를 기반으로 환자 결과를 예측하는 모델을 개발하는 의료 회사일 것입니다. 또 다른 예로 금융 기관이 고유한 데이터 및 위험 요인에 맞는 사기 탐지 시스템을 생성하는 경우를 들 수 있습니다. 또한 SageMaker AI는 데이터 과학자와 기계 학습 엔지니어가 다양한 알고리즘, 하이퍼파라미터 및 모델 아키텍처를 실험할 수 있는 연구 및 개발 목적에 적합합니다.

Amazon Bedrock은 AI 기능을 프로젝트에 통합하는 보다 쉽고 액세스 가능한 방법을 제공합니다. 기계 학습 모델을 구축하고 훈련하는 데 경험이 제한적이지만 AI를 사용하여 애플리케이션 또는 워크플로를 개선하고자 하는 개발자와 기업을 포함한 광범위한 대상에게 적합합니다.

SageMaker AI는 주로 사용자 지정 기계 학습 모델을 구축, 훈련 및 배포하는 데 필요한 기술과 지식을 보유한 데이터 과학자, 기계 학습 엔지니어 및 개발자에게 적합합니다. 데이터 과학 및 기계 학습 개념에 익숙하고 특정 요구 사항에 맞는 모델을 생성할 수 있는 도구와 유연성을 제공하는 플랫폼이 필요한 경우 SageMaker AI를 사용합니다.

Amazon Bedrock은 Anthropic의 Claude, Meta의 Llama 3, Amazon의 Nova 및 Titan 모델, 이미지 생성을 위한 Stability AI의 모델 등과 같은 FMs에 대한 액세스를 제공합니다. 자주 업데이트되는 사용 가능한 FMs.

Amazon Bedrock Marketplace를 사용하여 공개적으로 사용 가능한 독점 FMs.

Amazon Bedrock은 Amazon SageMaker JumpStart에서 사용할 수 없는 Claude 및 Jurassic을 포함한 특정 독점 모델에 대한 액세스를 제공합니다.

Amazon SageMaker JumpStart는 특정 사용 사례에 최적화된 모델을 포함하여 Amazon Bedrock보다 다양한 FMs을 통해 생성형 AI 워크플로를 사용자 지정하고 통합할 수 있는 공개 및 독점 파운데이션 모델을 제공합니다.

JumpStart는 Hugging Face FMs, StabilityAI, Meta 및 Amazon의 모델과 AI21 Labs, Cohere 및 LightOn의 독점 FMs을 제공합니다. 자주 업데이트되는 공개적으로 사용 가능한 독점 FMs.

Amazon Bedrock은 제한된 사용자 지정으로 생성형 AI 애플리케이션을 구축하는 데 사용할 수 있는 선도적인 공급자의 모델 세트를 제공합니다. 데이터를 입력하고 이러한 사전 훈련된 모델로부터 예측을 수신하는 데 사용하는 API 호출 세트에 액세스할 수 있습니다. 이 접근 방식은 AI 기능을 애플리케이션에 통합하는 프로세스를 대폭 간소화하지만, 모델을 사용자 지정하거나 사용자 지정 모델을 가져오지 않는 한 기본 모델을 덜 제어할 수 있다는 의미이기도 합니다. Amazon Bedrock의 사전 훈련된 모델은 일반적인 AI 작업에 최적화되어 있으며 다양한 사용 사례에 적합하도록 설계되었지만 고도로 전문화된 요구 사항이나 틈새 요구 사항에 적합하지 않을 수 있습니다.

Amazon Bedrock은 Amazon Nova Micro, Lite 및 Pro , Cohere Command R, Meta Llama 2, Anthropic Claude 3 Haiku, Amazon Titan Text Lite, Amazon Titan Text Express, Amazon Titan Multimodal Embeddings, Amazon Titan Image Generator와 같은 파운데이션 모델(FMs)에 대한 미세 조정을 지원합니다. 지원되는 FMs 목록은 지속적으로 업데이트됩니다.

FM 미세 조정 및 사전 훈련을 포함하여 특정 작업 및 사용 사례에 맞게 모델을 사용자 지정합니다. 사용자 지정 모델 가져오기를 사용하여 자체 사용자 지정 모델을 가져옵니다.

Amazon SageMaker AI는 광범위한 사용자 지정 옵션을 제공하므로 전체 기계 학습 워크플로를 완벽하게 제어할 수 있습니다. SageMaker AI를 사용하면 데이터 사전 처리 및 기능 엔지니어링부터 모델 아키텍처 및 하이퍼파라미터 최적화에 이르기까지 모델의 모든 측면을 미세 조정할 수 있습니다. 이 수준의 사용자 지정을 사용하면 고유한 비즈니스 요구 사항에 맞게 고도로 특수화된 모델을 생성할 수 있습니다. SageMaker AI는 TensorFlow, PyTorch 및 Apache MXNet과 같은 널리 사용되는 다양한 기계 학습 프레임워크를 지원하므로 선호하는 도구와 라이브러리를 사용하여 모델을 구축하고 훈련할 수 있습니다.

Amazon SageMaker JumpStart를 사용하여 사전 정의된 품질 및 책임을 기반으로 FMs 평가, 비교 및 선택합니다.

Amazon SageMaker AI Clarify와 함께 사용할 FM을 선택합니다. SageMaker AI Clarify를 사용하여 JumpStart에서 텍스트 기반 파운데이션 모델의 모델 품질 및 책임 지표를 평가하고 비교하는 데 사용하는 모델 평가 작업을 생성합니다.

코드를 작성할 필요 없이 Amazon SageMaker AI Canvas를 사용하여 예측을 생성합니다. Amazon Bedrock과 공동으로 SageMaker AI Canvas를 사용하여 언어 모델을 미세 조정하고 배포합니다. 이 블로그 게시물에서는 Amazon Bedrock 및 Amazon SageMaker JumpStart에서 제품 FAQs와 같은 자체 데이터 세트를 사용하여 고객 상호 작용을 최적화하는 방법을 설명합니다.

Amazon Bedrock은 서비스에 대한 API 호출 수를 기반으로 간단한 요금 모델을 사용합니다. API 호출당 고정 요금을 지불하며, 여기에는 사전 훈련된 모델 실행 비용 및 관련 데이터 처리 비용이 포함됩니다. 이 간단한 요금 구조를 사용하면 서비스의 실제 사용량에 대해서만 비용을 지불하므로 비용을 더 효율적으로 추정하고 제어할 수 있습니다. Amazon Bedrock의 요금 모델은 예측 가능한 워크로드가 있는 애플리케이션 또는 AI 관련 비용의 투명성을 높이려는 경우에 특히 적합합니다.

SageMaker AI는 기계 학습 프로세스 중에 사용된 컴퓨팅 리소스, 스토리지 및 기타 서비스의 사용량을 기반으로 pay-as-you-go 요금 모델을 따릅니다. 모델을 빌드, 훈련 및 배포하는 데 사용하는 인스턴스에 대해 요금이 부과되며, 가격은 인스턴스 유형 및 크기에 따라 달라집니다. 또한 데이터 스토리지, 데이터 전송 및 데이터 레이블 지정 및 모델 모니터링과 같은 기타 관련 서비스에 대한 비용이 발생합니다. 이 요금 모델은 유연성을 제공하며 특정 요구 사항에 따라 비용을 최적화할 수 있습니다. 그러나 비용이 다를 수 있으며 특히 리소스 집약적인 프로젝트의 경우 신중한 관리가 필요할 수 있다는 의미이기도 합니다.

Amazon Bedrock은 API 직접 호출을 통해 직접 액세스할 수 있는 사전 훈련된 모델을 제공하여 통합 프로세스를 간소화합니다. Amazon Bedrock SDK 또는 REST API를 사용하면 기본 인프라를 관리할 필요 없이 입력 데이터를 전송하고 모델로부터 예측을 수신할 수 있습니다. 이 접근 방식은 AI 기능을 애플리케이션에 통합하는 데 필요한 복잡성과 시간을 크게 줄여 기계 학습 전문 지식이 제한된 개발자가 더 쉽게 액세스할 수 있도록 합니다. 그러나 Amazon Bedrock에서 제공하는 사전 훈련된 모델 및 APIs로 제한되므로 이러한 통합의 용이성으로 인해 사용자 지정 옵션이 제한됩니다.

SageMaker AI는 사용자 지정 기계 학습 모델을 구축, 훈련 및 배포하기 위한 포괄적인 플랫폼을 제공합니다. 그러나 이러한 모델을 애플리케이션에 통합하려면 Amazon Bedrock에 비해 더 많은 노력과 기술 전문 지식이 필요합니다. SageMaker AI SDK 또는 API를 사용하여 훈련된 모델에 액세스하고 이를 엔드포인트로 노출하는 데 필요한 인프라를 구축해야 합니다. 이 프로세스에는 애플리케이션과 배포된 모델 간의 통신을 활성화 AWS 서비스 하기 위해 API Gateway, Lambda 함수 및 기타를 생성하고 구성하는 작업이 포함됩니다. SageMaker AI는이 프로세스를 간소화하기 위한 도구와 템플릿을 제공하지만 및 AWS 서비스 기계 학습 모델 배포에 대한 심층적인 이해가 필요합니다.

Amazon Bedrock은 기계 학습 전문 지식이 제한된 개발자와 기업을 포함하여 더 광범위한 사용자가 더 쉽게 액세스할 수 있습니다. Amazon Bedrock은 API 호출을 통해 애플리케이션에 쉽게 통합할 수 있는 사전 훈련된 모델을 제공하여 기계 학습 모델 구축 및 배포와 관련된 많은 복잡성을 추상화합니다. 이러한 측면은 Amazon Bedrock 서비스에서 처리되므로 데이터 사전 처리, 모델 선택 또는 인프라 관리에 대해 걱정할 필요가 없습니다. 이를 통해 심층 기계 학습 지식을 얻는 데 상당한 시간과 리소스를 투자할 필요 없이 AI 기능을 애플리케이션에 통합하는 데 집중할 수 있습니다.

데이터 과학 및 기계 학습에 대한 심층적인 전문 지식이 있는 경우 SageMaker AI는 사용자 지정 모델을 구축, 훈련 및 배포할 수 있는 강력하고 유연한 플랫폼을 제공합니다. SageMaker AI는 기계 학습 워크플로를 단순화하는 것을 목표로 하지만 기능을 최대한 활용하려면 상당한 수준의 기술 전문 지식이 필요합니다. 데이터 사전 처리, 모델 선택 및 하이퍼파라미터 튜닝과 같은 기계 학습 개념에 대한 심층적인 이해와 함께 Python과 같은 프로그래밍 언어에 능숙하면 이점을 얻을 수 있습니다. 또한 다양한 작업을 수행하고 모델을 배포 AWS 서비스 하고 통합하는 데 필요한 인프라를 관리하는 데 익숙해야 합니다. 따라서 기계 학습을 처음 사용하거나 경험이 제한된 경우 SageMaker AI는 더 가파른 학습 곡선을 가질 수 있습니다 AWS.

Amazon Bedrock은 모델 선택 기능(평가), 비용 및 지연 시간 최적화 기능(프롬프트 캐싱, 지능형 프롬프트 라우팅), 사용자 지정 기능(지식 기반, 모델 추출), 보호 장치(가드레일), 에이전트 기능(에이전트) 등 고객이 생성형 AI 애플리케이션을 구축하고 확장할 수 있도록 지원하는 기능 모음을 제공합니다. Amazon Bedrock은 단일 서버리스 통합 API를 통해 기존 FMs으로 사용자 지정 모델을 가져오고 사용할 수 있는 사용자 지정 모델 가져오기도 제공합니다.

SageMaker AI를 사용하면 자체 서버를 구축하고 관리할 필요 없이 데이터를 저장하고 공유할 수 있습니다. 이렇게 하면 ML 워크플로를 공동으로 구축 및 개발하고 더 빨리 수행할 수 있는 시간이 늘어납니다. SageMaker AI는 분산 환경에서 매우 큰 데이터에 대해 효율적으로 실행할 수 있는 관리형 ML 알고리즘을 제공합니다. bring-your-own-algorithms 및 프레임워크를 기본적으로 지원하는 SageMaker AI는 특정 워크플로에 맞게 조정되는 유연한 분산 훈련 옵션을 제공합니다. 몇 단계 내에 SageMaker AI 콘솔에서 안전하고 확장 가능한 환경에 모델을 배포할 수 있습니다.

Amazon Bedrock이란 무엇인가요?

이 완전관리형 서비스를 사용하면 통합 API를 통해 Amazon 및 타사의 파운데이션 모델(FMs)을 사용할 수 있습니다.

가이드 살펴보기

Amazon Bedrock에 대해 자주 묻는 질문

Amazon Bedrock에 대해 가장 일반적으로 묻는 질문에 대한 답변을 얻습니다. 여기에는 에이전트 사용 방법, 보안 고려 사항, Amazon Bedrock 소프트웨어 개발 키트(SDKs)에 대한 세부 정보, 검색 증강 생성, 모델 평가 사용 방법 및 결제가 포함됩니다.

FAQs 읽기

Guidance for generating product descriptions with Amazon Bedrock

솔루션에서 Amazon Bedrock을 사용하여 전자 상거래 마켓플레이스 또는 소매 웹 사이트에 대한 제품 검토 및 승인 프로세스를 자동화할 수 있습니다.

솔루션 살펴보기

Amazon Bedrock IDE란 무엇입니까?

Amazon Bedrock IDE를 사용하여 Amazon Bedrock 모델을 검색하고 Amazon Bedrock 모델 및 기능을 사용하는 생성형 AI 앱을 구축합니다.

가이드 살펴보기

Build generative AI applications with Amazon Bedrock IDE

이 블로그 게시물에서는 다양한 최고 성능 모델을 사용하여 애플리케이션을 빌드하는 방법을 설명합니다. 그런 다음 생성형 AI 앱을 평가하고 Amazon Bedrock IDE와 공유하는 방법을 설명합니다.

블로그 읽기

Amazon Bedrock IDE를 사용하여 채팅 앱 빌드

사용자가 대화형 인터페이스를 통해 Amazon Bedrock 모델과 채팅할 수 있는 Amazon Bedrock IDE 채팅 에이전트 앱을 구축합니다.

가이드 살펴보기

Amazon SageMaker AI란 무엇인가요?

이 완전관리형 기계 학습(ML) 서비스를 사용하여 ML 모델을 구축, 훈련 및 프로덕션 지원 호스팅 환경에 배포합니다.

가이드 살펴보기

Amazon SageMaker AI 시작하기

빠른 또는 사용자 지정 설정 단계를 포함하여 Amazon SageMaker AI에 대한 액세스를 설정합니다.

가이드 살펴보기

Get started with Amazon SageMaker JumpStart

일반적인 사용 사례를 위한 인프라를 설정하는 Amazon SageMaker JumpStart 솔루션 템플릿과 SageMaker AI를 사용한 기계 학습을 위한 실행 가능한 예제 노트북을 살펴보세요.

가이드 살펴보기