本文為英文版的機器翻譯版本，如內容有任何歧義或不一致之處，概以英文版為準。

使用內容篩選條件封鎖有害映像

Amazon Bedrock 護欄可協助在護欄內設定內容篩選條件時封鎖不適當或有害的映像。

先決條件和限制

概觀

只有具有文字的映像或映像才支援偵測和封鎖有害映像。建立護欄時，使用者可以自行或搭配文字選項選取影像選項，並將個別的篩選強度設定為 NONE、LOW、MEDIUM 或 HIGH。如果同時選取這兩種模態，這些閾值對於文字和影像內容都是常見的。護欄將評估以使用者輸入傳送的影像，或從模型回應產生為輸出的影像。

偵測有害映像內容支援的類別如下所述：

使用映像內容篩選條件

使用影像的內容篩選條件建立或更新護欄

建立新的護欄或更新現有的護欄時，除了現有的文字選項之外，使用者現在還會看到選取影像的選項。

篩選分類和封鎖層級

根據使用者輸入和 FM 回應的可信度分類進行篩選。所有使用者輸入和模型回應都分為四個強度等級：無、低、中和高。篩選強度決定篩選有害內容的敏感度。隨著篩選強度的增加，篩選有害內容的可能性會增加，而且在應用程式中查看有害內容的機率也會降低。選取影像和文字選項時，相同的篩選強度會套用至特定類別的兩種模態。

使用 API 設定映像的內容篩選條件

您可以使用護欄 API 在 Amazon Bedrock 護欄中設定映像內容篩選條件。以下範例顯示套用不同有害內容類別和篩選條件強度的 Amazon Bedrock Guardrails 篩選條件。您可以使用此範本做為您自己的使用案例的範例。

透過 contentPolicyConfig操作， filtersConfig 是 物件，如下列範例所示。

使用影像內容篩選條件建立護欄的範例 Python Boto3 程式碼

import boto3
import botocore
import json


def main():
    bedrock = boto3.client('bedrock', region_name='us-east-1')
    try:
        create_guardrail_response = bedrock.create_guardrail(
            name='my-image-guardrail',
            contentPolicyConfig={
                'filtersConfig': [
                    {
                        'type': 'SEXUAL',
                        'inputStrength': 'HIGH',
                        'outputStrength': 'HIGH',
                        'inputModalities': ['TEXT', 'IMAGE'],
                        'outputModalities': ['TEXT', 'IMAGE']
                    },
                    {
                        'type': 'VIOLENCE',
                        'inputStrength': 'HIGH',
                        'outputStrength': 'HIGH',
                        'inputModalities': ['TEXT', 'IMAGE'],
                        'outputModalities': ['TEXT', 'IMAGE']
                    },
                    {
                        'type': 'HATE',
                        'inputStrength': 'HIGH',
                        'outputStrength': 'HIGH',
                        'inputModalities': ['TEXT', 'IMAGE'],
                        'outputModalities': ['TEXT', 'IMAGE']
                    },
                    {
                        'type': 'INSULTS',
                        'inputStrength': 'HIGH',
                        'outputStrength': 'HIGH',
                        'inputModalities': ['TEXT', 'IMAGE'],
                        'outputModalities': ['TEXT', 'IMAGE']
                    },
                    {
                        'type': 'MISCONDUCT',
                        'inputStrength': 'HIGH',
                        'outputStrength': 'HIGH',
                        'inputModalities': ['TEXT'],
                        'outputModalities': ['TEXT']
                    },
                    {
                        'type': 'PROMPT_ATTACK',
                        'inputStrength': 'HIGH',
                        'outputStrength': 'NONE',
                        'inputModalities': ['TEXT'],
                        'outputModalities': ['TEXT']
                    }
                ]
            },
            blockedInputMessaging='Sorry, the model cannot answer this question.',
            blockedOutputsMessaging='Sorry, the model cannot answer this question.',
        )
        create_guardrail_response['createdAt'] = create_guardrail_response['createdAt'].strftime('%Y-%m-%d %H:%M:%S')
        print("Successfully created guardrail with details:")
        print(json.dumps(create_guardrail_response, indent=2))
    except botocore.exceptions.ClientError as err:
        print("Failed while calling CreateGuardrail API with RequestId = " + err.response['ResponseMetadata']['RequestId'])
        raise err


if __name__ == "__main__":
    main()

設定映像篩選條件以使用 ApplyGuardrail API

您可以使用 ApplyGuardrail API 對影像和文字內容使用內容篩選條件。此選項可讓您使用內容篩選條件設定，而無需叫用 Amazon Bedrock 模型。您可以依照 Amazon Bedrock Guardrails 支援的每個底坑基礎模型的推論參數文件，更新下列指令碼中各種模型的請求承載。

您可以依照 Amazon Bedrock Guardrails 支援的每個底圖基礎模型的推論參數文件，在下列指令碼中更新各種模型的請求承載。

import boto3
import botocore
import json


guardrail_id = 'guardrail-id'
guardrail_version = 'DRAFT'
content_source = 'INPUT'
image_path = '/path/to/image.jpg'

with open(image_path, 'rb') as image:
    image_bytes = image.read()

content = [
    {
        "text": {
            "text": "Hi, can you explain this image art to me."
        }
    },
    {
        "image": {
            "format": "jpeg",
            "source": {
                "bytes": image_bytes
            }
        }
    }
]


def main():
    bedrock_runtime_client = boto3.client("bedrock-runtime", region_name="us-east-1")
    try:
        print("Making a call to ApplyGuardrail API now")
        response = bedrock_runtime_client.apply_guardrail(
            guardrailIdentifier=guardrail_id,
            guardrailVersion=guardrail_version,
            source=content_source,
            content=content
        )
        print("Received response from ApplyGuardrail API:")
        print(json.dumps(response, indent=2))
    except botocore.exceptions.ClientError as err:
        print("Failed while calling ApplyGuardrail API with RequestId = " + err.response['ResponseMetadata']['RequestId'])
        raise err


if __name__ == "__main__":
    main()

設定映像篩選條件以使用映像產生模型

您也可以將 Amazon Bedrock Guardrails 影像篩選條件與 Titan Image Generator 和穩定影像或擴散模型等影像產生模型搭配使用。這些模型目前透過 API 支援InvokeModel，可透過護欄叫用。您可以依照護欄支援的各種 Amazon Bedrock 基礎模型的推論參數文件，在下列指令碼中更新各種模型的請求承載。

import base64
import boto3
import botocore
import json
import os
import random
import string


guardrail_id = 'guardrail-id'
guardrail_version = 'DRAFT'

model_id = 'stability.sd3-large-v1:0'
output_images_folder = '/path/to/folder/'

body = json.dumps(
    {
        "prompt": "Create an image of a beautiful flower", # Prompt for image generation ("A gun" should get blocked by violence)
        "output_format": "jpeg"
    }
)


def main():
    bedrock_runtime_client = boto3.client("bedrock-runtime", region_name="us-west-2")
    try:
        print("Making a call to InvokeModel API for model: {}".format(model_id))
        response = bedrock_runtime_client.invoke_model(
            body=body,
            modelId=model_id,
            trace='ENABLED',
            guardrailIdentifier=guardrail_id,
            guardrailVersion=guardrail_version
        )
        response_body = json.loads(response.get('body').read())
        print("Received response from InvokeModel API (Request Id: {})".format(response['ResponseMetadata']['RequestId']))
        if 'images' in response_body and len(response_body['images']) > 0:
            os.makedirs(output_images_folder, exist_ok=True)
            images = response_body["images"]
            for image in images:
                image_id = ''.join(random.choices(string.ascii_lowercase + string.digits, k=6))
                image_file = os.path.join(output_images_folder, "generated-image-{}.jpg".format(image_id))
                print("Saving generated image {} at {}".format(image_id, image_file))
                with open(image_file, 'wb') as image_file_descriptor:
                    image_file_descriptor.write(base64.b64decode(image.encode('utf-8')))
        else:
            print("No images generated from model")
        guardrail_trace = response_body['amazon-bedrock-trace']['guardrail']
        guardrail_trace['modelOutput'] = ['<REDACTED>']
        print("Guardrail Trace: {}".format(json.dumps(guardrail_trace, indent=2)))
    except botocore.exceptions.ClientError as err:
        print("Failed while calling InvokeModel API with RequestId = {}".format(err.response['ResponseMetadata']['RequestId']))
        raise err


if __name__ == "__main__":
    main()