Verteilen Sie die Leitplanken-Inferenz auf AWS-Regionen

Sie können die regionsübergreifende Inferenz mit Amazon Bedrock Guardrails aktivieren. Amazon Bedrock Guardrails leitet Inferenzanfragen während der Evaluierung der Guardrail-Richtlinien automatisch an das Optimum innerhalb Ihrer Region weiter. AWS-Region (Weitere Informationen darüber, wie das funktioniert, finden Sie unter.) Erhöhen Sie den Durchsatz mit regionsübergreifender Inferenz Durch die Verteilung von Inferenzanfragen auf mehrere AWS-Regionen Bereiche werden die verfügbaren Rechenressourcen und die Modellverfügbarkeit maximiert, sodass die Leistung und Zuverlässigkeit von Guardrail auch bei steigendem Bedarf aufrechterhalten werden kann. Für die Nutzung von regionsübergreifender Inferenz fallen keine zusätzlichen Kosten an.

Regionsübergreifende Inferenzanfragen werden innerhalb der Regionen gespeichert, die Teil der Region sind, in der sich die Daten ursprünglich befinden. Beispielsweise wird eine in den USA gestellte Anfrage innerhalb der Regionen in den USA aufbewahrt. Ihre Guardrail-Konfiguration bleibt zwar nur in der primären Region gespeichert, Ihre Eingabeaufforderungen und Ausgabeergebnisse können sich jedoch außerhalb Ihrer primären Region bewegen, wenn Sie die regionsübergreifende Inferenz verwenden. Alle Daten werden innerhalb des sicheren Netzwerks von Amazon verschlüsselt übertragen.

Richten Sie eine regionsübergreifende Guardrail-Inferenz ein

Die regionsübergreifende Ableitung von Leitplanken erfolgt über ein Leitplankenprofil. Dabei handelt es sich um eine systemdefinierte Ressource, die Sie beim Erstellen oder Ändern einer Leitplanke auf eine der folgenden Arten angeben können:

Sie benötigen spezielle Berechtigungen, um die regionsübergreifende Guardrail-Inferenz verwenden zu können. Weitere Informationen finden Sie unter Berechtigungen für die Verwendung von regionsübergreifender Inferenz mit Amazon Bedrock Guardrails.