View a markdown version of this page

GuardDuty Protezione AI - Amazon GuardDuty
Come funziona AI ProtectionPrezzi per AI ProtectionRilevamenti aggiuntivi delle minacce per i carichi di lavoro di intelligenza artificiale

Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

GuardDuty Protezione AI

GuardDuty AI Protection estende il rilevamento delle GuardDuty minacce di Amazon ai carichi di lavoro di intelligenza artificiale su cui si AWS basa. Quando abiliti AI Protection, GuardDuty analizza gli eventi AWS CloudTrail relativi ai dati provenienti da Amazon Bedrock, Amazon Bedrock AgentCore e Amazon SageMaker AI, insieme AWS CloudTrail agli eventi di gestione. GuardDuty utilizza questi dati per rilevare attività potenzialmente sospette che prendono di mira i modelli di base e le applicazioni che li richiamano. Quando GuardDuty identifica una potenziale minaccia, ne genera una o più. Tipi di risultati sulla protezione dell'IA

Quando abiliti la protezione AI, GuardDuty puoi rilevare i seguenti tipi di minacce:

  • Richiami anomali di modelli Amazon Bedrock o SageMaker Amazon AI che si discostano dalla linea di base stabilita per un'identità o un account, ad esempio invocazioni da un indirizzo IP insolito, un'API insolita o un modello insolito.

  • Attacchi di raccolta dei costi, in cui un autore di minacce invia input computazionalmente costosi a un modello Amazon Bedrock o Amazon SageMaker AI per aumentare il consumo di token e i costi operativi dell'account.

  • Tentativi di iniezione diretta e immediata, in cui un autore di minacce genera un messaggio malevolo per far sì che un modello base ignori le istruzioni originali. Questo rilevamento richiede Amazon Bedrock Guardrails e si applica solo ai carichi di lavoro Amazon Bedrock.

Nota

I tipi di risultati che GuardDuty possono essere generati Regione AWS dipendono dai servizi di intelligenza artificiale disponibili in quella regione:

Per l'elenco delle regioni in cui è supportato ogni tipo di ricerca, consulta. Region-specific disponibilità delle funzionalità

Suggerimento

Per ottenere il massimo valore di sicurezza da AI Protection, utilizza Amazon Bedrock Guardrails per attacchi rapidi su tutti gli account della tua organizzazione. AWS Utilizza le policy di AWS Organizations Amazon Bedrock per gestire centralmente queste impostazioni di guardrail. Ciò consente una protezione uniforme su tutti gli account con controllo e gestione centralizzati. Quando viene imposto un parapetto di attacco immediato, GuardDuty genera risultati immediati di iniezione. Per ulteriori informazioni, consulta Impact:IAMUser/PromptInjection.Direct.

Per rilevare le minacce ai carichi di lavoro di intelligenza artificiale, devi abilitare la protezione AI nel tuo account. GuardDuty Per informazioni sull'attivazione della protezione AI, consulta Abilitazione della protezione AI in ambienti con più account per ambienti con più account o. Attivazione della protezione AI per un account autonomo

Argomenti

Come funziona AI Protection

Quando abiliti la protezione AI per un account o in tutta l'organizzazione, inizia GuardDuty automaticamente a raccogliere gli eventi AWS CloudTrail relativi ai dati dai servizi di intelligenza artificiale negli account monitorati. Non è necessario creare un percorso, abilitare la registrazione degli eventi relativi ai dati o apportare modifiche alle applicazioni AI.

Per raccogliere gli eventi relativi ai dati, GuardDuty crea un canale AWS CloudTrail collegato ai servizi in ogni account monitorato. Il canale collegato al servizio trasmette gli eventi di AWS CloudTrail dati per Amazon Bedrock, Amazon AgentCore Bedrock e Amazon AI e SageMaker le relative risorse di intelligenza artificiale per l'analisi. GuardDuty Perché GuardDuty crea e gestisce questo canale:

  • GuardDuty configura le impostazioni degli eventi relativi ai dati del canale e il proprietario dell'account non può modificarle. Ciò significa che il rilevamento delle minacce non dipende dalla configurazione o dal mantenimento di una traccia da parte del proprietario dell'account.

  • Ogni account monitorato può confermare che il canale è attivo nella CloudTrail console (in Impostazioni, Service-linkedcanali) o chiamando l'operatore dell' AWS CloudTrail ListChannelsAPI.

GuardDuty utilizza due metodi di rilevamento per generare i risultati della protezione AI, a seconda del tipo di risultato:

  • Per i tipi di Impact:IAMUser/CostHarvesting ricerca Impact:IAMUser/AnomalousModelInvocation e ricerca, GuardDuty utilizza un modello di machine learning (ML) per il rilevamento delle anomalie per analizzare gli eventi raccolti e stabilire una linea di base della normale attività di invocazione del modello per ogni identità IAM e. Account AWS GuardDuty genera un risultato quando rileva un'attività che si discosta in modo significativo da questa linea di base.

  • Per il tipo di Impact:IAMUser/PromptInjection.Direct risultato, GuardDuty genera un risultato quando Amazon Bedrock Guardrails valuta un prompt e rileva un attacco immediato, in base all'evento di dati risultante. AWS CloudTrail

Per ulteriori informazioni sugli eventi relativi ai dati, consulta Registrazione degli eventi AWS CloudTrail relativi ai dati nella Guida per l'utente.AWS CloudTrail

Prezzi per AI Protection

Quando abiliti GuardDuty AI Protection, ti GuardDuty addebita il costo per il volume di eventi AWS CloudTrail relativi ai dati che analizza, misurato in GB. GuardDuty crea il canale collegato al servizio senza CloudTrail costi aggiuntivi per te. Il costo della raccolta di questi eventi relativi ai dati è incluso nel costo di utilizzo di AI Protection. Continuerai inoltre a sostenere i costi di utilizzo standard GuardDuty e tutti gli altri piani di protezione abilitati. Per i prezzi e gli esempi attuali, consulta GuardDuty i prezzi di Amazon.

Rilevamenti aggiuntivi delle minacce per i carichi di lavoro di intelligenza artificiale

Oltre al piano AI Protection, i piani Amazon GuardDuty Foundational e Lambda Protection offrono rilevamenti per aiutarti a proteggere e rilevare le minacce ai carichi di lavoro di intelligenza artificiale su cui si basano. AWS

Il piano GuardDuty Foundational monitora gli eventi di AWS CloudTrail gestione per rilevare attività sospette e dannose nei carichi di lavoro di intelligenza artificiale creati utilizzando servizi AWS , tra cui Amazon Bedrock e Amazon AI. SageMaker Ad esempio, GuardDuty può identificare attività come:

  • Rimozione insolita dei parapetti di sicurezza di Amazon Bedrock

  • Una modifica a una fonte di dati di addestramento del modello che può potenzialmente portare a un attacco di data poisoning

  • Registrazione disattivata per le chiamate del modello Amazon Bedrock che potrebbero indicare tentativi di eludere il rilevamento

  • Istanza insolita di notebook o creazione di lavori di formazione in Amazon SageMaker AI

  • Credenziali Amazon Elastic Compute Cloud esfiltrate che potrebbero essere state utilizzate per chiamare API in Amazon Bedrock, Amazon AI o carichi di lavoro SageMaker AI autogestiti su istanze Amazon EC2, cluster Amazon EKS o attività Amazon ECS.

GuardDuty Lambda Protection può aiutare a rilevare potenziali minacce legate agli agenti Amazon Bedrock. Ciò potrebbe includere attività di rete sospette come il cryptomining e la comunicazione con server di comando e controllo dannosi. Queste minacce possono essere causate da un attacco alla catena di approvvigionamento o da richieste complesse.