Domande frequenti

D: Quali livelli di sicurezza aggiuntivi devo prendere in considerazione per prevenire gli attacchi di prompt injection?

R. Il diagramma seguente mostra i tre livelli di sicurezza principali: input LLM, guardrail LLM integrati e guardrail introdotti dall'utente.

La tua organizzazione dovrebbe prendere in considerazione l'implementazione di protocolli di sicurezza su tutti i livelli. Per il primo livello (input LLM), prendete in considerazione le misure di mitigazione del rischio per contribuire a proteggere l'applicazione implementando meccanismi come le informazioni di identificazione personale (PII) o la redazione, l'autenticazione, l'autorizzazione e la crittografia delle informazioni sensibili. Il secondo livello (guardrail integrati LLM) è costituito da modelli o titoli applicativi forniti dal LLM. Sebbene la maggior parte degli LLM sia addestrata con protocolli di sicurezza per prevenire un uso improprio, la tua organizzazione dovrebbe comunque prendere in considerazione l'aggiunta di controlli di sicurezza aggiuntivi utilizzando Guardrails for Amazon Bedrock per offrire un livello coerente di sicurezza AI in tutte le applicazioni di intelligenza artificiale generativa. Infine, i guardrail introdotti dagli utenti dovrebbero introdurre i migliori modelli tempestivi e le misure di sicurezza post-elaborazione sull'output generato per prevenire risultati indesiderati.

D: In che modo le organizzazioni possono difendersi dagli attacchi di prompt injection nell'ambito della progettazione tempestiva?

R. Le organizzazioni possono difendersi dagli attacchi di prompt injection implementando le migliori pratiche di progettazione rapida, come illustrato nella sezione Best practice. L'organizzazione può anche prendere in considerazione l'aggiunta di barriere come la convalida degli input, la sanificazione tempestiva e i canali di comunicazione sicuri.

D: Gli elementi di sicurezza tempestivi sono indipendenti dal modello?

R. In genere, gli elementi di sicurezza tempestivi sono progettati per LLM specifici. Ogni LLM viene addestrato in modo diverso in termini di qualità dei dati, diversità, rappresentazione, pregiudizi e approcci di ottimizzazione, quindi un elemento di sicurezza tempestivo introdotto per un LLM non è direttamente trasferibile a un altro LLM. Tuttavia, gli elementi di sicurezza discussi in questa guida possono fornire un quadro e una direzione per lo sviluppo di elementi di sicurezza tempestivi personalizzati per altri LLM.

D: Come devo integrare questi elementi in un framework MLOps aziendale?

R. A seconda dei vincoli e del panorama dei dati dell'organizzazione, gli elementi di sicurezza tempestivi possono essere di proprietà del data scientist o dello sviluppatore che sta lavorando su uno specifico caso d'uso dell'IA generativa o di un team centrale di governance dell'IA generativa. Quando progetti il framework MLOps per una soluzione di intelligenza artificiale generativa e rilasci la soluzione nell'ambiente di produzione, ti consigliamo di leggere i post del AWS blog FMOps/LLMOps: Operationalize generative AI and differences with MLOPS e Operationalize LLM Evaluation at Scale utilizzando i servizi SageMaker Amazon AI Clarify e MLOps come punto di partenza. Prendi in considerazione l'introduzione di porte di sicurezza per garantire che sia stata aggiunta un'adeguata sicurezza a livello di prompt.

D: Quali sono alcuni dei casi d'uso più efficaci?

R. I guardrail descritti in questa guida sono stati utilizzati con successo in RAG-based soluzioni per le risorse umane, le politiche aziendali, il riepilogo dei documenti assicurativi, gli investimenti aziendali e il riepilogo delle cartelle cliniche.