FAQ

D: Quali livelli di sicurezza aggiuntivi devo prendere in considerazione per prevenire gli attacchi di prompt injection?

R. Il diagramma seguente mostra i tre livelli di sicurezza principali: LLM input, guardrail LLM integrati e guardrail introdotti dall'utente.

L'organizzazione dovrebbe prendere in considerazione l'implementazione di protocolli di sicurezza su tutti i livelli. Per il primo livello (LLMinput), prendete in considerazione le misure di mitigazione del rischio per contribuire a proteggere l'applicazione implementando meccanismi quali informazioni di identificazione personale (PII) o la redazione, l'autenticazione, l'autorizzazione e la crittografia delle informazioni sensibili. Il secondo livello (guardrail LLM integrati) è costituito da modelli o applicazioni protetti da. LLM Sebbene la LLMs maggior parte sia addestrata con protocolli di sicurezza per prevenire un uso improprio, la tua organizzazione dovrebbe comunque prendere in considerazione l'aggiunta di controlli di sicurezza aggiuntivi utilizzando Guardrails for Amazon Bedrock per offrire un livello coerente di sicurezza AI in tutte le applicazioni di intelligenza artificiale generativa. Infine, i guardrail introdotti dagli utenti dovrebbero introdurre i migliori modelli tempestivi e le migliori misure di sicurezza post-elaborazione sull'output generato per prevenire risultati indesiderati.

D: In che modo le organizzazioni possono difendersi dagli attacchi di pronta iniezione mediante la progettazione tempestiva?

R. Le organizzazioni possono difendersi dagli attacchi di prompt injection implementando le migliori pratiche di progettazione rapida, come illustrato nella sezione Best practice. L'organizzazione può anche prendere in considerazione l'aggiunta di barriere come la convalida degli input, la sanificazione tempestiva e i canali di comunicazione sicuri.

D: Gli elementi di sicurezza tempestivi sono indipendenti dal modello?

R. In genere, gli elementi di sicurezza tempestivi sono progettati per esigenze specifiche. LLMs Ciascuno LLM viene addestrato in modo diverso in termini di qualità, diversità, rappresentazione, distorsioni e approcci di ottimizzazione dei dati, quindi un elemento di sicurezza tempestivo introdotto per uno LLM non è direttamente trasferibile a un altro. LLM Tuttavia, gli elementi di sicurezza discussi in questa guida possono fornire una struttura e una guida per lo sviluppo di elementi di sicurezza rapidi personalizzati per altri. LLMs

D: Come devo integrare questi elementi in un framework aziendaleMLOps?

R. A seconda dei vincoli e del panorama dei dati dell'organizzazione, gli elementi di sicurezza tempestivi possono essere di proprietà del data scientist o dello sviluppatore che sta lavorando su uno specifico caso d'uso dell'IA generativa o di un team centrale di governance dell'IA generativa. Quando progetti il MLOps framework per una soluzione di intelligenza artificiale generativa e rilasci la soluzione nell'ambiente di produzione, ti consigliamo di leggere i post del AWS blog FMOps/LLMOps: Operazionalizza l'IA generativa e le differenze con MLOps e Operazionalizza la valutazione su scala utilizzando Amazon SageMaker AI Clarify e i servizi come LLM punto di partenza. MLOps Prendi in considerazione l'introduzione di porte di sicurezza per garantire che sia stata aggiunta un'adeguata sicurezza a livello di prompt.

D: Quali sono alcuni dei casi d'uso più efficaci?

R. Le barriere illustrate in questa guida sono state utilizzate con successo in soluzioni RAG basate su risorse umane, politiche aziendali, riepilogo dei documenti assicurativi, investimenti aziendali e riepilogo delle cartelle cliniche.