As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá. # Inteligência artificial e segurança de agentes no Amazon Quick O Amazon Quick inclui recursos de IA que leem conteúdo, realizam ações e executam fluxos de trabalho automatizados. Esses recursos introduzem propriedades que diferem dos recursos tradicionais de BI. Use esta página para entender o que diferencia esses recursos, como aplicar os controles disponíveis e onde esses controles têm limites. Para ver a lista de verificação de segurança correspondente, consulte[Segurança em Quick](best-practices-security.md). ## O que torna esses recursos diferentes Três propriedades distinguem os recursos de inteligência artificial e de agentes dos recursos tradicionais, como painéis e conjuntos de dados. + **O assistente lê conteúdo que seus usuários não criaram ** — bases de conhecimento, pesquisas na web, provedores de pesquisa terceirizados e conectores fornecem conteúdo que se origina fora da sua organização. Qualquer conteúdo fora do seu limite de confiança é uma fonte potencial de contribuições adversárias. Para ver a lista completa de fontes de conteúdo, consulte[Two-condition modelo para risco de conteúdo adverso](#sec-agentic-security-two-condition-model). + **O assistente pode realizar ações com efeitos fora do serviço ** — por meio de conectores, ferramentas de servidor do Model Context Protocol (MCP) e consultas de pesquisa na web, o assistente pode causar alterações em sistemas externos. Para obter o inventário completo dos caminhos de saída, consulte[Conexões de saída e saída de dados no Amazon Quick](outbound-connections.md). + **Alguns recursos funcionam sem que uma pessoa observe ** — os fluxos de trabalho automatizados são executados de acordo com um cronograma ou em resposta a eventos, sem uma sessão de usuário interativa. Isso muda a forma como você avalia o risco de cada ação. Para obter mais informações, consulte [Autonomia e identidade](#sec-agentic-security-autonomy-identity). Nenhuma dessas propriedades é exclusiva do Amazon Quick. Eles são comuns em todos AI-powered os serviços. Juntas, elas significam que a mesma análise de segurança que você aplica a um painel tradicional não aborda totalmente o perfil de risco de um agente ou de um fluxo de trabalho automatizado. ## Two-condition modelo para risco de conteúdo adverso O risco de agir com base em conteúdo adverso exige que duas condições estejam presentes ao mesmo tempo: 1. O assistente pode ler conteúdo fora do seu limite de confiança. 1. O assistente pode tomar uma ação consequente. Estreitar qualquer uma das condições reduz sua exposição. Um limite de confiança é o conjunto de fontes de conteúdo que você considera seguras e sob seu controle. Qualquer conteúdo que entre no contexto do assistente de fora desse limite não é confiável por definição. ### Superfície de leitura As fontes a seguir podem fornecer conteúdo para o contexto do assistente. Cada um é um ponto em que o conteúdo que você não criou pode inserir. + Base de conhecimento e recuperação de índices (incluindo traga seu próprio índice do Amazon Q Business) + Arquivos enviados para espaços + Arquivos enviados no chat + Resultados da pesquisa na web + Third-party dados do provedor de pesquisa + Conteúdo retornado pelos conectores de ação + Conteúdo retornado pelas ferramentas remotas do servidor MCP O contexto retido também contribui para a superfície de leitura. Conversas anteriores e, no Quick Desktop, entidades extraídas de fontes de dados conectadas persistem nas sessões e podem informar respostas posteriores. Para obter mais informações, consulte [Memória e contexto retido](#sec-agentic-security-memory). Nem todas essas fontes apresentam o mesmo risco. Os arquivos enviados por seus próprios usuários no chat estão dentro do seu limite de confiança. O conteúdo retornado por uma consulta de pesquisa na web para a Internet aberta não é. Avalie cada fonte em relação ao seu limite de confiança ao revisar sua configuração. ### Superfície de ação Os caminhos a seguir permitem que o assistente cause efeitos fora do Amazon Quick. Cada um é um ponto em que uma ação consequente pode ocorrer. + On-demand ações por meio de conectores de AWS serviços e de terceiros + Ações de fluxo de trabalho automatizadas por meio de conectores de nível de serviço + Invocações de ferramentas de servidor MCP remoto + Consultas de pesquisa na Web (enviar contexto externamente) + O Quick Apps conecta chamadas de API (em sandbox) + Execução de código no Quick Desktop (efeitos de arquivo na máquina do usuário, dentro das permissões de pasta configuradas; outras superfícies de execução de código são colocadas em sandbox sem alcance externo) + Execução programada do agente Para ver o inventário completo dos caminhos de saída, incluindo quais dados podem passar por cada um e quem os controla, consulte[Conexões de saída e saída de dados no Amazon Quick](outbound-connections.md). ## Autonomia e identidade O Amazon Quick oferece suporte a dois modelos de invocação com características de segurança diferentes. O mesmo conector ou ação acarreta riscos diferentes, dependendo do modelo que o invoca. ### On-demand ações On-demand as ações são iniciadas pelo usuário e interativas. Eles se autenticam com as credenciais pessoais do usuário individual e agem como o usuário invocador. Cada ação sob demanda é limitada pelas permissões do conector desse usuário, e uma pessoa está presente na sessão quando ela é executada. ### Fluxos de trabalho automatizados Os fluxos de trabalho automatizados são programados ou acionados por eventos e não são interativos. Eles se autenticam no nível do serviço e não como um usuário individual. Como eles usam autenticação em nível de serviço, eles não são limitados pelas permissões de conector de um usuário individual e são executados sem supervisão. A consequência de sua análise é que um fluxo de trabalho automatizado pode alcançar qualquer recurso que a credencial de nível de serviço permita, independentemente do usuário que criou o fluxo de trabalho. Nenhuma sessão interativa está presente para observar o que acontece durante a execução. Uma ação pode ter um risco limitado quando você a invoca sob demanda. A mesma ação pode acarretar riscos mais amplos quando um fluxo de trabalho automatizado a invoca com alcance de nível de serviço. ### Adicionar uma etapa de revisão Para adicionar uma etapa de revisão a um fluxo de trabalho automatizado, use o centro de tarefas human-in-the-loop. Para fluxos de trabalho em que você deseja que uma pessoa aprove uma ação antes que ela seja executada, o centro de tarefas pausa a execução e coleta a aprovação antes que o fluxo de trabalho continue. Para obter mais informações, consulte [Human-in-the-loop centro de tarefas](hitl-task-center.md). ## Supervisão humana Você pode aplicar portas de aprovação humana em cinco pontos do ciclo de vida das capacidades da IA e dos agentes. Juntos, eles formam um modelo em camadas para a supervisão humana. 1. **Aprovação de capacidade (negação por padrão) ** — Os novos recursos de IA em uma categoria restrita são negados no lançamento até que um administrador os permita explicitamente. Essa porta se aplica antes que um recurso esteja disponível para qualquer usuário. Para obter mais informações, consulte [Negar por padrão](custom-permissions-governance.md). 1. **Build-time consentimento (consentimento de integração de aplicativos) ** — Quando o agente do Apps adiciona uma integração a um aplicativo (conector de ação, espaço, painel visual ou inferência de IA), ele solicita a aprovação do autor. O aplicativo publicado nunca inclui integrações não aprovadas, e os visualizadores do aplicativo herdam o escopo de integração aprovado em vez de um acesso mais amplo. Para obter mais informações, consulte [Modelo de consentimento de integração](security-sandbox-apps.md#apps-integration-consent). 1. **Aprovação de compartilhamento (fluxos) ** — As permissões personalizadas controlam quais usuários podem revisar e aprovar solicitações de compartilhamento de fluxo e se os criadores podem compartilhar fluxos sem aprovação. Os administradores configuram esses recursos por meio de perfis de permissões personalizados. Para obter mais informações, consulte [Permissões personalizadas](custom-permissions.md). 1. **Análise do tempo de execução (central de tarefas human-in-the-loop) ** — Para fluxos de trabalho em que você deseja que uma pessoa aprove uma ação antes de executá-la, a central de tarefas human-in-the-loop pausa a execução e coleta a aprovação. Esse portão é opcional e por fluxo de trabalho. Para obter mais informações, consulte [Human-in-the-loop centro de tarefas](hitl-task-center.md). 1. **Per-action controle de usuário (Desktop, Preview) ** — No Quick Desktop, cada ferramenta do sistema pode ser ativada ou desativada individualmente e oferece suporte a um modelo de permissão de três níveis — Acesso ** total ****, Somente ** leitura e ** Perguntar a cada vez ** — com granularidade para cada operação. **O Full Access ** executa operações sem solicitar confirmação. **Ask Each Time ** confirma todas as operações. Isso coloca uma decisão de aprovação em suas mãos no momento de cada ação, para as ferramentas que você habilitou. Para obter mais informações, consulte [Níveis de acesso](system-tools-desktop.md#system-tools-access-levels) e [Gerenciar permissões](desktop-settings.md#desktop-settings-manage-permissions). Quando um prompt por ação se aplica, é uma opção configurável pelo usuário. No Desktop, você configura uma ferramenta como ** Perguntar Sempre ** para confirmar cada operação ou para que o Acesso ** Total ** seja executado sem aviso prévio. Na experiência na web, as ações sob demanda são executadas quando você as aciona, e os fluxos de trabalho automatizados não são interativos por design — as portas de capacitação, criação e compartilhamento de tempo fazem o trabalho lá. Per-action A confirmação está, portanto, disponível, mas não é universal. Depende da superfície e de como você configura cada ferramenta. Para um fluxo de trabalho automatizado executado sem supervisão, não existe nenhuma sessão interativa para confirmar nada. Para esses fluxos de trabalho, o esforço de revisão ocorre no momento da aprovação, quando você avalia o que a automação pode alcançar e o que ela pode fazer. ## Controles e limites para inteligência artificial e recursos de agentes O Amazon Quick fornece os seguintes controles relevantes para as capacidades de IA e agentes. Cada controle é descrito junto com seus limites. ### Aplicação da permissão de recuperação Para bases de conhecimento com suporte à lista de controle de acesso (ACL) em nível de documento habilitado, o Amazon Quick impõe permissões sincronizadas de documentos em cada recuperação. As integrações suportadas incluem Amazon S3, Google Drive, Microsoft SharePoint, Atlassian Confluence Cloud e Microsoft. OneDrive Se o Amazon Quick não puder avaliar as permissões do documento para uma consulta, ele não retornará nenhum documento em vez de resultados não filtrados. **Limite ** — A imposição da ACL se aplica somente às bases de conhecimento criadas com o suporte da ACL. As bases de conhecimento criadas sem o suporte da ACL não impõem permissões em nível de documento. A configuração da ACL é permanente e não pode ser alterada após a criação. Para obter mais informações, consulte [Melhores práticas para gerenciar ACLs em bases de conhecimento](acl-best-practices-kb.md). ### Permissões personalizadas e negação por padrão As permissões personalizadas restringem os recursos disponíveis para cada função. Eles não podem conceder recursos que um usuário ainda não tenha. O nível mais específico vence: o nível do usuário substitui o nível da função, o que substitui o nível da conta. A opção de negação por padrão para a categoria de capacidade de IA restringe todos os recursos de IA, atuais e futuros, de modo que os novos recursos sejam negados no dia do lançamento até que você os permita explicitamente. **Limite ** — As permissões personalizadas exigem uma assinatura Enterprise. Eles reduzem o acesso, mas não podem estendê-lo. Para obter mais informações, consulte [Permissões personalizadas](custom-permissions.md) e [Negar por padrão](custom-permissions-governance.md). ### Organization-level controles e seus limites As permissões personalizadas se aplicam no nível da conta, e um administrador dessa conta pode alterá-las. Se você gerencia muitas contas com AWS Organizations, pode adicionar controles no nível da organização que os administradores de contas individuais não podem substituir. Esses controles atuam nas operações AWS da API e na inscrição da conta. Entenda o que eles alcançam e o que não alcançam. + **Restrinja quem se inscreve no Quick ** — Uma política de controle de serviços (SCP) controla quais contas, edições e tipos de identidade podem criar uma assinatura Quick, para que novas contas não possam iniciar uma assinatura fora do conjunto aprovado. Para obter mais informações, consulte [Usando políticas de controle de serviços para restringir as opções de inscrição do Amazon Quick](security-scp-admin.md). + **Restrinja as operações da API de gerenciamento ** — Um SCP nega as operações da Quick API que criam e gerenciam agentes, fluxos, espaços e bases de conhecimento. Onde a política se aplica, os diretores não podem criar esses recursos por meio da interface de linha de AWS comando, dos AWS SDKs ou. CloudFormation + **Restrinja a disponibilidade de recursos de IA com permissões personalizadas, não com SCPs ** — os SCPs atuam nas operações de AWS API e na inscrição de contas. Eles não controlam quais recursos de IA um usuário vê ou pode usar no produto. Para restringir os recursos de IA para seus usuários, use permissões personalizadas com a opção negação por padrão para a categoria de recursos de IA. Para obter mais informações, consulte [Negar por padrão](custom-permissions-governance.md). **Limite ** — Cada controle impõe uma camada diferente. Um SCP controla a inscrição e o API-based gerenciamento de contas em toda a sua organização, e nenhum administrador de conta pode substituí-lo. As permissões personalizadas controlam quais recursos de IA seus usuários podem usar, e um administrador da conta pode alterá-los. Para detectar uma alteração nas permissões personalizadas, registre as operações da API de gerenciamento rápido AWS CloudTrail e revise-as. Para obter mais informações, consulte [Resposta a incidentes, registro e monitoramento no Amazon Quick](incident-response-logging-and-monitoring.md). ### Cadeia de suprimentos de ferramentas e conectores As ferramentas chegam ao assistente de IA somente por meio de integrações criadas por um administrador. As integrações de MCP exigem uma assinatura corporativa. O modelo de integração restringe o caminho de transporte e descoberta para ferramentas externas. + Somente servidores MCP remotos são suportados. As conexões de estúdio local não são suportadas. + Durante a conexão, o Amazon Quick descobre e registra as ferramentas que o servidor MCP fornece. Após a conclusão da descoberta, cada ferramenta é listada como uma ação que você pode revisar e ativar. As ferramentas não ficam disponíveis automaticamente. + Você pode se conectar a servidores MCP privados por meio de uma conexão VPC que tenha acesso de rede ao servidor. + Os administradores podem restringir conectores individuais por meio de permissões personalizadas. Cada conector oferece suporte a três permissões: ação ** Criar e atualizar ****, ação ** Compartilhar e ** Usar ação**. Para obter mais informações, consulte [Permissões personalizadas](custom-permissions.md). Para obter mais informações sobre como configurar uma integração MCP, consulte. [Integração do Model Context Protocol (MCP)](mcp-integration.md) **Limite ** — As opções de autenticação variam de acordo com o tipo de conector. Para servidores MCP remotos, conectores de agente para agente e conectores HTTP genéricos, a conexão sem autenticação é uma opção selecionável. A integridade de uma conexão depende de como ela está configurada. O serviço não avalia a confiabilidade de um servidor MCP de terceiros nem o comportamento das ferramentas que ele expõe. Essa avaliação é sua. ### Triagem de guardrail e palavras bloqueadas Built-in a triagem de segurança de conteúdo verifica as solicitações dos usuários por conteúdo prejudicial, incluindo discurso de ódio, insultos, conteúdo sexual, violência e má conduta. Essas verificações também avaliam as solicitações dos usuários para ataques imediatos. Você pode configurar até 50 palavras e frases bloqueadas que o Amazon Quick verifica em relação às solicitações do usuário e às respostas geradas. **Limite ** — Esses controles ajudam a reduzir o risco. No entanto, eles não substituem sua responsabilidade de configurar acesso, permissões, agentes, fluxos e fontes de dados para seu caso de uso. Blocked-word as verificações usam comparação de cadeias de caracteres de correspondência exata, não análise semântica, e são limitadas a 50 entradas de até 36 caracteres cada. Blocked-word as verificações se aplicam somente aos agentes e fluxos de bate-papo na experiência web do Amazon Quick. Para obter mais informações, consulte [Corrimãos de inteligência artificial no Amazon Quick](guardrails.md). ### Isolamento de execução de código O assistente de IA pode escrever e executar código Python em quatro superfícies. Cada superfície executa o código em um ambiente de área restrita projetado para conter os efeitos do código. As superfícies diferem em onde o código é executado e o que ele pode alcançar. + **Quick Desktop ** — O código é executado em uma OS-level sandbox (macOS Seatbelt ou Windows AppContainer) na máquina do usuário. O acesso ao arquivo dentro da sandbox segue as permissões de pasta que o usuário configura, e um namespace persistente carrega variáveis entre as execuções de código em uma conversa. Pre-installed Somente pacotes Python; a instalação do pacote (`pip install`) não é suportada. Para obter mais informações, consulte [Execução de código](system-tools-desktop.md#system-tool-code-execution). + **Chat de experiência na Web ** — O código é executado em uma sandbox isolada e gerenciada pelo serviço, sem acesso à Internet. As solicitações de rede de saída do sandbox falham. A caixa de areia não persiste além da conversa. + **Fluxos de trabalho automatizados (Quick Automate) ** — As ações de código e o código do agente personalizado são executados em um ambiente Python restrito. As ações de código não são o caminho para alcançar sistemas externos: as chamadas de API externas pertencem às integrações da API REST e o acesso ao sistema de arquivos ou ao banco de dados pertence às integrações apropriadas. Para obter mais informações, consulte [Código](actions-code.md). + **Extensões do Office ** — O assistente cria e executa código na caixa de proteção do aplicativo Office (Outlook, Excel, Word e PowerPoint). Para obter mais informações, consulte [Conecte o Amazon Quick às suas ferramentas existentes com extensões](working-with-extensions-detail.md). O recurso Executar código localmente em permissões personalizadas restringe a execução de código no Quick Desktop para os usuários aos quais um perfil se aplica. Os recursos de extensão, incluindo a execução de código nos aplicativos do Office, podem ser restringidos por meio de controles de acesso à extensão. Para obter mais informações, consulte [Permissões personalizadas](custom-permissions.md) e [Acesso à extensão](extension-access.md). **Limite ** — No Desktop, o sandbox sempre tem acesso aos diretórios temporários do sistema, independentemente das permissões de pasta configuradas. No Desktop, o namespace persistente significa que os dados carregados por uma execução de código anterior permanecem disponíveis para execuções de código posteriores na mesma conversa. O sandboxing contém o que o código pode alcançar; ele não avalia o que o código faz com o conteúdo que já está no contexto da conversa. Revise a saída do código gerado como qualquer outra saída do assistente. ### Cobertura de registro e auditoria AWS CloudTrail API-level registra a atividade (quem fez o quê). Os registros vendidos registram conteúdo conversacional (o que foi dito e o que foi respondido). Juntos, eles fornecem visibilidade imediata da IA e da atividade dos agentes. **Limite ** — O registro não impede nenhuma ação. Ele fornece visibilidade após o fato. O serviço não inclui alertas em tempo real; você deve configurar CloudWatch os alarmes separadamente se precisar de uma notificação quase em tempo real. Os registros de bate-papo vendidos não capturam o conteúdo dos documentos de origem retornados pela recuperação. Para obter mais informações, consulte [Resposta a incidentes, registro e monitoramento no Amazon Quick](incident-response-logging-and-monitoring.md). ### Limites declarados de forma clara As seguintes limitações se aplicam aos recursos de inteligência artificial e agentes no Amazon Quick: + **A triagem reduz o risco, mas não substitui a configuração ** — a Built-in triagem e as grades de proteção ajudam a reduzir o risco. Eles não substituem sua responsabilidade de configurar acesso, permissões, agentes, fluxos e fontes de dados para seu caso de uso. + **Nenhuma exigência universal de revisão humana ** — A revisão humana não é uma exigência de ações de todo o sistema. Per-actiona confirmação está disponível quando uma ferramenta está configurada para ela (no desktop, por meio do nível de ** acesso ** Ask Each Time), e o centro de tarefas human-in-the-loop está disponível para fluxos de trabalho nos quais você opta por adicionar uma etapa de revisão. No entanto, as ações sob demanda na experiência na web são executadas imediatamente e os fluxos de trabalho automatizados são executados sem a intervenção do usuário. + **As opções de autenticação variam de acordo com o tipo de conector ** — Os métodos de autenticação disponíveis dependem do tipo de conector. Para servidores MCP remotos, conectores de agente para agente e conectores HTTP genéricos, a conexão sem autenticação é uma opção selecionável. ## Memória e contexto retido A memória de bate-papo personaliza as respostas lembrando suas preferências, contexto e interações anteriores. Os agentes do chat fazem referência às informações armazenadas para fornecer respostas mais relevantes sem que você repita as informações em todas as conversas. Para obter mais informações, consulte [Personalização de memória e resposta](using-quick-chat.md#chat-memory). No Quick Desktop, a superfície Meu contexto fornece uma guia Gráfico de conhecimento que mostra entidades e relacionamentos extraídos de fontes de dados conectadas e uma guia Memória que mostra fatos, procedimentos e padrões aprendidos nas conversas. Para obter mais informações, consulte [Meu contexto](desktop-settings.md#desktop-settings-my-context). ### Por que o contexto retido é importante para a segurança O contexto retido faz parte da superfície de leitura descrita em[Two-condition modelo para risco de conteúdo adverso](#sec-agentic-security-two-condition-model). Ao contrário de uma única conversa, o contexto retido persiste em todas as sessões. As informações que o assistente lembra de uma interação anterior podem influenciar as respostas e ações em uma sessão futura. ### Controles + **Isolamento ** — As memórias são específicas para cada usuário e não são compartilhadas com outros usuários. + **Controle do usuário ** — Você pode revisar sua memória de bate-papo por meio do Histórico de ** conversas**. No Desktop, você também pode gerenciar se o Quick aprende com suas conversas, pesquisa seu histórico de conversas e extrai entidades dos serviços conectados. Você também pode visualizar, editar e excluir memórias individuais. Para obter mais informações, consulte [Controles de privacidade](desktop-security.md#desktop-privacy-controls). + **Reinicialização completa (Desktop) ** — A ** opção ** Limpar todos os dados remove irreversivelmente todas as conversas, dados do gráfico de conhecimento, credenciais salvas e preferências do usuário. Para obter mais informações, consulte [Limpando todos os dados](desktop-security.md#desktop-clearing-data). + **Controle do administrador ** — As permissões personalizadas incluem recursos que restringem a criação e o gerenciamento de engramas (perfis do estilo e dos padrões de escrita de um usuário) e a criação e o acesso à memória de conhecimento no Quick Desktop. Para obter mais informações, consulte [Permissões personalizadas](custom-permissions.md). + **Sem treinamento ** — O Quick não usa suas conversas, arquivos ou contexto pessoal para treinar ou aprimorar modelos de IA. ### Limitações + A memória de bate-papo não é compatível com contas configuradas com chaves gerenciadas pelo AWS KMS cliente. Uma organização que exige chaves gerenciadas pelo cliente não obtém memória de bate-papo. Para obter mais informações, consulte [Personalização de memória e resposta](using-quick-chat.md#chat-memory). + O Quick Desktop está em versão prévia. A superfície Meu contexto, a guia Gráfico de conhecimento, a capacidade de visualizar, editar e excluir memórias individuais e a ** opção ** Limpar todos os dados são recursos do Desktop. Na experiência na web, você revisa a memória do bate-papo por meio do Histórico de ** conversas**. Confirme quais controles estão disponíveis na superfície que você implanta, em vez de assumir a paridade entre o desktop e a web. ## Para onde ir em seguida + [Segurança em Quick](best-practices-security.md)— A lista de verificação de segurança com práticas práticas para configurar o Amazon Quick. + [Conexões de saída e saída de dados no Amazon Quick](outbound-connections.md)— O inventário completo dos caminhos de saída, quais dados podem passar por cada um e quem os controla. + [Corrimãos de inteligência artificial no Amazon Quick](guardrails.md)— triagem de segurança de Built-in conteúdo e palavras bloqueadas configuradas pelo administrador. + [Permissões personalizadas](custom-permissions.md)— restrição Role-based de capacidade e governança negada por padrão. + [Melhores práticas para gerenciar ACLs em bases de conhecimento](acl-best-practices-kb.md)— controle de Document-level acesso para bases de conhecimento, incluindo comportamento de recuperação sem falhas.