Recursos de segurança dos agentes personalizados

Agentes personalizados operam com suas próprias permissões independentes, separadas das permissões individuais do usuário. Isso significa que qualquer pessoa que possa usar um agente pode acessar informações por meio dele que não conseguiria acessar diretamente. Os recursos de segurança dos agentes personalizados ajudam você a controlar esse acesso para manter seus dados seguros.

Para práticas gerais de segurança da IA do Notion, consulte Práticas de segurança e privacidade da IA do Notion e Como o Notion 3.0 protege contra riscos de injeção de prompts.

Os agentes personalizados incluem várias camadas de proteção para ajudar você a evitar o compartilhamento de informações confidenciais.

Os administradores do espaço de trabalho podem gerenciar agentes personalizados em toda a organização por meio de um diretório de agentes, controles de criação, pesquisa de conteúdo, registros de auditoria, análises de IA e ferramentas de transferência de propriedade para manter a visibilidade e o controle sobre todos os agentes no espaço de trabalho.

Você verá um aviso claro explicando quais recursos confidenciais o agente pode acessar e solicitando que você confirme se deseja compartilhá-los. Isso inclui avisos para:

• Páginas privadas do Notion

• Dados de e-mail ou calendário

• Integrações de terceiros

• Acesso a todas as páginas que são compartilhadas com todos no espaço de trabalho

Para evitar o compartilhamento não intencional de dados por meio do Slack e de outros aplicativos conectados de terceiros:

• Para cada agente personalizado, apenas a pessoa que conectou uma integração pode adicionar mais canais do Slack ou aumentar o nível de acesso (por exemplo, de somente leitura para ler e responder).

• Os usuários com acesso “Pode editar” podem remover conexões de terceiros, mas não podem expandir o escopo da conexão.

Para editar as configurações de conexão de terceiros que um editor não configurou, ele deve remover e reconectar a integração.

Os agentes personalizados incluem verificações de segurança automáticas para impedir que os agentes continuem a acessar dados se os editores não tiverem as permissões corretas:

• Cada recurso conectado deve ter pelo menos um editor de agente que tenha acesso a esse recurso

• Se todos os editores perderem o acesso a um recurso, o agente para de funcionar.

Os agentes personalizados aparecem no menu de compartilhamento de qualquer página ou base de dados ao qual tenham acesso, assim como as pessoas.

• Você pode ver quais agentes têm acesso a uma página ou base de dados específica.

• Mostra claramente quais agentes podem visualizar ou editar seu conteúdo.

• Permite que você audite o acesso rapidamente.

Para verificar, abra qualquer página ou base de dados, clique em Share e procure por agentes personalizados na lista. Se você tiver Acesso completo à página ou à base de dados, verá o nível de permissão deles e poderá removê-los, se necessário.

Qualquer pessoa com permissão do tipo Pode visualizar e interagir conseguirá ver a página de configurações completa do agente no modo somente visualização.

O que os usuários podem ver:

• Instruções do agente.

• Quais páginas e bases de dados o agente tem acesso.

• Ferramentas e gatilhos conectados.

• Todos os detalhes da configuração.

Os administradores do espaço de trabalho podem gerenciar agentes personalizados em toda a organização por meio de um diretório de agentes, controles de criação, pesquisa de conteúdo, registros de auditoria, análises de IA e ferramentas de transferência de propriedade para manter a visibilidade e o controle sobre todos os agentes no espaço de trabalho.

Os agentes personalizados pedem confirmação antes de acessar links externos inesperados:

• Se um agente gerar um URL que não estava no prompt original, ele fará uma pausa e solicitará confirmação.

• Você receberá uma notificação para revisar e aprovar a URL antes que o agente prossiga.

Ao trabalhar com o Notion AI, você pode usar o seletor de modelo para controlar o modelo com o qual trabalha. Se você passar o cursor sobre o modelo, verá detalhes como velocidade, inteligência e custo. Modelos menores geralmente são mais rápidos e baratos de usar, mas aplicamos um aviso de que eles “podem ser mais vulneráveis a injeção de prompt”.

Embora o Notion mantenha controles de segurança que ajudam a proteger contra prompt injection, sua escolha de modelo também desempenha um papel importante. Os modelos de IA variam em tamanho em termos de parâmetros (os valores numéricos internos e treináveis que moldam como os modelos operam). Quanto mais parâmetros um modelo tem, melhor ele tende a ter um desempenho em tarefas complexas, incluindo distinguir instruções legítimas de maliciosas. Modelos menores tendem a ser mais suscetíveis a seguir instruções adversárias, aumentando o risco de realizarem ações não intencionais ao processar conteúdo externo.

Para fluxos de trabalho que envolvem dados confidenciais ou conteúdo de fontes externas ou não confiáveis, como arquivos carregados, documentos compartilhados ou conteúdo da web, considere selecionar um modelo maior. Independentemente do modelo que você usar, o manuseio cuidadoso de conteúdo não confiável é uma das etapas mais eficazes que você pode tomar para proteger seus dados.