Funciones de seguridad de los agentes personalizados

Los Agentes Personalizados operan con sus propios permisos independientes, separados de los permisos de cada usuario. Esto significa que cualquier persona que pueda utilizar un agente podría acceder a información a través de él a la que no podría acceder directamente. Las funciones de seguridad de los Agentes Personalizados te ayudan a controlar este acceso para mantener tus datos seguros.

Para conocer las prácticas generales de seguridad de la IA de Notion, consulta las prácticas de seguridad y privacidad de la IA de Notion y Cómo Notion 3.0 te protege contra los riesgos de inyección de indicaciones.

Los agentes personalizados incluyen varias capas de protección que te ayudan a evitar compartir información sensible.

Los administradores del espacio de trabajo pueden gestionar los agentes personalizados en toda la organización a través de un directorio de agentes, controles de creación, búsquedas de contenido, registros de auditoría, análisis de IA y herramientas de transferencia de propiedad para garantizar la visibilidad y el control sobre todos los agentes del espacio de trabajo.

Verás una clara advertencia que explica a qué recursos sensibles puede acceder el Agente Personalizado y te pedirá que confirmes que quieres compartirlos. Esto incluye advertencias para:

• Páginas privadas de Notion

• Datos de correo electrónico o de calendario

• Integraciones con terceros

• Acceso a todas las páginas que se comparten con todos en el espacio de trabajo

Para evitar el uso compartido involuntario de datos a través de Slack y otras apps conectadas de terceros:

• Para cada agente personalizado, solo la persona que haya conectado una integración podrá añadir más canales de Slack u otorgar un permiso de acceso mayor (por ejemplo, de Solo lectura a Leer y responder).

• Los usuarios con acceso de edición podrán eliminar conexiones de terceros, pero no ampliar lo que puede ver la conexión.

Para editar los ajustes de una conexión de terceros que no haya configurado un editor, deberán eliminar la integración y volver a conectarla.

Los agentes personalizados incluyen comprobaciones de seguridad automáticas para evitar que los agentes sigan accediendo a los datos si los editores no tienen los permisos correctos:

• Cada recurso conectado debe tener al menos un editor de agentes con acceso al recurso.

• Si todos los editores pierden el acceso a un recurso, el agente dejará de ejecutarse.

Los agentes personalizados aparecen en el menú Compartir de cualquier página o base de datos a la que tengan acceso, al igual que las personas.

• Es posible ver qué agentes tienen acceso a una página o base de datos concreta.

• Muestra claramente qué agentes pueden ver o editar tu contenido.

• Te permite auditar el acceso de un vistazo.

Para comprobarlo, abre cualquier página o base de datos, haz clic en Compartir y busca los Agentes Personalizados en la lista. Si tienes Acceso completo a la página o base de datos, verás su nivel de permiso y podrás eliminarlos si es necesario.

Cualquier persona con el permiso Puede ver e interactuar podrá ver toda la página de ajustes del agente en el modo de solo ver.

Qué pueden ver los usuarios:

• Instrucciones del agente.

• A qué páginas y bases de datos tiene acceso el agente.

• Herramientas y disparadores conectados.

• Todos los detalles de la configuración.

Los administradores del espacio de trabajo pueden gestionar los agentes personalizados en toda la organización a través de un directorio de agentes, controles de creación, búsquedas de contenido, registros de auditoría, análisis de IA y herramientas de transferencia de propiedad para garantizar la visibilidad y el control sobre todos los agentes del espacio de trabajo.

Los agentes personalizados solicitan confirmación antes de acceder a enlaces externos inesperados:

• Si un agente genera una URL que no estaba en la indicación original, se detendrá y te pedirá que la confirmes.

• Recibirás una notificación para revisar y aprobar la URL antes de que el agente continúe.

Cuando trabajes con IA de Notion, puedes utilizar el selector de modelos para controlar el modelo con el que trabajas. Si pasas el cursor sobre el modelo, verás detalles como la velocidad, la inteligencia y el coste. Por lo general, los modelos más pequeños son más rápidos y económicos, pero hemos aplicado una advertencia de que «pueden ser más vulnerables a la inyección de indicaciones».

Aunque Notion mantiene controles de seguridad que ayudan a proteger frente a la inyección de indicaciones, la elección del modelo también desempeña un papel importante. Los modelos de IA varían en tamaño en cuanto a parámetros (los valores numéricos internos y entrenables que determinan cómo funcionan los modelos). Cuantos más parámetros tenga un modelo, mejor suele rendir en tareas complejas, incluida la distinción entre instrucciones legítimas y malintencionadas. Los modelos más pequeños tienden a ser más susceptibles de seguir instrucciones adversarias, lo que aumenta el riesgo de que realicen acciones no deseadas al procesar contenido externo.

Para flujos de trabajo que impliquen datos sensibles o contenido de fuentes externas o no fiables, como archivos cargados, documentos compartidos o contenido web, considera seleccionar un modelo más grande. Independientemente del modelo que utilices, el manejo cuidadoso del contenido no fiable es una de las medidas más eficaces que puedes tomar para proteger tus datos.