El decálogo de la AEPD permite analizar cómo gestionar los accesos, la autonomía y la supervisión de herramientas capaces de actuar sobre datos y operaciones financieras.
Encargar a una inteligencia artificial que prepare una comunicación con un cliente implica delegar una tarea. Autorizarla para consultar su expediente, modificar información y enviar la respuesta supone, además, concederle facultades. Esa diferencia resulta central para evaluar el uso de agentes de IA en los servicios financieros.
La Agencia Española de Protección de Datos (AEPD) publicó el 27 de octubre un decálogo dirigido a personas usuarias de asistentes y agentes de inteligencia artificial. Sus recomendaciones ofrecen un punto de partida para examinar qué significa incorporar estas herramientas a procesos empresariales: qué información reciben, qué pueden ejecutar y cómo se supervisa su actividad.
El proveedor y los permisos definen el alcance
1. Conocer quién presta el servicio. La AEPD recomienda comprobar la identidad del proveedor, el destino de los datos y los controles disponibles. En una entidad financiera, esto lleva a evaluar el recorrido de la información: un expediente puede pasar por el asistente y por distintos servicios conectados. Cada conexión amplía las preguntas que deben resolverse antes de utilizar datos de clientes.
2. Conceder accesos ajustados a la tarea. El principio de mínimo privilegio consiste en asignar únicamente las facultades necesarias. Por ejemplo, un agente encargado de resumir expedientes puede trabajar con permisos de lectura sobre una carpeta determinada. Incorporar capacidad para modificar condiciones o enviar comunicaciones supone ampliar su función y requiere evaluar ese nuevo alcance.
Los datos aportados y la memoria requieren decisiones propias
3. Reducir la información sensible. La Agencia aconseja facilitar solo los datos necesarios y proteger especialmente la información delicada. Un ejemplo sería analizar una cartera mediante referencias internas e importes, manteniendo los identificadores personales fuera del entorno de trabajo cuando resulten prescindibles. La selección de datos forma parte del diseño de la tarea.
4. Gestionar lo que el asistente recuerda. La memoria permite conservar contexto entre interacciones. La AEPD recomienda utilizar los controles específicos de memoria, historial y privacidad para gestionar esa información. En un uso profesional, conviene decidir qué contexto merece conservarse: recordar una preferencia de formato y almacenar detalles de un expediente tienen implicaciones distintas.
La autonomía debe traducirse en facultades concretas
5. Definir instrucciones y límites. Una petición como «gestiona este expediente» deja numerosas decisiones abiertas. En un caso hipotético de recuperación de crédito, el encargo podría precisar que el agente reúna antecedentes, prepare alternativas y eleve una propuesta al responsable. Así, el objetivo se convierte en una secuencia de actuaciones cuyo alcance puede evaluarse.
6. Revisar las acciones de mayor impacto. La confirmación humana resulta útil cuando muestra aquello que debe decidirse. Para revisar una propuesta de pago, la persona necesita ver beneficiario, cuenta, importe y concepto. Para aprobar una comunicación, destinatario, contenido y adjuntos. La calidad de esa pantalla de revisión puede ser tan relevante como la calidad del texto generado.
La información externa y los terceros amplían el riesgo
7. Considerar las instrucciones ocultas. La AEPD advierte de que correos, webs o documentos pueden contener órdenes destinadas a desviar al agente. Esta técnica se conoce como inyección de instrucciones: un contenido que debía analizarse intenta dirigir su comportamiento. En un supuesto de revisión de facturas, podría buscar que el agente remitiese documentación a una dirección ajena al proceso.
El concepto conecta con el riesgo de autonomía excesiva descrito por OWASP, fundación especializada en seguridad del software: las consecuencias dependen de las funciones, los permisos y la capacidad de actuación concedidos al sistema.
8. Proteger los datos de otras personas. Un correo profesional puede contener información de clientes, compañeros o proveedores. Aplicar esta recomendación exige revisar el conjunto al que se concede acceso. Por ejemplo, conectar un buzón completo para preparar el resumen de una reunión daría al agente un alcance mucho mayor que facilitarle únicamente la documentación correspondiente.
La seguridad continúa durante el uso
9. Proteger cuentas, dispositivos y conectores. La AEPD recomienda reforzar la seguridad del acceso y comprobar el origen de las herramientas conectadas. Desde una perspectiva operativa, la cuenta del agente merece atención por las aplicaciones que reúne. Su evaluación debe considerar qué sistemas quedarían accesibles si alguien consiguiera utilizarla indebidamente.
10. Supervisar, detener y retirar accesos. Esta última recomendación completa el ciclo de la delegación. En una automatización periódica de conciliación, por ejemplo, el diseño podría contemplar un registro de cambios, un responsable de seguimiento y una forma de suspender la ejecución. El cierre del piloto también tendría que incluir la retirada de permisos concedidos durante las pruebas.
La lectura empresarial del decálogo apunta a una adopción gradual: empezar con tareas acotadas, comprobar resultados y ampliar facultades cuando el proceso permita controlarlas. En banca, fintech y gestión del crédito, la utilidad de un agente también se mide por la claridad con la que permite reconstruir qué hizo, con qué autorización y sobre qué información.
Sigue toda la información de Open Hub News en Linkedin o en nuestra newsletter.
