Enrique Dans: qué exigir a un agente de IA antes de darle acceso a los datos

La decisión de conectar un agente de inteligencia artificial al correo o a la agenda abre una cuestión concreta: qué información necesita para resultar útil y cómo comprobar a quién beneficia lo que recomienda. A partir de su reflexión sobre agentes personales y datos, Contrafeed entrevista a Enrique Dans, profesor de Innovación en IE Business School. Dans propone empezar con permisos acotados, exigir información sobre las comisiones y contrastar las recomendaciones mediante pruebas repetibles. También aborda qué condiciones debería pedir una pequeña empresa cuando están en juego datos de sus clientes. Sus respuestas trasladan el debate a cinco decisiones prácticas.

¿Qué señal concreta distinguiría un agente que trabaja para su usuario de uno que prioriza los intereses comerciales del proveedor?

Que explique por qué recomienda una opción, identifique quién paga al proveedor y revele si una comisión o acuerdo comercial influye en el orden de las recomendaciones. Y que permita comparar alternativas sin priorizar las que le resultan más rentables. La promesa de “trabajar para ti” no basta: hay que poder comprobar para quién trabaja cuando los intereses entran en conflicto.

¿Qué acceso mínimo concederías al probar un agente y qué dato o permiso reservarías hasta comprobar su comportamiento?

Empezaría con acceso temporal y de solo lectura a una cuenta de prueba, con datos que no sean sensibles. Reservaría el correo completo, la agenda, las cuentas bancarias, los documentos de identidad y, sobre todo, los datos de clientes o de trabajo. Si para demostrar su utilidad necesita desde el primer día acceso a toda nuestra vida digital, es una mala señal.

Si una recomendación genera una comisión, ¿qué información necesitaría ver el usuario para valorar el posible conflicto?

Quién paga la comisión, cuánto recibe el proveedor, si ese pago afecta a la recomendación o a su posición en la lista, qué alternativas se han considerado y qué datos se han compartido para generarla. “Contenido patrocinado” no es suficiente si no sabemos cómo intervino el incentivo comercial.

¿Qué prueba reproducible permitiría detectar que el agente está inclinando sus decisiones sin explicarlo?

Un ensayo con tareas idénticas y criterios fijados de antemano, comparando sus recomendaciones cuando existe un incentivo comercial y cuando no. Habría que repetirlo con distintos productos y usuarios, registrar las opciones ofrecidas y comprobar si el agente favorece sistemáticamente al proveedor que le paga sin advertirlo. La explicación del propio agente no basta: hace falta poder contrastar su conducta.

¿Qué condición debería poder exigir una empresa pequeña antes de delegarle tareas con información de sus clientes?

Un compromiso contractual claro de que esos datos no se usarán para entrenar modelos ni para otros fines, junto con límites de acceso, conservación y reutilización, y una garantía verificable de borrado. La empresa también debería saber qué subcontratistas reciben los datos, dónde se procesan y quién responde si hay una filtración o un uso indebido. No se puede pedir a una pequeña empresa que entregue la información de sus clientes a una caja negra y confíe en que todo saldrá bien.

Estas recomendaciones expresan el criterio de Dans sobre permisos e incentivos. Para situarlas en el contexto de las herramientas, pueden consultarse Claude Duet entra en pruebas como asistente proactivo: quién puede acceder y qué conviene delegarle y Meta crea una división empresarial para llevar Muse a las compañías: qué falta concretar.