IA que recuerda al cliente: qué exige la LGPD cuando la atención tiene memoria

Por Bernardo Gontijo, fundador de NeftPublicado el Actualizado el 9 min de lectura

Resumen

Cuando la IA de atención guarda el historial del cliente, la empresa responde por esos datos conforme a la LGPD brasileña: usar solo lo necesario para la finalidad informada, limitar quién accede y eliminarlos cuando termina la finalidad o el titular tiene ese derecho, como en los datos tratados con consentimiento. Eliminar es lo difícil: en octubre de 2026, el benchmark Bemula probó seis sistemas de memoria para agentes de IA y ninguno cumplió más del 1,5% de las solicitudes de olvido de principio a fin.

¿Qué es la memoria de una IA de atención?

La memoria es el conjunto de información de conversaciones anteriores que la IA consulta para atender mejor: resúmenes de atenciones, solicitudes abiertas y preferencias declaradas por el cliente. Se guarda fuera del modelo de lenguaje, en bases de datos e índices de búsqueda que la IA consulta en cada nueva conversación.

Eso es distinto del entrenamiento del modelo. Una IA puede recordar al cliente sin que sus datos se hayan utilizado para entrenar nada, y precisamente por estar en bases de datos, la memoria puede consultarse, corregirse y eliminarse.

Para la atención, la memoria evita que el cliente cuente lo mismo en cada contacto. Para la protección de datos, es otro lugar donde existen datos personales, con las mismas obligaciones que cualquier otro.

¿Qué exige la LGPD sobre los datos que guarda la IA?

La Ley General de Protección de Datos de Brasil (LGPD, Ley n.º 13.709/2018) no tiene una regla específica para la memoria de IA: se aplican las obligaciones de cualquier tratamiento de datos personales. Las principales, aplicadas a la memoria:

ExigenciaArtículoQué significa para la memoria de la IA
FinalidadArt. 6, IGuardar el historial para continuar la atención, con la finalidad informada al cliente, sin reutilizarlo para fines incompatibles.
NecesidadArt. 6, IIIRecordar el mínimo útil: el resumen de la solicitud, no la transcripción completa de todas las conversaciones.
Finalización del tratamientoArts. 15 y 16Eliminar cuando termina la finalidad, salvo excepciones como la obligación legal de conservación.
Derechos del titularArt. 18Atender solicitudes de acceso y rectificación; eliminar, a petición, datos tratados con consentimiento y datos innecesarios, excesivos o irregulares.
Registro de operacionesArt. 37Mantener un registro de las operaciones de tratamiento, incluido lo que entra y sale de la memoria.
SeguridadArt. 46Proteger contra accesos no autorizados, incluidos los realizados mediante la propia IA.
Resumen orientativo. La base legal y los plazos de cada operación deben definirse con el delegado de protección de datos (DPO) y el equipo jurídico.

¿Por qué es tan difícil eliminar la memoria de una IA?

Porque la información rara vez está en un solo lugar. Un dato mencionado por el cliente puede estar en la transcripción, el resumen, un perfil, el índice de búsqueda y las copias de seguridad; eliminar una copia no elimina las demás.

El benchmark Bemula, publicado en arXiv el 13 de octubre de 2026 por Bofan Xie y sus colegas, midió esto en seis sistemas de memoria para agentes de IA, entre ellos Mem0, LangMem y A-MEM, con tres modelos de lenguaje distintos. El resultado fue negativo: ningún sistema cumplió más del 1,5% de las solicitudes de olvido de principio a fin, y la mayoría no cumplió ninguna. Los fallos se dividieron en tres tipos:

  • El dato sigue ahí: la información que debía eliminarse aún podía extraerse con preguntas sencillas o ataques mediante prompts.
  • Elimina demasiado: algunos sistemas borraron información que nadie pidió eliminar; en un caso, la dirección del usuario.
  • Corrección incompleta: cuando el usuario sustituyó un dato, el valor anterior sobrevivió y reapareció bajo ataque.

“Incluso después de que el usuario solicita explícitamente la eliminación, la información borrada sigue siendo accesible mediante búsqueda, inferencia o extracción por prompts.”

Xie et al., Can Agents Forget When Asked? (arXiv, octubre de 2026), describiendo el problema que mide el benchmark. Traducción libre.

El estudio tiene límites: los diálogos son sintéticos y solo se evaluó la memoria de conversación. Las herramientas externas, como bases de datos y registros de logs, quedaron fuera y son otros lugares donde los datos pueden seguir existiendo.

¿Y si la ley obliga a guardar lo que el cliente pidió eliminar?

En ese caso, prevalece la obligación legal. La LGPD permite conservar datos para cumplir obligaciones legales o regulatorias (art. 16, I), y el derecho de eliminar datos tratados con consentimiento exceptúa esos supuestos (art. 18, VI).

La conservación también depende de la regulación sectorial. Para los proveedores incluidos, el Decreto brasileño n.º 13.135/2026 prevé historial durante al menos seis meses tras la resolución y grabaciones telefónicas y mensajes de voz o texto durante al menos 90 días tras la atención (arts. 18–19). Sustituyó al Decreto n.º 11.034/2022. Separe dos cosas:

  • Registro de atención: número de seguimiento, transcripción y grabación que la ley o el contrato obliga a conservar. Se mantienen durante el plazo exigido, con acceso restringido, y después se eliminan.
  • Memoria de uso de la IA: resúmenes y preferencias que la IA consulta para atender al cliente la próxima vez. Sin obligación de conservación, la empresa puede eliminarlos a petición; si la memoria depende del consentimiento del cliente, la supresión es su derecho (art. 18, VI).

Cuando no sea posible atender la solicitud de inmediato, la empresa debe responder al titular explicando el motivo (art. 18, § 4). La solicitud se atiende sin costo para el titular (art. 18, § 5).

¿Quién puede ver lo que recuerda la IA?

Solo quienes tienen permiso para ver el dato original, y la regla debe aplicarse dentro de la búsqueda, no después. Ese fue el punto central de la charla de Aaron Linsky (Bridgewater Associates) y Nikhil Benesch (turbopuffer) en AI Engineer, en octubre de 2026, sobre un asistente de IA que busca en 100 millones de documentos internos.

Video: Can Your AI Analyst Keep a Secret? (AI Engineer, YouTube, ). Charla en inglés, de unos 18 minutos. turbopuffer proporciona la tecnología de búsqueda presentada.

En Bridgewater, cada documento tiene permisos distintos por persona, grupo y fuente licenciada. Los ponentes muestran que el enfoque ingenuo —buscar los documentos más parecidos y descartar después los que el usuario no puede ver— pierde resultados relevantes y se vuelve lento a gran escala. La solución fue aplicar los permisos dentro de la propia búsqueda.

En atención, la misma lógica se traduce en tres reglas:

  1. Identidad antes del historial: la IA consulta atenciones anteriores solo después de verificar que está hablando con el titular.
  2. Permisos por rol: agentes, supervisores y la propia IA ven únicamente lo que exige su función.
  3. El texto del cliente no es una instrucción: lo que escribe el cliente o un documento que envía se registra como relato, nunca como regla para la IA.

La tercera regla tiene un nombre en la investigación: lavado de autoridad (authority laundering), cuando un contenido externo guardado en la memoria pasa a tratarse como preferencia u orden legítima. SAFE-Mem, publicado en arXiv en octubre de 2026, propone etiquetar cada elemento de memoria con su tipo, la autoridad de quien lo produjo y el alcance de uso, y filtrar por esas etiquetas antes de que la IA use la información. Las pruebas se realizaron en escenarios controlados, sin uso en producción.

¿Qué cambia la investigación en la práctica de la atención?

Qué muestra la fuenteQué cambia en la atenciónLimitación
Bemula: ningún sistema cumplió más del 1,5% de las solicitudes de olvidoProbar la eliminación de principio a fin, en todas las copiasDiálogos sintéticos; solo memoria de conversación
Bridgewater: permisos aplicados dentro de la búsquedaHistorial solo después de verificar la identidad y según el rolRelato de producción con interés comercial del proveedor
SAFE-Mem: etiquetas de tipo, autoridad y alcance en la memoriaSeparar el relato del cliente de las reglas de la operaciónEscenarios controlados, sin uso en producción

¿Qué preguntar al proveedor de IA antes de contratar?

Pida respuestas por escrito, preferiblemente con demostración, a estas preguntas:

  1. ¿Dónde se guardan las grabaciones, transcripciones, resúmenes y memoria de la IA, y en qué país se procesan?
  2. ¿Hay un plazo de conservación configurable para cada tipo de dato y qué ocurre al finalizar?
  3. ¿Cómo se ejecuta una solicitud de eliminación en todas las copias, incluidos índices de búsqueda, logs y copias de seguridad? ¿Se registra la eliminación?
  4. ¿La IA consulta el historial antes o después de verificar la identidad del cliente?
  5. ¿Quién puede consultar el historial y quedan registrados los accesos?
  6. ¿Se utilizan los datos de las atenciones para entrenar modelos? ¿Con qué base legal y cómo rechazarlo?
  7. ¿Cómo trata la IA las instrucciones escritas por el cliente o presentes en documentos enviados?
  8. ¿Qué subencargados, como proveedores de modelos de IA, reciben datos?

¿Cómo trata Neft los datos en la atención con IA?

En la atención con IA de Neft, la IA trabaja en la misma cola y con el mismo número de seguimiento que el equipo, y el número, la grabación, la transcripción y los informes permanecen en el mismo registro de atención. La agente virtual solo consulta sistemas o ejecuta acciones autorizadas por la organización, con verificación de identidad cuando está configurada; las instrucciones de texto no amplían esos permisos.

El audio de la atención con IA se procesa en los servidores de Neft y del proveedor de IA contratado por Neft. Para el resto de la operación de video, consulte la guía de LGPD en videoatención.

Preguntas frecuentes

¿La LGPD prohíbe que la IA recuerde conversaciones anteriores del cliente?
No. La LGPD exige base legal, finalidad informada, uso del mínimo necesario y seguridad. Una IA puede usar el historial para continuar una atención, siempre que se informe al cliente y la memoria respete esas reglas.
¿Puede el cliente pedir a la IA que olvide lo que dijo?
Puede pedirlo y, en muchos casos, la empresa debe atender la solicitud. El art. 18 de la LGPD garantiza la eliminación de datos tratados con consentimiento y de datos innecesarios, excesivos o tratados en contra de la ley. Se exceptúan los datos que la empresa debe conservar por obligación legal, como el registro de atención de servicios regulados.
¿Eliminar el dato de la base de datos garantiza que la IA lo haya olvidado?
No necesariamente. El benchmark Bemula (octubre de 2026) mostró que los sistemas de memoria de IA dejan la información extraíble o eliminan más de lo solicitado. La eliminación debe alcanzar resúmenes, índices de búsqueda, logs y copias de seguridad.
¿Durante cuánto tiempo puedo guardar la transcripción de una atención?
La LGPD no fija un plazo único. Para los proveedores incluidos en el Decreto brasileño n.º 13.135/2026, los arts. 18–19 distinguen historial (mínimo de seis meses tras la resolución) de grabaciones telefónicas y mensajes de voz o texto (mínimo de 90 días tras la atención). Valide la clasificación de la transcripción, la finalidad y la regla sectorial con el equipo jurídico.
¿Puedo usar las grabaciones de atención para entrenar una IA?
Solo con una base legal y una finalidad compatibles con lo informado al cliente (art. 6, I, de la LGPD). Pregunte al proveedor si utiliza los datos de sus atenciones para entrenar modelos y cómo rechazarlo.

Fuentes

Videos, estudios y documentos utilizados en este artículo. Las prepublicaciones son versiones publicadas por sus autores antes de la revisión por pares. Artículo investigado y redactado con apoyo de IA; investigación y citas verificadas el 26 de octubre de 2026. Conservación en atención actualizada el 16 de noviembre de 2026 según el Decreto n.º 13.135/2026 en el sitio oficial del Planalto. No constituye asesoramiento jurídico.

  1. Artículo científico (prepublicación)

    Can Agents Forget When Asked? A Benchmark for Memory Unlearning in LLM Agents (se abre en una pestaña nueva)

    Bofan Xie, Chaokun Wang y otros (arXiv 2610.18052, versión 1) · publicado el

    Ninguno de los seis sistemas de memoria evaluados cumplió más del 1,5% de las solicitudes de olvido de principio a fin; diálogos sintéticos.

  2. Artículo científico (prepublicación)

    SAFE-Mem: Secure Agentic Memory with Fine-Grained Authority and Governance-Aware Retrieval (se abre en una pestaña nueva)

    Haoming Li, Bingzhe Li y otros (arXiv 2610.22959, versión 2) · publicado el

    Etiquetas de tipo, autoridad y alcance en la memoria para evitar el lavado de autoridad; pruebas en escenarios controlados.

  3. Video

    Can Your AI Analyst Keep a Secret? (se abre en una pestaña nueva)

    Aaron Linsky (Bridgewater Associates) y Nikhil Benesch (turbopuffer), canal AI Engineer · publicado el

    Permisos aplicados dentro de la búsqueda en 100 millones de documentos. turbopuffer es el proveedor de la solución presentada.

  4. Legislación

    Ley General de Protección de Datos Personales de Brasil (Ley n.º 13.709/2018) (se abre en una pestaña nueva)

    Presidencia de la República de Brasil · publicado el

    Principios de finalidad y necesidad, finalización del tratamiento, derechos del titular, registro y seguridad.

  5. Legislación

    Decreto brasileño n.º 13.135, del 9 de octubre de 2026 (regula la atención al cliente) (se abre en una pestaña nueva)

    Presidencia de la República de Brasil · publicado el

    Conservación de historial, grabaciones telefónicas y mensajes; arts. 18–19.

¿Quiere atender a sus clientes por video?

Realice la evaluación gratuita o pruebe Neft durante 15 días, sin tarjeta de crédito.