Blog

Cómo usar modelos de IA de terceros cumpliendo con el RGPD: las claves de la autoridad de Hamburgo en el caso LLMoin

Friday, 13 of November of 2026

Cuando una empresa decide incorporar herramientas de inteligencia artificial generativa, surge una duda inmediata: si estos modelos han sido entrenados con millones de datos de internet ¿es lícito utilizarlo sin vulnerar el Reglamento General de Protección de Datos (RGPD)? El pasado 5 de noviembre de 2026, el Comisionado de Protección de Datos y Libertad de Información de Hamburgo (HmbBfDI) publicó un estudio sobre LLMoin, el chatbot de la administración pública de Hamburgo. En términos sencillos, LLMoin funciona como una versión corporativa y controlada de ChatGPT diseñada para ayudar a los empleados a redactar textos, resumir expedientes o buscar información interna.

Si estás pensando en contratar o integrar un modelo de IA externo en tu negocio, el primer consejo como asesores es partir de una regla de prudencia: asume siempre que el modelo no es anónimo. Según el Dictamen 28/2024 del Comité Europeo de Protección de Datos, estos sistemas pueden memorizar datos personales en sus parámetros durante el entrenamiento y reproducirlos después. Dado que para una empresa resulta casi imposible auditar cómo fue entrenado el motor de un proveedor externo, la solución práctica que avala Hamburgo consiste en blindar el entorno de uso por fuera mediante un conjunto de barreras técnicas y organizativas.

El primer paso para lograr ese blindaje es elegir bien la arquitectura de conexión. Hamburgo optó por construir una capa privada alojada en la nube de Microsoft Azure. Para una empresa, esto significa crear un perímetro cerrado donde las consultas viajan aisladas y el proveedor tiene prohibido reutilizar tus datos. Sobre esa infraestructura, la guía exige tres controles esenciales para gobernar las respuestas: (i) filtros de salida que bloqueen cualquier dato personal no aportado en la consulta o información falsa, lo que además permite atender derechos de oposición, (ii) filtros de contenido que suprimen respuestas de riesgo como fraude, violencia o desinformación, aplicando la protección de datos desde el diseño, así como (iii) una instrucción de sistema interna que ordena al modelo no revelar datos personales externos, no decidir y advertir cuando una afirmación no esté contrastada.

El segundo paso consiste en reducir al máximo el riesgo de que la IA recurra a los datos memorizados durante su entrenamiento. Para lograrlo, la guía recomienda anclar las respuestas en fuentes controladas, obligando al asistente a responder únicamente a partir de documentos subidos por el usuario o bases de datos propias que sí pueden rectificarse y suprimirse. Esto debe ir acompañado de una limitación de funciones, acotando al bot a tareas concretas en lugar de un chat abierto; y de unas condiciones de uso claras que prohíban investigar a personas físicas, crear ultrafalsificaciones o tomar decisiones sobre terceros.

El tercer pilar descrito es poder demostrar que estas barreras funcionan con el paso del tiempo. Deben realizarse pruebas de intrusión antes del lanzamiento y tras cada actualización para comprobar que nadie puede saltarse los filtros o extraer datos de entrenamiento.

Todo este esquema técnico y organizativo sirve también como hoja de ruta para el sector privado, aunque la nota advierte de algunos matices clave según el modelo elegido. En el plano técnico, mientras Hamburgo utiliza un modelo comercial en la nube que incorpora filtros nativos, las empresas que desplieguen modelos de código abierto en sus propios servidores deberán desarrollar dichos filtros por sí mismas. En el plano jurídico, a diferencia de una administración pública, una compañía privada debe evitar la introducción de datos personales en las consultas, fundamentar el tratamiento en su interés legítimo y cumplir obligaciones formales como la Evaluación de Impacto (EIPD), el registro de actividades y el deber de transparencia frente al usuario.

Aunque este estudio no constituye una plantilla legal automática, ofrece al sector privado una hoja de ruta técnica para fijar un estándar sólido para acreditar responsabilidad proactiva ante una inspección y aporta argumentos objetivos para erradicar el uso no controlado de herramientas públicas gratuitas en la empresa.

Ver en medio original