La Agencia Española de Protección de Datos (“AEPD”) y el Supervisor Europeo de Protección de Datos (“EDPS”) han publicado un informe conjunto donde analizan el papel clave del Aprendizaje Federado (Federated Learning) como herramienta para avanzar en modelos de inteligencia artificial (“IA”) más respetuosos con la protección de datos personales.
El aprendizaje federado es una tecnología que permite entrenar modelos de IA sin necesidad de centralizar la información. Esto implica que los modelos de IA puedan entrenarse localmente en cada dispositivo o entidad, y solo compartir el resultado, sin necesidad de enviar los datos originales a un servidor central. Esta característica contribuye a mitigar riesgos de privacidad. Entre los casos de uso más destacados que se recogen en el informe se encuentra el desarrollo de modelos de IA en el sector sanitario —con datos especialmente sensibles—, así como en asistentes de voz y vehículos autónomos.
Además, de proteger la privacidad de los datos, el uso del aprendizaje federado mejora su gobernanza. Gracias a esto, diferentes organizaciones pueden colaborar para entrenar modelos de IA usando datos que, por ser estratégicos, sensibles o confidenciales, no podrían compartir de otra manera.
Adicionalmente, el informe subraya los retos que presenta esta tecnología, en concreto:
• La necesidad de garantizar la seguridad integral del ecosistema.
• No asumir que los modelos o parámetros intercambiados son anónimos sin un análisis técnico y legal adecuado.
• Garantizar la calidad de los datos y evitar que existan sesgos en el modelo.
Por último, el informe destaca la importancia de aplicar el principio de protección de datos desde el diseño, para aumentar la confianza y facilitar el acceso seguro a los datos entre los diferentes actores.