Redes matemáticas para garantizar la seguridad de las ‘apps’

El sistema criptográfico llamado «encriptación homomórfica» permite proteger los datos de los usuarios de servicios de inteligencia artificial en la nube

Cada vez más gente utiliza servicios de inteligencia artificial ubicados en la nube para recibir en sus teléfonos predicciones del tiempo, indicaciones sobre cómo llegar a una ubicación, o sugerencias de restaurantes cercanos. A cambio, el usuario comparte sus datos personales –localización, información personal, preferencias– con el servicio de la nube. Allí los datos son procesados, lo que puede ser usado de forma maliciosa para difundir información sensible o invadir la privacidad de los usuarios. Ejemplos recientes son, en 2018, el caso de la aplicación Strava fitness app, que reveló la ubicación de las bases del ejército estadounidense en todo el mundo; y en 2019 la demanda de la ciudad de Los Ángeles a la compañía meteorológica de IBM por el uso engañoso de los datos de ubicación. Estos acontecimientos muestran la necesidad de diseñar sistemas criptográficos específicos para la computación en la nube, basados en una estructura matemática llamada retículo.

Para garantizar la seguridad en la nube, una primera opción sería encriptar la información personal antes de subirla, y que los cálculos se realicen sobre esta información opaca. Sin embargo, muchas veces no es posible procesar los datos encriptados con sistemas tradicionales. Este problema se resuelve con la llamada encriptación homomórfica, que mantiene la estructura de la información, de forma que pueden realizarse cómputos útiles. Así, las aplicaciones pueden trabajar con los datos, sin saber qué detalles contienen, y obtener resultados también encriptados, que solo se descifrarán en el dispositivo del usuario. Este sistema permite cambiar el orden de cifrado y procesado: se obtiene el mismo resultado cuando primero se cifra y luego se realizan los cómputos que cuando se hace al revés.

La encriptación homomórfica usa las mismas matemáticas que la criptografía basada en retículos, una estructura matemática que se puede imaginar como una red o malla. Por ejemplo, si consideramos un plano con eje de coordenadas, un retículo viene dado por los puntos que tienen como coordenadas números enteros. La encriptación utiliza problemas matemáticos sobre retículos que, a no ser que se disponga de cierta información extra (la contraseña de descifrado), son extremadamente difíciles de resolver o, lo que viene a ser lo mismo, que su solución requiera un tiempo de cómputo inabarcable para el posible atacante.

Los parámetros del esquema de cifrado homomórfico se establecen de manera que los ataques más habituales requerirían un tiempo exponencial respecto de la dimensión de la red para quebrantar su seguridad, lo que los hace más seguros que los sistemas tradicionales. Además, tampoco se han encontrado posibles ataques cuánticos en tiempo polinomial, lo que indica que son buenos candidatos para la criptografía post-cuántica.

El primer esquema de encriptación homomórfica fue propuesto por Craig Gentry, investigador del centro IBM Thomas J. Watson, en 2009. Desde entonces, numerosos criptógrafos han trabajado para encontrar sistemas que sean a la vez prácticos –relativamente sencillos de implementar–, y robustos, es decir, que involucren problemas matemáticos muy costosos de solucionar, y conocidos por la comunidad, de manera que su complejidad esté garantizada.

En 2011, el equipo que dirijo en Microsoft Research obtuvo un esquema de encriptación homomórfica así como una serie de mejoras prácticas de estos sistemas, que actualmente se usa en todo el mundo como la base para desarrollar aplicaciones de cifrado homomórfico. Todo este trabajo se engloba en el proyecto “Private AI”, que busca proteger la privacidad de los datos de los usuarios mientras se implementan servicios de Machine Learning para crear modelos de clasificación de datos y ofrecer predicciones basadas en dichos modelos.

En los últimos ocho años hemos diseñado aplicaciones de análisis de textos; de clasificación de imágenes de perros y gatos; de ejercicio, que ofrecen estadísticas y seguimiento a los deportistas; de pronóstico meteorológico; de predicción del riesgo de ataques cardíacos basado en datos de salud personales, o del tiempo de floración basado en el genoma de una flor; y riesgo de mortalidad por neumonía utilizando modelos inteligibles. Todas ellas funcionan en la nube con datos encriptados, donde hacen sus predicciones en una fracción de segundo, y devuelven resultados cifrados, que se desencriptan de forma local en el móvil del usuario.

Debido a que es una nueva forma de encriptación, para que pueda ser usada de forma generalizada debemos estandarizar los esquemas y los parámetros de seguridad. Con este fin hemos puesto en marcha un consorcio de expertos de la industria, el gobierno y la academia, mediante el que esperamos conseguir que el cifrado homomórfico sea pronto una herramienta comercial que pueda ser implementada para proteger la privacidad en el aprendizaje automático.

Deja un comentario