Un equipo de investigadores del Instituto IMDEA Software, Universidad Carlos III de Madrid (UC3M) y NEC Laboratories Europe ha introducido un novedoso marco que promete mejorar la eficiencia y practicidad de la computación verificable. La investigación, detallada en el artículo "Modular Sumcheck Proofs with Applications to Machine Learning and Image Processing", presentada en el último congreso de seguridad informática y de comunicaciones de la ACM (Association for Computing Machinery), aborda los retos de escalabilidad y modularidad a los que se enfrentan tanto los sistemas de pruebas generales como las soluciones adaptadas a aplicaciones específicas en inteligencia artificial y procesamiento de imágenes.
Contexto
La computación verificable comprende una familia de técnicas criptográficas que permiten obtener una garantía infalsificable de que algún tercero, como una empresa o un servidor en la nube, ha realizado un procesamiento correcto de los datos de un usuario. Demostrar que una imagen o un vídeo han sido editados, que una predicción realizada por inteligencia artificial proviene de un modelo auditado, o que en una decisión sobre solvencia crediticia sólo se han utilizado datos proporcionados por el cliente son algunos ejemplos de lo que permiten estas técnicas. Además, la computación verificable es compatible con la privacidad de los datos, de forma que, por ejemplo, los algoritmos utilizados por el servidor en el cálculo se mantengan confidenciales.
La computación verificable proporciona integridad, equidad y privacidad, propiedades esenciales en aplicaciones que subcontratan tareas de procesamiento de datos. Dentro de las soluciones posibles, existen sistemas de pruebas generales, como los utilizados en algunas “blockchain” que tienen problemas de escalabilidad cuando se trata de cálculos con grandes cantidades de datos. Por otro lado, las soluciones diseñadas de manera específica para estas aplicaciones son más eficientes, pero a menudo incompatibles entre sí, lo que dificulta su ampliación o su integración en cadenas de procesamiento de datos más amplias.
El estudio
Los investigadores han introducido un nuevo marco con el objetivo de salvar esta brecha combinando las ventajas de rendimiento de las soluciones a medida con la versatilidad de los sistemas de pruebas de uso general. Su núcleo es un enfoque modular para la computación verificable de operaciones secuenciales, que se basa en una nueva primitiva criptográfica conocida como VE (del inglés, Verifiable Evaluation Scheme).
Los investigadores muestran la aplicación práctica de su marco en inteligencia artificial proponiendo un novedoso VE adaptado a operaciones de convolución, capaz de manejar múltiples canales de entrada y salida interconectados. "Nuestro protocolo puede integrarse fácilmente en una cadena de procesamiento de datos para permitir la verificación completa de, por ejemplo, las predicciones realizadas por redes neuronales convolucionales (CNN), que son la base de la mayoría de modelos de inteligencia artificial", afirma David Balbás, estudiante de doctorado en IMDEA Software e investigador de este estudio. Además, en el artículo también se presentan nuevos VE para el procesamiento de imágenes, que permiten verificar eficazmente la edición o el retoque, incluyendo operaciones como el recorte, el desenfoque, el cambio de escala y otras más complejas.
El equipo ha realizado un prototipo de aplicación de sus sistemas de comprobación que supone una notable mejoría a las técnicas existentes. "Nuestra evaluación comparativa muestra que nuestras pruebas son cinco veces más rápidas de generar y diez veces más rápidas de comprobar que las mejores soluciones existentes hasta ahora, además de introducir innovaciones teóricas en los algoritmos", explica Damien Robissout, programador de investigación del Instituto IMDEA Software y también coautor del estudio.
Estos resultados no sólo mejoran la eficiencia y la escalabilidad de los sistemas de pruebas criptográficas sino que también abren nuevas posibilidades para garantizar la integridad, equidad y privacidad de las tareas de procesamiento de datos en diversas aplicaciones de la inteligencia artificial y el procesamiento de imágenes. "A día de hoy, este enfoque resulta esencial en el ámbito de aplicación que consideramos, porque un avance tecnológico no es tal si no se hace merecedor de la confianza de los usuarios finales", señala otra de las autoras del estudio, Maribel González Vasco, Catedrática de Excelencia del Departamento de Matemáticas de la UC3M.
La aplicación generada en el estudio es de código abierto y su naturaleza modular allana el camino para su ampliación e integración en diversas herramientas dentro de una cadena de procesamiento de datos. De este modo, los investigadores despejan el camino para un despliegue versátil y robusto de la computación verificable en aplicaciones tan diversas como la ética financiera, la protección de datos personales o la regulación de la inteligencia artificial, entre otras.
Sobre el Instituto IMDEA Software
El Instituto IMDEA Software forma parte de una red de siete centros internacionales de investigación promovida por la Comunidad de Madrid. El Instituto asume el reto de mejorar las técnicas actuales de desarrollo de software con el fin de alcanzar el nivel adecuado de fiabilidad, seguridad y rendimiento, de una manera rentable.
Para más información, visite: https://software.imdea.org
Sobre la Universidad Carlos III de Madrid
La UC3M es una universidad pública española que destaca en investigación, docencia e innovación. Figura entre las mejores universidades europeas por su rendimiento, según la última edición del World University Rankings (QS) y entre las 136 mejores universidades del mundo en empleabilidad según el Global University Employability Ranking and Survey (GEURS). Por otra parte, cuenta con numerosas acreditaciones y distinciones de calidad, como el sello EUR-ACE en el ámbito de las ingenierías o la acreditación AACSB en los programas de empresa y finanzas.
Para más información, visite: https://www.uc3m.es
Sobre NEC Laboratories Europe GmbH
NEC Laboratories Europe investiga y desarrolla tecnología de vanguardia para crear soluciones sociales innovadoras. Ubicados en Heidelberg, Alemania, las principales áreas de investigación de NEC Laboratories Europe incluyen la inteligencia artificial, la seguridad del blockchain, las redes 5G y 6G y las plataformas IoT. Estas tecnologías promueven las soluciones del Grupo NEC para una sociedad mejor en los campos de la salud digital, las ciudades más seguras, los servicios públicos y las infraestructuras de comunicación.
Para más información, visite: https://www.neclab.eu