En plena aceleración de la inteligencia artificial y del debate sobre cómo regularla, una investigación de la Universitat Oberta de Catalunya (UOC) pone el foco en una cuestión clave: quién fija las reglas y con qué infraestructuras.

El artículo, publicado en acceso abierto en la revista internacional AI & Society (grupo Nature), está firmado por el investigador doctoral de la UOC Andreu Belsunces Gonçalves, del grupo de investigación CNSC, y Laura Forlano, de la Northeastern University, de Boston, en los Estados Unidos. El trabajo analiza cómo algunos proyectos tecnológicos no solo ofrecen servicios, sino que también impulsan modelos de gobernanza basados en sistemas privados de identidad digital y datos biométricos.

Como caso de estudio, la investigación examina World (antes Worldcoin), el proyecto cofundado por el director ejecutivo de OpenAI, Sam Altman, que propone verificar que una persona es humana mediante el escaneo de su iris, a cambio de un certificado de identidad digital. El estudio analiza cómo este tipo de iniciativas conectan relatos sobre riesgos futuros (bots, fraude, suplantaciones) con promesas de seguridad e inclusión, y cómo esto puede facilitar que escenarios especulativos acaben convirtiéndose en infraestructura real.

Tal como lo expresa Andreu Belsunces Gonçalves, "el debate sobre la IA no es solo tecnológico, es un debate sobre qué futuros producen estas tecnologías y quién los gobernará. Proyectos como World no solo ofrecen una herramienta, sino que proponen un modelo de gobernanza que erosiona la legitimidad de las instituciones democráticas mientras presenta una alternativa privada".

El artículo propone el concepto de "ficciones sociotécnicas" para describir esos relatos de futuro que, presentados como inevitables, pueden influir en decisiones de diseño y despliegue tecnológico con consecuencias políticas.

El investigador del CNSC, adscrito al centro de investigación UOC-TRÀNSIC, explica que "cuando se presentan escenarios futuros como ineludibles, se pueden legitimar decisiones técnicas que tienen efectos sobre las políticas". Belsunces subraya: "Lo que analizamos es cómo estos relatos contribuyen a un proyecto que empieza en los años ochenta, que rechaza la democracia, es fundamentalista del individualismo y considera que la ingeniería y el libre mercado pueden sustituir la política en la resolución de los problemas sociales. Irónicamente, estos mismos actores han desarrollado sus tecnologías con millones de dinero público".

Según la investigación, estos relatos pueden ganar fuerza cuando:

• Presentan escenarios futuros como inevitables y urgentes.
• Hacen la tecnología atractiva a través del diseño.
• Activan emociones como el miedo y la esperanza para generar adhesión social, creando la ilusión de que sus tecnologías son ineludibles.
• Normalizan que la identidad y las funciones de gobernanza dependan de sistemas privados.

El estudio no evalúa el impacto empírico del proyecto en los usuarios, sino que ofrece herramientas para entender cómo determinados imaginarios de futuro pueden acabar modelando la infraestructura digital y el debate público sobre identidad, biometría y gobernanza de la IA.

Este estudio se enmarca dentro de las misiones de investigación en Transformación digital y sostenibilidad y Tecnología ética y humana de la UOC, y favorece los objetivos de desarrollo sostenible (ODS) de la ONU, especialmente el número 16, de paz, justicia e instituciones sólidas.

Investigación con impacto y vocación transformadora

En la UOC entendemos la investigación como una herramienta estratégica para avanzar hacia una sociedad de futuro más crítica, responsable e inconformista. Desde esta visión, desarrollamos una investigación aplicada, interdisciplinaria y conectada con los grandes retos sociales, tecnológicos y educativos.

Los más de 500 investigadores e investigadoras y los más de 50 grupos de investigación de la UOC trabajan alrededor de cinco unidades de investigación centradas en cinco misiones: educación a lo largo de la vida, tecnología ética y humana, transición digital y sostenibilidad, cultura para una sociedad crítica, y salud digital y bienestar planetario.

Además, la universidad impulsa la transferencia de conocimiento y el emprendimiento de la comunidad UOC con la plataforma Hubbik.

Más información: https://www.uoc.edu/es/investigacion