De manera reciente, el gobierno de Javier Milei anunció el lanzamiento del “primer gemelo digital social”. A través de un video y un comunicado, el ministerio de Capital Humano informó que se utilizará la inteligencia artificial para procesar datos de la población, reconocer patrones sociales, simular posibles escenarios futuros y, en función de eso, definir políticas públicas. El objetivo, según describe, es construir “capacidades de gobierno modernas que permitan comprender mejor los fenómenos sociales complejos, coordinar políticas públicas, optimizar los recursos y mejorar el impacto de las decisiones”. Ante las primeras repercusiones sobre la necesidad de transparencia, el gobierno se apresuró a aclarar que los datos poblacionales extraídos serán anónimos pero no dio mucha más información. Si se hacen a un lado los términos pomposos que utilizan, como “nueva era”, “cambio de paradigma”, “optimización” y “predecir el futuro”, emergen las dudas: ¿cómo será su implementación? ¿Es verdaderamente posible predecir el comportamiento humano?
Un gemelo digital es un proceso de imitación virtual de un objeto, proceso físico o sistema. Lo que se busca es simular varios escenarios y predecir comportamientos para así usar mejor los recursos y evitar ciertos riesgos. Según cuenta Alejandro Del Brocco, subsecretario de Estrategias para la Tecnología de la Información de la UNQ, a la Agencia, una de las primeras veces que se utilizó un gemelo digital fue durante la década de 1960 para el programa espacial Apolo de la NASA. Los ingenieros construyeron réplicas físicas y virtuales de las naves espaciales en la Tierra para probar condiciones, simular fallos y guiar a los astronautas. Del Brocco detalla: “Si no existieran los gemelos digitales, no se podrían anticipar los resultados de maniobras espaciales y podría traducirse en grandes costos”.
Luego ilustra a través de un ejemplo cotidiano: “En panaderías industriales, se simula el proceso con dibujos. Entonces, se evalúa: cómo se llena de harina una tolva, cómo se mezcla con agua, cómo se amasa y después de cuánto tiempo, qué pasaría si se excede el peso o aumenta la temperatura del horno. Eso se hace para descargarle presión al operador y predecir qué va a suceder en el proceso”.
Entonces, los gemelos digitales no son algo nuevo, lo novedoso es que se aplique esta técnica a la sociedad. En ese sentido, Daniel Badenes, secretario Académico de la UNQ y doctor en Ciencias Sociales, plantea a la Agencia: “Una IA no puede predecir un comportamiento humano, pero puede intentarlo y dar con resultados que son probables pero que no transmiten certezas, y que posiblemente estén sesgados. Es importante tener en cuenta que el comportamiento social no sigue las reglas de la física. Muchas veces se comete un error propio del big data, vinculado a confundir correlaciones con causalidades. Entonces, hay que tener cuidado con cómo se delegan las interpretaciones porque lo único que hacen las máquinas es ver cómo se mueven las variables”.
El estereotipo argentino
Además, entre los riesgos que presentan las distintas inteligencias artificiales están los sesgos de género, socioculturales y raciales. Según qué IA se use, quién y dónde se haya generado, qué datos utiliza y con qué fines, serán los resultados que se obtengan. En términos sociales, esto cobra aún más importancia si se tiene en cuenta que los datos tomados –aunque anónimos, según dicen– serán de la población, y las políticas públicas que se defina la IA serán aplicadas también sobre la sociedad.
En esa línea, Del Brocco plantea: “El algoritmo haría una construcción de un ser virtual de la sociedad argentina que, por sesgos, puede dejar afuera a muchos individuos que no responden a ese estándar. Por lo general, siempre hay muchos más datos en los centros poblacionales más fuertes, como las ciudades, y pocos datos de la gente que está en la periferia. Puede que la política pública sirva entonces para unos y no para otros”. Y define: “Hay que tener mucho cuidado con cuáles serán los sesgos y cuál será el público objetivo de la política pública”.
Faltan datos
Según el gobierno, la implementación del gemelo digital social constará de cuatro fases: una primera de “diagnóstico institucional”, una segunda de “mesa colaborativa”, una tercera de “arquitectura de datos” y una cuarta de “tecnología, ética y gobernanza”. Badenes es preciso: “Lo que más me preocupa es que la gobernanza y la ética estén después de la arquitectura de datos, sobre todo porque la información que se tome será la de la sociedad. No dieron información, no sabemos cómo se implementará el gemelo digital social y no tenemos antecedentes en otra parte del mundo de que se haya hecho. Bajo la excusa de optimizar procesos, se han utilizado máquinas y se han hecho desastres. Son situaciones que necesitan definiciones políticas y no automáticas”.
Por su parte, Del Brocco hace hincapié en que la sociedad debe tomar conciencia de la importancia de sus datos. “Los otorgamos constantemente, damos el ‘OK’ a todo para que usen nuestros datos y no leemos bases y condiciones, ni sabemos para qué se van a utilizar. No son algo trivial, cada persona tiene datos únicos, como el iris del ojo que en algún momento se escaneaba y no sabemos qué harán con eso. Después, tenemos que exigir que se cumpla la Ley de Protección de Datos Personales para que no sean intercambiados con ninguna agencia ni nada por el estilo”.
En un contexto de avance de inteligencias artificiales, tecnócratas que cada vez tienen más poder y algunos países que corren atrás con intentos de regulaciones y otros que dejan vía libre, las personas parecieran ser fichas de ajedrez. Sus datos están en internet, en las redes sociales y hay poca información sobre cómo protegerlos. En ese sentido, Badenes manifiesta: “Esa protección la incentiva el Estado de derecho. En este caso, donde esos derechos son avasallados, las organizaciones sociales tienen que proporcionar herramientas legales y de alfabetización digital para que las personas puedan cuidarse”.
