El Ministerio de Capital Humano presentó en los últimos días el proyecto denominado “Gemelo Digital Social”, una herramienta basada en inteligencia artificial que busca simular escenarios sociales para diseñar políticas públicas y anticipar el impacto de determinadas medidas estatales.
La iniciativa abrió un fuerte debate sobre los límites de la tecnología aplicada a las decisiones gubernamentales, el manejo de datos personales y la posibilidad de que los algoritmos condicionen políticas sociales futuras. En ese contexto, el abogado y especialista en ciberseguridad Marcelo Temperini visitó los estudios de LT10 y analizó los alcances y riesgos del sistema.
Temperini explicó que el concepto de gemelo digital no es nuevo y que hace años se utiliza en distintos ámbitos para simular comportamientos ante determinados cambios o medidas. Sin embargo, señaló que la gran diferencia ahora es la incorporación de la inteligencia artificial.
“Es algo que a nivel sociológico es una metodología que ya tiene muchos años, que es tratar de simular el comportamiento social ante una determinada medida. ¿Qué es lo nuevo? La utilización de inteligencia artificial”, sostuvo.
El especialista consideró positivo que el Estado intente planificar políticas a mediano y largo plazo, aunque cuestionó la falta de precisiones sobre el funcionamiento del sistema y, sobre todo, sobre los datos que se utilizarán para entrenarlo.
“Lo que no está claro desde mi punto de vista en este proyecto es cuál es el modelo de inteligencia artificial que se va a usar. Y lo más importante para mí es de dónde van a sacar los datos que van a permitir simular el comportamiento social argentino”, planteó.
Durante la entrevista, Temperini remarcó que el comportamiento social argentino es especialmente complejo y difícil de predecir por las constantes variaciones económicas, políticas y culturales.
“La Argentina como país ha tenido distintos comportamientos a lo largo del tiempo. Hay momentos de estabilidad política o económica donde la gente puede actuar de una determinada manera y otros momentos muy distintos. Esto no es una regla de tres simple”, afirmó.
En ese sentido, diferenció el funcionamiento de la inteligencia artificial de los métodos científicos tradicionales. Explicó que, mientras un procedimiento científico clásico puede ser auditado y repetido para obtener el mismo resultado, los sistemas de IA trabajan de forma probabilística.
“La inteligencia artificial no funciona así. Funciona de forma probabilística. Yo tengo la misma entrada, le pongo un mismo prompt y el mismo modelo, el resultado me va a dar diferente. Esto hay que tenerlo en cuenta porque hay mucho sesgo y mucha tasa de error”, advirtió.
Temperini señaló que este tipo de tecnologías suele utilizarse en otros países para cuestiones urbanas o de infraestructura, como analizar cambios en sistemas de tránsito o estacionamiento, pero consideró mucho más delicado aplicarlo a políticas sociales.
“La cuestión social es muy difícil de medir en datos duros. Es un proyecto para tomarlo con pinzas”, expresó.
Uno de los puntos que más preocupación le genera al especialista es el manejo de información sensible de los ciudadanos. En ese marco, mencionó la importancia de garantizar procesos de anonimización y control sobre las bases de datos.
“Me preocupa que como país le estemos dando nuestros datos a un empresario que nos promete espejitos de colores del siglo XXI”, sostuvo en referencia al tecnólogo Peter Thiel.
Y agregó: “Tiene que haber un buen control acerca de qué datos le estamos dando a esa inteligencia artificial y que estén adecuadamente anonimizados. Porque si vos le das una base de datos completa, ahí hay un problema”.
Durante la charla en LT10, Temperini también alertó sobre el riesgo de que los gobiernos utilicen la inteligencia artificial como argumento para justificar decisiones políticas.
“¿Qué tengo miedo yo que pase al futuro? Que el gobierno justifique una decisión de política pública basada en que la inteligencia artificial dijo que esto iba a hacer que nos vaya mejor”, señaló.
Para el abogado, el problema no es incorporar tecnología al análisis estatal, sino delegar completamente en ella decisiones que deberían seguir siendo humanas y políticas.
“Me parece interesante que la tecnología nos diga cosas que quizás hoy, preocupados por lo urgente, no vemos. Ahora, que tomemos decisiones basado en eso aparece como bastante riesgoso”, afirmó.
El especialista insistió además en la necesidad de transparencia y control institucional sobre este tipo de herramientas.
“Es tan importante el funcionamiento de organismos y asociaciones que se dedican a la privacidad y los datos para poder saber qué estamos utilizando y cómo funciona, porque la Argentina está llena de proyectos con buenas intenciones pero mal ejecutados”, indicó.
Sobre el final, Temperini cuestionó que el proyecto se presente directamente a escala nacional sin experiencias previas más acotadas.
“A mí me hubiese gustado que primero lo probemos en una localidad y que tengamos buenos resultados. Después escalar a una provincia y recién ahí a nivel nacional”, concluyó.