¿El plan Ángel de Marcelo Ebrard puede vulnerar derechos humanos?
Ya compartimos datos a las empresas, ¿cuál es la diferencia en este caso?
Erik Huesca, físico de la UNAM y doctor en IA por la Universidad de California, en Berkeley, comentó que en la actualidad prácticamente todas las personas conectadas a internet son constantemente vigiladas por empresas privadas, pero destacó que un sistema de estas características puede resultar problemático debido a los sesgos éticos con los que está programado.
Existe el riesgo de que un sistema de “brutez artificial” —como los llama sarcásticamente— programado con la información de que las personas tatuadas estuvieron en la cárcel, señale que cualquier individuo con tatuajes podría ser un potencial criminal.
García compartió las preocupaciones del doctor Huesca respecto a que las empresas privadas también cuentan con grandes cantidades de datos de los usuarios, pero señaló el hecho de que un gobierno recabe tal cantidad de información para labores de vigilancia, incluidos datos biométricos, es particularmente preocupante.
El especialista dijo que los usuarios no están obligados a usar los servicios de tecnología si no desean entregar sus datos, no obstante, con una propuesta como el plan Ángel, la medida es “ineludible” para todos.
“Tanto el uso de los datos por parte de las empresas como de los gobiernos son bastante problemáticos y ninguna de las dos partes justifica un despliegue de sistemas de vigilancia masiva”, comentó.
Los expertos también coincidieron en que no existen marcos regulatorios en México con los cuales se pueda prevenir que este tipo de tecnologías se usen de forma abusiva contra los ciudadanos. En este sentido, García citó el caso Pegasus, a través del cual el gobierno espió a activistas y periodistas impunemente.
“Si no fueron capaces de prevenir, proteger y sancionar cuando hubo casos de vigilancia focalizada a un pequeño número de personas, mucho menos lo van a poder hacer cuando la vigilancia sea de forma generalizada”, sentenció.
Centralización de datos, el riesgo latente de un hackeo
Para hacer funcionar este tipo de tecnologías es necesario contar con una gran base de datos. En México, el intento de crear un repositorio de información tan grande se llamó Padrón Nacional de Usuarios de Telefonía (Panaut), mismo que fue declarado inconstitucional por el Tribunal de Justicia.
Huesca dijo que un sistema de estas características puede ser objeto de ataques cibernéticos o filtraciones para obtener toda la información disponible, lo que resultaría bastante perjudicial para los ciudadanos, pues agentes maliciosos no sólo obtendrían su información personal, sino también datos biométricos que representan un nivel de vulnerabilidad mucho mayor.
Por otra parte, García resaltó que el contexto de colusión y corrupción que suele haber en las corporaciones de seguridad pública también es un argumento para no confiar en el plan de Marcelo Ebrard.
Si bien en México existen especialistas en muchas áreas de la tecnología y la Inteligencia Artificial, Aldo Luévano, CEO de Roomie IT, destacó que en esta iniciativa, si llega a ejecutarse, también se van a necesitar peritos híper especializados capaces de ejecutar una curaduría detallada sobre las suposiciones que haga la IA, bajo el objetivo de minimizar los posibles errores de la herramienta.
Miguel Hernández y López, gerente de ingeniería en la firma de ciberseguridad CheckPoint, agregó que también se requiere de mayor preparación en el manejo de los sistemas tecnológicos para conocer los riesgos y generar planes de acción al encontrar un tipo de incidente.
Por otra parte, el doctor Huesca, quien fue presidente de la Academia Mexicana de Informática, concluyó en que cualquier sistema de IA que se aplique de forma masiva tiene que transparentar la ética con la que fue hecho, es decir, cuáles fueron los valores con los que fue programado para analizar datos, además de quién fue el responsable en la creación de la tecnología y qué lógica está detrás de su funcionamiento.
