Fernanda Durán
La recopilación masiva de datos personales, el uso de algoritmos en decisiones gubernamentales y las dificultades para defenderse de posibles abusos fueron algunas de las principales advertencias planteadas durante la presentación del libro Transparencia y Privacidad en Tiempos de la Inteligencia Artificial, realizada este jueves 12 de noviembre en la Facultad de Derecho de la Universidad Autónoma de San Luis Potosí (UASLP).
La excomisionada del Instituto Nacional de Transparencia, Acceso a la Información y Protección de Datos Personales (INAI), Norma Julieta del Río Venegas, y el abogado José Mario de la Garza Marroquín coincidieron en que el avance tecnológico representa nuevas oportunidades para las instituciones, pero también riesgos para los derechos humanos cuando no existen mecanismos suficientes de vigilancia, transparencia y rendición de cuentas.
Uno de los principales cuestionamientos estuvo dirigido al registro obligatorio de líneas celulares con CURP, implementado bajo el argumento de combatir las extorsiones. De la Garza advirtió que esta medida obliga a los ciudadanos a entregar información personal a empresas privadas sin que, a su consideración, se haya demostrado su proporcionalidad frente al problema de seguridad que pretende resolver.
“¿Se vale que nosotros tenemos que entregar nuestra privacidad, nuestra información, que es valiosa? Imagínense cuánto vale toda esa información que tiene. ¿Cuánto vale que mañana se la puedan dar a un gobierno, a una empresa?”.
El abogado recordó que promovió un juicio de amparo contra esta obligación, el cual continúa pendiente de resolución, y señaló que el registro también debe analizarse por los riesgos que implicaría una eventual filtración de información.
Por su parte, Julieta del Río cuestionó que los datos entregados originalmente para contratar un servicio telefónico puedan utilizarse posteriormente con otros propósitos sin consultar nuevamente a sus titulares.
“Yo hace 10 años fui a contratar un plan, porque quería tener un aparato para comunicarme, la finalidad cambió y nadie me dijo”, expresó al referirse a su experiencia con la vinculación de líneas.
La excomisionada también alertó sobre la recopilación de información biométrica y la vulnerabilidad de las bases de datos, especialmente después de la desaparición de los organismos autónomos encargados de proteger la información personal.
Explicó que, durante su funcionamiento, el INAI atendió denuncias contra empresas por el tratamiento indebido de información, incluidos casos de hospitales que presuntamente compartían datos de pacientes con funerarias y filtraciones de bases de datos de particulares.
Otra de las preocupaciones fue la utilización de inteligencia artificial para determinar quién puede acceder a programas sociales, calcular obligaciones fiscales o intervenir en resoluciones judiciales.
De la Garza planteó que un algoritmo podría excluir a una persona de un beneficio gubernamental sin explicar los criterios utilizados, lo que dificultaría identificar posibles actos discriminatorios o exigir responsabilidades a las autoridades.
“¿Quién construyó ese algoritmo? ¿Por qué lo construyó así? ¿Cómo puedo investigar yo como ciudadano qué está detrás de lo que estoy viendo?”.
Como ejemplo, De la Garza expuso el caso de un juez mexicano que recurrió a ChatGPT y otras herramientas de inteligencia artificial para calcular el monto de una garantía económica dentro de un juicio, cuyos resultados fueron incorporados a la resolución judicial. El abogado cuestionó hasta qué punto estas herramientas pueden intervenir en decisiones que corresponden a los juzgadores y cómo pueden los ciudadanos exigir explicaciones cuando los criterios utilizados provienen de un sistema automatizado.
Advirtió que el problema no es utilizar la tecnología como apoyo, sino que sus respuestas terminen sustituyendo el análisis y la responsabilidad de quienes imparten justicia
En este contexto, sostuvo que las recientes reformas a la Ley de Amparo podrían dificultar la defensa de los ciudadanos frente a posibles vulneraciones de derechos derivadas del uso de tecnologías gubernamentales.
“Por un lado tienes a un Estado poderoso obteniendo datos, creando noticias falsas, manipulando información y por otro lado, debilitas el mecanismo de defensa”.
Del Río también abordó los riesgos de desinformación y manipulación de contenidos mediante inteligencia artificial, particularmente por su utilización en redes sociales y la posibilidad de emplear bases de datos personales con fines políticos.
Sin embargo, reconoció que estas tecnologías pueden contribuir a detectar irregularidades en el manejo de recursos públicos, identificar patrones de corrupción y mejorar procesos en instituciones como la Auditoría Superior de la Federación.
Durante la presentación, en la que también participó David Menchaca Zúñiga, excomisionado de la Comisión Estatal de Garantía de Acceso a la Información Pública (CEGAIP), se destacó la necesidad de que las decisiones automatizadas puedan ser explicadas, revisadas y cuestionadas por la ciudadanía.
Los participantes coincidieron en que la discusión sobre inteligencia artificial debe trascender los espacios académicos y trasladarse al ámbito legislativo, ante la necesidad de establecer controles que permitan aprovechar sus beneficios sin comprometer la privacidad, la libertad de expresión y otros derechos fundamentales.
Al respecto, Julieta del Río señaló que en México existen más de 87 iniciativas legislativas relacionadas con la inteligencia artificial, aunque expresó reservas sobre la manera en que podría regularse su utilización, ante el riesgo de que las nuevas disposiciones también sirvan para restringir libertades digitales.
La excomisionada consideró necesario establecer reglas para proteger los derechos humanos, pero advirtió que una regulación mal planteada podría convertirse en otro mecanismo de control. Cuestionó que, bajo el argumento de regular las tecnologías, se puedan limitar expresiones en internet, incluso contenidos como los memes, y reducir otros espacios de libertad ciudadana.
