Fernanda Durán
En sólo una semana, la Comisión Primera de Justicia del Congreso del Estado aprobó el dictamen que incorpora tres nuevos delitos relacionados con el uso de inteligencia artificial (IA) al Código Penal de San Luis Potosí.
La iniciativa, presentada por el diputado Héctor Serrano Cortés el 4 de noviembre, fue dictaminada este 13 de noviembre, pese a que el propio legislador había llamado días antes a que quienes tuvieran observaciones sobre la redacción la enviaran formalmente a la comisión para su análisis.
La reunión dio inicio con un dictamen único de la Comisión Primera de Justicia que resolvió procedente con algunas modificaciones la iniciativa para adicionar el artículo 187 Ter y el Capítulo V denominado “Uso indebido de inteligencia artificial para provocar alarma social”, con los artículos 272 Bis y 272 Ter, al Título Décimo Primero del Código Penal.
El secretario de Estudio Legislativo expuso que el propósito central de la reforma es legislar en materia de protección de la identidad de las personas frente al uso de inteligencia artificial.
Recordó que, según la exposición de motivos, “mediante herramientas de aprendizaje automático y redes neuronales generativas es posible producir imágenes, audios y videos hiperrealistas que simulan con exactitud el rostro, la voz, los gestos y las declaraciones de personas reales… sin la autorización”, y que estos contenidos —los llamados deepfakes— se difunden en redes sociales y plataformas de video “provocando daños irreversibles a la reputación, la vida privada, la seguridad personal y la confianza pública en la información”.
El funcionario legislativo añadió que, aunque el Congreso ha construido un “entramado jurídico” contra el mal uso de tecnologías —incluida la reforma reciente sobre difusión de imágenes de contenido sexual—, la comisión consideró que subsiste un “vacío normativo” respecto al uso no consentido de identidad digital. Por ello, se planteó la incorporación de tres nuevos dispositivos legales para cubrir esos supuestos y evitar “ambigüedades” en la norma penal.
En el dictamen se describe el artículo 187 Ter, denominado “Uso no autorizado de imagen o voz generada mediante inteligencia artificial”, que sanciona a quien, sin consentimiento “previo, expreso, específico e informado”, utilice IA para “crear, reproducir, modificar, manipular o difundir contenidos que simulen la apariencia, la voz, los gestos o la identidad de una persona real”.
La pena prevista va de uno a tres años de prisión y multa de 100 a 300 UMAs, con aumento cuando el contenido se difunda con fines de lucro o para dañar el honor o la vida privada.
El nuevo artículo 272 Bis tipifica la “difusión dolosa de desinformación generada mediante inteligencia artificial”. Comete este delito quien, “de manera dolosa y con el propósito directo de generar alarma pública o alterar la paz social”, fabrique o difunda contenidos falsos o manipulados “que se presenten como reales y que sean idóneos para producir un riesgo verificable a la paz pública o a la seguridad de las personas”.
La sanción será de dos a cinco años de prisión y multa de 200 a 400 UMAs, con agravante cuando se usen medios masivos, plataformas digitales o cuentas automatizadas o anónimas.
Por su parte, el artículo 272 Ter, sobre “manipulación institucional mediante inteligencia artificial”, sanciona a quien, “a sabiendas de su falsedad y con la finalidad directa de alterar la confianza pública en las instituciones o poner en riesgo verificable la seguridad del Estado”, genere o difunda contenidos que simulen de manera verosímil declaraciones, comunicados o actuaciones de autoridades, instituciones públicas o cuerpos de seguridad. Este delito se castigará con tres a seis años de prisión y multa de 300 a 600 UMAs, con aumentos cuando los hechos ocurran en contextos electorales, de seguridad pública o de justicia.
El secretario subrayó que, en los tres tipos penales, se introdujeron cláusulas para excluir de responsabilidad la generación o difusión de contenidos con fines “periodísticos, académicos, artísticos, parodia o crítica política”, siempre que de las circunstancias del hecho no se acredite el dolo de causar daño, alarma o desinformación, con el objetivo de que la reforma “no pueda tenderse como restrictiva del derecho a la libertad de expresión” y cumpla con los criterios de taxatividad y exacta aplicación de la ley penal.
Durante la discusión, el diputado Carlos Arreola Mallol respaldó el dictamen y destacó la complejidad de legislar en la materia, pues “pocos estados, incluso en el mundo, se han aventado a legislar en esta materia por lo complejo que es la definición”, y que la propuesta está “bien sustentada” a partir de marcos como la Ley de Inteligencia Artificial de la Unión Europea.
Argumentó que la regulación busca dotar a las fiscalías de herramientas frente a un fenómeno ya utilizado para fraudes, manipulación política y lucro con imágenes de figuras públicas.
La diputada Gabriela López Torres fijó una postura crítica, aunque finalmente votó en abstención. Reconoció la necesidad de encuadrar un tipo penal frente a situaciones ocurridas en San Luis Potosí, pero “aun con esta cláusula que excluye al trabajo periodístico y académico, se sigue dejando la carga de la prueba en quien realiza este tipo de trabajo” y que la redacción podría prestarse a la interpretación del Ministerio Público.
Destacó que los bienes jurídicos mencionados en la iniciativa le siguen pareciendo “algo ambiguos” y que, en su opinión, “la carga de la prueba va a estar en quien realiza y no quien acusa”.
Al tomar la palabra como invitado, el diputado Héctor Serrano calificó la propuesta como “innovadora” y reiteró que la comisión cuidó, en primer término, la libertad de expresión.
Agradeció la incorporación de preocupaciones enviadas por comunicadores y otros actores, y puso como ejemplo el caso de Zacatecas donde se difundió en redes “un catálogo sexual” de menores, para subrayar la necesidad de sancionar el uso de IA en contenidos denigrantes.
Añadió que lo último que le importa a su grupo parlamentario es quién firma la iniciativa y sostuvo que el objetivo es “fijar las mejores condiciones de convivencia social en San Luis Potosí”.
El dictamen fue aprobado por cinco votos a favor, uno en contra y una abstención. La comisión está integrada por la presidenta María Leticia Vázquez Hernández, suplente de Aradillas, Gabriela Martínez, la secretaria Dulcelina Sánchez de Lira y los vocales Carlos Artemio Arreola Mallol, Jessica Gabriela López Torres, Tomás Zavala González y Rubén Guajardo Barrera.
Al salir de la reunión, el diputado Rubén Guajardo Barrera —único voto en contra— cuestionó la rapidez del proceso, pues la iniciativa llegó al Congreso el 4 de noviembre y fue dictaminada el 13 de noviembre, en menos de una semana.
Señaló que “faltan más voces y más análisis y más diagnósticos” en una materia penal novedosa, además de que deberían participar la Fiscalía General del Estado y el Poder Judicial.
“La Fiscalía creo que debe estar opinando sobre esto (…) los jueces de control también que estén en estas mesas”.
Sobre si hubo fast track, se limitó a decir que “los hechos hablan por sí solos”.
Por último, comentó que a su juicio se requiere “un análisis más profundo”, por lo que todo el grupo parlamentario del PAN irá en contra de la reforma cuando sea sometida al Pleno.
