Ante el acelerado avance de la inteligencia artificial y la discusión internacional sobre seguridad y supervisión humana, la diputada Iris Sánchez Chiu presentó ante el Pleno del Congreso del Estado una iniciativa para establecer medidas preventivas en el uso de sistemas de inteligencia artificial dentro de la administración pública estatal.
La iniciativa, suscrita junto con el diputado Emeterio Ochoa Bazúa, propone reformar el artículo 8º de la Ley Orgánica del Poder Ejecutivo del Estado de Sonora, para que las dependencias y entidades que decidan utilizar herramientas o programas de inteligencia artificial cuenten, antes de su aplicación, con un protocolo de prevención, supervisión humana y respuesta ante posibles riesgos.
“No se trata de frenar la innovación ni de tenerle miedo a la inteligencia artificial. Se trata de anticiparnos. Si el gobierno utiliza esta tecnología, debe existir siempre una persona responsable, con capacidad y autoridad para supervisarla, intervenir y, ante un riesgo, poder detenerla de manera segura”, explicó Sánchez Chiu.
Durante su intervención, la legisladora contextualizó que la seguridad de la inteligencia artificial se ha convertido en un tema de discusión internacional, incluso entre quienes desarrollan algunas de las tecnologías más avanzadas.
Sánchez Chiu puntualizó que Sonora no pretende regular el desarrollo global de la inteligencia artificial ni sustituir las facultades que correspondan al Congreso de la Unión.
“No nos corresponde decidir desde Sonora a qué velocidad avanza la inteligencia artificial en el mundo. Lo que sí nos corresponde es establecer bajo qué condiciones puede utilizarla nuestro gobierno cuando están de por medio los derechos de las personas, sus datos, la seguridad y los servicios públicos”, señaló.
Uno de los elementos centrales de la propuesta es la denominada “pausa segura”: la posibilidad de pausar, suspender o terminar de manera segura la utilización de una herramienta de inteligencia artificial cuando se detecten resultados inesperados, anomalías o riesgos.
Para ello, el protocolo deberá identificar previamente a una persona o área responsable de la supervisión y garantizar que cuente con facultades suficientes para intervenir oportunamente.
La diputada destacó que el objetivo es establecer reglas preventivas antes de que ocurra un problema, en lugar de legislar únicamente como reacción a sus consecuencias.
“Muchas veces las leyes llegan después de que ocurre un daño. Con la inteligencia artificial tenemos la oportunidad de anticiparnos. Queremos que Sonora aproveche sus beneficios, pero con responsabilidad, prevención y control humano”, sostuvo.
Finalmente, Sánchez Chiu resumió el propósito de la reforma:
“La inteligencia artificial debe estar al servicio de las personas. Innovar sí, pero con seguridad. El gobierno puede utilizar inteligencia artificial, pero nunca debe perder el control sobre ella”.
