A fin de promover la reflexión sobre los desafíos que conlleva la Inteligencia Artificial (IA) y proporcionar a madres, padres, personas cuidadoras y docentes herramientas prácticas para acompañar, orientar y proteger a niñas, niños y adolescentes en un mejor uso y aprovechamiento de esta tecnología, la Comisión Nacional de los Derechos Humanos (CNDH) llevó a cabo el foro “Convivir en la era de la IA: prevención de la violencia digital y protección de derechos”.
Con esta iniciativa, la CNDH, presidida por la maestra Rosario Piedra Ibarra, apoya y se suma al consenso existente en México respecto al uso de la IA y la urgencia de avanzar en el diseño de una legislación en materia de derechos digitales para la niñez y la adolescencia que los proteja frente a riesgos como la manipulación, la desinformación y la exposición a diferentes ilícitos.
El encuentro es parte de las acciones realizadas por este organismo nacional para construir y consolidar una hoja de ruta nacional en la prevención y atención de la violencia digital, así como garantizar entornos seguros para las personas menores de edad, por lo que contó con la participación de especialistas en materia de procuración de justicia y protección de derechos humanos.
Se destacó que, de acuerdo con cifras del Instituto Nacional de Estadística y Geografía (INEGI), 85.4% de la niñez entre 5 y 14 años son usuarios de internet, cifra que se incrementa a 97.6% para el grupo etario entre 15 y 24 años, desde 2015 a la fecha. Asimismo, las horas promedio que pasan niñas y niños de 6 a 11 años conectados al día es de 2.6; mientras que las personas cuya edad fluctúa entre 12 y 17 es de 4.5 horas, y de 18 a 24 años alcanza 5.7 horas.
Ante ello, es preciso analizar los retos que enfrentan niñas, niños y adolescentes en entornos digitales cada vez más complejos, reflexionar sobre el impacto de las nuevas tecnologías en su formación y garantizar que les ofrezcan oportunidades para la educación, la innovación, el conocimiento y la participación social; así como evitar riesgos como el ciberacoso, los discursos de odio y otras amenazas.
En este sentido, su protección requiere acciones coordinadas que permitan mitigar amenazas, así como darles protección y acceso a la justicia cuando sus derechos sean vulnerados, fortaleciendo el intercambio de experiencias entre diversos actores, para la construcción de estrategias más efectivas que prevengan y castiguen la violencia digital, fortaleciendo el ejercicio de sus derechos y la construcción de espacios que permitan un desarrollo seguro en entornos de Inteligencia Artificial.
Los participantes en el foro destacaron que, desde un enfoque ministerial de investigación de delitos donde se ven involucrados niñas, niños y adolescentes, el mejor mecanismo es la prevención, por lo cual se debe trabajar en una regulación para garantizar protección integral a este grupo poblacional y asegurar el pleno ejercicio de sus derechos humanos, incluyendo en su elaboración la participación de madres y padres de familia, así como de las personas docentes.
Si bien el uso de las tecnologías brinda acceso a información y diversión, también expone a las personas menores de edad a riesgos, ante lo cual es importante que las familias sepan, conozcan y revisen los materiales a los que están expuestos en diferentes dispositivos y plataformas. Se debe tener cuidado en las imágenes que suben a las redes sociales, pues aunque no existen una legislación específica en materia de IA, nuestro país cuenta con diversas disposiciones legales que castigan el uso indebido de imágenes alteradas digitalmente que, se ha comprobado estadísticamente, afectan principalmente a las mujeres.
Entre las medidas de protección existentes en la normatividad mexicana subrayaron la existencia de la Ley Olimpia; el derecho a la propia imagen; la solicitud, por parte del Ministerio Público o de un juez, para destruir materiales de violencia digital, además de que se puede sancionar el uso de medios de comunicación para producir o difundir imágenes de este tipo.
Aun cuando la IA ha sido una herramienta poderosa para las instituciones y para la sociedad, por la capacidad de almacenar grandes volúmenes de datos y ha impactado en la toma de decisiones en varios aspectos de la humanidad, también implica varios retos éticos que demandan una regulación, sobre todo por la prolongada exposición que la niñez y la adolescencia tienen frente a las pantallas, lo cual suele ser aprovechado por el crimen organizado para engancharlos.
Frente a ello, se dijo que las personas menores de edad necesitan atención, supervisión, cuidados por parte de los adultos para que no sean sujetos a procesos que no les corresponden, abusos o posibles violaciones de sus derechos humanos, sobre todo ante la prevalencia de casos en que, por ejemplo, imágenes de niñas fueron utilizadas para crear desnudos falsos.
Entre las conclusiones del foro sobresalieron: la prevención, el impulso de la regulación de la IA, actuar con responsabilidad social -ya que todos somos corresponsables en la protección de niñas, niños y adolescentes- y el hecho de que todos podemos ser víctimas de violencia digital, especialmente las personas en situación de vulnerabilidad, porque la tecnología seguirá avanzando y esto implica la necesidad de crear políticas públicas para regularlas, además de favorecer la empatía, la escucha y la supervisión.
