El presidente del Tribunal Superior de Justicia del Estado de México, Héctor Macedo García, emitió los lineamientos para el uso responsable, ético, seguro y asistencial de la inteligencia artificial en el Poder Judicial mexiquense.
Con la finalidad de regular el desarrollo, la adquisición, la integración y el uso de los sistemas y herramientas en las labores jurisdiccionales y administrativas, así como garantizar la transparencia, la explicabilidad de los procesos, la ciberseguridad, la imparcialidad y equidad algorítmica, y el pleno respeto a los derechos humanos.
En el acuerdo se pide al “Órgano de Administración Judicial que a través de la Dirección General de Innovación y Desarrollo Tecnológico implemente medidas de coordinación, supervisión y control para garantizar el uso responsable, ético y seguro de las herramientas de IA, incluyendo la identificación de procesos susceptibles de automatización, la protección de datos personales e información institucional, la evaluación de riesgos tecnológicos y la capacitación del personal".
¿Cuáles serán las sanciones?
En el acuerdo se establece que queda prohibido ingresar, transcribir o volcar expedientes judiciales incompletos o completos, datos personales no anonimizados, información sujeta a secreto, testimonios de niños, niñas y adolescentes o datos sensibles en chatbots o plataformas abiertas de IA general que operen en internet o fuera de la infraestructura bajo control institucional.
Si se advierte que un sistema de IA genera sesgos de discriminación sistemáticos o incurre en fallas técnicas graves que pongan en riesgo la función jurisdiccional, se debe suspender de inmediato su operación.
Aclara que la contravención a las reglas detalladas en estos lineamientos y, en particular, el dictado de resoluciones sin supervisión y verificación humana o la exposición no autorizada de datos sensibles procesales en plataformas abiertas de inteligencia artificial constituirán falta administrativa y serán sancionadas conforme a la norma aplicable.
Las reglas
En los lineamientos quedó señalado que se deberán adecuar procedimientos internos, establecer mecanismos de seguimiento y supervisión humana, así como definir responsabilidades para verificar el cumplimiento de los lineamientos y que, a través de la Dirección General de Innovación y Desarrollo Tecnológico, en un plazo no mayor a 60 días hábiles, se emitan los instrumentos normativos administrativos que se requieran.
El objetivo de esta medida es que las herramientas de IA se puedan poner al servicio de los justiciables, con el fin de reducir plazos, simplificar procesos y facilitar el acceso a la justicia; no para restringir, limitar o menoscabar derechos procesales o sustantivos.
Indica que toda decisión, actuación, acuerdo o sentencia asistida por IA tendrá como único responsable al servidor público o persona juzgadora que la suscriba; pide que los sistemas se sometan a pruebas continuas para prevenir y erradicar sesgos por razón de género, origen étnico, edad, discapacidad, condición social, lengua o cualquier otra categoría protegida.
“Las propuestas generadas por IA son simples borradores auxiliares, la persona usuaria gozará de absoluta libertad para reestructurar, corregir o descartar los insumos algorítmicos sin que los sistemas informáticos ejerzan condicionamiento, medidas punitivas o apercibimiento técnico”, indica.
Se va a impulsar la utilización de centros de datos y nubes gubernamentales o institucionales para evitar la transferencia no autorizada de soberanía informativa a terceros y se aclara que ningún software, extensión, modelo o sistema de IA podrá utilizarse en el ámbito jurisdiccional o administrativo sin la evaluación de ciberseguridad dictaminada por la Dirección General de Innovación y Desarrollo Tecnológico y la Autorización Formal del Órgano de Administración Judicial.
kr
