El 12 de julio de 2024, en el ánimo de dar un pasito más allá de las buenas intenciones, el Parlamento Europeo y el Consejo de la Unión Europea publicaron el Reglamento de IA en Europa, con el cual buscaban que “los sistemas de IA utilizados en la UE sean seguros, transparentes, trazables, no discriminatorios y respetuosos con el medio ambiente”.
Para evitar el yo me lo guiso, yo me lo como y lograr sortear el sesgo algorítmico, el Reglamento establece que todos los sistemas de IA sean aprobados y supervisados por humanos.
Los tipos de riesgo que busca regular se clasifican en inaceptable y alto riesgo. Los primeros incluyen: la manipulación cognitiva del comportamiento, la puntuación social (derivada del estatus socioeconómico o las características personales) y los sistemas de identificación biométrica. Los de alto riesgo, es decir, los que pueden afectar la seguridad o los derechos fundamentales, a su vez se dividen en dos categorías: los empleados en productos regulados por las normativas de la Unión Europea y los relacionados con derechos fundamentales como la educación y formación profesional, el empleo, la gestión de la migración, el asilo político, el control de las fronteras y la asistencia en la interpretación jurídica, entre algunos otros.
Entendido como un reglamento al que deberán sujetarse desarrolladores, proveedores y usuarios de IA, no está del todo mal, sin embargo, algunas de sus prohibiciones, especialmente las relacionadas con la identificación biométrica en tiempo real (piense en las áreas de migración en los aeropuertos) son difíciles de llevar a cabo en la práctica, porque existen otras normativas que han normalizado el atropello de algunos derechos fundamentales (piense en algunos trámites gubernamentales y bancarios donde usted debe ver a una cámara o poner su huella digital).
Otra de sus debilidades es que no logra evitar que muchos agentes malintencionados sigan desarrollando tecnologías de IA fuera de la Unión Europea, para evitar la regulación y supervisión que exige el Reglamento.
Asociado a este último punto, sus detractores consideran que podrían frenar la innovación, ya que las medidas podrían desincentivar el desarrollo de la IA en la Unión Europea, provocando que muchos inversionistas busquen trasladar su operación a países donde la regulación en la materia sea mucho más laxa.
Evidentemente, el Reglamento no evita todos los riesgos señalados, pero sin duda es un poderoso cortafuegos que, vale decir, se desprende de un conjunto de ideales éticos que en apariencia son simple papel mojado. _
