Fusilerías

"Terminator", a debate en la ONU

El filósofo medieval Guillermo de Champeaux (1070-1121) defendía una teoría de la identidad que, asolada por las críticas de su colega Pedro Abelardo (1079-1142), debió cambiar dos veces. Primero sostuvo que una naturaleza, como la humanidad, es idéntica en todos sus individuos y éstos se distinguen entre sí por sus accidentes. Luego planteó otra sobre la indiferencia pero, corregido una vez más por su crítico, acabó asumiendo la teoría de la semejanza, según la cual las naturalezas existen multiplicadas en las personas, pero no siendo idénticas en cada una de ellas.

El problema filosófico de la identidad, la indiferencia o la semejanza reaparece un milenio después. Con las características propias de la época: el mundo robótico, el orbe digital. Hoy la Organización de las Naciones Unidas discute un asunto que pareciera, en primera instancia, de la ciencia ficción: las máquinas asesinas. No es el debate, como puede presuponerse, sobre las armas, tema de antigua preocupación. Sino acerca de los robots programados para matar con la operación a distancia de un humano... o sin ella.

Más allá de un intercambio de opiniones y búsqueda de consensos sobre el hecho propio de matar, impensable en un organismo que poco se distingue por sus resultados pacificadores, ahora el dilema sobre la mesa es cómo frenar los excesos de una industria con valor de 98 mil millones de dólares previstos para la próxima década. Excesos que pueden atentar, con decisiones autónomas de máquinas, no solo contra los enemigos, sino en agravio de sus propios controladores. El hombre contra el hombre, semejanzas o diferencias predeterminadas de antemano. El moderno hombre como lobo del hombre de Hobbes.

En el reciente remake de Robocop (José Padilha 2014), basado en la clásica de Paul Verhoeven (1987), la multinacional OmniCorp promueve un proyecto de defensa nacional y seguridad pública a partir del uso de máquinas programadas para combatir enemigos extranjeros y criminales locales, cuya pieza clave es un policía, mitad hombre, mitad robot, cuya naturaleza social, familiar, importa poco a sus promotores, que ven en Alex Murphy solo un jugoso negocio.

Como parte de la propaganda, la empresa lanza una cacería de supuestos terroristas en un barrio extranjero con la transmisión televisiva en vivo de una cadena proclive a la campaña robótica. Los soldados blindados, con capacidad para decidir a partir de sus programas, generan un desastroso episodio a partir de la toma de decisiones autónomas, como abatir a un joven cuya arma amenazante para la hojalata artillada era solo un cuchillo.

En un reportaje para la BBC, Tim Bowler plantea que el obstáculo real para un uso amplio de robots asesinos es lograr que puedan distinguir entre amigos y enemigos. Y cita a Paul Scharre, experto en Defensa del Centro para una Nueva Seguridad Americana: “Un tanque es bastante diferente a una camioneta, pero un tanque amigo puede verse muy parecido para una máquina. Los militares no quieren desplegar algo en el campo de batalla que pueda accidentalmente volverse contra sus propias fuerzas”.

La duda alcanza también al general Larry James, vicejefe de personal de Inteligencia de las Fuerzas Aéreas de Estados Unidos: “Estamos a muchos años, si no es que décadas, de estar seguros de que un sistema de inteligencia artificial pueda hacer ese tipo de discriminación”. Y es por eso que grupos como Human Rights Watch consideran imperativo frenar desde ahora ese avance tecnológico, que por ahora ya cuenta con un club de 90 países usuarios.

Los detractores de esa industria llaman a poner un alto a un desarrollo que no parece ralentizarse. Son los reales Sarah y John Connor, personajes de la película The Terminator (James Cameron 1984), cuya misión, después de ponerse a salvo del robot exterminador (Arnold Schwarzenegger) venido del futuro, o al mismo tiempo, es destruir la empresa Skynet, que creará en próximas décadas la máquina asesina perfecta.

Ya sea a partir de la teoría de la identidad, de la indiferencia o de la semejanza que defendió Champeaux hace un milenio, hoy la incógnita es saber si estas máquinas diseñadas para exterminar, cuyo perfeccionamiento parece no tener freno, serán capaces de discriminar, de distinguir. Ya ni siquiera hay debate sobre el hecho solo, terrible, de que son fabricadas para matar. La lucha es por tener un control sobre ellas y no dejar todo en los algoritmos de una inteligencia artificial.

 

www.twitter.com/acvilleda