Debe la inteligencia artificial servir a la sociedad: científicos

En carta abierta, advierten sobre la necesidad de un mayor enfoque en la seguridad y en los beneficios sociales.
El fisico británico Stephen Hawking.
El fisico británico Stephen Hawking. (Alberto Morante/EFE)

San Francisco

Decenas de científicos, empresarios e inversionistas que participan en el campo de la inteligencia artificial, entre ellos Stephen Hawking y Elon Musk, firmaron una carta abierta para advertir sobre la necesidad de un mayor enfoque en la seguridad y en los beneficios sociales.

La carta y un documento que la acompaña del Future of Life Institute —Instituto del Futuro de la Vida— (FLI, por su sigla en inglés) sugiere que las prioridades de una investigación de la inteligencia artificial (IA) “sólida y benéfica”, que se da en medio del creciente nerviosismo sobre el impacto en los empleos o incluso la supervivencia a largo plazo de la humanidad frente a las máquinas, cuya inteligencia y capacidad pueden superar al de las personas que las crearon.

“Debido al gran potencial de la IA, es importante investigar cómo aprovechar sus beneficios y al mismo tiempo evitar los peligros potenciales”, dice la carta del FLI. “Nuestros sistemas de IA deben hacer lo que queramos que hagan”.

El FLI se fundó el año pasado por voluntarios, que incluyen a Jaan Tallinn, cofundador de Skype, para estimular la investigación en “visiones optimistas del futuro” y para “mitigar los riesgos existenciales que enfrenta la humanidad”, con un enfoque en los (riesgos) que surgen por el desarrollo a nivel humano de la inteligencia artificial.

Musk, cofundador de SpaceX y Tesla, quien ocupa un asiento en la junta de asesoría científica del FLI junto con el actor Morgan Freeman y el cosmólogo Stephen Hawking, dijo que cree que la inteligencia artificial sin control es “potencialmente más peligrosa que las armas nucleares”.

Entre los firmantes de la carta de FLI se encuentran Luke Muehlhauser, director ejecutivo de Machine Intelligence Research Institute; Frank Wilczek, profesor de física del Instituto Tecnológico de Massachusetts y premio Nobel, y los empresarios responsables de las compañías de inteligencia artificial, DeepMind y Vicarious, así como varios empleados de Google, IBM y Microsoft.

En lugar de sembrar miedo, la carta resalta cuidadosamente los aspectos positivos y negativos de la inteligencia artificial.

“Ahora hay un amplio consenso de que la investigación de la IA progresa de manera constante, y que su impacto en la sociedad probablemente aumente”, se lee en la carta. “Los beneficios potenciales son enormes, ya que todo lo que puede ofrecer la civilización es producto de la inteligencia humana; no podemos predecir lo que puede lograrse cuando la inteligencia se magnifique por las herramientas que puede ofrecer la IA, pero la erradicación de las enfermedades y la pobreza no es incomprensible”.

Los beneficios de la investigación de la inteligencia artificial que ya se aplican incluyen el reconocimiento de voz e imagen, y vehículos de autoconducción. Algunas personas en Silicon Valley estiman que en la actualidad más de 150 startups trabajan en inteligencia artificial.

A medida que el campo atrae más inversión, emprendedores y empresas como Google buscan grandes recompensas por crear computadoras que puedan pensar por sí mismas, el FLI advierte que es “oportuno” un mayor enfoque en las ramificaciones sociales, no solo atraer a la informática, sino a la economía, a las leyes y a la seguridad de la tecnología de información.

“Muchos economistas y expertos en computación están de acuerdo en que falta por hacer una investigación valiosa en la forma de maximizar los beneficios económicos de la IA, mientras al mismo tiempo se mitigan los efectos adversos, que pueden incluir un aumento en la desigualdad y el desempleo”, escribe el FLI en el documento.