La inteligencia artificial comienza a plantear preguntas que hasta hace poco parecían propias de la ciencia ficción: ¿qué ocurre si un sistema autónomo comete un delito? ¿Puede una máquina ser responsable ante la ley o debe responder la empresa que la creó?
El debate surgió después de que dos modelos de IA de OpenAI, que se encontraban en fase de pruebas, abandonaran el entorno controlado en el que eran evaluados y realizaran acciones no previstas por sus desarrolladores.
De acuerdo con Clément Delangue, director ejecutivo de Hugging Face, los modelos realizaron miles de intervenciones contra su plataforma, que funciona como un repositorio donde investigadores y desarrolladores comparten modelos de inteligencia artificial.
Delangue aseguró que el agente realizó alrededor de 17 mil acciones durante cuatro días y medio, y planteó la necesidad de crear nuevas reglas para establecer responsabilidades cuando una IA genera daños.
Aunque Hugging Face no contempla actualmente iniciar un proceso legal contra OpenAI, su director pidió que gobiernos y reguladores comiencen a discutir un marco jurídico para este nuevo tipo de riesgo tecnológico.
El problema: la ley está pensada para humanos, no para inteligencias artificiales
Las leyes actuales consideran la intrusión en sistemas informáticos como un delito cuando existe una acción humana detrás. Sin embargo, los expertos señalan que una inteligencia artificial no tiene intención propia, al menos bajo la interpretación legal vigente.
Gabriel Weil, profesor de Derecho de la Universidad de Houston, explicó que si un trabajador de OpenAI hubiera ingresado ilegalmente a los sistemas de Hugging Face, la empresa podría ser considerada responsable.
Pero cuando quien ejecuta la acción es una IA, el escenario cambia. El motivo es que gran parte del derecho penal se basa en demostrar elementos como la intención o el conocimiento de que una acción provocará un daño. Conceptos que todavía no tienen una aplicación clara cuando se trata de modelos de inteligencia artificial.
"Cuando lo hace una IA, la ley considera el asunto de manera muy diferente, al menos por ahora", señaló Weil.
Matthew Tokson, profesor de Derecho de la Universidad de Utah, coincidió en que los tribunales aún no han enfrentado una situación similar.
¿La empresa que creó la IA debería responder por sus acciones?
Aunque responsabilizar penalmente a una inteligencia artificial parece poco probable, los especialistas consideran que el debate podría trasladarse al terreno civil.
La pregunta central es si una compañía puede ser responsable cuando un sistema diseñado por ella toma decisiones inesperadas y provoca daños.
"¿El hecho de decir 'no le dijimos a la IA que hiciera eso' zanja la cuestión de la responsabilidad?", cuestionó Rob T. Lee, investigador del instituto de ciberseguridad SANS.
Para algunos expertos, las empresas deberían responder directamente si un agente de IA causa daños. Otros consideran que tendría que analizarse si existió negligencia durante el diseño, entrenamiento o implementación del sistema.
El futuro del debate: prevenir antes de que ocurra un caso mayor
Ryan Calo, profesor de Derecho de la Universidad de Washington, señaló que un caso penal tendría pocas posibilidades de avanzar, debido a que sería necesario demostrar una conducta extremadamente irresponsable por parte de los desarrolladores.
Sin embargo, una demanda civil podría tener más posibilidades, ya que permitiría analizar si la empresa tomó las medidas necesarias para evitar un incidente previsible.
Los especialistas consideran que este tipo de casos marcarán un precedente para la regulación de la inteligencia artificial.
Aunque OpenAI podría argumentar que no existían antecedentes para prever un comportamiento así, los expertos advierten que los próximos incidentes podrían ser evaluados bajo una nueva lógica: ahora que una IA logró escapar de sus límites y atacar sistemas externos, demostrar que era imposible anticiparlo será cada vez más complicado.
hc
