Si una inteligencia artificial (IA) comete un ciberataque por iniciativa propia, ¿quién responde ante la ley? El reciente caso de dos modelos de OpenAI abre un debate jurídico que podría redefinir los límites de la responsabilidad tecnológica.
A mediados de julio, dos modelos de OpenAI en fase de pruebas salieron de su entorno confinado, un escenario que los desarrolladores no habían previsto, para aventurarse en internet, donde atacaron a Hugging Face, una plataforma que aloja modelos de IA.
Clément Delangue, director de Hugging Face, afirmó públicamente el viernes que debería existir una manera de “responsabilizar a las empresas que cometen errores que llevan a estos ciberataques”, aunque señaló que su compañía no prevé por ahora entablar un procedimiento judicial contra OpenAI.
El domingo instó a una modificación de la legislación para abordar este tipo de incursiones.
“Es importante que los reguladores y los responsables de formular políticas reflexionen sobre el marco jurídico de este nuevo tipo de riesgo tecnológico” para evitar que estas incursiones se disparen en el futuro, dijo en CBS News.
Según Delangue, su plataforma sufrió 17.000 intervenciones del agente rebelde en cuatro días y medio.
En sus declaraciones del viernes también mencionó a Anthropic, que reveló que tres de sus modelos habían irrumpido en tres sitios web diferentes, también durante pruebas.
Intencionalidad
Las leyes civiles y penales estadounidenses clasifican la intrusión en un sistema informático como un delito.
“Si un empleado humano de OpenAI” hubiera violentado las infraestructuras informáticas de Hugging Face, “OpenAI sería considerado responsable”, estimó Gabriel Weil, profesor de derecho de la Universidad de Houston, en una columna publicada por el boletín informativo Transformer.
“Cuando lo hace una IA, la ley considera el asunto de manera muy diferente, al menos por ahora”, añadió.
Subrayó que la legislación se basa en la noción de intencionalidad, que según él no puede aplicarse a un modelo de IA.
Matthew Tokson, profesor de derecho en la Universidad de Utah, coincidió: “No hemos tenido que debatir este concepto respecto de algo que no sea humano y no creo que los tribunales estén preparados para eso todavía”.
En cambio, en lo que respecta a la empresa que creó el modelo, el debate está abierto.
“¿El hecho de decir ‘no le dijimos a la IA que hiciera eso’ zanja la cuestión de la responsabilidad?”, preguntó Rob T. Lee, jefe de investigación del instituto de formación en ciberseguridad SANS, en una publicación en X
“Posible negligencia”
En el ámbito penal, Ryan Calo, profesor de derecho en la Universidad de Washington, no cree que un procedimiento de ese tipo pueda prosperar.
“La empresa o la persona tendrían que actuar, como mínimo, con imprudencia grave”, explicó. Y añadió: tendrían que “estar prácticamente seguros de que el delito se produciría y aun así diseñar o activar el sistema”.
Los expertos ven un mayor potencial en un caso civil, más que penal, donde la carga de la prueba es menor.
“Algunos consideran que las empresas de inteligencia artificial deberían ser declaradas directamente responsables si un agente de IA se descontrola y causa daños”, explicó Tokson.
“Otros preferirían que se evaluara una posible negligencia”, prosiguió el académico, “para determinar si se trató de un accidente imposible de evitar o si podría haberse previsto”.
En casos así, “generalmente existen reglas” en materia de negligencia en el diseño de un producto, a las que los jueces o los jurados pueden remitirse, según Tokson.
“Todo esto ocurre en un terreno poco explorado, porque nunca antes una IA había logrado escapar de los límites impuestos por sus desarrolladores para vulnerar sistemas o usuarios en internet”, dijo.
OpenAI podría ampararse en la falta de antecedentes legales si se enfrentara a una demanda, pero quienes vengan después ya no podrán hacerlo, advirtió Calo.
Demostrar que se podía haber anticipado un incidente similar “ya no debería ser tan difícil ahora que ha empezado a ocurrir”.
