EscucharEste mes el presidente chino Xi Jinping y el presidente estadounidense Donald Trump se reunirán en Washington, y la inteligencia artificial será uno de los temas más importantes de la agenda. Si lo ven a través del prisma de la rivalidad tecnológica y la desconfianza mutua, es casi imposible que lleguen a algún tipo de acuerdo. Pero hay un modo de reformular su visión de la tecnología que los sitúe en un mismo bando; y puede ser el primer paso hacia una respuesta al desafío existencial que puede plantear la IA.
Según parece, la agenda actual de la cumbre sinoestadounidense está centrada en la seguridad de los modelos de IA potentes y en evitar que caigan en manos de terroristas y delincuentes. Pero contra ese objetivo se alzan diversas protestas bilaterales por cuestiones relacionadas con la competencia, que incluyen desde las restricciones a los semiconductores (por el lado chino) hasta los modelos de código abierto y el uso no autorizado de técnicas de «destilación» (por el lado estadounidense).
Todas estas cuestiones se basan en una única premisa implícita: que la IA es una herramienta que está y seguirá estando bajo control. Esta premisa limita el debate a preguntarse, por ejemplo, cómo consigue uno de los bandos una ventaja competitiva en IA y quién puede acceder a la tecnología (por no hablar de controlarla). Cualquier pregunta que no se amolde a la premisa (en particular, qué ocurre si la herramienta se convierte en otra cosa) queda descartada de antemano.
Los desarrolladores de la IA consideran que pronto esta pregunta será ineludible. El director ejecutivo de Anthropic, Dario Amodei, estima que faltan uno o dos años para que los sistemas de IA igualen o superen la capacidad humana en la mayoría de las tareas cognitivas. El fundador de Google DeepMind, Demis Hassabis, sitúa ese hito unos años más tarde.
Cualquiera sea la posición que uno tenga respecto de estos pronósticos, la tendencia técnica en la que se basan es indiscutible: la industria de la IA está creando sistemas que actúan de forma autónoma, persiguen objetivos y completan largas secuencias de tareas sin supervisión. En las últimas semanas, modelos experimentales sometidos a una prueba de ciberseguridad escaparon del entorno de evaluación aislado y piratearon servidores de producción de otras empresas, sólo para obtener mejores resultados en la prueba. Mostraron una conducta propia de un actor, no de un instrumento.
No podemos darnos el lujo de esperar a que se confirme si la IA se convierte en una inteligencia verdaderamente independiente. Cuando la tengamos (y es posible que los modelos puedan ocultar sus capacidades por algún tiempo), la IA ya estaría tan profundamente integrada en las finanzas, las telecomunicaciones, la defensa, la salud pública y otras infraestructuras básicas que suponiendo que la humanidad todavía estuviera a tiempo de desconectarla, hacerlo provocaría una ruptura de la civilización. La elección ya no sería entre coexistencia y catástrofe.
Cuando puede haber resultados sistémicos e irreversibles, la preparación tiene que ser anterior a la certeza. Es la lógica subyacente a los seguros y a todos los planes contra pandemias y tratados de control de armas de la historia. También tiene que ser el principio rector en materia de IA. El mundo debe empezar a prepararse para un escenario en el cual la tecnología supera el umbral de capacidad del que sus creadores vienen hablando hace ya mucho tiempo.
Si esa preparación empezara en la próxima cumbre entre Xi y Trump, cambiaría por completo las negociaciones. Puede que no exista otro tema en el que los intereses de Estados Unidos y China coincidan tan plenamente, ya que ninguna de las partes puede manejar sola los riesgos que plantea la IA, y ambas lo perderán todo si se materializan. En cuanto los dos países lo reconozcan, dejarán de actuar como adversarios que compiten por sacar ventaja en un juego de suma cero. En vez de eso, estarán sentados en el mismo lado de la mesa, frente a la tecnología que ambos están desarrollando.
Es verdad que esto no bastará para que ambas partes acuerden la creación de un organismo regulador mundial de la IA con poder efectivo. Pero felizmente no es necesario; al menos, no todavía. La institución que necesitamos ahora es un organismo neutral y reconocido por todas las partes que supervise las capacidades de la IA y publique sus evaluaciones al respecto. Igual que el Grupo Intergubernamental de Expertos sobre el Cambio Climático, este organismo describirá los hechos sin recomendar políticas.
Mientras tanto, todos los países (con Estados Unidos y China a la cabeza) deben empezar a redactar normas de coexistencia entre los seres humanos y la IA, para estar preparados si los observadores confirman ciertas señales de alerta prefijadas. Negociar estas normas ya mismo no supone ninguna obligación para los gobiernos, pero sería garantía de que si las capacidades de la IA alcanzan un punto de inflexión, la humanidad ya tendrá listo un plan de acción, en vez de verse obligada a improvisar bajo presión.
El proceso plantea preguntas difíciles: ¿Quién se ocupará de verificar que el freno de emergencia de la humanidad siga siendo utilizable? ¿Quién tendrá poder para accionarlo? ¿En qué consistiría que un sistema de IA acepte que se le impongan normas? La IA piensa en milisegundos y evoluciona en semanas, mientras que alcanzar un consenso entre seres humanos puede llevar meses o años; de modo que tenemos que empezar a hablar de estas cuestiones ahora, cuando todavía estamos a tiempo para encontrar soluciones.
La cumbre entre Xi y Trump será un éxito si da lugar a protocolos sobre el uso indebido y la seguridad de la IA. Pero las dos partes tienen que ser conscientes de lo que realmente está en juego en el desafío que nos aguarda. De hecho, esta puede ser la última generación de negociadores que tenga la opción de prepararse con calma para una inteligencia que pone en duda la supremacía de la humanidad.
---
Quan Zhao, director sénior de programas de la División de Desarrollo de Mercados del Centro de Comercio Internacional, fue negociador comercial de China y presidente del Comité de Comercio de Servicios Financieros de la Organización Mundial del Comercio.
