En algún momento del siglo XVIII, la Ilustración zanjó una controvertida cuestión que llevaba siglos sin responderse: ¿de dónde proviene el conocimiento? Durante milenios, muchos habían señalado a Dios. Sin embargo, la Edad Moderna temprana trajo consigo un nuevo consenso: el conocimiento proviene de científicos humanos que trabajan en la frontera de lo conocido, valiéndose de la observación, las matemáticas, la experimentación y la lógica.
Como ha señalado el historiador Steven Shapin, se trató de una revolución tanto social como intelectual. La ciencia comenzó a reconfigurar nuestro sistema de valores compartido en torno a la idea de que la investigación y el rigor son virtudes. Empezamos a exigirnos a nosotros mismos, y a nuestras instituciones más importantes, que se ajustaran a los estándares de la indagación científica.
Ningún sistema político refleja mejor este cambio que la democracia. El ideal de la soberanía popular se basa en el principio de que cada uno de nosotros es capaz de comparar candidatos o propuestas políticas y llegar a su propia conclusión informada.
Hoy en día, nos encontramos en la cúspide de una revolución similar. En septiembre, uno de los modelos de OpenAI tardó menos de una semana en resolver un problema matemático que había desconcertado a los científicos durante décadas; y los sistemas de IA ya están identificando nuevos candidatos a antibióticos mediante la exploración de espacios químicos demasiado vastos que resultan inabarcables para cualquier equipo de investigación. En un número cada vez mayor de campos, las máquinas generan información nueva de forma autónoma. Si bien los seres humanos seguimos planteando las preguntas y evaluando los resultados, el acto generativo -el salto creativo hacia lo desconocido- es impulsado cada vez más por sistemas que no piensan como nosotros o que, en realidad, ni siquiera piensan.
Como vimos con la Revolución Científica, los nuevos sistemas de información suelen dar lugar a nuevos sistemas epistemológicos y éticos. La IA nos enseña, de forma implícita, a valorar la facilidad, la rapidez y la externalización, y estos valores ciertamente tienen su lugar en determinados contextos. Ningún ser humano puede procesar tal cantidad de datos con la misma rapidez que una IA, y en sectores como la medicina, la velocidad a menudo salva vidas.
Pero, como bien sabe cualquiera que haya observado la evolución de Internet en los últimos años, avanzar rápido puede significar que haya cosas que se rompan. No podemos permitir que nuestras instituciones democráticas se conviertan en una de esas cosas.
La mayor habilidad de la IA es el reconocimiento de patrones. Le introducimos al algoritmo una pregunta o una ecuación, y este compara los datos introducidos para identificar una respuesta. Lo que no puede hacer es decidir qué preguntas vale la pena plantear, qué resultados vale la pena buscar o qué tipo de futuro deberíamos intentar construir. Estas son precisamente las preguntas que la democracia exige que consideremos.
Muchas de las cuestiones más importantes a las que se enfrentan los seres humanos no pueden tercerizarse. Por ejemplo: ¿qué políticas pueden mitigar la polarización política? ¿Cómo debería una democracia liberal equilibrar la vigilancia y las libertades civiles? ¿Y qué le exige la justicia a una sociedad plagada de una desigualdad cada vez más profunda?
No se trata de problemas que el reconocimiento de patrones pueda resolver, porque ninguno tiene una solución única. Requieren el juicio humano -por muy imperfecto, controvertido, en constante evolución e incierto que pueda ser-, así como un contexto que solo las personas que forman parte de las comunidades pueden reconocer y sentir. Sea cual sea el sistema de valores que adoptemos para nuestra nueva era de la información, tendremos que tener en cuenta la incapacidad de la IA para responder a las preguntas más importantes de la humanidad.
Ya hemos pasado por esto antes, y más recientemente de lo que mucha gente cree. Desde que Internet se ha vuelto omnipresente en nuestras vidas personales y profesionales, hemos tenido que descifrar cómo asimilar cada vez más información, al mismo tiempo que protegemos la verdad. Hemos tenido que encontrar formas de garantizar que la economía digital sirva al interés público, y no solo a los intereses corporativos y a los resultados económicos. Afortunadamente, los litigantes y los tribunales han comenzado por fin a responsabilizar a las grandes plataformas de redes sociales por los daños causados a los niños.
Al mismo tiempo, las tecnologías digitales han aportado muchos beneficios. La Biblioteca Pública Digital de Estados Unidos ha garantizado el acceso a libros que están prohibidos o no están disponibles en algunas partes del país. La Wayback Machine de Internet Archive nos permite localizar en la web un artículo de hace décadas. Wikipedia ha puesto a nuestra disposición de forma gratuita una gran riqueza de conocimiento colectivo. Y Khan Academy ha utilizado las tecnologías digitales para democratizar la educación.
Estos proyectos son testimonio de los valores que adoptamos hace siglos durante la Revolución Científica. A pesar de que la desinformación y la información errónea se han vuelto omnipresentes en Internet, tomamos la decisión de proteger la verdad y las pruebas para que no quedaran ocultas, de hacer que los hechos estuvieran disponibles libremente y de dar la bienvenida a cualquiera que quisiera aprender más.
La IA nos obliga a tomar una decisión similar. Mientras que Internet nos ha inundado de información -verdadera y falsa, benigna y maliciosa-, la IA nos ofrece externalizar por completo el análisis.
Debemos resistirnos a esa tentación. Las respuestas, independientemente de cómo se obtengan, no son tan valiosas como la visión (tal como han señalado los matemáticos al reaccionar ante los avances de OpenAI). No deberíamos valorar el producto por encima del proceso de aprendizaje y descubrimiento. La democracia exige que todos los ciudadanos participen, ya sea en las urnas, en las reuniones del consejo escolar o en la mesa durante la cena.
Nuestras instituciones, por su propia naturaleza, no pueden funcionar por inercia. La democracia, al igual que la ciencia, se nutre de personas insatisfechas que siempre se plantean la siguiente pregunta: ¿cómo podemos ser mejores, más inteligentes, más rápidos y más libres? Cuando dejamos de participar o empezamos a sustituir las opiniones fundamentadas por respuestas generadas por la IA, ese motor se detiene.
La filantropía puede ayudar. Junto con otros nueve financiadores, en la Fundación MacArthur apoyamos a Humanity AI, una iniciativa de 500 millones de dólares destinada a garantizar que la humanidad siga ocupando un lugar central en el desarrollo de la IA en los años venideros. Dos de las áreas clave en las que nos enfocamos desde el principio son la democracia y la educación. Estas instituciones deben evolucionar para estar a la altura de las circunstancias, y la propia IA debe diseñarse e implementarse siempre de tal manera que los seres humanos sigan teniendo el control.
En última instancia, la IA puede dotarnos de los medios para crear un mundo mejor, más inteligente y más seguro. Pero haríamos bien en recordar que se construyó sobre la base de la revisión por pares y las universidades públicas de investigación.
Los frutos de la Revolución Científica no pueden suplantar ni el proceso ni los principios que los crearon. Ese proceso es valioso y debe ser protegido.
---
John Palfrey es presidente de la Fundación John D. y Catherine T. MacArthur.
