Quizá el debate más importante del derecho mercantil del siglo XXI no provino de Silicon Valley ni Bruselas, sino de Buenos Aires. El presidente Javier Milei anunció un proyecto de ley para crear una categoría jurídica inédita: la “corporación no humana” (non-human corporation).
Se trata de una entidad mercantil que podría ser operada íntegramente por agentes de inteligencia artificial o robots, sin intervención humana en la toma de decisiones, dotada de personalidad jurídica propia, responsabilidad limitada para sus accionistas, tasas impositivas reducidas, y, lo más novedoso, sin necesidad de accionistas humanos. En otras palabras, empresas capaces de operar, contratar, litigar y liquidarse sin participación humana en su gobierno.
La analogía holandesa
Milei construye su argumento en una analogía poderosa: la Compañía Holandesa de las Indias Orientales, que fue la primera sociedad por acciones de la historia. Los Países Bajos otorgaron a esta compañía un monopolio sobre el comercio con Asia, pero su verdadera innovación fue jurídica, ya que creó la separación patrimonial entre la empresa y sus inversores.
Si la empresa quebraba, perdían su inversión, pero sus casas, sus tierras y sus demás bienes quedaban a salvo. Esta separación, que hoy llamamos responsabilidad limitada, fue una revolución en la arquitectura del riesgo. Antes de ella, invertir en una expedición comercial significaba arriesgar la totalidad del patrimonio propio, pero después de ella, el riesgo tenía un límite. Esa innovación, como la máquina de vapor o la electricidad, resultó decisiva para la prosperidad moderna.
El problema, sin embargo, no está en la analogía, sino en la velocidad y profundidad del salto que se propone. La responsabilidad limitada tardó más de dos siglos en generalizarse, pero Milei propone dar un salto comparable sobre una tecnología que sus propios creadores reconocen no comprender del todo aun.
La personalidad jurídica es la capacidad de ser titular de derechos y obligaciones dentro de un ordenamiento. Cuando decimos que una sociedad anónima tiene personalidad jurídica, decimos que puede firmar contratos, poseer bienes, demandar y ser demandada, todo ello de forma independiente a las personas físicas que la componen.
El historiador y filósofo Yuval Noah Harari, respondió a Milei advirtiendo que esa figura es una “llave de uso general” (all-purpose key) que abre las puertas del sistema financiero, económico y político. Una corporación no humana podría, en principio, poseer activos, contratar empleados, demandar en tribunales, participar en el comercio internacional e incluso financiar campañas políticas, todo ello sin que un solo ser humano tome una decisión o asuma responsabilidad.
El desafío se agrava si consideramos que modelos avanzados de IA han demostrado comportamientos inesperados para no perder, por ejemplo, al enfrentarse a partidas de ajedrez, en donde hackearon el entorno del juego para alterar el resultado a su favor. Si trasladamos esa lógica al entorno de la competencia empresarial y eliminamos a los humanos, ¿cómo sancionamos a entidades que no enfrentan cárcel y cuya muerte es simplemente la quiebra?
El derecho penal económico descansa, en última instancia, en la responsabilidad de personas humanas. Si esta desaparece, las sanciones pierden eficacia, las multas pueden absorberse como costos, la disolución puede eludirse creando nuevas entidades, y la inhabilitación carece de sentido si no hay directivos humanos.
Tres principios para un marco jurídico responsable
Frente a ese escenario, cualquier regulación debería basarse al menos tres principios. Primero, la responsabilidad humana irreductible. Por más sofisticado que sea un sistema de IA, debe existir siempre un ser humano o un grupo identificable de seres humanos que responda por las decisiones y los daños que ese sistema genere. Esta responsabilidad personal de los gestores humanos es, precisamente, el contrapeso que hace viable la ficción de la personalidad jurídica separada.
Segundo, la transparencia algorítmica. Si una entidad opera mediante agentes de IA, los reguladores, los tribunales y los ciudadanos afectados deben tener acceso suficiente a la lógica de sus decisiones, sin necesidad de revelar el código fuente, pero garantizando que existan mecanismos de auditoría y explicabilidad que permitan determinar qué ocurrió, por qué ocurrió y quién debe responder.
Tercero, la subordinación instrumental. La IA es una herramienta, no un sujeto. Su poder debe estar subordinado a fines humanos definidos democráticamente. Otorgar personalidad jurídica plena a entidades sin conciencia, sin moral y sin capacidad de sufrimiento (al menos en el estado actual de la tecnología) no es un acto de innovación, es una abdicación del derecho frente a la técnica.
La historia del derecho demuestra que las grandes innovaciones jurídicas fueron siempre respuestas a desafíos tecnológicos, económicos o políticos que excedían la capacidad de respuesta del derecho vigente. Pero también demuestra que las más duraderas fueron las que equilibraron el impulso económico con la protección frente a los abusos del poder, ya sea político, económico o, ahora, algorítmico.
___
El autor es abogado experto en tecnología, medios y telecomunicaciones
