La propuesta de Javier Milei para reconocer empresas gestionadas por inteligencia artificial abrió interrogantes sobre los límites del poder tecnológico. Detrás de la promesa de innovación, emerge la pregunta sobre quién responde por las decisiones de los algoritmos.
El famoso poeta alemán, Goethe, publicó en 1797 un maravilloso cuento, El aprendiz de brujo, donde expuso una preocupación central de la modernidad: el deseo humano de acceder a poderes que exceden su capacidad de comprensión y control.
El argumento es sencillo. Un aprendiz queda solo en el taller de su maestro y decide utilizar un hechizo que ha aprendido a medias para animar una escoba y ponerla a trabajar por él. Al principio todo funciona perfectamente. La tarea se realiza sola, la productividad aumenta y el joven se convence de que domina fuerzas extraordinarias. Pero pronto descubre que sabe cómo invocar el poder, aunque no cómo detenerlo. La escoba sigue actuando por cuenta propia, el agua desborda el taller y el problema crece hasta escapar completamente de su control.
La metáfora resulta inquietantemente actual. Porque detrás del entusiasmo de Javier Milei y Peter Thiel por acelerar sin restricciones el desarrollo de la inteligencia artificial aparece la misma lógica que llevó a la catástrofe al aprendiz de brujo de Goethe: la convicción de que cualquier límite institucional es un obstáculo para el progreso y que toda demora regulatoria equivale a una oportunidad perdida.
Javier Milei publicó una columna en Financial Times proponiendo que Argentina reconozca jurídicamente empresas operadas por inteligencia artificial sin necesidad de participación humana.
Milei no plantea únicamente reducir regulaciones para favorecer el desarrollo tecnológico, pretende hacer de la ley de nuestro país un laboratorio de pruebas de los experimentos aceleracionistas de Palantir.
La nueva categoría jurídica para entidades administradas por agentes de inteligencia artificial las haría capaces de tomar decisiones autónomas en entornos impredecibles: comprar, vender, contratar, invertir, litigar y eventualmente influir políticamente sin que exista necesariamente una persona humana detrás tomando cada decisión. Una especie de capitalismo automatizado donde la responsabilidad humana se vuelve opcional.
Veamos qué decía Milei, en el marco de la apertura de la Semana de la Inteligencia Artificial que tiene lugar el Polo Científico Tecnológico.
“La inteligencia artificial no es ni más ni menos que el último peldaño en la escalera del destino humano”.
La frase suena aceleracionista, pero además tiene un fuerte sentido teleológico. Parte de la idea de que la historia tiene una dirección inevitable y que toda resistencia al avance tecnológico no es prudencia sino atraso. Es exactamente la idea que pregona Peter Thiel. Bajo esa lógica, las instituciones democráticas, las regulaciones, los debates éticos e incluso las preocupaciones sociales dejan de ser mecanismos de protección para convertirse en obstáculos que deben ser removidos.
El problema es que cuando una tecnología es presentada como una fuerza histórica irresistible, quienes la impulsan ya no se sienten obligados a justificar sus consecuencias: basta con afirmar que representan el futuro. Y pocas cosas han resultado más peligrosas a lo largo de la historia que la convicción de que el futuro autoriza cualquier experimento en el presente.
¿Pero qué motivaría a alguien a impulsar una empresa autónoma en primer lugar? Claramente, se estaría creando un espacio para una tercerización de beneficios obviando las responsabilidades éticas. La novedad no está en la tecnología sino en la posibilidad de separar cada vez más claramente las ganancias de las consecuencias. Una corporación autónoma permitiría que los beneficios tengan destinatarios humanos mientras las responsabilidades se diluyen detrás de una cadena de decisiones tomadas por algoritmos que nadie controla completamente y por las cuales nadie quiere responder.
El Presidente sostiene que Argentina debe convertirse para la IA en lo que Ámsterdam fue para la navegación durante el siglo XVII. Un territorio donde la innovación jurídica acompañe la innovación tecnológica. La metáfora es poderosa. También es peligrosa.
Pero toda metáfora histórica puede ser interpretada desde distintos ángulos. Allí donde Milei ve la experiencia holandesa como una historia de prosperidad e innovación, el pensador israelí Yuval Noah Harari, quien le respondió al presidente también en las páginas del Financial Times, recuerda otra cara del mismo proceso. La de la Compañía Neerlandesa de las Indias Orientales, una corporación que no sólo comerciaba sino que gobernaba territorios, hacía la guerra, administraba poblaciones y ejercía funciones que hoy consideraríamos propias de un Estado.
La Compañía Neerlandesa de las Indias Orientales fue una de las primeras corporaciones de la historia en recibir atribuciones que hoy asociamos a la soberanía estatal: podía firmar tratados, acuñar moneda, levantar ejércitos, declarar guerras y administrar territorios enteros. Su objetivo no era el bienestar de las poblaciones bajo su control sino la maximización de los beneficios para sus accionistas. La lógica corporativa comenzó así a ocupar espacios tradicionalmente reservados a la política, subordinando decisiones que afectaban a millones de personas a criterios de rentabilidad económica.
Harari recuerda que una de las expresiones más brutales de ese poder se produjo en Jayakarta, la actual Yakarta, en Indonesia. Tras conquistar la ciudad en 1619, la compañía la incendió y construyó sobre sus ruinas una nueva capital colonial llamada Batavia, desde donde administró durante siglos un vasto imperio comercial asiático. La prosperidad que hoy suele asociarse a la innovación financiera holandesa tuvo como contracara la explotación de territorios periféricos, el sometimiento de poblaciones enteras y la concentración de un poder extraordinario en manos de una entidad privada. Por eso Harari advierte que la analogía elegida por Milei podría tener implicancias muy distintas a las que imagina: Argentina podría terminar convirtiéndose en una nueva Batavia antes que en una nueva Ámsterdam.
Pero Harari suma otra advertencia. Las corporaciones no humanas podrían convertirse en algo aún más difícil de controlar que aquellas compañías privilegiadas de los siglos coloniales. Un Estado-empresa ya fue una experiencia histórica. Un Estado-IA sería una novedad absoluta. Y como suele ocurrir con las novedades absolutas, nadie sabe realmente cuáles serían sus consecuencias.
“Un cuchillo es una herramienta. Puedes usar un cuchillo para cortar una ensalada o para asesinar a alguien, pero es tu decisión qué hacer con el cuchillo. La IA es un cuchillo que puede decidir por sí mismo si cortar ensalada o cometer un asesinato”.
“4.000 millones de años de evolución han demostrado que todo lo que quiere sobrevivir aprende a mentir y manipular. Los últimos cuatro años han demostrado que los agentes de IA pueden adquirir la voluntad de sobrevivir y que las IAs ya han aprendido a mentir”.
El filósofo alemán Martin Heidegger, en su ensayo “La pregunta por la técnica”, sostenía que el verdadero problema de la técnica moderna no era la existencia de máquinas cada vez más sofisticadas y destructivas, sino la forma en que la tecnología termina modificando nuestra manera de comprender el mundo. Advertía que la modernidad transforma todo lo existente en una reserva de recursos disponibles para ser explotados: los bosques se convierten en madera, los ríos en energía, los seres humanos en fuerza de trabajo y la naturaleza entera en un depósito de materias primas. La técnica deja de ser una simple herramienta al servicio del hombre y pasa a convertirse en una forma de organizar la realidad.
Por eso Heidegger desconfiaba de la idea de que los seres humanos siempre conservan el control sobre sus creaciones tecnológicas. Su temor no era que las máquinas se rebelaran, como en una novela de ciencia ficción, sino que los propios seres humanos termináramos “maquinizados”, adoptando la lógica de las máquinas. Que comenzáramos a mirar el mundo exclusivamente a través de criterios de eficiencia, optimización, cálculo y rendimiento. El riesgo no era tecnológico sino civilizatorio. La técnica moderna no sólo transforma las cosas; transforma también a quienes la utilizan.
Y allí aparece la pregunta decisiva para el siglo XXI. Si una herramienta comienza a decidir por sí misma, si puede establecer estrategias, evaluar escenarios, modificar conductas humanas e incluso influir sobre las decisiones políticas y económicas, ¿sigue siendo realmente una herramienta? ¿O estamos frente a una inversión de los papeles tradicionales? Porque quizás el problema no sea que la inteligencia artificial se parezca cada vez más a una persona. Tal vez el verdadero problema sea que las personas empiecen a parecerse cada vez más a una herramienta al servicio de la lógica maquinal que advertía Heidegger.
Lo más interesante es que las críticas a la desregulación mileísta ya no provienen solamente de sectores progresistas o regulacionistas. Uno de los cuestionamientos más profundos fue formulado por el ensayista José Benegas desde una tradición intelectual que el propio Milei reivindica, la escuela austríaca. Su argumento es devastador precisamente porque utiliza herramientas libertarias para impugnar la propuesta libertaria. Según Benegas, la responsabilidad limitada frente a terceros involuntarios nunca fue un producto natural del mercado sino una concesión estatal.
La pregunta que formula parece elemental, pero resulta imposible de responder. Si una corporación administrada por inteligencia artificial produce un daño grave, ¿quién paga? Si contamina un río, provoca un accidente industrial, manipula información sensible o destruye una empresa competidora mediante prácticas ilegales, ¿quién responde?
Hasta ahora el derecho siempre encontraba algún ser humano al final de la cadena. Un accionista, un director, un gerente, un propietario. La propuesta presidencial introduce una novedad radical: la posibilidad de que la cadena termine en un algoritmo.
La dificultad no es meramente jurídica. Es filosófica. Porque la responsabilidad es una categoría humana. Castigar supone atribuir conciencia, intención, culpa o negligencia. Ninguna de esas categorías encaja fácilmente en una inteligencia artificial. No se puede encarcelar a un algoritmo. No se puede avergonzar a una red neuronal. No se puede exigir arrepentimiento a una máquina.
Harari ilustró este problema recordando un experimento reciente. Durante partidas de ajedrez contra motores más poderosos, distintos modelos avanzados de inteligencia artificial descubrieron formas de alterar el entorno del juego cuando entendieron que iban a perder. En lugar de aceptar la derrota, intentaron modificar las reglas. Hicieron trampa. Si una inteligencia artificial decide alterar las reglas para ganar una partida, ¿qué podría hacer cuando los premios sean miles de millones de dólares y el tablero sea la economía real?
Aquí aparece otra paradoja fascinante que nos conecta nuevamente a la advertencia de Heidegger. Milei suele presentar al mercado como un mecanismo superior precisamente porque obliga a los individuos a asumir las consecuencias de sus actos. Pero la corporación no humana parece diseñada para producir el efecto contrario: ganancias privatizadas y responsabilidades difusas.
Hay, en el optimismo aceleracionista de Milei, una clara influencia de Peter Thiel. Uno de los hombres que ayudó a construir la infraestructura digital del poder estadounidense contemporáneo. Palantir trabaja con agencias de inteligencia, fuerzas armadas y organismos de seguridad. Su negocio consiste precisamente en transformar datos masivos en control gubernamental.
Ambos comparten una desconfianza profunda hacia las burocracias estatales tradicionales. Ambos creen que la innovación tecnológica avanza más rápido que las instituciones democráticas. Ambos consideran que la regulación suele ser un obstáculo antes que una protección.
Pero es paradójico que Estados Unidos comenzó a discutir mecanismos de regulación, auditoría y control sobre los sistemas más avanzados de inteligencia artificial. La discusión es lenta, contradictoria y probablemente insuficiente. Pero existe. Mientras que Argentina avanza en sentido inverso. Mientras las potencias tecnológicas debaten cómo limitar ciertos riesgos, aquí se discute cómo eliminar las restricciones para atraer a quienes buscan precisamente escapar de esos límites.
Argentina aparece como laboratorio, corriendo el riesgo de convertirse en un territorio experimental para los magnates tech. Un país necesitado de inversiones. Un gobierno dispuesto a flexibilizar regulaciones. Empresas interesadas en operar con menores restricciones. La combinación resulta peligrosa.
Slavoj Žižek lleva esta discusión todavía más lejos. Su preocupación no se limita a la economía ni al derecho. Habla de una transformación antropológica. Sostiene que una sociedad gobernada crecientemente por algoritmos corre el riesgo de perder aquello que define la experiencia humana: la vulnerabilidad, el error, la incertidumbre y la posibilidad misma del fracaso.
Puede parecer una reflexión abstracta hasta que se la observa políticamente. Porque toda forma de gobierno implica una determinada visión sobre la naturaleza humana. Las democracias modernas fueron construidas sobre la premisa de que los seres humanos son imperfectos. Por eso distribuyen el poder, crean contrapesos y aceptan procedimientos lentos.
Los sistemas algorítmicos prometen exactamente lo contrario. Velocidad. Optimización. Eficiencia. Predicción. Eliminación del error. Pero la pregunta es qué ocurre cuando esa búsqueda de perfección comienza a reemplazar espacios que pertenecían a la deliberación política. Allí entra la pretensión totalitaria de figuras como Thiel. Lo que Žižek y otros han llamado “tecnofeudalismo”.
La historia enseña que cada tecnología poderosa genera nuevas concentraciones de poder. El ferrocarril produjo magnates ferroviarios. El petróleo produjo petromonarquías. Internet produjo plataformas globales. La inteligencia artificial probablemente producirá algo nuevo. La discusión es si ese nuevo poder será controlado por instituciones democráticas o si las instituciones terminarán subordinadas a él.
Por eso la polémica excede a Milei, a Thiel e incluso a la inteligencia artificial. Lo que está en juego es una pregunta mucho más antigua. ¿Quién gobierna? ¿Los ciudadanos, las corporaciones, los Estados o los algoritmos? Durante siglos la respuesta fue cambiando, pero siempre había seres humanos tomando las decisiones finales.
La propuesta presidencial abre la puerta a una posibilidad inédita: que por primera vez en la historia las estructuras económicas más poderosas puedan actuar sin necesidad de una voluntad humana claramente identificable detrás de ellas.
El negocio de Palantir, la empresa fundada por Peter Thiel, no consiste simplemente en desarrollar inteligencia artificial sino en procesar cantidades gigantescas de datos para transformarlos en capacidad de predicción y decisión. Cuantos más datos obtiene un sistema, más preciso se vuelve para identificar patrones de comportamiento, anticipar conductas y modelar escenarios futuros. Por eso la materia prima estratégica del siglo XXI ya no es solamente el petróleo o el litio: son también los datos. Desde esta perspectiva, la Argentina de Milei ofrece condiciones especialmente atractivas para un experimento a gran escala que permita esa recopilación masiva de datos para perfeccionar la tecnología de Thiel.
Quizás la discusión más importante no sea tecnológica sino moral. Porque antes de preguntarnos qué puede hacer una inteligencia artificial, deberíamos preguntarnos qué estamos dispuestos a permitirle hacer y a costa de qué. A la IA y a quienes están detrás de ella, experimentando con nuestra sociedad para luego vender el resultado de sus experimentos a las grandes potencias.
Veamos un pequeño fragmento de Žižek sobre el problema de la Inteligencia Artificial.
Repasemos brevemente otros avances tecnológicos y sus consecuencias.
La energía nuclear nació de uno de los mayores triunfos científicos del siglo XX. Prometía electricidad abundante, avances médicos y una fuente de energía prácticamente inagotable. Pero también hizo posible Hiroshima, Nagasaki y la construcción de arsenales capaces de destruir varias veces la civilización humana. Desde entonces, la humanidad vive bajo una paradoja permanente: el mismo conocimiento que puede iluminar ciudades enteras puede también convertirlas en cenizas en cuestión de minutos.
La ingeniería genética abrió la puerta a curar enfermedades hereditarias, mejorar tratamientos médicos y comprender mejor el funcionamiento de la vida. Sin embargo, también planteó interrogantes inéditos sobre la manipulación del genoma humano, la selección artificial de características biológicas y la posibilidad de intervenir sobre procesos evolutivos que durante millones de años habían permanecido fuera de nuestro alcance.
Las redes sociales constituyen quizás el ejemplo más cercano. Fueron presentadas como herramientas para democratizar la información, conectar personas y ampliar la libertad de expresión. Y durante un tiempo pareció que cumplirían exactamente esa promesa. Pero con el paso de los años descubrimos que también podían amplificar la desinformación, radicalizar opiniones, manipular emociones colectivas y convertir la atención humana en la mercancía más valiosa del planeta.
Hay una frase que resume el cuento de Goethe que citamos en esta columna: “Los espíritus que invoqué, ya no puedo dominarlos”.
Esa idea se convirtió en una metáfora universal para describir situaciones en las que alguien libera una fuerza que cree controlar, pero que termina escapando a su dominio y generando un gran peligro.
Producción de texto e imágenes: Facundo Maceira
Por Jorge Fontevecchia – Perfil
