¿Reyes filósofos o militaristas de la Nueva Era?: Silicon Valley y la carrera hacia la guerra automatizada
William D. Hartung
Las empresas de capital riesgo y las startups militares de Silicon Valley han empezado a vender agresivamente una versión de la guerra automatizada que incorporará profundamente la inteligencia artificial (IA). Esas empresas y sus directores ejecutivos están ahora presionando a toda velocidad con esa tecnología emergente, desestimando en gran medida el riesgo de fallos de funcionamiento que podrían conducir a la futura matanza de civiles, por no hablar de la posibilidad de peligrosos escenarios de escalada entre las principales potencias militares. Las razones de esta precipitada carrera incluyen una fe equivocada en las «armas milagrosas», pero por encima de todo, esta oleada de apoyo a las tecnologías militares emergentes está impulsada por la razón última del complejo militar-industrial: enormes sumas de dinero por ganar.
Los nuevos entusiastas de la tecnología
Aunque algunos militares y miembros del Pentágono están preocupados por el riesgo futuro de las armas de IA, los dirigentes del Departamento de Defensa están totalmente de acuerdo. Su enérgico compromiso con la tecnología emergente se transmitió por primera vez al mundo en un discurso pronunciado en agosto de 2023 por la Vicesecretaria de Defensa, Kathleen Hicks, ante la Asociación Industrial de Defensa Nacional, el mayor grupo comercial de la industria armamentística del país. Aprovechó la ocasión para anunciar lo que denominó «la Iniciativa Replicante», un esfuerzo global para ayudar a crear «un nuevo estado de la técnica –como ya ha hecho Estados Unidos– que aproveche los sistemas autónomos y destruibles en todos los ámbitos, que sean menos costosos, pongan a menos personas en la línea de fuego y puedan cambiarse, actualizarse o mejorarse con plazos sustancialmente más cortos».
Hicks no tuvo reparos en señalar la razón principal de esta carrera hacia la guerra robótica: superar e intimidar a China. «Debemos asegurarnos de que los dirigentes de la República Popular China se despierten todos los días, consideren los riesgos de la agresión y concluyan: “hoy no es el día”, y no sólo hoy, sino todos los días, de aquí a 2027, de aquí a 2035, de aquí a 2049 y más allá».
La confianza suprema de Hick en la capacidad del Pentágono y de los fabricantes de armas estadounidenses para librar futuras tecno-guerras se ha visto reforzada por un grupo de militaristas de la nueva era en Silicon Valley y más allá, encabezados por líderes corporativos como Peter Thiel de Palantir, Palmer Luckey de Anduril, y capitalistas de riesgo como Marc Andreessen de Andreessen Horowitz.
¿Patriotas o aprovechados?
Estos promotores corporativos de una nueva forma de guerra también se ven a sí mismos como una nueva raza de patriotas, listos y capaces de afrontar con éxito los retos militares del futuro.
Un ejemplo de ello es «Rebooting the Arsenal of Democracy», un extenso manifiesto publicado en el blog de Anduril. En él se defiende la superioridad de las startups de Silicon Valley sobre los gigantes de la industria militar de la vieja escuela, como Lockheed Martin, a la hora de suministrar la tecnología necesaria para ganar las guerras del futuro:
«Los mayores contratistas de defensa cuentan con patriotas que, sin embargo, no tienen la experiencia en software ni el modelo de negocio para construir la tecnología que necesitamos… Estas empresas construyeron las herramientas que nos mantuvieron a salvo en el pasado, pero no son el futuro de la defensa».
En contraste con el enfoque de la era industrial que critica, Luckey y sus compatriotas de Anduril buscan una forma totalmente nueva de desarrollar y vender armas:
«El software cambiará la forma de hacer la guerra. El campo de batalla del futuro estará repleto de sistemas no tripulados, artificialmente inteligentes, que combaten, recopilan datos de reconocimiento y se comunican a velocidades impresionantes».
A primera vista, Luckey parece un candidato claramente improbable para haber llegado tan lejos en las filas de los ejecutivos de la industria armamentística. Hizo su primera fortuna creando el dispositivo de realidad virtual Oculus, un artículo novedoso que los usuarios pueden atarse a la cabeza para experimentar una variedad de escenas en 3D (con la sensación de que están incrustados en ellas). Sus gustos sartoriales se inclinan por las sandalias y las camisas hawaianas, pero ahora se ha metido de lleno en el trabajo militar. En 2017 fundó Anduril, en parte con el apoyo de Peter Thiel y su firma de inversión, Founders Fund. En la actualidad, Anduril fabrica drones autónomos, sistemas automatizados de mando y control y otros dispositivos destinados a acelerar la velocidad a la que el personal militar puede identificar y destruir objetivos.
Thiel, mentor de Palmer Luckey, ofrece un ejemplo de cómo los líderes de las nuevas startups armamentísticas difieren de los titanes de la época de la Guerra Fría. Para empezar, está totalmente a favor de Donald Trump. Hubo un tiempo en que los jefes de los principales fabricantes de armas, como Lockheed Martin, trataban de mantener buenos vínculos tanto con demócratas como con republicanos, haciendo importantes contribuciones de campaña a ambos partidos y a sus candidatos y contratando a grupos de presión con conexiones en ambos lados del pasillo. La lógica para hacerlo no podía parecer más clara entonces. Querían cimentar un consenso bipartidista para gastar cada vez más en el Pentágono, una de las pocas cosas en las que la mayoría de los miembros clave de ambos partidos estaban de acuerdo. Y también querían mantener buenas relaciones con el partido que controlara la Casa Blanca o el Congreso en cada momento.
Los advenedizos de Silicon Valley y sus representantes también critican mucho más a China. Son los más fríos (¿o quiero decir los más calientes?) de los nuevos guerreros fríos de Washington, empleando una retórica más dura que el Pentágono o los grandes contratistas. Por el contrario, los grandes contratistas suelen blanquear sus críticas a China y su apoyo a guerras en todo el mundo que han contribuido a engrosar sus cuentas de resultados a través de think tanks, que han financiado con decenas de millones de dólares anuales.
La principal empresa de Thiel, Palantir, también ha sido criticada por proporcionar sistemas que han permitido duras medidas de represión en las fronteras por parte del Servicio de Inmigración y Control de Aduanas de Estados Unidos (ICE), así como la «policía predictiva». Esto (no te sorprenderá saberlo) implica la recopilación de grandes cantidades de datos personales sin una orden judicial, basándose en algoritmos con prejuicios raciales incorporados que conducen a la selección y el tratamiento sistemáticamente injustos de las personas de color.
Para comprender cómo ven los militaristas de Silicon Valley la guerra de nueva generación, hay que echar un vistazo al trabajo de Christian Brose, director de estrategia de Palantir. Fue durante mucho tiempo reformador militar y antiguo ayudante del difunto senador John McCain. Su libro Kill Chain es una especie de biblia para los defensores de la guerra automatizada. Su observación clave: que el vencedor en combate es el bando que puede acortar más eficazmente la «cadena de muerte» (el tiempo que transcurre entre la identificación de un objetivo y su destrucción). Su libro asume que el adversario más probable en la próxima guerra tecnológica será China y procede a exagerar las capacidades militares de Pekín, al tiempo que exagera sus ambiciones militares e insiste en que superar a ese país en el desarrollo de tecnologías militares emergentes es el único camino hacia la victoria futura.
Y no hay que olvidar que la visión de Brose de acortar esa cadena mortal plantea riesgos inmensos. A medida que disminuye el tiempo para decidir qué acciones tomar, la tentación de dejar a los humanos «fuera de juego» no hará sino crecer, dejando las decisiones de vida o muerte en manos de máquinas sin brújula moral y vulnerables a fallos catastróficos del tipo inherente a cualquier sistema de software complejo.
Gran parte de la crítica de Brose al actual complejo militar-industrial es cierta. Unas pocas grandes empresas se enriquecen fabricando enormes plataformas armamentísticas cada vez más vulnerables, como portaaviones y tanques, mientras el Pentágono gasta miles de millones en una vasta y costosa red de bases mundiales que podría sustituirse por una huella militar mucho más reducida y dispersa. Por desgracia, su visión alternativa plantea más problemas de los que resuelve.
En primer lugar, no hay garantías de que los sistemas basados en software que promueve Silicon Valley funcionen como se anuncia. Después de todo, hay una larga historia de «armas milagrosas» que fracasaron, desde el campo de batalla electrónico de Vietnam hasta el desastroso escudo antimisiles de la Guerra de las Galaxias del presidente Ronald Reagan. Incluso cuando la capacidad de encontrar y destruir objetivos con mayor rapidez mejoró realmente, guerras como las de Irak y Afganistán, libradas utilizando esas mismas tecnologías, fueron estrepitosos fracasos.
Una reciente investigación del Wall Street Journal sugiere que también se está sobrevalorando la nueva generación de tecnología militar. El Journal descubrió que los nuevos aviones no tripulados estadounidenses de gama alta suministrados a Ucrania para su guerra defensiva contra Rusia han demostrado ser demasiado «defectuosos y caros», hasta el punto de que, ironía de ironías, los ucranianos han optado por comprar en su lugar aviones no tripulados chinos más baratos y fiables.
Por último, el planteamiento defendido por Brose y sus acólitos va a aumentar las probabilidades de guerra, ya que la arrogancia tecnológica infunde la creencia de que Estados Unidos puede «vencer» en un conflicto a una potencia rival con armas nucleares como China, si tan sólo invertimos en una nueva y ágil fuerza de alta tecnología.
El resultado, como mi colega Michael Brenes y yo señalamos recientemente, son los incalculables miles de millones de dólares de dinero privado que ahora se vierten en empresas que buscan ampliar las fronteras de la tecno-guerra. Las estimaciones oscilan entre 6.000 y 33.000 millones de dólares anuales y, según el New York Times, 125.000 millones en los últimos cuatro años. Cualesquiera que sean las cifras, el sector tecnológico y sus patrocinadores financieros intuyen que se pueden ganar enormes cantidades de dinero con el armamento de nueva generación y no van a dejar que nadie se interponga en su camino.
Mientras tanto, una investigación de Eric Lipton del New York Times encontró que los capitalistas de riesgo y las empresas de nueva creación que ya están impulsando el ritmo de la guerra impulsada por la IA también están contratando afanosamente a ex funcionarios militares y del Pentágono para hacer su oferta. En lo alto de la lista figura el ex secretario de Defensa de Trump, Mark Esper. Tales conexiones pueden estar impulsadas por el fervor patriótico, pero una motivación más probable es simplemente el deseo de enriquecerse. Como señaló Ellen Lord, ex jefa de adquisiciones del Pentágono: «Los vínculos entre la comunidad de defensa y el capital privado tienen ahora mucho estilo. Pero también esperan poder hacer caja a lo grande y ganar mucho dinero».
El Rey Filósofo
Otra figura central en el movimiento hacia la construcción de una máquina de guerra de alta tecnología es el ex CEO de Google, Eric Schmidt. Sus intereses van mucho más allá del ámbito militar. Se ha convertido prácticamente en el rey de la filosofía cuando se trata de cómo las nuevas tecnologías reconfigurarán la sociedad y, de hecho, lo que significa ser humano. Lleva tiempo reflexionando sobre estas cuestiones y expuso sus puntos de vista en un libro de 2021 titulado modestamente The Age of AI and Our Human Future (La era de la inteligencia artificial y nuestro futuro humano), escrito en coautoría nada menos que con el difunto Henry Kissinger. Schmidt es consciente de los peligros potenciales de la IA, pero también está en el centro de los esfuerzos para promover sus aplicaciones militares. Aunque renuncia al enfoque mesiánico de algunas figuras prometedoras de Silicon Valley, está abierto a debate si su enfoque aparentemente más reflexivo contribuirá al desarrollo de un mundo de armamento de IA más seguro y sensato.
Empecemos por lo más básico de todo: el grado en que Schmidt piensa que la IA cambiará la vida tal y como la conocemos es extraordinario. En ese libro suyo y de Kissinger, afirmaban que desencadenaría «la alteración de la identidad humana y de la experiencia humana a niveles no vistos desde los albores de la era moderna», argumentando que el «funcionamiento de la IA presagia un progreso hacia la esencia de las cosas, progreso que filósofos, teólogos y científicos han buscado, con éxito parcial, durante milenios».
Por otra parte, el grupo gubernamental sobre inteligencia artificial en el que participó Schmidt reconoció plenamente los riesgos que plantean los usos militares de la IA. La pregunta sigue en el aire: ¿Apoyará, al menos, fuertes salvaguardas contra su uso indebido? Durante su mandato como jefe de la Junta de Innovación de Defensa del Pentágono de 2017 a 2020, ayudó a sentar las bases para las directrices del Pentágono sobre el uso de la IA que prometían que los humanos siempre «estarían al día» en el lanzamiento de armas de nueva generación. Pero como señaló un crítico de la industria tecnológica, una vez despojados de la retórica, las directrices «no impiden realmente hacer nada».
De hecho, la senadora demócrata Elizabeth Warren y otros defensores del buen gobierno se preguntaron si el papel de Schmidt al frente de la Unidad de Innovación de Defensa no representaba un posible conflicto de intereses. Al fin y al cabo, mientras ayudaba a dar forma a sus directrices sobre las aplicaciones militares de la IA, también invertía en empresas que podían beneficiarse de su desarrollo y uso. Su entidad de inversión, America’s Frontier Fund, invierte regularmente en nuevas empresas de tecnología militar, y una organización sin ánimo de lucro fundada por él, el Special Competitive Studies Project, describe su misión como «fortalecer la competitividad a largo plazo de Estados Unidos a medida que la inteligencia artificial (IA) [reconfigura] nuestra seguridad nacional, economía y sociedad». El grupo está conectado con un quién es quién de los líderes militares y de la industria tecnológica y está presionando, entre otras cosas, para que haya menos regulación sobre el desarrollo de la tecnología militar. En 2023, Schmidt incluso fundó una empresa de drones militares, White Stork, que, según Forbes, ha estado probando en secreto sus sistemas en Menlo Park, un suburbio de Silicon Valley.
La cuestión ahora es si se puede convencer a Schmidt de que utilice su considerable influencia para frenar los usos más peligrosos de la IA. Desgraciadamente, su entusiasmo por utilizarla para mejorar las capacidades bélicas sugiere lo contrario:
«De vez en cuando aparece una nueva arma, una nueva tecnología que cambia las cosas. Einstein escribió una carta a Roosevelt en los años 30 en la que le decía que había una nueva tecnología –las armas nucleares– que podía cambiar la guerra, y está claro que lo hizo. Yo diría que la autonomía [impulsada por la IA] y los sistemas descentralizados y distribuidos son así de poderosos».
Dados los riesgos ya citados, comparar la IA militarizada con el desarrollo de armas nucleares no debería ser precisamente tranquilizador. La combinación de ambas –armas nucleares controladas por sistemas automáticos sin intervención humana– se ha descartado hasta ahora, pero no cuente con que perdure. Sigue siendo una posibilidad, a falta de salvaguardias sólidas y aplicables sobre cuándo y cómo puede utilizarse la IA.
La IA está al caer y su impacto en nuestras vidas, ya sea en la guerra o en la paz, probablemente asombrará a la imaginación. En ese contexto, una cosa está clara: no podemos permitirnos que las personas y empresas que más se beneficiarán de su aplicación desenfrenada tengan la sartén por el mango a la hora de establecer las normas sobre cómo debe utilizarse.
¿No es hora de enfrentarse a los guerreros de la nueva era?
Fuente: Tom dispatch, 25 de junio de 2024 (https://tomdispatch.com/philosopher-kings-or-new-age-militarists/)
