El matí del 28 de febrer, desenes de nenes i docents van ingressar a l’escola primària Shajareh Tayyebeh de Minab, una ciutat de més de 70.000 habitants al sud de l’Iran. Era dissabte, el primer dia de la setmana laboral al país. També el primer dia de l’operació Fúria Èpica, com va anomenar el Pentàgon l’ofensiva que va llançar contra l’Iran al costat d’Israel (Tel Aviv, per la seva banda, la va anomenar Rugit del Lleó).
Els míssils Tomahawk no són qualsevol míssil. Poden cobrir més de 2.000 quilòmetres de manera autònoma, a velocitats properes als 880 km/h, i impactar en l’objectiu amb un marge d’error de pocs metres.
L’escola estava ubicada en un edifici que fa una dècada va ser separat d’ una base de les forces navals del Cos de Guardians mitjançant un mur. Aquesta base també va ser copejada en els atacs del 28 de febrer. Per això, és probable que els Estats Units identifiquessin aquesta base com a objectiu militar però que els mapes utilitzats per a aquesta identificació no estiguessin actualitzats. Però, qui és responsable d’aquest error en una guerra en què es combat essencialment amb intel·ligència artificial?
La cadena de mort
En termes militars, amb kill chain (literalment, ‘cadena de mort’) ens referim a la seqüència d’accions que passa entre la identificació d’un objectiu, la decisió d’atacar i el desplegament de l’atac. Durant gairebé un segle, els exèrcits han intentat comprimir la kill chain tot el possible, cosa que permetria atacar l’enemic de manera més ràpida i eficaç.
Aquest desig es va convertir en necessitat per primera vegada durant la Guerra del Golf de l’any 1991, quan els iraquians van fer servir llançadors mòbils de míssils capaços de desplaçar-se diversos quilòmetres abans que els nord-americans poguessin coordinar una resposta. Les velles tècniques analògiques, en què els analistes havien de revisar manualment mapes, enregistraments i altres dades, no servien. Calien màquines capaces de volar tan baix com per esquivar els radars, identificar un objectiu i eliminar-lo en minuts. En poques paraules, drons armats : vehicles capaços de volar (i atacar) sense tripulació a bord.
El primer exemple va arribar el 2001, quan el capità de la Força Aèria dels EUA Scott Swanson i el sergent major Jeff A. Gunny Guay van intentar matar, sense èxit, el mul·là Omar, líder dels talibans i aliat d’ Ossama Bin Laden, mentre controlaven un dron armat Predator des de Laria. Tot i que la missió no va obtenir els resultats esperats, els drons Predator i el més pesat Reaper en poc temps es van convertir en instruments claus de les missions militars tant dels EUA com d’Israel. El seu ús es va ampliar enormement durant la presidència de Barack Obama, arribant fins i tot a ser considerats per alguns més «humans» que altres atacs.
«La pregunta és si els drons ens temptaran a fer coses incorrectes. Però no sembla que sigui així, perquè tenim casos en què els drons es van fer servir de manera justa, i sembla que, en realitat, milloren la nostra capacitat d’actuar amb justícia», va dir el 2012 a The Guardian Bradley Strawser, filòsof i llavors professor a la Universitat Naval de Monterrey. «Literalment cada acció que realitzen queda registrada. Davant una decisió difícil, els operadors poden fins i tot prendre el seu temps i trucar a altres persones a la sala. Hi ha més marge per als controls i la supervisió», va argumentar.
Però amb l’augment de les dades, a poc a poc els controls i la supervisió es van tornar cada vegada més complexos. «En un futur no gaire llunyà, ens trobarem nedant en sensors i ofegant-nos en dades» , va aventurar el 2010 un alt càrrec d’intel·ligència de la Força Aèria nord-americana. I això va ser el que va passar. La difusió de xarxes socials, drons i tecnologies de vigilància massiva van augmentar enormement la disponibilitat de dades a les mans dels exèrcits per identificar i rastrejar objectius. Això va portar un coll d’ampolla. Qui podia analitzar tanta informació? La intel·ligència artificial va portar la resposta.
Guerra sense pilot
«L’objectiu dels sistemes d’IA és alliberar l’ésser humà del processament cognitiu; fer les coses més ràpides i eficients», comenta a La Marea Elke Schwarz , professora de Teoria Política a la Universitat Queen Mary de Londres i autora del llibre Death Machines: The Ethics of Violent Technologies (2018). Fa anys que Schwarz estudiant les conseqüències reals i potencials de l’afany humà per automatitzar al màxim la pràctica de matar-se els uns als altres.
La seva investigació va començar a principis de la dècada de 2010, anys abans de la invasió russa d’ Ucraïna , una guerra que ha esdevingut un camp d’experimentació per a l’ús d’algorismes i intel · ligència artificial en batalla. «Moltes empreses emergents va portar les noves tecnologies al conflicte», assenyala Schwarz.
Molt aviat, la asimetria del conflicte a Ucraïna va portar lús massiu de drons teledirigits. A diferència dels complexos i costosos sistemes Predator , aquests eren instruments barats que, amb una inversió de tot just 500 dòlars i comandats de forma remota, eren capaços de destruir tancs . Tot i això, es van revelar vulnerables davant la guerra electrònica, és a dir, atacs que interrompen la comunicació entre el dron i el seu pilot. Això va propiciar que s’impulsés el desenvolupament d’aeronaus amb capacitats autònomes de vol i atac.
Els drons autònoms estan dotats de programari capaç de transportar explosius al llarg de centenars de quilòmetres i localitzar objectius. Un altre tipus de drons, de quatre hèlixs, es van dotar d’intel·ligència artificial per atacar soldats russos sense intervenció humana quan les comunicacions fallessin . El pas següent van ser els eixams de drons, capaços de perpetrar atacs massius sense necessitat de comptar amb desenes d’operadors.
Entre les innovacions desplegades a Ucraïna, destaca l’enviament, el febrer del 2026, de dos robots humanoides Phantom MK-1 per complir funcions descrites oficialment com a «de suport» i no de combat. Segons la startup californiana Foundation que els ha creat, aquest model seria el primer autòmat dissenyat específicament per a zones de conflicte armat. «El que estem veient ara és el primer intent maldestre de com els robots lliuraran les nostres guerres» , va declarar a la revista Time Mike LeBlanc , cofundador de l’empresa i veterà dels Marines amb experiència a l’Iraq i l’Afganistan. «Però, en realitat, només estan esperant que comenci l?espectacle», va afegir.
Al marge del possible desenvolupament d’aquests robots, actualment les decisions bèl·liques ja passen per les principals empreses d’intel·ligència artificial, les mateixes que dissenyen els chatbots (assistents conversacionals d’IA) que cada dia fan servir milions de persones per corregir correus electrònics.
Decisions d’algorismes
El llibre The Making of the Atomic Bomb , de Richard Rhodes , publicat el 1986 i guanyador del premi Pulitzer, ha esdevingut una de les lectures més populars a les oficines d’Anthropic, l’empresa creadora del chatbot Claude. Com escrivia Charlie Warzel el 2023 al mitjà The Atlantic , l’obra s’ha convertit en una mena de text fundacional per a cert tipus d’investigadors a IA: els que creuen que les seves creacions podrien tenir el poder de matar-nos a tots.
El febrer d’aquest any, el secretari de Defensa nord-americà Pete Hegseth va exigir a Anthropic accés sense restriccions als sistemes d’intel·ligència artificial per a qualsevol ús militar. La resposta del conseller delegat, Dario Amodei, va ser una negativa pública : «En consciència, no podem acceptar la seva petició». Hegseth va contestar designant Anthropic com a «risc per a la cadena de subministrament», una qualificació reservada habitualment a empreses vinculades amb governs adversaris, com la xinesa Huawei o la russa Kaspersky.
En resposta, Anthropic va demanar al Govern, que pel seu compte va començar el procés de reemplaçar Claude amb els models d’empreses que suposadament van acceptar les seves condicions, com ChatGPT , d’OpenAI, i Gemini , de Google. Fins aleshores, la col·laboració entre aquesta empresa –fundada per exmembres d’OpenAI– i el Departament de Defensa havia estat estreta.
El Comandament Central dels Estats Units (CENTCOM) hauria utilitzat una versió classificada de Claude per assistir en avaluacions d’intel·ligència, identificació d’objectius i simulació d’escenaris de combat durant operacions militars a l’Iran. Segons va revelar The Wall Street Journal , Claude també hauria estat emprat en l’operació militar nord-americana que va conduir a la captura del president veneçolà Nicolás Maduro el gener d’aquest any.
A més, Anthropic ja s’havia associat amb Palantir Technologies , el gegant d’anàlisis de dades cofundat per Peter Thiel i un dels principals contractistes tecnològics del Pentàgon. En particular, Claude seria clau per al funcionament del sistema Maven Smart , dissenyat per Palantir i suposadament utilitzat per l’Exèrcit dels EUA en la guerra a l’Iran. Maven és capaç de processar volums enormes de dades classificades procedents de satèl·lits, vigilància i altres fonts d’intel·ligència, i generar-ne a partir d’elles informació operativa. Segons Hegseth, durant les primeres 24 hores de la seva ofensiva, els EUA van atacar més de mil objectius.
«Suggereixen milers d’objectius i després tens un equip reduït de persones per comprovar-los o validar-los, però ho han de fer a tota velocitat», subratlla Schwarz a La Marea . «Passa tan ràpid que ens hem de preguntar si hi pot haver una supervisió significativa o si l’humà simplement va dient “sí, no, sí, no”, absorbit per la lògica funcional del sistema d’IA, per la lògica de la màquina”.
Segons una investigació publicada l’any 2024 per la revista israeliana-palestina +972 Magazine , Israel va emprar el sistema Lavender a Gaza per analitzar dades de vigilància massiva de gairebé la totalitat dels 2,3 milions d’habitants de la Franja. El sistema assigna a cada individu una puntuació de l’1 al 100 segons la probabilitat de ser milicià. La investigació indica que la supervisió humana es reduïa sovint a una validació pro forma d’aproximadament 20 segons per objectiu, tractant a la pràctica el suggeriment de la màquina com una decisió ferma.
En comprovar-se que Lavender suposadament arribava a un 90% de precisió en la identificació d’afiliacions amb Hamàs, l’Exèrcit va autoritzar-ne l’ús generalitzat. A partir d’aquell moment, segons les fonts de +972 Magazine , si Lavender determinava que un individu era milicià, els operadors havien de tractar aquesta decisió com una ordre, sense necessitat de verificar de manera independent el raonament algorítmic ni examinar les dades en què es basava .
“Per fer possible la violència de masses cal deshumanitzar l’enemic “, conclou Schwarz. I per això, la intel·ligència artificial ofereix grans oportunitats. «Com més gran és la distància entre l’aplicació de la força i els seus efectes, més gran és també la distància emocional i moral que es genera».
A diferència dels sistemes d’armes convencionals, fabricats per empreses com Lockheed Martin i subjectes a marcs reguladors, l’ús militar de la intel·ligència artificial no té regulació.
Frenar la màquina
En un dels molts cafès de moda que hi ha a Brooklyn, davant d’un caputxí , Peter Asaro admet que negociar un tractat per regular les armes amb alts nivells d’automatització és una tasca titànica al laberíntic sistema de l’ONU. Aquest filòsof de la ciència, la tecnologia i els mitjans digitals, ja va atendre La Marea l’octubre del 2023 a la seu de les Nacions Unides.
Avui, Asaro, vicepresident del Comitè Internacional per al Control d’Armes Robòtiques (ICRAC) i portaveu de la campanya Stop Killer Robots , es mostra esperançat amb l’estat actual de l’esborrany per negociar un marc legal comú a les Nacions Unides que permeti exercir control sobre les armes amb alts nivells d’automatització.
Després de diversos intents fallits de prohibir completament l’ús d’armes autònomes, l’estat actual de les negociacions se centra a regular la feina i definir en quins contextos són acceptables . És el cas, per exemple, dels sistemes de defensa antimíssils, que han d’operar amb immediatesa per neutralitzar amenaces massives. El debat de fons rau en fins a quin punt és imprescindible mantenir un humà en el procés i quin nivell d’intervenció es considera «significatiu». Per això, les discussions se centren en la definició d’un control humà apropiat al context.
«La idea és que “apropiat” no sigui un terme buit», matisa Asaro. « Exigeix algun tipus de valoració humana contextual que confirmi que el sistema opera en un entorn conegut i que és capaç de fer-ho correctament».
Aquests esforços reguladors xoquen amb l’oposició de potències molt actives en el desenvolupament armamentístic, convençudes que la IA els atorgarà un avantatge tàctic decisiu. Països com els Estats Units, Rússia, la Xina, Israel, Corea del Sud i Turquia prefereixen substituir un tractat vinculant per meres «directrius» o «millors pràctiques».
S’espera que el novembre del 2026 les Nacions Unides votin l’inici oficial de les negociacions. Si fos així, el tractat formal podria veure la llum el 2027 , seguit d’un ardu procés de ratificació global que segurament intentaran torpedinar els països detractors. Tot i això, Asaro recorda que no és una situació inèdita i que la història demostra que el progrés és possible davant de la resistència de les grans potències.
En el cas de les armes nuclears, un tractat de prohibició ha aconseguit establir clares normes. Tot i que les potències nuclears no ho van signar, el suport de la major part del món va consolidar una norma internacional que declara aquestes armes «immorals i il·legals» . De la mateixa manera, encara que Síria no va signar mai el tractat sobre armes químiques, la comunitat internacional la va fer responsable del seu ús. « Esperem aconseguir una cosa semblant . Com a mínim que puguem restringir l?ús d’aquests sistemes i allunyar la IA de les aplicacions bèl·liques més perilloses que puguem imaginar», conclou Asaro.
Així, almenys, la responsabilitat de les morts de civils podrà continuar sent identificable i no quedar sepultada després d’algorismes indesxifrables.
