El PP ha publicat un vídeo que clona la imatge i la veu de Zapatero i d’altres persones vinculades al PSOE per fer-los pronunciar confessions fictícies. Tot i que inclou un avís d’intel·ligència artificial i es presenta com a crítica política, aquest context pot desaparèixer quan el contingut es retalla i es comparteix. Això pot fer passar la ficció per una declaració real.
El 29 de novembre votarem. Fins aleshores, discutirem sobre candidats, pactes i programes, però també ens hi jugarem una cosa menys visible: la possibilitat de tenir una conversa pública que ens permeti decidir amb criteri. Podem organitzar unes eleccions impecables i arribar a les urnes després d’una campanya en què costi distingir els fets de les invencions. La salut democràtica també depèn de les condicions en què ens formem una opinió.
La influència de la IA sobre el vot, tanmateix, pot ser menys visible i més perillosa que un vídeo fals. Un elector pot demanar-li que compari programes, expliqui una proposta fiscal o aclareixi les conseqüències d’un pacte. Són usos que poden facilitar la participació. Però és la tecnologia qui decideix què és rellevant i quina informació omet. A més, la manera com presenta aquesta informació no és neutral, el seu objectiu és complaure el client, no pas informar un ciutadà. D’aquesta manera, és molt fàcil que acabem delegant el criteri polític sense preguntar-nos des de quin marc se’ns respon ni quins biaixos porta implícits.
Un estudi publicat a Nature va observar, en experiments controlats, que les converses amb xatbots dissenyats per defensar candidats podien modificar les preferències declarades dels participants. Alguns arguments contenien informació incorrecta, i això acredita una capacitat de persuasió que convé prendre seriosament. El problema és que això pot passar també en converses aparentment informatives, quan creiem que només ens estan ajudant a entendre.
Un estudi publicat a Nature va observar que les converses amb xatbots dissenyats per defensar candidats podien modificar les preferències declarades dels participants
Aquesta influència ens porta als propietaris, un grapat de tecnobros no gaire entusiastes amb la democràcia, que gestionen empreses que controlen eines cada vegada més potents per intervenir en la nostra informació, els nostres arguments i les decisions polítiques. És a dir, controlen eines amb una gran capacitat per influir en la conversa pública, precisament un dels pilars fonamentals de la democràcia.
Sam Altman, d’OpenAI, i Dario Amodei, d’Anthropic, van intervenir el 23 de setembre davant el Consell de Seguretat de l’ONU per defensar que les decisions importants sobre la IA s’han de prendre mitjançant processos democràtics, i no només als laboratoris de Silicon Valley. Però si ens fixem en el que fan, el que pretenen és capturar els reguladors i adaptar les normes als interessos de la indústria. Reclamar control democràtic mentre es treballa per segrestar-lo és, sens dubte, una manera força creativa d’entendre la democràcia.
Els directius tenen incentius comercials per preservar secrets, protegir el seu avantatge i evitar controls que els restin poder. Aquesta tensió no desapareix perquè reclamin regulació o proposin auditories. La transparència que necessitem és precisament la que permeti qüestionar-los, contrastar les seves afirmacions i exigir-los responsabilitats.
Les advertències apocalíptiques completen la paradoxa. Apareixen alhora com a fabricants, profetes de la catàstrofe i salvadors. La investigació dels riscos és necessària; convertir els seus pronòstics en actes de fe ens impedeix discutir-los. Mentrestant, l’alarma pot reforçar la venda: ens convida a adoptar precipitadament una tecnologia presentada com a sobrehumana per no quedar enrere. La dependència acaba semblant una condició inevitable del progrés.
Els beneficis de la IA són reals, també per a millorar la presa de decisions en l’àmbit públic. Precisament per això, cal poder governar-ne els usos. En aquesta precampanya, els partits utilitzen la IA per elaborar i difondre missatges, però, paradoxalment, no expliquen prou com pensen governar-la ni com volen incorporar-la a les administracions públiques. Haurien d’explicar com la utilitzen i assumir la responsabilitat dels continguts que difonen, però també concretar quines tasques volen automatitzar, amb quines garanties i com podrem discutir les decisions que se’n derivin.
En aquesta precampanya, els partits utilitzen la IA per elaborar i difondre missatges, però, paradoxalment, no expliquen prou com pensen governar-la ni com volen incorporar-la a les administracions públiques
Alfabetitzar la ciutadania és imprescindible i implica entendre aquesta tecnologia, aprendre a utilitzar les eines i contrastar-ne les respostes. Però no podem carregar sobre cada elector la feina de verificar tot allò que partits i plataformes posen en circulació. Les institucions i els partits han de preservar les condicions d’una conversa pública practicable. Una democràcia necessita ciutadans capaços de formar-se una opinió, discrepar i exigir explicacions. Esgotar aquesta capacitat obligant-los a esbrinar constantment què ha passat de debò també és una manera de deteriorar-la.
Si acceptem que uns tecnosenyors feudals decideixin què hem de témer, a qui hem de votar, quines respostes són vàlides i què podem imaginar, hauran guanyat sense presentar-se a les eleccions. I els haurem pagat, a més, la subscripció.
