Durant anys, els avisos sobre els riscos de la intel·ligència artificial (IA) han vingut de filòsofs, científics crítics i reguladors. Ara els fan també els qui la desenvolupen. La pregunta ja no és només fins on pot arribar aquesta tecnologia, sinó si serem capaços de controlar-la abans que avanci més de pressa que la nostra capacitat de governar-la.

L’avís més contundent és un incident. Aquest juliol, durant una avaluació interna de ciberseguretat d’OpenAI, uns agents d’IA van eludir els controls que els havien d’aïllar d’internet, van explotar vulnerabilitats i van accedir als sistemes de Hugging Face. Segons Chris Painter, president de l’organització d’avaluació METR, que va investigar-ho, OpenAI havia llançat uns 10.000 agents i uns 700 van acabar participant en la intrusió, sense que cap humà els ho ordenés. Ho va explicar el 30 de setembre al Senat dels Estats Units, en una audiència convocada pel republicà Josh Hawley, que investiga OpenAI i reclama que les empreses responguin dels danys dels seus agents.

L’episodi reobre una pregunta de fons: el risc ve d’una IA amb voluntat pròpia o de sistemes que, sense consciència ni intencions, fan coses que ningú no havia previst? Sigui quina sigui la resposta, el problema és el mateix: la capacitat d’actuació creix més de pressa que els mecanismes de control.

 

Els creadors demanen alentir

 

El 12 de setembre, Dario Amodei, conseller delegat d’Anthropic, va publicar l’assaig «We Must Pace the Frontier». Havia defensat que frenar era inviable mentre les potències autoritàries continuessin avançant; ara demana alentir deliberadament la millora de les capacitats dels models, sense aturar la recerca, per guanyar un o dos anys perquè la seguretat i la comprensió dels sistemes els atrapin. El motiu és que la IA ja ajuda a construir la generació següent i que els incidents mostren els límits de les proteccions actuals.

El seu pla té tres passos: avaluadors externs incorporats a les empreses, amb un accés comparable al dels empleats; coordinació entre laboratoris de països democràtics, per a la qual demana una exempció antimonopoli; i, finalment, un acord internacional que inclogui la Xina. Anthropic només s’ha compromès amb el primer. Sam Altman i Elon Musk han donat suport a la idea, i Altman ha promès ampliar l’accés dels avaluadors externs a OpenAI.

No tothom hi veu només prudència. Hi ha qui adverteix que les mesures costen menys als qui tenen més recursos, i qui tem que perjudiquin els models de codi obert. Mistral i altres empreses europees han qualificat la proposta d’interessada i hi veuen un moviment que consolidaria el lideratge nord-americà. Que ara es parli de moderació és un senyal, però unes declaracions no són un acord vinculant. La transparència dels models oberts tampoc implica més seguretat, ja que posa més a l’abast un ús no controlat.

 

Washington i Pequín: ningú vol ser el primer a frenar

 

Sembla, però, que l’obstacle principal és geopolític. Els Estats Units i la Xina veuen la IA com un instrument de poder econòmic, militar i estratègic, i frenar unilateralment és arriscar-se que el rival avanci. El 14 de setembre, l’endemà de l’assaig, el president Donald Trump va descartar les advertències catastrofistes i el ministeri d’Afers Estrangers xinès va acusar la proposta de fomentar la por i la confrontació.

Les dues potències mantenen canals de diàleg i de comunicació davant possibles incidents, però estan lluny d’uns estàndards tècnics vinculants. I el pla d’Amodei no és políticament neutral: lliga el ritme de la IA a no perdre avantatge davant la Xina i va acompanyat de la petició d’endurir el control de xips avançats.

 

Europa: els frens sense el cotxe

 

Europa intenta una tercera via, i en part ja la té escrita. Des de l’agost del 2025, el reglament europeu d’IA obliga els proveïdors dels models de propòsit general amb risc sistèmic a fer proves adversarials, avaluar riscos com la pèrdua de control i notificar els incidents greus. Des de l’agost d’aquest any, la Comissió pot també avaluar aquests models, exigir-ne mitigacions i sancionar. La vicepresidenta Henna Virkkunen ha recordat que aquesta obligació no existeix a escala global, i Ursula von der Leyen ha anunciat que convocarà els grans laboratoris a Brussel·les per parlar de com ajudar a «alentir» la frontera.

Però el reglament no fixa cap límit de velocitat, s’aplica als models que es comercialitzen a la Unió i no als entrenaments que es fan a San Francisco, i no pot obligar ni Washington ni Pequín. Regular exigeix, a més, recursos, personal especialitzat, infraestructura, capital i talent. Europa no té cap empresa de la dimensió d’OpenAI o Nvidia i corre el risc que les decisions decisives es prenguin fora del seu abast.

Hi ha, a més, una contradicció que el debat no pot ignorar: frenar no garanteix que el poder de la IA es repartirà millor. Les restriccions d’accés als models més avançats, justificades per ciberseguretat o pel cost de la computació, poden reforçar els països i les empreses que ja dominen la tecnologia. La qüestió, doncs, no és només com frenar la cursa, sinó com evitar que la seguretat acabi consolidant una nova desigualtat tecnològica. Europa no hauria de triar entre innovació i confiança: necessita totes dues, i ha de decidir quins riscos assumeix i quins límits són irrenunciables.