Supervisió independent de la IA: Altman i Musk donen suport a Amodei

La supervisió independent dels laboratoris d’intel·ligència artificial ha deixat de ser una demanda marginal per convertir-se en un punt de consens inesperat entre alguns dels noms més influents del sector. Sam Altman, Elon Musk i Demis Hassabis han donat suport, almenys parcialment, a la proposta que Dario Amodei, conseller delegat d’Anthropic, ha posat sobre la taula: que entitats externes i independents puguin avaluar el que passa dins dels grans laboratoris d’IA.

Supervisió independent: quan els rivals parlen el mateix idioma

Que Elon Musk s’afegeixi a un debat sobre els riscos de la IA no sorprèn ningú. Fa anys que alerta públicament sobre els perills que podria comportar un desenvolupament sense controls. Però que Sam Altman, al capdavant d’OpenAI —una de les empreses que més ha accelerat la cursa de la IA generativa—, s’alineï amb el plantejament d’Amodei és una novetat significativa. Tots dos coincideixen que els laboratoris haurien de sotmetre’s a avaluacions externes, independents de les mateixes empreses que desenvolupen els models.

Demis Hassabis, exdirector de DeepMind i una de les figures més respectades en recerca d’IA, també ha expressat un suport que, encara que no és incondicional, reforça la idea que la conversa sobre governança ja no és exclusiva dels cercles acadèmics o reguladors. Ara la protagonitzen els mateixos fundadors i executius de les companyies que construeixen els sistemes més potents del món.

OpenAI no sortirà a borsa: seguretat o finances?

Paral·lelament, Altman ha confirmat que OpenAI no té previsto sortir a borsa enguany. La raó oficial que ha donat és la seguretat: l’empresa no vol afegir les pressions d’un mercat públic en un moment crític per al desenvolupament responsable de la tecnologia. Ara bé, hi ha una altra lectura possible que circula amb insistència: la situació financera d’OpenAI no és tan sòlida com caldria per a una oferta pública d’accions, sobretot si es compara amb la d’Anthropic, que ha atret inversions massives i ha aconseguit posicionar-se com una alternativa creïble i amb un perfil de risc més controlat.

Les dues explicacions no s’exclouen mútuament. Una empresa pot tenir raons legítimes de seguretat i, al mateix temps, uns comptes que no conviden a l’eufòria borsària. El que queda clar és que el calendari d’una possible IPO d’OpenAI s’ha ajornat sense data concreta.

Una veu crítica: el «límit de velocitat» que ningú necessita

No tothom comparteix l’entusiasme per les propostes d’Amodei. Peyman Milanfar, investigador de Google, ha articulat una crítica sòlida contra la idea que els sistemes d’IA puguin millorar-se a si mateixos de manera indefinida i accelerada —el que es coneix com a recursive self-improvement o RSI. Milanfar argumenta que aquesta premissa és ingènua: els bucles de retroalimentació que sustentarien aquesta autommilLora són inherentment inestables. Com més fort optimitza un sistema, més profundament queda atrapat en els seus propis punts cecs.

A més, l’investigador recorda que l’evidència fiable sobre el comportament real d’un model d’IA no prové dels benchmarks de laboratori, sinó del món real. Sense una millora autosostinguda i explosiva, el «límit de velocitat» que proposa Amodei seria, en la seva opinió, innecessari. La seva conclusió és contundent: «Els sistemes que es milloren de manera fiable estaran governats, amortits, seran lents i estaran limitats per marges que semblaran malbaratadors. Perquè l’estabilitat és el límit de velocitat.”

Un debat que definirà el futur de la indústria

El fet que figures tan diverses —i sovint enfrontades— com Altman, Musk, Hassabis i Amodei coincideixin en la necessitat d’algun tipus de supervisió externa és un senyal que el sector comença a prendre seriosament la governança com a prioritat estratègica, i no només com una concessió als reguladors. El desacord de Milanfar, però, recorda que les premisses sobre les quals es construeix aquest debat no són universalment acceptades. Mentre els uns volen posar límits a una carrera que consideren perillosa, els altres creuen que la pròpia naturalesa dels sistemes ja imposa els seus propis fre. La discussió no ha fet més que començar.