OpenAI i Anthropic units contra els models oberts xinesos

OpenAI i Anthropic són rivals directes en la cursa per captar clients empresarials, però a Washington comparteixen una agenda comuna: alertar els legisladors dels riscos que suposen els models d’IA de codi obert desenvolupats a la Xina. Aquesta aliança inesperada entre els dos laboratoris d’IA més influents dels Estats Units obre un debat complex sobre seguretat, competència i accés al coneixement tecnològic.

Per què OpenAI i Anthropic s’alien contra els models oberts xinesos

La posició conjunta dels dos laboratoris enfronta les empreses punteres d’IA amb un ampli ventall d’actors: investigadors acadèmics, startups tecnològiques i activistes de l’accés obert al programari, que defensen que la disponibilitat lliure dels models és essencial tant per a la competència com per al progrés científic.

El CEO d’Anthropic, Dario Amodei, ha argumentat que els models de codi obert presenten riscos de seguretat inherents: un cop alliberats els pesos del model, l’empresa que l’ha creat perd qualsevol capacitat de revocar-ne l’accés, actualitzar les salvaguardes de seguretat o prevenir-ne l’ús indegut. Paradoxalment, aquest és exactament l’argument que esgrimeixen els seus defensors: cap empresa pot controlar qui els utilitza ni com, cosa que els converteix en eines genuïnament democràtiques.

La polèmica de la destil·lació com a robatori de propietat intel·lectual

Un dels punts més calents del debat és la pràctica coneguda com a destil·lació, un procés mitjançant el qual un model s’entrena a partir de les sortides d’un altre model ja existent. OpenAI ha alertat específicament contra aquesta tècnica, una posició que s’alinea amb la del govern Trump.

El representant de Comerç dels EUA, Jamieson Greer, ha qualificat la destil·lació xinesa de robatori de propietat intel·lectual. El secretari del Tresor, Scott Bessent, ha afegit que els models provinents de la Xina haurien de complir els mateixos estàndards que els models nord-americans, i ha anunciat que la qüestió s’investigarà en les properes setmanes.

Si les acusacions es confirmen, significaria que empreses xineses haurien utilitzat models americans per desenvolupar sistemes equivalents a un cost molt inferior i, posteriorment, haurien llançat versions subvencionades als mercats occidentals per competir directament amb els laboratoris dels EUA. Els crítics del sistema, però, adverteixen que tractar la destil·lació com un delicte podria derivar en restriccions de facto sobre qualsevol model obert, fins i tot els desenvolupats de manera independent.

El risc de la captura regulatòria

No tothom veu amb bons ulls aquesta aliança. David Sacks, assessor de l’administració Trump en matèria tecnològica, ha alertat que l’escrutini sobre els models oberts podria equivaler a una captura regulatòria: normatives dissenyades suposadament per millorar la seguretat que, en realitat, acabarien beneficiant les grans empreses tancades en perjudici dels competidors més petits.

Suresh Venkatasubramanian, exassessor tecnològic de la Casa Blanca durant l’era Biden, comparteix aquesta preocupació des d’una perspectiva científica. Tal com ha expressat públicament, si es talla l’accés als models xinesos, la recerca acadèmica en patirà les conseqüències de manera significativa. Els models oberts, precisament perquè es poden modificar i estudiar lliurement, són especialment valuosos per als investigadors.

OpenAI, que disposa del seu propi model de codi obert, ha matisat la seva postura: veu l’open source com una via per democratitzar l’accés a la IA, però defensa que s’ha d’emmarca dins d’un marc nacional coherent que permeti avaluar models ràpidament, gestionar riscos i posar les eines d’IA més potents en mans dels responsables de la ciberseguretat. Ara bé, l’empresa no ha concretat com funcionaria aquest marc en la pràctica.

Coincidències federals i diferències estatals

Malgrat l’alineació a Washington, les divergències entre OpenAI i Anthropic es fan evidents quan es baixa al nivell estatal. En relació amb un projecte de llei de seguretat de models avançats a Massachusetts, les dues empreses han donat suport a versions ben diferents de la normativa.

La proposta que Anthropic va avalar exigia proves independents dels models cada sis mesos per detectar riscos catastròfics, la publicació dels resultats i atorgava al fiscal general de l’estat la potestat de demandar empreses incumplidores i imposar sancions civils. La versió que OpenAI ha recolzat, en canvi, no inclou cap d’aquests elements.

En les properes setmanes, el CEO d’OpenAI, Sam Altman, es reunirà amb legisladors i representants de la Casa Blanca per debatre els propers llançaments de models. Serà una cita clau per entendre fins on arriba realment la voluntat regulatòria de les grans empreses d’IA i quins interessos hi ha darrere del discurs sobre la seguretat.