Anthropic demana una pausa en desenvolupament global de la IA

La companyia amb seu a San Francisco, creadora de la família de models d'IA Claude, va demanar aquest dijous, mitjançant una publicació, que els principals laboratoris d'intel·ligència artificial del món -sobretot empreses dels EUA i la Xina- pausin la creació de sistemes d'IA potents, ja que els models més recents comencen a mostrar indicis que podrien escapar-se del control humà.

"Creiem que seria beneficiós per al món tenir l'opció d'alentir o pausar temporalment el desenvolupament de la IA d'avantguarda per permetre que les estructures socials i la investigació en alineació es mantinguin al dia amb l'avenç de la tecnologia", va dir Anthropic enal'esmentada nota, que va estar escrita per Marina Favaro i Jack Clark, d'Antropic institute.

I és que, avisa la companyia, l'automillora des de la IA encara no s'ha produït i no és inevitable, “però podria arribar abans del que la majoria de les institucions estiguin preparades”.

En concret, va demanar que s'acordi una pausa de manera simultània, sota regles que tots poguessin verificar, ja que creu que aquesta desacceleració en el desenvolupament de la IA d'avantguarda seria "una cosa positiva", però va dir que ha de ser una decisió conjunta. Sobretot perquè "qui continuï mentre altres s'aturen en podria heretar el lideratge".

Per això reclama que sigui una decisió conjunta. I és que “sense un mecanisme de coordinació global, les empreses i els governs hauran de prendre decisions difícils sobre seguretat, sotmesos a pressions competitives i geopolítiques”, va afegir.

La seva idea és dur a terme una sèrie d'investigacions en col·laboració amb altres per “ajudar a construir els sistemes que requeriria una desacceleració o pausa creïble”. Per això Anthropic planeja organitzar converses als propers mesos amb legisladors, investigadors i altres experts per ajudar a respondre preguntes sobre l'automillora de la IA i un possible sistema de verificació.

Tal com diu, "ha arribat el moment d'investigar aquestes qüestions en conjunt, i persones alienes a les empreses d'IA haurien de participar en aquesta deliberació".

La proposta d'Anthropic, no obstant, s'enfronta a l'oposició tant a Washington com a Silicon Valley, i és que funcionaris nord-americans i executius tecnològics han comentat en repetides ocasions que qualsevol alentiment en el desenvolupament de la IA podria atorgar a la Xina un avantatge estratègic decisiu en allò que ja es considera la carrera tecnològica que definirà el segle.

La companyia, a més, ha estat objecte de nombroses crítiques per part de la Casa Blanca, precisament per llançar aquests avisos sobre la IA. I és que l'Administració de Donald Trump creu que el seu enfocament sobre els escenaris pitjors exagera els riscos i constitueix una estratègia per frenar la competència sota el pretext de la seguretat.

Tot i això, la Casa Blanca ha reconegut el potencial del model Mythos de l'empresa, que no s'ha posat a disposició del públic general a causa de les seves capacitats de ciberseguretat i que actualment només s'implementa en un nombre reduït d'organitzacions verificades.