Anthropic pide una pausa en el desarrollo global de la IA

Anthropic ha pedido una pausa en el desarrollo global de la inteligencia artificial (IA), ante la posibilidad de que estos modelos puedan empezar a mejorar sin intervención humana. Según apunta en una publicación, la automejora aún no se ha producido y no es inevitable, "pero podría llegar antes de lo que la mayoría de las instituciones están preparadas".

La compañía con sede en San Francisco, creadora de la familia de modelos de IA Claude, ha pedido este jueves, a través de una publicación, que los principales laboratorios de inteligencia artificial del mundo -sobre todo empresas de EEUU y China- pausen la creación de sistemas de IA potentes, ya que los modelos más recientes comienzan a mostrar indicios de que podrían escapar al control humano.

"Creemos que sería beneficioso para el mundo tener la opción de ralentizar o pausar temporalmente el desarrollo de la IA de vanguardia para permitir que las estructuras sociales y la investigación en alineación se mantengan al día con el avance de la tecnología", ha dicho Anthropic en la mencionada nota, que ha sido escrita por Marina Favaro y Jack Clark, de Anthropic institute.

Y es que, avisa la compañía, la automejora desde la IA aún no se ha producido y no es inevitable, "pero podría llegar antes de lo que la mayoría de las instituciones están preparadas".

En concreto, ha pedido que se acuerde una pausa de forma simultánea, bajo reglas que todos pudieran verificar, ya que cree que esta desaceleración en el desarrollo de la IA de vanguardia sería "algo positivo", pero ha dicho que tiene que ser una decisión conjunta. Sobre todo porque "quien continúe mientras otros se detienen podría heredar el liderazgo".

De ahí que reclame que sea una decisión conjunta. Y es que "sin un mecanismo de coordinación global, las empresas y los gobiernos tendrán que tomar decisiones difíciles sobre seguridad, sometidos a presiones competitivas y geopolíticas", ha añadido.

Su idea es llevar a cabo una serie de investigaciones en colaboración con otros para "ayudar a construir los sistemas que requeriría una desaceleración o pausa creíble". Por eso Anthropic planea organizar conversaciones en los próximos meses con legisladores, investigadores y otros expertos para ayudar a responder preguntas sobre la automejora de la IA y un posible sistema de verificación.

Tal y como dice, "ha llegado el momento de investigar estas cuestiones en conjunto, y personas ajenas a las empresas de IA deberían participar en esta deliberación".

La propuesta de Anthropic, no obstante, se enfrenta a la oposición tanto en Washington como en Silicon Valley, y es que funcionarios estadounidenses y ejecutivos tecnológicos han comentado en repetidas ocasiones que cualquier ralentización en el desarrollo de la IA podría otorgar a China una ventaja estratégica decisiva en lo que ya se considera la carrera tecnológica que definirá el siglo.

La compañía, además, ha sido objeto de numerosas críticas por parte de la Casa Blanca, precisamente por lanzar estos avisos sobre la IA. Y es que la Administración de Donald Trump cree que su enfoque sobre los peores escenarios exagera los riesgos y constituye una estrategia para frenar a la competencia bajo el pretexto de la seguridad.

No obstante, a pesar de ello la Casa Blanca ha reconocido el potencial del modelo Mythos de la empresa, que no se ha puesto a disposición del público general debido a sus capacidades de ciberseguridad y que actualmente solo se implementa en un número reducido de organizaciones verificadas.