"Los empleados estamos aterrados": la advertencia de un exinvestigador de Anthropic a la BBC sobre los riesgos de la IA y por qué genera críticas

Jacob Coxon, exinvestigador de Anthropic, reveló en una entrevista con la BBC que los empleados de la compañía sentían un “miedo genuino” ante la velocidad con la que se desarrollaba la inteligencia artificial, advirtiendo que si no se frenaba el ritmo, “existe una gran probabilidad de que todos muramos en un futuro inmediato”. Su declaración surgió poco después de que una publicación de Coxon sobre los peligros de la IA se volviera viral, en un momento en que la seguridad del sector está bajo escrutinio creciente.

El mismo día, el exdirector de Anthropic, Dario Amodei, pidió que se ralentizara el desarrollo de la IA, una propuesta que contó con el respaldo de figuras como Sam Altman de OpenAI y Elon Musk de xAI. Amodei sostuvo que, aunque el progreso tecnológico no estaba en duda, los riesgos asociados eran “graves” y requerían tiempo para que empresas y gobiernos los abordaran. Coxon coincidió con la idea de desacelerar, pero enfatizó la necesidad de coordinarse con China para evitar una carrera internacional que pudiera escalar peligrosamente.

Entre los riesgos señalados por Amodei y Coxon se encuentra la posibilidad de que un enjambre de bots actúe como una supercomputadora capaz de tomar el control de Internet. Coxon estimó que tal escenario podría materializarse en un plazo de seis meses a un año. En respuesta a la salida de Coxon, un portavoz de Anthropic afirmó que la empresa siempre ha sido transparente sobre los beneficios y riesgos de la IA, y que continúa desarrollando modelos con medidas de seguridad robustas. Anthropic también ha sido pionera en publicar un marco para mitigar riesgos y somete sus modelos a pruebas rigurosas, compartiendo los resultados para fomentar el escrutinio público.

La preocupación se ha extendido a otros expertos del sector. Evan Hubinger, científico de Anthropic, expresó que cree que la IA podría acabar con la humanidad con una probabilidad superior al 10 % en la próxima década. Geoffrey Hinton, laureado con el Premio Nobel y considerado el “padrino de la IA”, afirmó que esa probabilidad no es descabellada. Marc Warner, director ejecutivo de Faculty, señaló que es “extremadamente difícil asignar una probabilidad” a la extinción, aunque reconoce la sinceridad de las advertencias. El ex primer ministro británico Rishi Sunak, asesor remunerado de Anthropic, también manifestó preocupación por el riesgo que la IA representa, a pesar de mantener una visión generalmente optimista.

Mientras tanto, críticos como Clement Delangue, director ejecutivo de Hugging Face, han cuestionado la magnitud de las advertencias, comparándolas con preguntar a un técnico de aire acondicionado sobre el cambio climático. El debate continúa, con voces que abogan por regulaciones y supervisión independiente, y otras que consideran que las alarmas pueden estar exageradas o servir para generar expectación.