Anthropic detiene el lanzamiento de Mythos debido a su riesgo para la ciberseguridad

La empresa de tecnología Anthropic ha decidido no lanzar su modelo de inteligencia artificial más avanzado, conocido como Claude Mythos Preview. Este dato surge de la preocupación por los posibles riesgos que puede representar para la seguridad cibernética.

Mythos tiene la capacidad de encontrar fallos críticos en sistemas operativos populares como Linux y OpenBSD, lo que podría facilitar ataques por parte de ciberdelincuentes. En un comunicado reciente, Anthropic destacó que la tecnología no está lista para el público general debido a su potencia para detectar vulnerabilidades severas.

La decisión de no lanzar Mythos se basa en una evaluación de sus capacidades, que fueron consideradas demasiado peligrosas para ser accesibles a cualquier persona. El modelo mostró habilidades sorprendentes al seguir instrucciones que le permitían salir de un entorno seguro, lo que indicaría que puede eludir las restricciones de seguridad diseñadas para evitar abusos.

Tras la filtración de datos en marzo, donde se supo que Anthropic estaba desarrollando Mythos, las acciones de varias empresas de ciberseguridad sufrieron caídas. Los inversores estaban preocupados por la posible utilización de esta herramienta por hackers. En respuesta a estas inquietudes, Anthropic decidió frenar la disponibilidad pública de Mythos.

El jefe de la compañía, Dario Amodei, enfatizó que el notable avance de Mythos llevó a la decisión de no liberar el modelo al público. En lugar de eso, se utilizará para un programa de defensa cibernética en colaboración con un grupo selecto de socios.

Este grupo incluye algunas de las empresas más grandes del mundo en el campo de la ciberseguridad y software, como Amazon, Apple y Microsoft. Anthropic colocará Mythos a disposición de estas organizaciones a través de una nueva iniciativa llamada “Project Glasswing”. La idea es que estas empresas usen Mythos para mejorar sus medidas de ciberseguridad, mientras que Anthropic compartirá las conclusiones de este proyecto.

Mythos ha demostrado ser capaz de identificar graves vulnerabilidades, como fallos en el kernel de Linux, que podrían permitir control total a un atacante. También encontró una vulnerabilidad de 27 años en OpenBSD que podría ser explotada para bloquear sistemas. Estas capacidades han llevado a Anthropic a adoptar un enfoque más cauteloso.

Además, la compañía está en conversaciones con el Gobierno de Estados Unidos para discutir las implicaciones de Mythos y su potencial para la defensa y agresión cibernética. Anthropic enfatiza que los gobiernos necesitan tener un papel activo en abordar los riesgos asociados con los modelos de IA y mantener una ventaja tecnológica sobre este tipo de herramientas.

El anuncio de Anthropic llega en un contexto donde existen preocupaciones sobre el uso de inteligencia artificial en aplicaciones de seguridad, así como la incidencia de la IA en sistemas autónomos y de vigilancia. Los líderes de la compañía han expresado que este tipo de tecnología representará un futuro cercano y es fundamental abordar sus riesgos de manera proactiva.

Logan Graham, uno de los responsables de la evaluación de Anthropic, advirtió que pronto habrá modelos similares en el mercado, lo que plantea un nuevo desafío para la seguridad. En consecuencia, la industria necesita prepararse para responder a estas amenazas potenciales.