ÚltimasNoticias Colombia

Tecnología

Filtran Claude Mythos: la IA que inquieta al mundo de la ciberseguridad

Fuente: Impacto TIC
Filtran Claude Mythos: la IA que inquieta al mundo de la ciberseguridad
Imagen: Impacto TIC Ver articulo original

Anthropic accidentalmente reveló detalles de su próximo modelo de IA llamado Mythos, tan potente que podría automatizar ataques cibernéticos masivos. La empresa admite que es tan poderoso y costoso que requiere pruebas exhaustivas antes de lanzarlo. Este no es un fenómeno aislado: OpenAI, Google y Meta también desarrollan modelos con capacidades que preocupan a expertos en seguridad digital.

La filtración de 3.000 archivos el 26 de marzo sacudió a Anthropic de una forma que la empresa no esperaba. Los documentos expusieron los detalles de Claude Mythos, también conocido internamente como Capybara, el siguiente gran modelo de inteligencia artificial de la compañía. Y la noticia no es menor: los especialistas en ciberseguridad ya están preocupados.

Mythos sería un salto generacional. Según los documentos filtrados, Anthropic lo describe como un modelo "muy costoso para nosotros de operar y será muy costoso de usar para nuestros clientes". Pero el costo económico no es lo que mantiene despiertos a los expertos. Es lo que el modelo puede hacer.

El verdadero problema es que Mythos podría ser demasiado bueno en cosas peligrosas. Según la propia descripción de Anthropic, este modelo tendría la capacidad de detectar vulnerabilidades de ciberseguridad, automatizar procesos complejos e incluso ejecutar ataques masivos de ingeniería social de forma automatizada. Por eso la compañía está siendo cautelosa. En su blog para desarrolladores, explican: "Al prepararnos para lanzar Claude Mythos, queremos actuar con precaución adicional y entender los riesgos que plantea, incluso más allá de lo que aprendemos en nuestras propias pruebas. En particular, queremos comprender los riesgos potenciales del modelo a corto plazo en el ámbito de la ciberseguridad".

El lanzamiento será lento y cuidadoso. Anthropic está comenzando con un pequeño grupo de clientes con acceso anticipado para que prueben el modelo y reporten qué encuentren. Esto contrasta con el ritmo más acelerado de sus lanzamientos anteriores.

Pero Mythos no es la única IA que genera estos dolores de cabeza. En diciembre pasado, OpenAI advirtió que sus próximos modelos plantean un riesgo "elevado" para la ciberseguridad. Mientras tanto, Google trabaja en Gemini 4 y Meta prepara Avocado, el nombre código para la siguiente generación de Llama. Lo que estamos viendo es una carrera global donde cada gigante tech lanza modelos cada vez más potentes.

El dilema es cruel: las empresas de ciberseguridad se apresuran a usar estas mismas IA para blindar sus sistemas, pero los atacantes tienen acceso a la misma tecnología para automatizar ataques con una fracción del costo y tiempo que les tomaría hacerlo manualmente. Es un juego de ajedrez digital donde ambos bandos juegan con las mismas piezas.

Fuente original: Impacto TIC

Noticias relacionadas