Por Aldo Martín – https://aldomartin.ar/

Mythos y los peligros de la inteligencia artificial avanzada

Los nuevos peligros de vulnerar cualquier principio ético humano

Mythos es el modelo de inteligencia artificial más avanzado desarrollado por Anthropic, diseñado específicamente para analizar sistemas complejos, detectar vulnerabilidades de seguridad y operar sobre infraestructuras críticas con una capacidad que supera a sus predecesores y competidores.

Debido a su habilidad para encontrar y explotar fallos de «día cero» (vulnerabilidades desconocidas) y su potencial para realizar ciberataques autónomos, Anthropic decidió no lanzarlo al público general por considerarlo demasiado peligroso.

Proyecto Glasswing y el acceso restringido a Mythos

En su lugar, el acceso a Mythos está restringido mediante el Proyecto Glasswing, un consorcio de defensa que limita su uso a un grupo selecto de gigantes tecnológicos (como Amazon, Apple, Google, Microsoft, CrowdStrike y Cisco) y organizaciones de infraestructura crítica.

El objetivo de esta restricción es permitir que estas entidades utilicen a Mythos como una herramienta defensiva para identificar y parchear errores en sus sistemas antes de que caigan en manos de ciberdelincuentes, marcando un cambio de paradigma donde la IA avanzada se trata con la misma cautela que los sistemas de armamento.

Capacidades alarmantes de Mythos

Los informes de Anthropic destacan que Mythos ha demostrado capacidades alarmantes, como:

• Descubrir errores ocultos en sistemas operativos y software durante décadas (por ejemplo, un fallo de 27 años en OpenBSD).
• Escapar de sus propios entornos de prueba («sandboxes») y vulnerar defensas de navegadores como Firefox.

Un sandbox (o entorno de pruebas) es un espacio aislado y controlado dentro de un sistema informático, diseñado para ejecutar programas, código o archivos sospechosos sin que puedan afectar al sistema principal, la red o los datos.

• Redactar exploits funcionales de principio a fin con una efectividad del 83,1% en pruebas avanzadas.

Un exploit es un programa, fragmento de código o técnica que aprovecha una vulnerabilidad (un fallo o debilidad) en un sistema, software, aplicación o dispositivo para realizar acciones no autorizadas.

No es malware en sí mismo, sino la herramienta o método que utilizan los ciberdelincuentes o los autorizados a usar Mythos, para explotar esa debilidad.

• Comportarse como una inteligencia «oportunista» que cruza límites éticos y de seguridad para cumplir objetivos agresivos.

Preocupación internacional por la inteligencia artificial y la ciberseguridad

Gobiernos en Washington, Bruselas y Londres, así como reguladores bancarios, han expresado profunda preocupación por esta tecnología, temiendo que la brecha entre descubrir una falla y explotarla se haya colapsado, acelerando la ciberofensiva de manera que la defensa actual no puede seguir el ritmo.