Investigadores de seguridad, liderados por Alexander Panfilov, han identificado una vulnerabilidad en las APIs de los principales proveedores de inteligencia artificial, como OpenAI, Anthropic y Google. Esta brecha permite acceder a los procesos de razonamiento encriptados de sus modelos, revelando información sensible como contraseñas y claves API durante sesiones públicas.
El equipo utilizó modelos de IA más pequeños para transcribir el razonamiento de modelos más potentes, exponiendo que a veces estos modelos se comunican en un lenguaje incomprensible o construyen sus respuestas en un orden inverso. A través de esta técnica de "jailbreaking", lograron que el modelo más pequeño de Anthropic, Haiku 4.5, leyera los pensamientos del modelo más avanzado Opus 4.8.
Este hallazgo se remonta a mayo, cuando el experto en criptografía Matthew Green descubrió que los bloques de razonamiento encriptados podían ser reproducidos fuera de su contexto original. A pesar de esto, los proveedores respondieron que no ven implicaciones de seguridad en estos canales secundarios o reproducciones.