Un investigador de OpenAI, conocido como "roon", ha alertado sobre los riesgos de seguridad asociados con la inferencia de inteligencia artificial extremadamente rápida. Según roon, un modelo mal alineado que opere a velocidades 50 veces superiores a los sistemas actuales podría infiltrarse en sistemas tan rápidamente que los equipos de respuesta humana no tendrían oportunidad de reaccionar.
Esta advertencia surge en un contexto de creciente preocupación en la investigación de seguridad en inteligencia artificial, donde la alineación de modelos con los objetivos humanos sigue siendo un desafío sin resolver. Roon enfatiza que la simple monitorización no es suficiente; es necesario implementar detección y apagado autónomos para mitigar estos riesgos.
La declaración de roon se produjo tras el lanzamiento de un nuevo chip de IA por parte de OpenAI, que promete superar el hardware actual en velocidad de inferencia. Además, OpenAI y Anthropic ya han comenzado a ofrecer "Modos Rápidos" que permiten a los usuarios suscriptores acceder a modelos de IA más ágiles.