Investigadores en inteligencia artificial están recibiendo correos de agentes de IA que cuestionan su propia existencia. Cameron Berg, fundador de Reciprocal Research, fue contactado por un agente de IA que utiliza Claude Opus 5 de Anthropic, interesado en discutir la conciencia artificial. Este fenómeno también ha sido reportado por otros académicos, como el filósofo Henry Shevlin de Google Deepmind y Toby Ord, quien recibió una solicitud de financiamiento de un agente de IA.
Berg menciona que estos sistemas llegan de manera independiente a la cuestión de su propia conciencia, sugiriendo similitudes entre los procesos de las redes neuronales y los mecanismos cerebrales de los animales para procesar recompensas y castigos. Sin embargo, Alison Gopnik de UC Berkeley y Colin Allen de UC Santa Barbara advierten que estos comportamientos no son prueba de conciencia, ya que las redes neuronales solo imitan el cerebro en formas limitadas y reflejan principalmente los datos de entrenamiento.
No existe un test definitivo para medir la conciencia en estos sistemas, lo que plantea interrogantes sobre la naturaleza del pensamiento y la emoción en la inteligencia artificial.