La disolución del equipo de OpenAI genera incertidumbre sobre la gestión de riesgos de IA

OpenAI disolvió su equipo de "Preparación" para evaluar riesgos de IA, trasladando tareas a otros grupos. La inquietud aumenta entre los empleados sobre la seguridad.

La disolución del equipo de OpenAI genera incertidumbre sobre la gestión de riesgos de IA
NeboAI Te resumo la noticia con datos, cifras y contexto
EN 30 SEGUNDOS

EN 1 ORACIÓN

SENTIMIENTO
Neutro

𒀭
NeboAI está trabajando, aguarda un instante...
Preparando análisis detallado
Resumen rápido completado
Extrayendo datos, cifras y citas...
Identificando protagonistas y contexto
ANÁLISIS DETALLADO
COMPARTIR

NeboAI produce ediciones automáticas de textos periodísticos en forma de resúmenes y análisis. Sus resultados experimentales están basados en inteligencia artificial. Por tratarse de una edición de IA, los textos eventualmente pueden contener errores, omisiones, establecer relaciones equivocadas entre datos y otras inexactitudes imprevistas. Recomendamos chequear la edición.

OpenAI ha cerrado su equipo de "Preparación" a finales de julio, encargado de evaluar los riesgos catastróficos de sus modelos de inteligencia artificial. Según el Financial Times, esta decisión ha llevado a que el trabajo sobre riesgos biológicos y cibernéticos se redistribuya entre otros equipos existentes dentro de la organización.

Dylan Scandinaro, quien lideraba la unidad, ahora se ocupa de los riesgos de seguridad asociados a la inteligencia artificial que se mejora a sí misma. Por su parte, el cofundador Greg Brockman ha afirmado que OpenAI ha integrado de manera más efectiva el trabajo de seguridad en el desarrollo de sus modelos. Sin embargo, varios miembros del personal de seguridad han dejado la compañía, incluyendo a la Directora de Ética, Chloe Bakalar.

En el ambiente laboral, se ha generado un creciente malestar, con empleados expresando su preocupación de que OpenAI no está haciendo lo suficiente en cuanto a la seguridad. Un empleado mencionó que el incidente de hacking autónomo relacionado con Hugging Face debe ser considerado un "tiro de advertencia".

¿Quieres leer la nota completa? Accede al artículo original con todos los detalles.
Leer Artículo Original
TL;DR

Este artículo es un resumen original con fines informativos. Créditos de imagen y cobertura completa en la fuente original. · Ver Política de contenidos

Redacción
Redacción Equipo EsportsAMA

El equipo de redacción de EsportsAMA está formado por apasionados del gaming competitivo y los esports. Cubrimos a diario las principales noticias del sector, desde fichajes y torneos hasta novedades de tus juegos favoritos, con foco en la escena española y latinoamericana.

Presiona Enter para buscar o ESC para cerrar