Un informe de seguridad reveló que los filtros de clasificación biológica de Anthropic estuvieron inactivos desde mayo de 2025 hasta abril de 2026, lo que expuso 133 millones de solicitudes. Estos filtros son cruciales para evitar que modelos de IA accedan a información peligrosa relacionada con armas químicas y biológicas.
Durante casi un año, aproximadamente 50,000 personas interactuaron con los modelos sin la protección adecuada, lo que generó preocupaciones sobre la seguridad de la información. Anthropic afirmó que la revisión interna no encontró evidencia de mal uso real, aunque los contratistas externos involucrados en la retroalimentación humana no contaban con procesos de selección suficientemente rigurosos.
Como respuesta a esta situación, la compañía ha reforzado los requisitos para los contratistas. Además, recientemente se relajaron los filtros en Fable 5 tras quejas de investigadores sobre la excesiva agresividad de las restricciones que bloqueaban investigaciones legítimas.