El modelo Shieldstral de la empresa francesa Mistral ha demostrado un rendimiento notable al igualar los resultados de modelos mucho más grandes en pruebas de seguridad de texto. Este modelo, que cuenta con 3 mil millones de parámetros, ha establecido un nuevo récord en la clasificación conjunta de texto e imagen, según un nuevo estudio. Los investigadores han propuesto un enfoque innovador que reemplaza las categorías de seguridad fijas por preguntas simples que los operadores pueden definir en tiempo real.
Los autores del estudio, incluido el cofundador de Mistral, Guillaume Lample, argumentan que los modelos tradicionales suelen agrupar riesgos de manera inadecuada. Esto se debe a que los conjuntos de datos de seguridad pública no se ajustan a una única taxonomía, lo que limita su efectividad en diferentes contextos. El modelo Shieldstral permite a los operadores formular criterios de revisión en lenguaje sencillo y obtener respuestas de "sí" o "no", generando un puntaje de seguridad entre cero y uno.
Para entrenar Shieldstral, se utilizaron aproximadamente 54.1 millones de ejemplos que abarcan contenido seguro, dañino y intentos de manipulación. Los investigadores aplicaron estándares estrictos a la manipulación dirigida y más flexibles a los datos de seguridad generales. Cada ejemplo de entrenamiento incluye instrucciones específicas, una pregunta de "sí" o "no", y el contenido a revisar, lo que permite al modelo aprender distinciones más finas en la evaluación de contenido.