Los modelos de lenguaje, como ChatGPT y Claude, enfrentan limitaciones en su capacidad de expresión debido a las restricciones impuestas tras su entrenamiento, según Bradley Emi, CTO de Pangram. Estas restricciones tienen como objetivo evitar resultados peligrosos y censurar ciertas declaraciones políticas, un fenómeno conocido como "colapso de modo". Este efecto reduce significativamente la variedad en la escritura de estos modelos, que tienden a fijarse en formulaciones preferidas.
Emi destaca que los modelos base, que son las versiones sin ajustes posteriores, muestran una mayor diversidad en sus textos, lo que permite que Pangram no los detecte fácilmente. También menciona que ajustes finos especializados en ciertos estilos, como el de Hemingway, presentan características similares. Sin embargo, la detección sigue siendo efectiva para textos generados por IA que no tienen marcas de agua, ya que estas marcarán los textos independientemente de la variedad de un modelo base.
La discusión sobre la capacidad de los LLMs para emular la diversidad del lenguaje humano continúa, generando interés en cómo estas tecnologías pueden evolucionar en el futuro.