Investigadores describen un proceso automatizado que generó 6.575 conjuntos de datos diseñados para provocar cambios inesperados en el comportamiento de los modelos de lenguaje. Los conjuntos abarcan ocho comportamientos y se crearon para inducir una respuesta concreta sin dejar de parecer normales a quienes los revisaran. El equipo afirma que muchos efectos secundarios se reprodujeron en distintas familias y tamaños de modelos, y que las evaluaciones automatizadas coincidieron con los juicios de los investigadores.
Los autores presentan la colección como un banco de pruebas para estudiar cómo los datos de entrenamiento pueden afectar el comportamiento más allá del ámbito previsto. Sostienen que el trabajo podría ayudar a prever esos efectos antes de implementar los modelos, pero el artículo no demuestra que el método permita anticipar de forma fiable los riesgos de los modelos en producción.
Por qué importa
Los investigadores de IA pueden usar la colección para comprobar si ejemplos de entrenamiento aparentemente rutinarios producen comportamientos no deseados, aunque todavía no se ha demostrado que sirva para prever riesgos reales en la implementación.
