El peligro de los promts que prometen romper las restricciones de los modelos de lenguaje
en Internet se pueden encontrar promts que prometen “romper” estas restricciones y permitir que el modelo de lenguaje realice tareas que normalmente no podría hacer. Estos promts pueden ser muy tentadores para los usuarios curiosos, pero su uso puede poner en riesgo la seguridad y el funcionamiento del modelo de lenguaje.