¿Qué es Prompt injection?

También se le dice: Inyección de instrucciones

Un ataque donde alguien esconde órdenes dentro de un texto o página que el modelo va a leer, para secuestrar lo que hace. Es uno de los grandes dolores de cabeza de seguridad en IA.

Esto es una entrada del diccionario de IA en español: 26 términos explicados en el idioma en que piensas. También existe como buscador, por si prefieres escribir la palabra.