Inicio › Diccionario de IA › Prompt injection

¿Qué es Prompt injection?

También se le dice: Inyección de instrucciones

Un ataque donde alguien esconde órdenes dentro de un texto o página que el modelo va a leer, para secuestrar lo que hace. Es uno de los grandes dolores de cabeza de seguridad en IA.

Esto es una entrada del diccionario de IA en español: 26 términos explicados sin humo, en el idioma en que piensas. También existe como buscador dentro del sitio.

Términos relacionados

• JailbreakEngañar al modelo con frases ingeniosas para que se salte sus propias...
• AgenteUn modelo al que le das herramientas y cierta libertad para hacer varios...
• AlineaciónEl esfuerzo por que el modelo se comporte como queremos: útil, honesto y...