El prompt injection es una técnica de ataque informática emergente que involucra la manipulación de entradas en modelos de inteligencia artificial, como los de procesamiento de lenguaje natural (PLN), para obtener resultados no deseados o maliciosos. Desde una perspectiva legal, esta técnica plantea desafíos importantes en el marco de los delitos informáticos, particularmente en los sistemas legales latinoamericanos, donde las normativas relacionadas con la ciberseguridad y la protección de datos aún están en desarrollo o son relativamente recientes en algunos países.
Definición de «Prompt Injection»
El «prompt injection» consiste en inducir a un modelo de inteligencia artificial (IA) a realizar acciones no previstas por sus programadores o a generar respuestas que podrían ser utilizadas de manera maliciosa. Un atacante puede inyectar datos cuidadosamente manipulados (un «prompt») en el sistema de IA para alterar su funcionamiento normal, obtener acceso a información sensible o incluso realizar acciones automatizadas que generen daños..
Clic para ver el artículo completo https://raymondorta.com/el-prompt-injection-como-tecnica-de-comision-de-delitos-informaticos