IA + Derecho + LegalTech
La inteligencia artificial utilizada en el ámbito jurídico enfrenta un riesgo que no siempre es visible: los documentos que procesa pueden contener instrucciones diseñadas para manipular su comportamiento.
El denominado prompt injection consiste, en términos generales, en introducir instrucciones dentro de un contenido para intentar alterar la forma en que un sistema de IA responde o procesa información.
En un entorno judicial, el riesgo adquiere especial importancia. Un documento aparentemente normal podría contener instrucciones ocultas o diseñadas para influir en un sistema que lo analiza.
Esto obliga a pensar en una nueva dimensión de la seguridad jurídica: no basta con verificar que una información sea verdadera. También puede ser necesario verificar que el contenido procesado por la IA no esté intentando controlar a la propia herramienta.
Para abogados, jueces y entidades públicas, la respuesta debe incluir controles técnicos, revisión humana y políticas claras sobre qué documentos pueden ser procesados automáticamente.
La IA ofrece grandes posibilidades para el sector jurídico, pero su incorporación también obliga a entender nuevos riesgos tecnológicos.