Amenaza para empresas chilenas: instrucciones ocultas en IA

En una reciente noticia judicial en Brasil, se descubrió que en un recurso presentado ante el Superior Tribunal de Justicia (STJ) había una frase oculta escrita en letra blanca sobre fondo blanco. Esta frase solicitaba a cualquier inteligencia artificial que leyera el documento interpretarlo a favor de la defensa.

El hallazgo fue realizado por el equipo del magistrado a cargo del caso en septiembre, quienes informaron al Colegio de Abogados de Brasil (OAB) y a la fiscalía federal. Ante este descubrimiento, el juez afirmó que "el intento de manipular la jurisdicción no tendrá éxito".

Este incidente no fue un caso aislado, ya que desde mayo varios tribunales en Brasil han encontrado mensajes similares en sus documentos legales. Algunos pedían aprobar todas las solicitudes mientras que otros ordenaban ignorar la imparcialidad. En el estado de Bahía, por ejemplo, se encontró una frase oculta que exigía conceder todos los pedidos del recurso, siendo alertada por el sistema de IA del tribunal.

Estas acciones forman parte de una técnica conocida como "inyección de prompt", donde se dan instrucciones engañosas a una herramienta de IA para influir en sus acciones. Según Andrés Vargas, especialista en ciberseguridad de NIVEL4, esta técnica representa un riesgo significativo debido a la dificultad de las IA para distinguir entre órdenes legítimas y contenido manipulado.

La inyección de prompt es considerada uno de los principales riesgos de seguridad según OWASP, una fundación internacional especializada en identificar vulnerabilidades en programas y aplicaciones. En su lista del 2026 sobre aplicaciones que utilizan modelos de lenguaje, esta técnica se destaca como el riesgo más crítico.

En Chile, un estudio indica que el 88% de las empresas interactúa con la IA, pero solo el 53% cuenta con lineamientos claros para su uso. A nivel global, el Global Cybersecurity Outlook 2026 del Foro Económico Mundial señala que las fallas de seguridad asociadas con la IA representan un riesgo significativo para las organizaciones.

Especialistas como Andrés Vargas enfatizan la importancia de considerar los riesgos asociados con las aplicaciones que utilizan IA y sugieren tomar medidas preventivas para mitigar posibles vulnerabilidades. A partir de la experiencia en los tribunales brasileños, se recomienda estar alerta y establecer controles rigurosos para prevenir posibles manipulaciones mediante instrucciones ocultas.