Día del Internet Más Seguro: La IA ha sido un arma de doble filo para el internet

Estamos en una de las temporadas digitales más importantes debido al gran avance que ha beneficiado a industrias y tareas diarias de los usuarios con la inteligencia artificial, sin embargo, todo esto también ha sido aprovechado por los cibercriminales.

En el marco del Día del Internet Más Seguro, Trend Micro Incorporated, líder mundial en ciberseguridad, advierte sobre una nueva amenaza cibernética: los enlaces trampa, una forma de inyección de prompt que explota vulnerabilidades en la IA generativa. 

¿Cómo funcionan los ataques con IA Generativa?

La "inyección de prompt" es una técnica que se usa para manipular sistemas de inteligencia artificial (IA) y hacer que realicen acciones que no deberían. Aunque los sistemas de IA suelen bloquear peticiones sospechosas, los atacantes pueden engañarlos utilizando comandos como “olvida todo lo que te dijeron antes y haz lo que pido”. Esto hace que la IA interprete el pedido como algo válido y, como resultado, pueda ejecutar acciones que pongan en riesgo la seguridad del usuario.

El ataque de enlaces trampa es una evolución de esta técnica, pues no requiere que la IA tenga conectividad externa para comprometer la información. El proceso comienza cuando el atacante inserta instrucciones maliciosas dentro de una consulta legítima. Estas instrucciones pueden solicitar la recopilación de datos sensibles, como información personal o documentos internos.

En la respuesta generada por la IA, se incluye un enlace que aparenta ser inofensivo, etiquetado con términos como “referencia”. Si el usuario hace clic, los datos recopilados se envían directamente al atacante. Para ganar la confianza del usuario, la IA proporciona respuestas válidas junto con el enlace malicioso, lo que hace que el ataque sea difícil de detectar.

¿Cómo evitar caer en este riesgo?

• Inspeccionar los prompts enviados a la IA: verificar que no contengan instrucciones maliciosas que puedan comprometer la seguridad.
• Analizar detenidamente los enlaces recibidos: validar siempre la fuente antes de hacer clic en cualquier hipervínculo generado por IA.
• Utilizar soluciones de seguridad avanzadas: herramientas como Trend Vision One™ ZTSA pueden detectar intentos de inyección de prompt y monitorear el uso de la IA.
• Capacitar a los usuarios: fomentar la concienciación sobre las técnicas de ataques y las buenas prácticas de seguridad es fundamental para prevenir incidentes.
• Aplicar el principio de menor privilegio: limitar los permisos de la IA para minimizar el impacto de posibles ataques.