Ojo con lo que ves en TikTok, no todo lo que brilla es oro: Avatares IA difunden información falsa

La llegada de la inteligencia artificial a mano de los usuarios ha sido una idea que muchos han sabido aprovechar y sacarle el máximo potencia para su vida diaria o su vida laborar, apoyándose en la herramienta para ser más efectivos y optimizar diferentes tareas repetitivas, no obstante, también ha habido diferentes dinámicas que se han empleado para engañar y estafar debido a la alta funcionalidad de la IA para desarrollar video so información.

Por parte del ESET, una compañía que se enfoca en la detección de ciberataques y las deepfakes, ha logrado identificar una sin fin de información falsa en internet creada con inteligencia artificial que ha logrado confundir a ciento y millones de usuarios que suelen informarse por medio de páginas web o de las redes sociales. Este abuso de la tecnología se ha convertido en un dolor de cabeza para los encargados de detectar ese tipo de situaciones, pues día a día suelen salir nuevos contenidos sin fines educativos o verdades que usuarios consumen.

Con la inteligencia artificial se han podido crear videos, audios, modulación de voces y suplantación de imagen, situación que se ha identificado en diferentes situaciones. Los laboratorios de ESET Latinoamérica, recientemente identificaron una campaña difundida por medio de redes sociales que utiliza avatares diseñados con inteligencia artificial que imitan a profesionales de la salud para publicitar productos o suplementos como si fueran recomendados por grandes especialistas en temas de salud.

Estos “avatares” se ubican en una de las esquinas de la pantalla en un tamaño pequeño donde habla sobre su larga experiencia en el campo de la salud y recomienda ciertos productos relacionados con mejoras de alimentación o productos estéticos con el fin de que se realice una compra.

“La generación de imágenes, video o audio falsificado para cometer estafas, robar información o desestabilización de la opinión pública, son moneda corriente hoy en día en el mundo del cibercrimen.”, comenta Camilo Gutiérrez Amaya, Jefe del Laboratorio de Investigación de ESET Latinoamérica.

Esta campaña ha llevado a cabo la supuesta recomendación de suplementos, alimentación, vitaminas, medicina y demás productos con supuestas imágenes y rostros de médicos. Esta situación ha causado asombro en los especialistas, pues se está jugando con temas delicados y que a la final son atractivos para los usuarios como tips y suplementos para bajar de beso, productos estéticos, entre otros.

El fin de esta falsa publicidad con avatares IA es llevar al usuario a Amazon bajo un enlace para que estos adquieran el supuesto producto recomendado. Según datos del equipo de investigación de ESET, son más de 20 cuentas que se relacionan con este tipo de contenidos falsos que se han difundido en diferentes redes sociales en formatos de video cortos. 

¿Cómo identificar si una información es verdadera o falsa basada en inteligencia artificial?

• Desincronización de la boca y labios, que no coinciden del todo con el audio.
• Expresiones faciales poco naturales o rígidas.
• Artefactos visuales y distorsiones, como bordes borrosos o cambios repentinos de iluminación.
• Voz robótica, artificial o con entonación demasiado uniforme.
• Cuentas de reciente creación, con pocos seguidores o sin historial relevante.
• Lenguaje exagerado, con frases como “cura milagrosa”, “los doctores no quieren que lo sepas” o “100% garantizado”.
• Afirmaciones que no tienen respaldo científico, o que se basan en estudios o fuentes de poca reputación.
• Llamado a la urgencia y presión para comprar en frases como “solo por tiempo limitado” o “pocas unidades disponibles”.