Después de analizar el uso potencial de la tecnología como ChatGPT de los ciberdelincuentes, ESETuna empresa líder en detección proactiva de amenazas, continúa revisando tecnologías que se derivan de AI, o más específicamente de Machine Learning, para ver cuáles son las caras de GAN y las posibilidades que ofrecen para fines maliciosos.
tu Tecnología GAN es un tipo de Inteligencia Artificial que te permite crear caras falsas. Redes GAN (del inglés Red adversaria generativa, cuya traducción puede ser redes generativas antagónicas o antagónicas) son algoritmos que se basan en Deep Learning. A través de esta tecnología se pueden generar rostros realistas y otro tipo de imágenes, incluyendo audio o video. De hecho, estudios publicados ya informaban a finales de 2021 que las imágenes creadas por la Inteligencia Artificial son cada vez más convincentes y que existe un 50% de posibilidades de confundir un rostro falso con uno real.
Ejemplo de una cara GAN (izquierda) y una cara real.
“Este tecnología, que trabaja en la formación de imágenes, fue creado en 2014 por Ian Goodfellow y su equipo de colegas. Los datos de entrada deben ingresarse, como las caras reales de diferentes personas, y el modelo produce caras nuevas con las características de la apariencia real. Aunque los rostros GAN son de gran ayuda para industrias como la de los videojuegos para generar rostros para personajes, o para efectos visuales que luego se usan en películas, también pueden usarse con fines maliciosos.”, comenta Camilo Gutiérrez Amaya, Jefe del Laboratorio de Investigación de ESET Latinoamérica.
Al respecto, ESET comparte algunos ejemplos de cómo esta tecnología puede ser utilizada por actores malintencionados:
Crear perfiles falsos
Si hay algo que saben hacer los ciberdelincuentes es utilizar las nuevas tecnologías para poder implementar estafas cada vez más persuasivas. Con el Red GAN Pueden crear imágenes o incluso videos de personas conocidas o desconocidas para engañar a las víctimas para que revelen información confidencial, como nombres de usuario y contraseñas, o incluso números de tarjetas de crédito. Por ejemplo, pueden crear caras de personas ficticias que luego se utilizan para construir perfiles de supuestos representantes de atención al cliente de una empresa. Estos perfiles luego envían correos electrónicos de phishing a los clientes de esa empresa para engañarlos para que revelen información personal.
Crea noticias falsas
El auge de las noticias falsas ha hecho que sea difícil discernir entre información real y falsa. Con el avance de las tecnologías de aprendizaje automático, el desafío parece estar creciendo. como se ve con ChatGPT y la posibilidad de crear noticias falsasSi esta noticia va acompañada de videos o imágenes que se hacen pasar por personas reales, el potencial es enorme. Ya ha habido casos en los que se han creado deepfakes haciéndose pasar por políticos para distribuir noticias falsas, como fue el caso del presidente de Ucrania, Volodymyr Zelensky, y un video falso que se subió a sitios web compromete en este país en el que llamaba ucraniano. soldados a bajar sus armas.
El robo de identidad
Crear caras similares a las de figuras públicas, como celebridades, puede ffacilitar el robo de identidad o el fraude de suplantación de identidad. Por ejemplo, hay que pensar en el reconocimiento facial como método de autenticación y en las posibilidades que ofrece GAN face como herramienta para eludir este método de autenticación y acceder a una cuenta de terceros. Por otro lado, también es importante mencionar que las empresas son conscientes de los riesgos y desarrollan funcionalidades para detectar estas imágenes falsas.
Fraude en aplicaciones de citas y redes sociales
De ESET ya se mencionan riesgos de seguridad y estafas que circulan por sitios y aplicaciones de citas. Pero con el avance de tecnologías como GAN, los ciberdelincuentes pueden crear rostros falsos que se utilizan para crear perfiles falsos en aplicaciones de citas y/o perfiles de redes sociales como parte de su estrategia para engañar y luego extorsionar a las víctimas. Empresas como Meta revelaron el auge de perfiles falsos con imágenes artificiales creadas por computadora.
Algunos consejos para evitar estafas generando imágenes y videos GAN son:
- revisa la fuente: Asegúrese de que la fuente de la imagen sea confiable y verifique la veracidad de la imagen.
- “No todo lo que brilla es oro”: Tenga cuidado con las imágenes que se ven demasiado perfectas. La mayoría de las imágenes generadas por este tipo de tecnología son perfectas e impecables, por lo que es importante prestarles atención. Si una imagen o video parece sospechoso, busque más información al respecto en otras fuentes confiables.
- Mira las imágenes y/o el video: Existen algunas herramientas en línea, como la búsqueda inversa de imágenes de Google, que pueden ayudarlo a verificar la autenticidad de las imágenes y los videos.
- Actualizar los sistemas de seguridad: Mantenga los sistemas de seguridad actualizados para protegerse contra estafas y malware.
- Instale un software antivirus confiable: No solo ayudará a detectar código malicioso, sino que también detectará sitios falsos o sospechosos.
- No comparta información confidencial: No comparta información personal o financiera con nadie que no conozca.
“Si bien hoy en día estamos hablando de redes GAN, los avances que se han hecho en el campo de la IA son grandes, así que recuerda que como usuarios debemos tratar de estar informados sobre las últimas técnicas que utilizan los ciberdelincuentes para saber cómo protegerse. diversas amenazas en línea”, destaca Gutiérrez Amaya, de ESET.
