Inteligencia artificial y manipulación: nuevas claves para interpretar lo que vemos en internet

Si un internauta de 2019 pudiera navegar por las redes sociales de hoy quedaría perplejo ante la dificultad para distinguir algunos vídeos generados por inteligencia artificial (IA) generativa de vídeos reales. En tan poco tiempo la tecnología ha evolucionado tanto, señala Carmen Torrijos, lingüista computacional especializada en este campo, que el ojo humano puede tener grandes dificultades para detectar determinados contenidos creados de manera sintética. Y los estafadores se aprovechan de ello. “Ahora tienen la posibilidad de crear anuncios, webs o de imitar la voz de personas en poco tiempo y con un resultado excelente”, añade.

Ese mismo internauta dudaría ante los sofisticados fraudes que cada día se lanzan a la red, como los anuncios de inversiones en los que se suplanta la identidad de personas conocidas, las tiendas online que venden productos inexistentes o las notas de voz que llegan de repente en forma de mensaje en nombre de un familiar que pide ayuda. “Vivimos un tiempo en el que consumimos contenidos cortos que nos exigen una reacción muy rápida, por eso son el caldo de cultivo perfecto para los engaños digitales”, alerta la experta.

Para luchar contra tanto espejismo existen tecnologías para detectar contenido sintético, pero ninguna ofrece una detección universal y completamente fiable, agrega Torrijos. Solo queda entrenarse en unos hábitos básicos para cambiar nuestra exposición a este tipo de trampas. Siga leyendo.

Anuncios generados con IA, una oferta demasiado buena para ser cierta

En las redes sociales proliferan contenidos creados con IA que utilizan imágenes, sonidos o textos impactantes, a menudo protagonizados por figuras públicas, para difundir contenidos falsos o manipulados y conseguir que el usuario haga clic. Estas son algunas señales para detectarlos:

Suplantan la identidad de personas o entidades conocidas. Recurren a fotos o vídeos generados con IA de famosos, sin su consentimiento, para explotar la confianza que genera un rostro popular. También pueden utilizan la imagen de compañías conocidas o medios de comunicación a través de sus logos y sus colores corporativos.

Prometen un producto o un servicio extraordinario. Lo más común, explica Martín Vigo, fundador de la empresa de ciberseguridad Triskel Security, son las inversiones que ofrecen grandes beneficios en poco tiempo. También se crean anuncios engañosos de videojuegos para el móvil. “Muestran unos gráficos de alta calidad en la publicidad que luego no se corresponden con los reales, mucho más básicos”, agrega el experto.

Crean una falsa sensación de urgencia. Presentan sus ofertas agresivas como una promoción limitada o exclusiva para quien la recibe.

El fraude se produce fuera del anuncio. Llevan al usuario a una página donde se le exige un pago por el supuesto servicio, se le solicitan sus datos personales a través de un formulario de captación, o se le redirecciona a una conversación en una plataforma de mensajería donde se continúa con la estafa.

El mayor engaño tras los anuncios: la estafa de inversión. Las falsas inversiones son uno de los principales usos fraudulentos de los anuncios generados con IA. En este fraude, el delincuente actúa como asesor financiero al frente de una empresa falsa, desde la que promete rentabilidades muy altas si se le confía dinero o criptomonedas. Los estafadores aseguran que la cantidad inicial puede multiplicarse hasta por diez.

Después de realizar el primer pago, el estafador suele mostrar a la víctima los rendimientos a través de una aplicación falseada. Entonces le sugiere una aportación mayor. En el momento en el que el inversor decide recuperar su capital, se le exige más dinero, en concepto de comisión o pago de impuestos. Si paga, la estafa continúa; si no, el estafador se esfuma y con él todo lo invertido.

Comercios ‘online’ falsos, creados al detalle mediante IA

La IA permite a los estafadores dar forma a tiendas digitales con todos los elementos que hoy tienen este tipo de páginas. Ofrece la posibilidad de elaborar textos, imágenes de productos y un diseño coherente, incluso falsas reseñas de usuarios, explica Vigo. “Muchas de las herramientas de IA generativa dan la posibilidad de hacer todo esto en cuestión de horas. También clonar una web de alguna marca conocida”, detalla el experto. “Si, además, se compra un dominio que se parezca mucho al original, pero que no sea exactamente igual, el engaño resulta todavía más difícil de identificar”, completa. Vigo recomienda conocer sus características para estar alerta:

Pueden imitar con gran precisión la apariencia de páginas legítimas. Cuidan al máximo todos los aspectos, como la política de privacidad, las condiciones de compra, entre otros. Incluso pueden disponer de un servicio de atención al cliente mediante un bot de IA.

Ofrecen precios anormalmente bajos. Su principal gancho son los descuentos, especialmente en productos de marcas conocidas, bajo el pretexto de una falsa liquidación, un excedente de existencias o una promoción temporal.

‘Comercializan’ productos atractivos. En muchas ocasiones promocionan artículos con propiedades extraordinarias, como aparatos para eliminar lesiones o cremas antiarrugas que garantizan resultados prodigiosos; también juguetes o electrodomésticos con funcionalidades de ciencia ficción o muebles de formas sorprendentes.

Incorporan sistemas de pago reales. Utilizan plataformas de pago como las de las tiendas legítimas porque su objetivo es obtener el dinero de los compradores; muchas solo aceptan transferencia, Bizum o métodos sin protección al comprador. Existen varios tipos de comercios fraudulentos en línea, describe Vigo: los que no realizan ningún envío una vez se ha realizado el pago, los que despachan un producto de mucha peor calidad que el anunciado y los que su único objetivo es capturar los datos de la tarjeta de la víctima.

Se publicitan en buscadores y en redes sociales. Suelen promocionarse a través de anuncios creados con IA en las principales plataformas.

Aprovechan acontecimientos comerciales. Multiplican sus anuncios en momentos de grandes compras como los periodos de rebajas, Black Friday o Navidad, donde se camuflan entre el aluvión de ofertas.

Tienen una vida muy corta. Suelen desaparecer una vez que han obtenido un determinado número de pedidos o de datos de los usuarios. Lo más habitual es que vuelvan a aparecer con otro dominio y otra identidad.

Pueden fingir la tramitación del pedido. Suelen enviar correos electrónicos falsos sobre el estado del pedido, con órdenes de compra y facturas falsas e incluso información ficticia sobre el seguimiento del envío. Lo hacen para reforzar la apariencia de legitimidad en todos los canales de contacto con el comprador y prolongar el engaño.

Tres segundos para suplantar una voz, el auge del ‘deepfake’

La gran revolución de la IA generativa, señalan los expertos, es la creación de vídeos y audios que imitan la apariencia y la voz de una persona con tal precisión que engañan tanto a algoritmos como a humanos. La palabra deepfake combina los conceptos en inglés deep learning, que significa aprendizaje profundo, y fake, que quiere decir falso.

“Hoy, esta tecnología ha avanzado mucho”, explica Torrijos, lingüista computacional especializada en IA. “Antes se necesitaba hasta una hora de voz para clonar a una persona con garantías. Hoy bastan tres segundos para lograr una reproducción aceptable y 15 para obtener una imitación óptima”. Este es el uso fraudulento más extendido en la actualidad y el que más preocupación genera, añade Torrijos. De esta técnica se valen los estafadores en fraudes tanto en el ámbito familiar como en el empresarial. Y se usa en mensajes cortos, explica la experta, ya que camuflan mejor cualquier fallo de la clonación y no permiten a la víctima pararse a reflexionar.

La estafa del hijo en apuros. El estafador clona la voz de un familiar de la víctima, que suele ser un hijo o un nieto, y le envía, desde un número desconocido, mensajes cortos a través de una plataforma de mensajería instantánea. En esas notas de voz el estafador plantea una emergencia, como que ha perdido el teléfono, y escribe desde el de un amigo, o ha tenido un accidente y se ha quedado sin batería y ha de realizar un pago con urgencia. Se trata de una estafa que con el avance de la IA se produce cada vez más por notas de voz. Los estafadores suelen estudiar a sus víctimas a través de sus redes sociales, en el caso de que no sean privadas, señala el Instituto Nacional de Ciberseguridad (INCIBE). De esta manera pueden recopilar información sobre los miembros de la familia, así como números de teléfono y audios de voz con los que generar la estafa.

La estafa del CEO. En este tipo de fraude, el delincuente suplanta la identidad de un directivo de una empresa, habitualmente un CEO (siglas en inglés de chief executive officer, puesto equivalente a director ejecutivo). El objetivo es engañar a uno de sus empleados para que revele información privada que puede ser utilizada posteriormente o realice una transferencia a una cuenta ajena a la compañía. La Agencia de la Unión Europea para la Cooperación Policial (Europol) señala que cada vez es más común el uso de la IA en esta modalidad de estafa a través del deepfake. La clonación de voz es el uso más extendido, pero la facilidad para clonar la imagen que permiten los programas de última generación está multiplicando los ataques en los que también se suplanta la apariencia física y los movimientos de directivos.

Ante fraudes perfeccionados con IA, ¿qué se puede hacer?

El principal recurso de los usuarios de internet para no caer en estafas generadas con IA es la misma que para el resto de fraudes: pararse un segundo a pensar y verificar por otro canal.

Una pausa antes de actuar. Muchos fraudes están diseñados para provocar una reacción inmediata, como una supuesta oportunidad de inversión que termina en unas horas, un producto rebajado temporalmente o un familiar que necesita dinero de manera urgente. Esta premura reduce el tiempo que la víctima puede dedicar a pensar y favorece que actúe instintivamente. Al mismo tiempo, señala Vigo, la exigencia de una respuesta inmediata ha de ser un indicador que haga saltar la alerta de que se puede estar frente a un engaño.

Verificar por otro canal. Si un contenido genera dudas sobre si es real o ha sido generado con IA, los expertos recomiendan comprobarlo por otra vía.

• En el caso de un anuncio generado con IA. No clicar en el anuncio. Si promete una inversión extraordinaria, un producto muy rebajado, ponerlo bajo sospecha. Se debe buscar información por otro canal, como los buscadores, o comprobar si la empresa se encuentra en el registro oficial de la Comisión Nacional del Mercado de Valores (CNMV), que cuenta con una sección de Advertencias sobre Entidades No Autorizadas. Se actualiza periódicamente, pero que no aparezca ahí no significa que sea fiable, puede deberse a que aún no la haya detectado.
• En el caso de una tienda online. Si se ha llegado a la web a través de un anuncio, conviene realizar una búsqueda por otra vía, como los buscadores. Se puede recabar más información añadiendo al nombre términos como estafa, fraude, reclamaciones... Si se trata de una marca conocida, comprobar la URL, si se parece al nombre de la marca pero no es igual, conviene desconfiar.
• En el caso de recibir una petición urgente de un familiar o de un directivo. Comprobar la petición por el número habitual de esa persona, nunca devolver la llamada desde “llamadas recientes o perdidas”. Vigo recomienda acordar de antemano una contraseña familiar: una palabra o una pregunta con una respuesta que solo conozcan los miembros de la familia. Si alguien llama o envía una nota de voz pidiendo dinero con urgencia, basta con pedirle esa palabra. Una voz clonada puede imitar el tono y la forma de hablar, pero no puede saber algo que nunca se ha dicho en público. En el caso del superior, contactar por las vías oficiales o incluso, si fuera posible, confirmar la petición en persona.

El banco te ayuda a verificar antes de actuar

Con la inteligencia artificial, un anuncio, una tienda online o una voz pueden parecer más reales que nunca. Por eso, cuando algo transmite urgencia, la mejor respuesta es la pausa: parar, pensar y verificar por otro canal. Un usuario que practica ese hábito está mejor preparado para reconocer una estafa digital a tiempo.

Banco Santander ofrece a sus usuarios y a la sociedad en general campañas de concienciación y contenidos con recomendaciones prácticas para operar online con más seguridad. También para aprender a identificar fraudes que se apoyan en la IA, como anuncios de inversión con rostros conocidos, tiendas falsas o voces clonadas.

Y para que verificar sea fácil, el banco cuenta con Santander te llama, que confirma en tiempo real si la llamada proviene realmente de la entidad. Cada vez que un gestor contacta con un cliente, este recibe una notificación en la aplicación y un correo electrónico sin enlaces que valida la autenticidad de la conversación. Y con Santander Key, las operaciones se validan con biometría desde la propia aplicación.

Si alguna comunicación por parte del banco genera dudas, Santander ofrece canales oficiales para resolverlas: los SMS sospechosos se pueden enviar al 638 444 542; los correos dudosos, a phishing@gruposantander.es. También se pueden realizar consultas sobre estos temas en la Superlínea (915 123 123), en las propias oficinas, o desde el Centro de Ayuda de la aplicación o la banca online, disponible 24 horas.

Banco Santander dispone de un canal de WhatsApp directo para clientes. Una comunidad a la que se pueden unir para recibir ciberconsejos, novedades y alertas sobre este tipo de estafas y pautas para identificar mensajes sospechosos.

Y para la seguridad online de toda la familia, Santander ha lanzado SafieHacks y Teen Hacks, unas plataformas de concienciación para niños y adolescentes que les ayudan a desarrollar hábitos digitales más seguros, reconocer posibles riesgos y tomar decisiones con mayor criterio y confianza en internet

‘Seguridad día a día’ también en SER

0:00 0:00