En el panorama digital actual, en rápida evolución, los deepfakes plantean un reto formidable. Este artículo pretende ofrecer una comprensión exhaustiva de los deepfakes, desde su definición hasta la evolución de la tecnología que los sustenta, su impacto en diversos sectores y las estrategias para luchar contra esta amenaza creciente.
¿Qué es el deepfake?
El término «deepfake» se refiere a la fusión de inteligencia artificial con medios manipulados, creando falsificaciones convincentes en imágenes, vídeos o grabaciones de audio. Utilizando el aprendizaje automático avanzado (ML), los deepfakes emulan meticulosamente a personas reales, ampliando los límites de nuestra capacidad para distinguir entre contenido digital auténtico y manipulado.
¿Cómo funciona el deepfake?
La evolución de la tecnología deepfake es un viaje cautivador que tiene sus raíces en la convergencia de la inteligencia artificial (IA), especialmente el aprendizaje profundo, con amplios conjuntos de datos.
A medida que avanza el aprendizaje automático y aumenta la potencia de cálculo, los deepfakes han evolucionado desde el simple intercambio de rostros hasta la intrincada imitación de voces, poniendo en entredicho la autenticidad de los contenidos digitales.
¿Son ilegales los deepfakes?
La legalidad de los deepfakes puede variar en función de varios factores, como la jurisdicción y el uso específico de la tecnología. En muchos lugares, crear y compartir contenidos deepfake sin el consentimiento de las personas implicadas puede plantear problemas legales y éticos.
Algunos problemas jurídicos comunes asociados a los deepfakes:
- Infracción de los derechos de autor: Si el material fuente utilizado para crear un deepfake está protegido por derechos de autor, utilizarlo sin permiso podría constituir una infracción de los derechos de autor.
- Difamación e injurias: Los vídeos deepfake que muestran a personas con comportamientos falsos o difamatorios podrían dar lugar a acciones legales por difamación o calumnia.
- Violación de la privacidad: Crear y compartir contenido deepfake sin el consentimiento de las personas retratadas puede violar sus derechos de privacidad, especialmente si el contenido es de naturaleza sensible o íntima.
- Fraude y tergiversación: Los deepfakes utilizados para suplantar la identidad de personas con fines fraudulentos, como estafas financieras o robo de identidad, pueden dar lugar a cargos penales.
- Pornografía no consentida: La creación y difusión de pornografía deepfake sin el consentimiento de las personas representadas es ilegal en muchas jurisdicciones y puede dar lugar a cargos de porno venganza o delitos similares.
¿Qué quiere decir deepfake?
El término «deepfake» combina «deep learning» y «fake» y se refiere a la tecnología de inteligencia artificial (IA) altamente sofisticada que implica algoritmos de aprendizaje profundo. En la creación de deepfakes, estos datos suelen comprender amplias colecciones de imágenes, audio y grabaciones de vídeo. Esta tecnología permite generar vídeos y grabaciones de audio falsos y convincentes que parecen reales.
Los deepfakes se utilizan con frecuencia en diversos sectores, pero han cobrado especial importancia en los medios de comunicación, el entretenimiento y la ciberseguridad.
Por ejemplo, en la banca y las finanzas, la tecnología deepfake podría utilizar grabaciones de voz y vídeo de clientes para crear comunicaciones fraudulentas casi indistinguibles de las interacciones auténticas. Esto plantea importantes retos para las medidas de seguridad, por lo que la detección de estas falsificaciones es crucial para proteger la información personal y financiera.
Esta tecnología emergente, al tiempo que muestra impresionantes avances en IA, plantea problemas éticos y legales. Subraya la necesidad de disponer de técnicas de detección avanzadas y de una normativa que impida su uso indebido para difundir información errónea, manipular los mercados de valores o cometer robos de identidad.
Sin embargo, es importante tener en cuenta que la legalidad de las falsificaciones profundas sigue siendo un ámbito jurídico en desarrollo, y que la legislación y los precedentes jurídicos pueden variar de una región a otra.
A medida que la tecnología evoluciona, los legisladores y los expertos jurídicos están tratando de encontrar la manera de abordar eficazmente los retos que plantea la tecnología de deepfake.
¿Qué tecnología se utiliza en deepfake?
La tecnología deepfake es una forma sofisticada de inteligencia artificial (IA) que utiliza algoritmos de aprendizaje automático y aprendizaje profundo para crear o manipular grabaciones de audio y vídeo. La tecnología aprende de un amplio conjunto de datos, que normalmente incluye innumerables ejemplos de habla, rasgos faciales y comportamientos humanos.
Esto permite a la IA simular características similares a las humanas con gran precisión en los resultados generados. La tecnología Deepfake tiene profundas implicaciones en diversos campos, como el entretenimiento, la política y la seguridad, donde puede utilizarse para crear desde contenidos novedosos hasta posibles campañas de desinformación.
¿Cómo se generan las deepfakes?
Los deepfakes utilizan algoritmos de inteligencia artificial (IA) que aprenden consumiendo un conjunto específico de imágenes y luego son capaces de generar nuevas versiones de esas mismas imágenes.
Este proceso explica por qué la mayoría de las imágenes asociadas con deepfakes implican a personas famosas, debido a la gran cantidad de imágenes suyas en Internet.
La tecnología analiza minuciosamente aspectos como las expresiones faciales y los movimientos para crear contenidos falsos convincentes.
¿Por qué son peligrosos los deepfakes?
Visión general de las estafas de deepfake: Comprender la amenaza
Las organizaciones confían en algoritmos avanzados para evaluar la autenticidad y la «viveza» de las voces y los rostros en las transacciones, pero la eficacia varía. Hackers bien financiados explotan estas vulnerabilidades de los algoritmos utilizando IA y ML para crear sofisticadas falsificaciones faciales y de voz, engañando tanto a individuos como a sistemas.
Estas manipulaciones vulneran las medidas de autenticación modernas, lo que supone una amenaza sustancial, especialmente en el sector bancario. Mantenerse informado sobre las falsificaciones profundas es crucial, ya que los delincuentes se aprovechan de las grabaciones de voz y vídeo de los clientes para crear falsificaciones convincentes, lo que hace que las organizaciones que confían en algoritmos de autenticidad sean vulnerables a manipulaciones sofisticadas.
Ejemplos de estafas con deepfakes
- En el mundo bancario, los deepfakes han facilitado estafas a una escala alarmante, alcanzando hasta 35 millones de dólares (USD). La amplitud de los tipos de ataque sigue ampliándose, y los deepfakes se utilizan en:
- Fraude de cuentas nuevas: Creación de identidades sintéticas para abrir nuevas cuentas, lo que da lugar a actividades como la acumulación de deudas y el blanqueo de dinero.
- Identidades sintéticas: Utilización de credenciales robadas o falsas para construir identidades artificiales, obtener préstamos y adquirir tarjetas de crédito o débito.
- Fraudes fantasma: Explotación de identidades robadas de personas fallecidas recientemente para violar cuentas, drenar fondos y participar en diversas actividades fraudulentas.
- Reclamaciones de muertos vivientes: Falsificaciones de familiares que convencen a las entidades financieras de que una persona fallecida sigue viva, lo que da lugar al cobro de prestaciones existentes.
Como ocurre con muchos avances tecnológicos, el uso irresponsable de las tecnologías deepfake puede tener graves consecuencias. Las estafas de deepfake representan no sólo un reto tecnológico, sino un peligro generalizado que exige una mayor concienciación y medidas contundentes para contrarrestarlo.
«Las estafas Deepfake Imposter están impulsando una nueva ola de fraude»
El auge de las «Estafas de Impostura Deepfake» marca una nueva era de actividades fraudulentas. La avanzada tecnología deepfake está impulsando sofisticadas estafas, en las que se suplanta la identidad de personas y entidades de forma convincente. Esta tendencia emergente subraya la urgente necesidad de una mayor concienciación y de medidas proactivas para combatir el cambiante panorama de amenazas de fraude.
¿Puede la IA detectar los deepfakes?
La Inteligencia Artificial (IA) contribuye a crear deepfakes, pero también ofrece soluciones prometedoras para detectarlos. A medida que las tecnologías de IA evolucionan, mejoran el realismo de los deepfakes mediante algoritmos avanzados de aprendizaje automático y se convierten en herramientas clave para identificar y contrarrestar estas manipulaciones.
Estos algoritmos, entrenados en vastos conjuntos de datos, aprenden a reconocer las discrepancias y anomalías sutiles que diferencian las expresiones y voces humanas auténticas de sus homólogas sintéticas.
¿Cómo saber si es deepfake?
La importancia de detectar un deepfake
En un estudio reciente realizado por Sophie Nightingale y su colega Hany Farid, se reveló que los humanos obtienen peores resultados que el mero azar a la hora de distinguir entre rostros humanos generados artificialmente por programas de IA y fotografías de individuos reales. Destacado por La Vanguardia, medios españoles y otras publicaciones, el estudio también subraya el potencial mal uso de estas tecnologías, abriendo vías para futuras estafas y chantajes, incluyendo escenarios como la pornografía vengativa o el fraude.
Imágenes de los rostros calificados por los participantes en el estudio de Nightingale y Farid como más y menos fiables junto con su puntuación en una escala de 1 (muy poco fiable) a 7 (muy fiable). Es interesante observar cómo las 4 caras calificadas como fiables son todas de origen sintético (S) y las 4 menos fiables son todas reales (R), y comprender los riesgos que ello implica.
El auge de los métodos biométricos para verificar la identidad a distancia nos lleva a preguntarnos: ¿Qué papel pueden desempeñar estas soluciones innovadoras para frustrar el fraude facilitado por las deepfakes? ¿Pueden estas tecnologías combatir eficazmente las amenazas que plantean las deepfakes? Profundicemos en algunas ideas clave.
Dos formas de comprometer los sistemas biométricos
También es importante comprender los dos tipos principales de ataques de suplantación de identidad contra los sistemas biométricos de autenticación de identidad: los ataques de presentación y los ataques de inyección.
Ataques de presentación
Los ataques de presentación presentan al sistema biométrico datos biométricos falsos o manipulados para engañarlo y que reconozca al atacante como usuario autorizado. Esto puede adoptar varias formas, dependiendo de la biometría que se esté atacando, incluyendo:
- Los ataques de presentación facial utilizan un vídeo o una imagen falsa para imitar la apariencia de un usuario auténtico y presentarla a un sistema de reconocimiento facial.
- Los ataques de presentación de voz emplean técnicas de deepfake audio o síntesis de voz para imitar la voz de un usuario legítimo y engañar a un sistema de reconocimiento de voz.
- Los ataques de presentación de huellas dactilares utilizan sofisticados métodos de impresión 3D u otros métodos de fabricación para crear huellas dactilares artificiales y utilizarlas en sistemas de reconocimiento de huellas dactilares.
Ataques de inyección
En los ataques de inyección, el atacante inyecta un deepfake en la base de datos del sistema biométrico o en el conjunto de datos de entrenamiento del sistema. El objetivo es sesgar o manipular el rendimiento del sistema biométrico.
Por ejemplo, un atacante podría inyectar un gran número de imágenes o muestras de voz deepfake en el conjunto de datos de entrenamiento de un sistema de reconocimiento facial o de voz.
El modelo, si no se diseña o valida correctamente, podría entrenarse con estos datos contaminados, lo que comprometería el rendimiento cuando se enfrentara a datos biométricos inalterados del mundo real.
En otras palabras, el ataque de inyección engaña al sistema biométrico para que altere su comprensión de los datos biométricos de los usuarios auténticos (cara, voz, huellas dactilares, etc.).
Esto puede llevar al sistema a rechazar la presentación de factores biométricos por parte de usuarios legítimos, al tiempo que permite a los atacantes obtener acceso ilegítimo aprovechando datos biométricos artificiales que se ajusten al modelo alterado.
Tecnologías y estrategias para la detección de deepfakes
Los ataques de suplantación de identidad pueden llevarse a cabo de dos formas diferentes.
- Mediante ataques de presentación. Se trata de casos en los que el atacante muestra pruebas falsas a la cámara del dispositivo de captura. Por ejemplo, una fotocopia, una captura de pantalla o cualquier otro tipo de intento de suplantación como los presentados anteriormente.
- A través de ataques de inyección. Se trata de casos en los que el atacante tiene la posibilidad de introducir pruebas falsas directamente en el sistema, sin tener que presentarlas ante la cámara. Normalmente esto se hace manipulando el canal de captura o el canal de comunicación.
Esta sección describe las medidas de seguridad disponibles en la solución Veridas para la detección de ataques de inyección. Son las siguientes.
- Seguridad de la API. Veridas dispone de numerosos mecanismos de seguridad que impiden que las APIs sean invocadas de forma incontrolada para inyectar contenidos no deseados. Estas medidas incluyen el uso de api-key, filtro IP, entre otras.
- Detección de cámaras virtuales. La solución Veridas es capaz de detectar aquellos casos en los que el atacante utiliza una cámara falsa (por ejemplo, virtual Cam). El uso de una cámara virtual permite inyectar en el sistema la imagen de un documento o un rostro como si hubieran sido capturados por la cámara real del dispositivo de captura.
- Detección de ataques Man-in-the-middle. La solución detecta los casos en que las imágenes procesadas por los motores biométricos no han sido capturadas por los componentes de captura de Veridas, o han sido capturadas pero modificadas. Estas modificaciones pueden incluir manipulaciones digitales, compresión de imágenes, alteración del formato, recorte, etc.
- Detección de ataques de inyección mediante técnicas de Business Intelligence. Veridas utiliza decenas de parámetros relacionados con el proceso que permiten verificar que el proceso es completo, ejecutado de extremo a extremo desde el mismo dispositivo y sin el uso de pruebas inyectadas directamente en el sistema.
¿Qué son los vídeos deepfake?
Los vídeos deepfake son un tipo de medios sintéticos que implican el uso de técnicas de inteligencia artificial (IA) y aprendizaje profundo para manipular o sustituir la apariencia y las acciones de personas en vídeos o imágenes existentes. Estos vídeos manipulados pueden hacer que parezca que una persona está diciendo o haciendo algo que en realidad nunca hizo.
Los vídeos deepfake han suscitado gran preocupación debido a su potencial de uso indebido, incluida la difusión de información errónea, la creación de pornografía no consentida y la suplantación de personas con fines maliciosos. Como resultado, se han realizado esfuerzos para desarrollar técnicas de detección que permitan identificar los contenidos deepfake y mitigar sus efectos nocivos.
¿Qué son los audios deepfake?
Las voces sintéticas o generadas por IA son sonidos generados por ordenador que imitan voces humanas reales. Estas voces se crean mediante complejos algoritmos que analizan y reproducen las características del habla humana, como la entonación o el tono. Estas voces se producen mediante diversas técnicas, como software de conversión de texto a voz, redes neuronales profundas y otras metodologías de aprendizaje automático.
Las voces sintéticas también pueden utilizarse en actividades fraudulentas. Por ejemplo, un estafador podría grabar la voz de una persona durante una conversación telefónica y más tarde intentar utilizar ese audio o crear uno nuevo a través de un deepfake de voz para autenticarse como esa persona en una llamada posterior, reproduciendo la voz a través de un altavoz. Esto se conoce como ataque de reproducción de voz o clonación de voz.
El potencial de uso indebido de voces sintéticas en escenarios como la banca, las llamadas telefónicas personales y los procedimientos judiciales pone de relieve la necesidad de medidas de seguridad y tecnologías de detección de deepfakes de voz avanzadas para evitar la usurpación de identidad y proteger la información personal.
Cómo se pueden detectar los Deepfake
Consejos para identificar y evitar las estafas de Deepfake
Es fundamental que las personas dispongan de consejos prácticos. Cultivar un sano escepticismo hacia los contenidos en línea, verificar las fuentes y ser cauteloso con los mensajes no solicitados son prácticas clave. La educación sobre las técnicas predominantes de deepfake aumenta la capacidad de detectar contenidos manipulados y reduce la susceptibilidad a las estafas.
Cómo protegerse de las estafas deepfake: Reconocer las señales
Es esencial desarrollar la habilidad para reconocer las señales de deepfakes. Prestar atención a las incoherencias en las expresiones faciales y a los movimientos poco naturales ayuda a detectar posibles intentos de deepfake.
Consideraciones legales y éticas en la detección de deepfakes
A medida que se intensifica la batalla contra los deepfakes, es crucial abordar las dimensiones legales y éticas. Equilibrar los problemas de privacidad con medidas de seguridad sólidas y desarrollar legislación y directrices éticas garantiza un uso responsable de las tecnologías de detección de deepfakes.
Deepfakes en delitos financieros
Estafas de voz falsa dirigidas a cuentas bancarias
En los últimos tiempos, los delitos financieros han sido testigos de un preocupante aumento de las estafas de voz falsa dirigidas a cuentas bancarias. Las estafas de voz falsa se han convertido en una sofisticada amenaza en el sector financiero. Estas estafas implican el uso de grabaciones de voz manipuladas generadas por algoritmos avanzados de aprendizaje profundo. La complejidad de estos «deepfakes» permite a los atacantes hacerse pasar por titulares de cuentas de forma convincente, lo que da lugar a accesos no autorizados y transacciones fraudulentas.
Casos prácticos: Robos a bancos y estafas con bitcoins mediante deepfakes
El impacto de los Deepfakes en los delitos financieros se ejemplifica en varios estudios de casos, en los que los atacantes han ejecutado con éxito atracos a bancos y estafas de Bitcoin utilizando medios manipulados. Se han denunciado casos de pérdidas que ascienden a millones de dólares, lo que pone de relieve la gravedad del problema. Estos casos subrayan la urgencia de que las instituciones financieras refuercen sus medidas de seguridad y desplieguen tecnologías avanzadas capaces de detectar y frustrar los ataques basados en Deepfake.
Medidas preventivas de las entidades financieras
Las instituciones financieras están tomando medidas proactivas para contrarrestar las estafas de deepfake, mejorando los protocolos de autenticación, aprovechando las tecnologías basadas en IA y colaborando para mantenerse un paso por delante de las tácticas en evolución.
Como resultado, los bancos y las cooperativas de crédito están cambiando a la biometría como método de autenticación para mantener las medidas de seguridad críticas y ofrecer una mejor experiencia a sus clientes. Lo hemos visto de primera mano. En Veridas, hemos observado un aumento del 325% en el uso de la biometría de voz por parte de clientes que analizan datos de producción reales en los últimos dos años.
¿Cuándo surgieron los deepfakes?
El término «deepfake» se originó en 2017, justo en el momento en que se fundó Veridas, para referirse a un tipo específico de medios sintéticos en los que el parecido de una persona se superpone al cuerpo de otra o en diversos escenarios, a menudo mediante el uso de algoritmos de aprendizaje profundo y técnicas de inteligencia artificial.
Sin embargo, la tecnología detrás de los deepfakes tiene raíces que se remontan más atrás, ya que las técnicas subyacentes, como el aprendizaje profundo y las redes neuronales, han estado en desarrollo durante años. El auge de la tecnología deepfake ha suscitado una gran preocupación por su posible uso indebido, en particular para difundir información errónea o crear pornografía no consentida.
Solución para la detección de deepfakes
Resumen del impacto de los deepfakes
Las falsificaciones profundas son una amenaza importante que exige una mayor concienciación y contramedidas sólidas, y que afecta a particulares, instituciones y diversos sectores. La evolución del panorama requiere una innovación continua y medidas proactivas para mantenerse a la vanguardia.
En el proceso de verificación de identidad digital de Veridas, el control sobre la captura y el análisis es fundamental. Los SDK de Veridas garantizan la transparencia de los detalles de captura, lo que permite verificar la autenticidad de la foto.
Ser propietario de los algoritmos de análisis proporciona una mejor posición para verificar la información entrante. Introducir un deepfake en un proceso de Veridas es casi imposible, ya que requiere un pirateo avanzado tanto en el front-end como en el back-end. Veridas está desarrollando activamente algoritmos de detección específicos para deepfakes.
El camino por recorrer: Anticipar y mitigar futuros riesgos
Anticipar y mitigar los riesgos futuros asociados a la tecnología deepfake es imperativo en un panorama en continua evolución. El camino que queda por recorrer requiere innovación continua y medidas proactivas para afrontar con eficacia los nuevos retos.
Llamamiento a la acción: Esfuerzos de colaboración en la lucha contra las estafas de deepfake
En la lucha contra las estafas de deepfake es esencial un esfuerzo de colaboración en el que participen las partes interesadas del sector, los expertos en tecnología, los organismos reguladores y el público en general. Este frente unido es crucial para desarrollar contramedidas sólidas, fomentando un entorno digital más seguro para todos.
Equilibrio entre seguridad y experiencia del usuario
En la era de la gratificación instantánea, la biometría ofrece un método de autenticación seguro y cómodo. La biometría facial y vocal, al no requerir contacto y ser muy precisa, constituye una forma fiable de verificar la identidad.
A medida que los consumidores abandonan la carga de las contraseñas, la colaboración entre los responsables de la seguridad y de la experiencia del cliente es crucial para elegir la estrategia y la tecnología adecuadas que garanticen tanto la seguridad como la satisfacción del usuario.
