Deepfake: ¿qué es y cómo detectarlo?
Un deepfake es una imagen, sonido o vídeo producido por la IA con un realismo a veces impactante. Pueden usarse de manera beneficiosa pero representan mayormente un reto para nuestra sociedad, no solo por la manipulación que pueden causar entre las personas, sino también por ir contra la privacidad. Los deepfakes, junto con las redes sociales y la falta de rigor a la hora de verificar la información, forman un cóctel peligroso.
¿Qué es un Deepfake?
Un deepfake es un contenido falso que han sido generados mediante Inteligencia Artificial, tratando de aparentar verdadero. Es un término que proviene de la combinación de deep learning con fake.
Aquí conviene hacer un inciso, por si no conoces los términos, para decir en muy pocas palabras qué es el deep learning. Se trata de una disciplina del machine learning que se basa en redes neuronales artificiales profundas y que es la base de la IA más poderosa de la actualidad. Lo que sí debe conocer ya todo el mundo es el termino de fake, que significa simplemente falso.
Pues bien, en resumen, deepfake hace referencia a un tipo de contenido manipulado mediante IA donde se mezclan o se sustituyen imágenes de personas o se emula su voz y gestos, de modo que parezca muy realista. De hecho a simple vista, un deepfake puede parecer realmente auténtico, haciendo que sea muy difícil distinguir si son contenidos verdaderos o generados por una máquina.
¿Cómo funciona un Deepfake?
Como hemos dicho antes, los deepfake se realizan mediante inteligencia artificial. Para la obtención de los resultados tan realistas se utilizan grandes volúmenes de datos, ya sea imágenes o sonido. Estos datos se utilizan para entrenar redes neuronales artificiales profundas en un proceso conocido como redes generativas antagónicas. Vamos a ver a continuación los fundamentos del proceso de elaboración de las deepfakes.
El papel de las redes neuronales
Las redes neuronales son uno de los pilares de los procesos de inteligencia artificial más poderosos de la actualidad. Básicamente simulan el funcionamiento del cerebro humano y sus redes neuronales naturales.
Mediante las redes neuronales se analizan imágenes y otros contenidos con el objetivo de detectar patrones complejos en los elementos que necesitan ser reproducidos. Una vez analizado todo el materia,l las redes neuronales consiguen imitar a las personas, produciendo contenido artificial de gran realismo.
Generador y discriminador con el modelo de las GAN (Generative Adversarial Networks)
La técnica desempeñada por las redes neuronales para la creación de un deepfake se basa en el modelo GAN. Este se compone de dos redes neuronales que trabajan de manera competitiva.
Por un lado, tenemos la red neuronal que realiza el rol de generador del contenido y se encarga de producir el contenido falso, ya sea una imagen vídeo o audio. Por otro lado tenemos la red neuronal que realiza el papel de discriminador, cuya función consiste en verificar si el contenido generado tiene aspecto de real o falso.
Las dos redes neuronales se retroalimentan durante el proceso de entrenamiento. De este modo, el generador cada vez se esfuerza en producir contenido más realista, mientras que el discriminador hace su papel consiguiendo detectar de manera más precisa si un contenido es o no verdadero. Como resultado final se obtiene un modelo que es capaz de producir resultados extremadamente convincentes.
El proceso de entrenamiento: de la recopilación de datos al resultado final
Para el proceso de entrenamiento de los modelos se realiza un trabajo que se basa en los siguientes puntos.
- Primero hay una etapa de recopilación de datos de la persona que se desea imitar.
- Como segundo punto tenemos el entrenamiento del modelo en el cual las redes neuronales se dedican a identificar y reproducir los rasgos que se desean imitar.
- Una vez entrenado el modelo se pone en marcha para producir el deepfake, realizando el material falso. Este proceso puede incluir posteriormente una etapa de refinamiento, en la cual se corrigen posibles anomalías en los materiales generados.
Usos y aplicaciones de la tecnología Deepfake
Ahora vamos a ver distintos usos que pueden darse a un deepfake,. Vamos a abordar este punto haciendo una clasificación entre usos positivos y otros con intenciones fraudulentas.
Usos positivos y beneficiosos del deepfake
A pesar de que inicialmente un deepfake se basa en falsificar una imagen o vídeo también pueden crearse con intenciones positivas y beneficiosas.
Industria del entretenimiento
En el cine los deppfakes se utilizan frecuentemente para realizar efectos especiales mediante los cuales se rejuvenece o envejece a un actor. Incluso se ha usado en varias ocasiones para conseguir revivir a un actor que ha fallecido y terminar de rodar alguna película.
Aplicaciones en educación y formación
Un deepfake también se puede utilizar para labores formativas, ya que es un material que puede ser muy valioso en numerosos sectores, como por ejemplo la medicina o la aviación.
Uso médico y terapéutico
En el ámbito de la salud también son útiles en diversas áreas como por ejemplo en la rehabilitación cognitiva, ya que son capaces de crear modelos personalizados para realizar rehabilitación.
Usos maliciosos y peligros del deepfake
El mayor peligro de un deepfake ocurre cuando se utilizan para realizar engaños y otros usos negativos, que por desgracia son bastante frecuentes.
Desinformación y manipulación política
Los deepfates son muy utilizados para difundir noticias falsas, haciendo que parezcan mucho más creíbles. Por ejemplo, se pueden utilizar para simular un político realizando algún tipo de acto de dudosa moralidad, o haciendo que parezca sostener ciertos juicios, ya sea por medio de un vídeo o un audio imitando su voz. De este modo, resulta más fácil manipular a la opinión pública y posicionarla a favor de quien produce el contenido falso.
Fraudes y suplantación de identidad
También muy peligroso su para la suplantación de identidad. Por ejemplo con un deepfake se podría reproducir la voz de una persona con la intención de cometer una estafa, o simular una llamada telefónica con alguna persona para dar una orden, por ejemplo la realización de un movimiento bancario.
Ciberacoso y creación de contenido no consentido
Otro uso que se ha visto ya en numerosas ocasiones es la creación de contenido falso con enfoque íntimo o sexual, donde aparece alguna persona conocida. Infelizmente esto es bastante común para el acoso escolar, pero también puede darse en otros ámbitos.
Consecuencias del uso indebido de deepfakes
El uso de deepfakes, cuando su intención es la de engañar a otras personas, trae consigo numerosas consecuencias negativas.
Problemas de privacidad y seguridad
La difusión de imágenes o vídeos y sonidos de personas atenta contra su intimidad y consiste en un grave problema de privacidad y seguridad. Cualquiera puede ser víctima de este tipo de acciones que resultan muy negativas en términos psicológicos, por el hecho de perder el control sobre su propia identidad.
Fake news y manipulación de la información
En la actualidad existe un gran movimiento de fake news que produce gran desinformación entre la opinión pública. Este hecho está causando graves problemas en la sociedad y los deepfake pueden todavía profundizar en esta problemática.
Ya se sabe incluso que el potencial de divulgación de una noticia falsa es superior al de las noticias verdaderas. Esto hace que el problema resulte bastante serio.
Daños a la reputación personal y empresarial
Los deepfake pueden también causar daños en la reputación de las personas afectadas, o de las empresas en el caso de que se dirijan contra una institución. Esto es especialmente peligroso cuando se trata de perfiles públicos especialmente políticos.
Cómo detectar un deepfake
En la medida en la que la inteligencia artificial es cada vez más poderosa se puede hacer complicado detectar un deepfake. Lo más importante es poner de nuestra parte, para ser críticos y no dejarnos engañar tan fácilmente. Y es que a las personas nos gusta por lo general escuchar o prestar atención a las informaciones que se alinean con nuestras creencias, por lo que es fácil dar crédito a ciertas informaciones a pesar de ser falsas.
De todos modos, si tenemos interés, es posible emplear técnicas que nos ayudarán mucho a deshacer el engaño.
Señales visuales para identificar un deepfake
El primer paso para detectar un deepake es buscar pequeñas señales que nos permitan detectar indicios de falsedad. Un factor que a veces resulta clave es la iluminación de las escenas, con sus orígenes de luz y sus sombras. También debemos buscar posibles deformaciones faciales que nos hagan percibir que son imágenes generadas por inteligencia artificial. Si se trata de vídeos debemos atender a los movimientos corporales o incluso a detalles más minuciosos como los movimientos oculares.
También es importante prestar atención al entorno de la foto y comprobar todos los elementos que forman el escenario pues en ellos pueden aparecer deformaciones o bordes borrosos que nos hagan sospechar.
Herramientas y software de detección de deepfakes
Ante el auge de los deepfake también existen herramientas creadas justamente para detectar las manipulaciones. Estas herramientas son esenciales para colectivos como los periodistas o investigadores, que deben ser especialmente rigurosos a la hora de admitir los contenidos para realizar sus correspondientes trabajos.
Algunas de las herramientas conocidas son Microsoft Video Authenticator, Deepware Scanner o Sensity AI, pero hay bastantes más en la red.
El papel de la Inteligencia Artificial en la detección
La mayoría de las herramientas para detectar un deepfake también están basadas en la inteligencia artificial, ya que ésta es capaz de comprobar de manera minuciosa cualquier detalle que podría pasar inadvertido fácilmente para el ojo humano.
Gracias a la IA es posible detectar pequeñas imperfecciones en las expresiones faciales o irregularidades en la iluminación o los objetos que forman parte de los escenarios. Al mismo tiempo la inteligencia artificial puede utilizar grandes volúmenes de datos como vídeos o imágenes para compararlos con una posible deepfake, mejorando todavía más sus resultados.
Consejos para protegerte frente a los deepfakes
Para protegerte de los deepfakes es importante que mantengas un pensamiento crítico y tengas siempre la debida precaución. Veamos ahora una serie de consejos que nos pueden ayudar a detectar posibles fakes.
Verificación de fuentes de información
Un paso fundamental consiste en verificar siempre la fuente de la información. Cualquier post en una red social no merece toda la credibilidad que a menudo se le suele otorgar. Por contra, si el contenido proviene de un medio informativo serio y reconocido, podemos estar más seguros que será verídico, puesto que ellos tienen la responsabilidad de verificarlo todo.
Por tanto, es importante que compruebes la procedencia del contenido y verifiques si es realmente es una fuente confiable y segura.
Uso de herramientas de fact-checking
También es muy recomendable apoyarnos en herramientas de verificación de hechos. Plataformas como Maldita o Newtral nos permiten confirmar la veracidad de las informaciones.
Usando este tipo de herramientas podemos salir de dudas rápidamente sobre noticias compartidas en las redes sociales, antes de hacernos eco de ellas.
Educación digital y pensamiento crítico
Por supuesto, la habilidad de mantenerse alerta para detectar cuando nos tratan de colar un deepfake tiene un gran componente en la educación y el pensamiento crítico que seamos capaces de aplicar en todo momento. Es importante no confiar en cualquier información a la primera. En lugar de ello vemos estar siempre alertas y, si ya tenemos esta posición, ayudar a otras personas a tener este mismo enfoque crítico.
Futuro de los deepfakes y su regulación
A medida que avanza la tecnología es natural pensar que los deepfakes serán cada vez más realistas y difíciles de detectar. Es por ello que plantean un desafío importante para su control y las instituciones deben trabajar para conseguir una regulación efectiva.
Avances tecnológicos en la creación y detección
A medida que las herramientas de inteligencia artificial van siendo cada vez más poderosas los deepfake se hacen más y más realistas.
Por suerte, paralelamente también crece la exactitud de las herramientas de detección. El problema es que no todo el mundo las usa. Es por tanto importante que se creen nuevos mecanismos para garantizar la veracidad del contenido audiovisual como marcado criptográfico o el rastreo de metadatos.
Retos legales y éticos de los deepfakes
Como hemos dicho, existen numerosos retos legales y éticos con la proliferación de deepfakes, en tanto que puede haber numerosos casos de uso indebidos. Éticamente nos encontramos ante un dilema importante porque nadie debería poder recrear los rasgos faciales o el tono de voz de otra persona. Incluso, aunque se pudiese hacer, sería natural pensar en que esa persona imitada podría continuar teniendo derechos sobre su propia imagen. Son cuestiones que todavía están por definir.
En este sentido todavía queda bastante por recorrer y las instituciones tendrán que realizar las correspondientes regulaciones para mantener el uso de las deepfakes controladas
Regulaciones y marcos normativos en distintos países
Hablando de regulaciones, de hecho ya están aplicándose normativas en diversos países y regiones del mundo. Por ejemplo en la Unión Europea está el Reglamento de Servicios Digitales y la Ley de Inteligencia Artificial. Ambas regulaciones buscan ajustar el uso de las herramientas generativas, para que se realice de manera responsable, respetuosa y sin ánimo de engaño. De todos modos, como suele ocurrir, la legislación siempre va por detrás de la tecnología y todavía hay mucho trabajo por hacer para conseguir responder de una manera más contundente ante esta situación.
Jefe de Capacitación para Soluciones Cloud, posee una amplia experiencia en áreas comerciales y técnicas a nivel nacional e internacional. Con una base en Ingeniería de Telecomunicaciones y un MBA, destaca en el desarrollo de negocios, especialmente con grandes cuentas y partners en sectores tanto privados como públicos.