AI que crea «falsificaciones perfectas»
Luces y sombras del deepfake, todo lo que necesitas saber
¡No te preocupes si no sabes mucho de IA! Si lees este artículo, entenderás completamente qué es el «deepfake» del que tanto se habla y cómo afecta nuestras vidas.
Lo que aprenderás en este artículo 💡
¿Has oído hablar del «deepfake» en las noticias pero no sabes bien qué es? ¡Este artículo es para ti! Al terminar de leerlo, entenderás claramente lo siguiente:
- Cómo se crean videos falsos indistinguibles de los reales.
- Los usos del «deepfake bueno» que son útiles en el cine y la medicina.
- Las tácticas aterradoras del «deepfake malo» que te pueden engañar fácilmente.
- Cómo protegernos desde ahora mismo.
1. ¿Qué es el deepfake? ~El espejo mágico creado por la IA~
Últimamente, ¿has visto videos de famosos increíblemente realistas en redes sociales? Puede que fueran «deepfakes». El deepfake, en pocas palabras, es «un video o audio falso, creado por la IA, que parece totalmente real». Es como un espejo mágico que puede cambiar la cara de una persona por la de otra, o hacer que digan cosas que nunca dijeron.
En su corazón está una tecnología de IA llamada deep learning. En particular, se utiliza a menudo un mecanismo llamado GANs (Redes Generativas Antagónicas). Puede sonar complicado, ¡pero el mecanismo es sorprendentemente simple!
Dr. IA
Puedes imaginar los GANs como un «falsificador de billetes» compitiendo con un «detective que los descubre».
Tú
¿Un falsificador y un detective? ¡Suena interesante!
Dr. IA
El falsificador (IA generativa) intenta engañar al detective (IA discriminativa) creando billetes (videos falsos) cada vez más parecidos a los reales. El detective se esfuerza por descubrir los billetes falsos. Al repetir esta competencia millones de veces, el falsificador eventualmente puede crear billetes tan perfectos que ni siquiera el detective puede detectarlos.
Tú
¡Entiendo! La IA mejora y se vuelve más realista a través de la competencia.
2. ¡Usos increíbles del deepfake! La cara buena ✨
Aunque la palabra «falso» a menudo tiene una connotación negativa, el deepfake también tiene el potencial de enriquecer nuestras vidas. ¡Podríamos llamarlo el «deepfake bueno»! Veamos algunos ejemplos concretos.
Entretenimiento
En películas como ‘Star Wars’, se ha usado para mostrar a un joven Luke Skywalker, o para doblar películas extranjeras con la voz real del actor en español. Incluso es posible resucitar a actores fallecidos en la pantalla, ampliando infinitamente el rango de expresión.
Medicina y bienestar
Personas que han perdido la voz debido a una enfermedad pueden recuperarla a partir de datos de audio antiguos y hablar con sus familias. Historias que parecían un sueño están empezando a hacerse realidad. También se utiliza en formación médica para simulaciones quirúrgicas realistas.
Educación
Figuras históricas como Einstein podrían enseñarnos física como si estuvieran vivos hoy. Esto permite experiencias de aprendizaje interactivas que podrían hacer el estudio mucho más divertido.
Publicidad y arte
Se pueden crear anuncios atractivos con personajes ficticios generados por IA, sin necesidad de contratar modelos o talentos. Esto reduce los costos de producción y permite crear arte y publicidad con una amplia gama de expresiones.
3. ¡No te dejes engañar! Las peligrosas trampas del deepfake 👿
Así como hay luz, también hay sombra. El deepfake tiene un lado muy peligroso. Especialmente las estafas por «suplantación de identidad» y la propagación de información falsa se están convirtiendo en un grave problema social.
Caso 1: Fraude financiero – 3.8 millones de euros de pérdida solo con la «voz»
Esto sucedió en la vida real. En Hong Kong, un ejecutivo financiero de una empresa participó en una videoconferencia. En ella, estaban su jefe (CFO) y sus colegas de la sede en el Reino Unido. Sin embargo, ¡resultó que todos, excepto el ejecutivo financiero, eran deepfakes creados!
Inducción con correo electrónico falso
Recibe un correo electrónico falso de su supuesto jefe, indicándole que se una a una videoconferencia urgente.
Videoconferencia falsa pero realista
En la conferencia, aparecen el jefe y los colegas que se parecen y suenan exactamente como los reales. El ejecutivo no se da cuenta de que todos son deepfakes.
Instrucción de transferencia de dinero secreta
El falso jefe le dice que es una «transacción ultrasecreta» y le ordena transferir dinero a varias cuentas.
Se produce una pérdida masiva
El ejecutivo, engañado, transfiere un total de aproximadamente 3.8 millones de euros. Días después, al confirmar con la verdadera sede, se da cuenta de que fue una estafa.
Como en este caso, cuando las voces y caras son idénticas a las reales, se vuelve muy difícil sospechar.
Caso 2: Desinformación e interferencia electoral
Los deepfakes también tienen el potencial de socavar la confianza en la sociedad. Por ejemplo, ¿qué pasaría si durante un período electoral se difundiera un video falso de un candidato específico haciendo declaraciones extremas que nunca dijo? Los votantes no sabrían en quién confiar, y unas elecciones justas podrían no ser posibles. Esto podría ser una amenaza para la democracia misma.
Caso 3: Pornografía falsa – Tu cara utilizada para un crimen
Y entre los usos maliciosos del deepfake, el más grave y que pisotea la dignidad individual es la «pornografía falsa». Esto es un acto extremadamente malicioso en el que se utilizan fotos de la cara de una persona sin su permiso para sintetizarlas en videos o imágenes obscenas.
Puede que pienses: «¿Solo atacan a los famosos?». ¡Eso es un gran error! Hoy en día, cualquiera puede ser una víctima con solo una foto de su cara publicada en redes sociales. Y una vez que se difunde en internet, es casi imposible eliminarla por completo, atormentando a la víctima casi permanentemente como un «tatuaje digital».
⚖️Esto no es un «juego». Es un «crimen».
La creación y difusión de este tipo de pornografía falsa es una violación de los derechos humanos imperdonable que hiere profundamente el corazón de las víctimas.
En España y otros países, se están endureciendo las leyes para castigar estos actos.
En muchos lugares, la creación, distribución y posesión de deepfake pornográfico ya es ilegal y se castiga severamente. Nunca olvides que un acto aparentemente inofensivo puede arruinar tu vida.
4. ¿Qué podemos hacer? 🛡️ Consejos para sobrevivir en la era del deepfake
Con una tecnología tan sofisticada, ¿cómo podemos detectarla? Es una preocupación válida. Aunque no hay una solución perfecta, se están tomando medidas tanto a nivel individual como social.
① Lo que puedes hacer tú: Haz del «chequeo de información» un hábito
Si algo te parece extraño, no lo creas de inmediato. Esa pausa es crucial. Intenta hacer un «chequeo de salud» de la información, revisando los siguientes puntos:
🤔 Cuestionario Deepfake 🤔
Este video parece sospechoso, ¿qué deberías revisar?
※¡Haz clic en el botón para ver la respuesta!
Y lo más importante, siempre pregúntate: «¿De dónde viene esta información?».
Acostúmbrate a verificar la información con múltiples fuentes, como sitios web de instituciones públicas u grandes medios de comunicación confiables.
② Esfuerzos de la sociedad: Contraatacando con tecnología y leyes
No solo nosotros individualmente, sino también la sociedad en su conjunto está avanzando en las contramedidas. Hay dos enfoques principales: «tecnología» y «leyes».
| Enfoque | Contenido específico |
|---|---|
| 💻 Medidas tecnológicas | Se está avanzando en el desarrollo de «tecnologías de detección» que utilizan IA para descubrir deepfakes. Además, iniciativas como C2PA están creando un sistema similar a un «certificado de nacimiento digital» que registra «cuándo, dónde, quién y cómo» se creó una foto o un video para verificar su autenticidad. |
| ⚖️ Medidas legales | En países de todo el mundo, se están implementando leyes para combatir la difamación y el fraude utilizando deepfakes. En particular, hay un movimiento activo para prohibir la creación y difusión de información falsa maliciosa, especialmente en relación con las elecciones. En España, la creación de pornografía falsa ya es ilegal y se castiga con prisión. |
Además de estos avances tecnológicos y la creación de reglas, mejorar la alfabetización mediática (la capacidad de interpretar correctamente la información) a través de la educación escolar, es un desafío importante que la sociedad en su conjunto debe abordar.
Conclusión: Distinguir con inteligencia, para las herramientas del futuro
Hasta ahora, hemos explorado las luces y sombras del deepfake, ¿qué te ha parecido?
El deepfake es como una «espada de doble filo». Dependiendo de cómo se utilice, puede ser una «herramienta del futuro» que revolucione el entretenimiento y la medicina, o un «arma siniestra» que engañe a la gente y cause caos en la sociedad.
Lo importante es que seamos conscientes de la existencia de esta tecnología y tengamos una sana curiosidad, pensando «quizás esto tampoco sea real». Y que nos acostumbremos a verificar la fuente de la información sospechosa, sin dejarnos engañar.
En esta era en la que la IA se está volviendo común, espero que este artículo te haya sido útil como un primer paso para interactuar inteligentemente con esta nueva tecnología.
