Recientemente, Jumio, un proveedor de soluciones automatizadas e integrales para la verificación de identidad, publicó su estudio de identidad en línea Jumio 2023.
Esta investigación anual, realizada por Censuswide, revela los resultados de este año y destaca la comprensión de los usuarios sobre cómo las tecnologías como la IA generativa y los deepfakes pueden aumentar el riesgo de fraude de identidad.
Además, subraya la creciente necesidad de contar con identidades digitales para la verificación y autenticación en línea.
Usuarios sobreestiman su capacidad para detectar deepfakes, según estudio
El estudio reveló que los internautas tienden a tener una percepción exagerada de su capacidad para detectar deepfakes, lo que los hace más susceptibles a posibles ataques.
El estudio analizó a 8.055 consumidores adultos distribuidos equitativamente entre el Reino Unido, Estados Unidos, Singapur y México.
Un porcentaje superior al 67% de los encuestados afirma tener conocimiento sobre herramientas de inteligencia artificial generativa, como ChatGPT, DALL-E y Lensa AI, que tienen la capacidad de generar contenido ficticio, incluyendo videos, imágenes y audio.
En términos de conocimiento, los usuarios de Singapur son los que poseen un mayor grado de familiaridad con estas herramientas (87%), mientras que aquellos del Reino Unido son los que tienen un menor conocimiento al respecto (56%).
Los internautas subestiman la sofisticación de las tecnologías
El nivel de conocimiento de los usuarios de internet acerca de la inteligencia artificial generativa y los deepfakes es considerablemente alto. Un 52% de los encuestados afirma que podría detectar un video deepfake.
Sin embargo, este sentimiento refleja una confianza excesiva por parte de los consumidores, ya que la realidad es que los deepfakes han alcanzado un nivel de sofisticación que dificulta su detección a simple vista.
Es motivo de preocupación, ya que datos recientes de la Asociación de Internet de México revelan que aproximadamente el 70% de los usuarios digitales en el país fueron víctimas de algún tipo de fraude cibernético en el año 2022.
Adicionalmente, se encontró que una de cada tres víctimas había experimentado casos de suplantación de identidad.
Los datos de Jumio también revelan un incremento constante en el uso de deepfakes cada vez más sofisticados en diferentes partes del mundo y en diversos sectores. Específicamente, se observa una mayor presencia de deepfakes en los sectores de pagos y criptomonedas.
«Muchas personas parecen creer que pueden identificar un deepfake. Aunque ciertamente hay señales evidentes, los deepfakes están mejorando de manera exponencial constantemente, y cada vez es más difícil detectarlos sin la ayuda de la inteligencia artificial», afirmó Stuart Wells, CTO de Jumio.
«Si bien las empresas necesitarán cada vez más tecnología basada en IA para detectar y proteger sus redes y a sus clientes de las falsificaciones, los consumidores también pueden hacerlo, cuestionando las imágenes, videos y audios provocativos. Una investigación rápida normalmente revelará si se trata de una falsificación o no.»
Conocimiento superficial, permite un uso potencialmente perjudicial
Conforme los consumidores adquieren mayor conocimiento sobre estas tecnologías, también están comprendiendo cómo podrían ser utilizadas para facilitar la suplantación de identidad.
Más de la mitad (57%) de los encuestados cree que el robo de identidad en línea se volverá más sencillo como resultado de estas tecnologías, y se observa que los consumidores de Singapur muestran el mayor nivel de comprensión sobre su potencial uso perjudicial (73%).
Se observó una disminución en estos niveles entre los consumidores de México (62%), Estados Unidos (49%) y Reino Unido (43%).
La responsabilidad de educar y proteger recae en las empresas
«Es responsabilidad de las organizaciones educar a sus clientes acerca de los aspectos sutiles de las tecnologías de inteligencia artificial generativa, con el fin de ayudarles a desarrollar expectativas más realistas sobre su capacidad para detectar deepfakes«, afirmó Philipp Pointner, director de identidad digital de Jumio.
«Sin embargo, incluso con la mejor educación, nunca se podrá detener por completo el uso de tecnologías emergentes por parte de estafadores.»
Las organizaciones en línea deben usar sistemas biométricos para detectar deepfakes y proteger la información personal de los usuarios.
La investigación muestra gran interés de los consumidores en la verificación de identidad, lo cual las empresas deben aprovechar.
Según la encuesta, se encontró que más del 68% de los consumidores están abiertos a utilizar una identidad digital para realizar verificaciones en línea.
Los consumidores optan por identidad digital en servicios financieros (43%), administración pública (38%) y salud (35%), en lugar de documentos físicos como licencia o pasaporte.
¿Cómo protegerse de los deppfakes?
Las imágenes falsas generadas por deepfake se vuelven más creíbles a medida que la red las evalúa, aumentando su peligrosidad.
Afortunadamente, las empresas de seguridad cibernética están constantemente desarrollando algoritmos de detección más avanzados y efectivos para contrarrestar esta amenaza.
Estos algoritmos analizan el video e identifican las sutiles distorsiones que se generan durante el proceso de «falsificación«.
Por ejemplo, Los generadores de deepfake modelan un rostro en 2D y lo distorsionan para ajustarlo a la perspectiva 3D del video; observar la dirección hacia la que apunta la nariz resulta crucial para su detección.
Los videos deepfake aún están en una fase en la que es posible que las personas detecten las señales por sí mismas.
Según la empresa de seguridad Kaspersky, un video deepfake presenta las siguientes características:
- Movimiento espasmódico
- Cambios en la iluminación de un cuadro al siguiente
- Cambios en el tono de la piel
- Parpadeo extraño o ningún parpadeo en absoluto
- Labios mal sincronizados con el habla
- Artefactos digitales en la imagen
