Al aproximarnos al año 2024, se vislumbra una nueva pandemia: los deepfakes. Esta tecnología, impulsada por la Inteligencia Artificial (IA), tiene la capacidad de generar imágenes y videos falsos de manera increíblemente convincente, planteando desafíos significativos en áreas que van desde la política hasta la seguridad personal. Ante este escenario, las empresas tecnológicas están trabajando en un nuevo «remedio»: las marcas de agua.
Aumento en las deep fakes
Un informe de SumSub revela un alarmante aumento en los deepfakes, superando diez veces la cantidad detectada a nivel mundial en todas las industrias de 2022 a 2023. Las diferencias regionales son notables, con Norteamérica liderando el incremento con un 1740%, seguido por Asia y el Pacífico con un 1530%, Europa (incluyendo el Reino Unido) con un 780%, Medio Este y África con un 450%, y América Latina con un 410%, destacando un crecimiento del 700% en México.
A pesar de que un estudio de Jumio muestra que el 52% de las personas encuestadas cree que puede detectar un video deepfake, las amenazas persisten y podrían resultar en consecuencias más graves, como el fraude impulsado por la IA.
Pavel Goldman-Kalaydin, responsable de IA/ML en SumSub, advierte que los deepfakes abren la puerta al robo de identidad, estafas y campañas de desinformación a una escala sin precedentes. Esta preocupación ha llevado a que la tecnología se convierta en un objetivo de regulación para gobiernos, mientras las empresas tecnológicas buscan implementar herramientas para prevenir su propagación.
En respuesta a esta amenaza, las marcas de agua emergen como un «remedio casero» para combatir los deepfakes. Juan Carlos Gutiérrez, director Gerente de Tecnología y Arquitectura de Soluciones para América Latina y el Caribe en AWS, explica que estas marcas se pueden implementar en la plataforma de IA generativa Bedrock de Amazon de dos maneras: física sobre la imagen como un logo visible y a través de metadatos.
Gutiérrez destaca que, aunque las marcas físicas pueden eliminarse mediante programas de edición, hacerlo constituye una violación de la propiedad intelectual. Por otro lado, los metadatos pueden ser utilizados para que las plataformas escaneen y autentiquen el contenido, evitando su replicación no autorizada en diferentes espacios.
Te puede interesar: Deepfakes: las consecuencias de una tecnología que aún está en desarrollo
A pesar de los avances en esta tecnología por parte de AWS, la implementación efectiva de marcas de agua requiere la colaboración de las plataformas. Esto se asemeja al modelo de StopNCII, una herramienta para detener la difusión no consensuada de imágenes y videos íntimos, que utiliza huellas digitales imborrables para prevenir la replicación en las plataformas de Meta.
En última instancia, estas soluciones no son infalibles, pero representan pasos cruciales para mitigar el impacto de los deepfakes y proteger la integridad de la información en un mundo cada vez más digital y conectado.
