YouTube está intensificando sus esfuerzos para combatir el aumento de videos deepfake, particularmente aquellos que involucran a celebridades. A medida que la tecnología de IA continúa avanzando, también lo hace la posibilidad de su uso indebido, lo que lleva a un aumento de fraudes y falsificaciones generados por IA. Estos videos falsos, que a menudo presentan a personalidades conocidas, se han vuelto más realistas, lo que hace más difícil distinguirlos del contenido genuino.
YouTube trabaja con CAA en herramientas de detección de IA
Para abordar este problema, YouTube ha colaborando con la Creative Artists Agency (CAA), con el objetivo de introducir herramientas capaces de detectar contenido generado por IA. La asociación ayudará a identificar videos que imiten la apariencia, la voz u otras características definitorias de un creador. Estas herramientas también facilitarán a los creadores solicitar la eliminación de dicho contenido. Se espera que el sistema se lance el próximo año, inicialmente dirigido a celebridades y atletas. A continuación, YouTube planea expandir esto a los principales creadores, personas influyentes y profesionales en su plataforma.
Lea también: Blinkit lanza la función ‘Papá Noel secreto’: vea cómo puede intercambiar instantáneamente regalos de Feliz Navidad
Esta iniciativa es parte del esfuerzo más amplio de YouTube para abordar las crecientes preocupaciones sobre la suplantación y el uso no autorizado de imágenes generadas por IA. La plataforma ya había manifestado en septiembre su intención de luchar contra este abuso.
Lea también: Estafa de arresto digital: NPCI, fabricante de UPI, emite una GRAN advertencia a todos los indios
CAAVault
CAA, que representa a muchas estrellas de alto perfil, se ha preparado para estos problemas. El año pasado, la agencia presentó CAAVault, un sistema diseñado para escanear y almacenar archivos digitales de las imágenes de los clientes, incluidos sus rostros, cuerpos y voces. Esta tecnología complementará las herramientas de seguimiento de YouTube, permitiendo a los creadores y celebridades monitorear y controlar el uso de su identidad digital en toda la plataforma.
Lea también: Instagram ahora te permite programar mensajes directos, compartir collages de fin de año y disfrutar de nuevas funciones navideñas
Mal uso de la inteligencia artificial en la música
Además de abordar los vídeos deepfake, YouTube está abordando el uso indebido de la inteligencia artificial para reproducir las voces de los creadores. La compañía está desarrollando una “tecnología de reconocimiento de canciones sintéticas”, que detectará canciones generadas por IA que imitan las voces de los artistas. Los sellos discográficos ya han comenzado a solicitar que se eliminen estas pistas sin licencia generadas por IA, y las nuevas herramientas de YouTube respaldarán aún más esos esfuerzos.
A principios de este año, YouTube introdujo una política que exige a los creadores marcar vídeos que contengan contenido generado por IA. Esta medida tiene como objetivo garantizar la transparencia y permitir que los espectadores estén informados cuando el contenido se haya creado artificialmente.