Ahora hay una plataforma de audio Deepfake donde las celebridades pueden licenciar clips de voz generados por IA. Cada vez que los deepfakes aparecen en las noticias, casi siempre es por la última forma aterradora en que los malos actores han descubierto cómo crear bromas o intimidar a las personas utilizando tecnología impulsada por IA. Sin embargo, la industria de los medios ha encontrado aplicaciones más prácticas (y menos siniestras), como usar intercambios de caras para crear efectos visuales más realistas, sincronizando las bocas de los actores con el diálogo en películas dobladas.

Veritone, el creador del primer sistema operativo del mundo para inteligencia artificial, aiWare, lanzó una nueva plataforma llamada Marvel.ai, que permite a los creadores de contenido, celebridades y otros generar audios falsos de sus voces para obtener licencias como mejor les parezca.

El argumento de Veritone es que las empresas de medios y las personalidades pueden producir contenido de audio monetizado y generar ingresos sin siquiera poner un pie en un estudio porque, después de todo, el tiempo es dinero. Construido sobre su sistema operativo aware, Marvel.ai produce clips de voz sintéticos que, según afirma, suenan como reales para anuncios de radio, audiolibros, doblajes y contenido localizado, entre otros ejemplos.

“Con control total sobre su voz y su uso, cualquier persona influyente, personalidad o celebridad puede estar literalmente en varios lugares a la vez”, dijo la compañía en Comunicado de prensa. “Abriría la puerta a un nuevo nivel de escala que antes no era humanamente posible, permitiéndoles aumentar la cantidad de proyectos y patrocinios que pueden realizar en un año determinado”.

El proceso, también conocido como clonación de voz, utiliza inteligencia artificial y algoritmos de aprendizaje automático para reproducir la voz de alguien en función de una serie de muestras de audio. La plataforma Marvel.ai en sí funciona como un mercado donde los clientes pueden enviar solicitudes para usar un modelo de voz particular para contenido generado automáticamente y como una herramienta de autoservicio que se parece a su reproductor de texto a voz más tradicional, lo que permite a los usuarios para elegir de un catálogo de voces pregeneradas para crear un clip de audio personalizado.

En declaraciones al medio, Steelberg explicó que, si bien Veritone se comercializa principalmente como desarrollador de inteligencia artificial, también depende de la publicidad tradicional y las licencias de contenido para obtener gran parte de sus ingresos. Su subsidiaria de publicidad, Veritone One, tiene una gran inversión en la industria de los podcasts y coloca más de 75,000 «integraciones de anuncios» con personas influyentes cada mes, dijo.

«Se trata principalmente de integraciones nativas, como ubicaciones de productos», dijo Steelberg a The Verge. “Se trata de conseguir el talento para expresar patrocinios y anuncios. Es extremadamente efectivo, pero muy costoso y requiere mucho tiempo.

Esta experiencia en publicidad, junto con los avances en la tecnología de texto a voz en los últimos años, ha motivado a la empresa a crear una mejor solución. Por supuesto, el despegue de la plataforma de Veritone depende en gran medida de la convicción de sus clones de voz. Steelberg compartió algunas muestras del producto Marvel.ai terminado con Verge, que puede consultar aquí, y el clon me parece bastante humano. El tono es un poco extraño de una manera que no puedo identificar. Sin embargo, seré honesto, es difícil saber si es solo mi cerebro. Convincente a mi me suena mal porque se que es de un robot y no de una persona.

Si bien sé que mencioné antes que la industria de los medios encuentra aplicaciones menos siniestras de la tecnología deepfake, hay un aspecto de Marvel.ai que me hace pensar seriamente. El que posee los derechos legales a una voz, es decir, no solo a la persona detrás de la voz, puede usar la plataforma para crear el mensaje de audio de su elección. Y plantea muchas de las mismas banderas rojas de privacidad y el potencial de abuso que han plagado el aumento de videos falsos. Marvel.ai puede incluso resucitar las voces de los muertos mediante el uso de grabaciones archivadas para entrenar sus sistemas de inteligencia artificial, dijo Steelberg a Verge.

“Quienquiera que sea el propietario de los derechos de autor de estas voces, trabajaremos con ellos para llevarlos al mercado”, dijo. «Dependerá del titular de los derechos y de lo que crea conveniente.

Desde un punto de vista tecnológico, es obviamente impresionante. Desde un punto de vista moral, da mucho miedo. Realmente no necesito escuchar grandes nombres fallecidos siendo reanimados usando IA, especialmente porque sabes que es cuestión de tiempo antes de que las marcas comiencen a hacer cosas como usar a la princesa Diana para respaldar a las galletas Oreo o a David Bowie para convencerte de que te suscribas a Spotify Premium.