En redes están utilizando IA para dar a los niños muertos y desaparecidos una voz que nunca pidieron

Si eres usuario de TikTok y te gusta el contenido de misterio, posiblemente te has encontrado con algunos videos narrados en primera persona donde un niño cuenta la historia de cuando fue víctima de asesinato, abuso y otros crímenes.

Si no te has topado con uno de esos clips, te contamos cómo es el formato: consiste, usualmente, en fotografías de niños que tiene una historia trágica detrás; usando IA, los usuarios de TikTok le asignan una voz a la imagen y hacen que mueva sus labios, ¿el resultado? Un infante hablando del abuso que sufrió.

En temas relacionados – Le pidieron a una IA que hiciera un tráiler de ‘Heidi’ y el resultado fue espeluznante

Sobra decir que estos videos tampoco cuentan con la autorización de los padres de los niños y, gracias a la denuncia de una madre, el tema se comenzó a debatir en Estados Unidos y llegó hasta las directivas de TikTok.

La denuncia

Imagina que entras a internet y te encuentras con una foto de tu hijo hablando de cómo fue asesinado; y no solo eso, culpándote a ti de su muerte… Pues eso fue lo que le ocurrió a Denise Fergus.

Ella es la madre de James Bulger, un niño de dos años que fue secuestrado en 1993 mientras ella hacía una compra. El bebé fue torturado y asesinado horas más tarde por dos niños de 10 años y su caso es mundialmente conocido.

Mira también – Una inteligencia artificial pidió perdón por ‘aniquilar a casi toda la humanidad’

«Si mi mamá hubiera girado a la derecha, podría haber estado vivo hoy. Desafortunadamente, giró a la izquierda», dice la voz hecha con IA mientras se ve la foto de James.

En una entrevista con Daily Mirror, Denise dijo que no habían palabras para describir qué sintió cuando vio el video de su hijo en internet hablando sobre su muerte.

«Para usar la cara y la boca en movimiento de un niño que ya no está, que nos han quitado brutalmente, no hay palabras» dijo.

Lee también – Una IA propuso exterminar a toda la humanidad para evitar el fin del mundo

¿Qué dice TikTok sobre la popularidad de los videos de niños que usan voz hecha con IA?

Un portavoz de TikTok habló con Washington Post y catalogó esta tendencia como algo «perturbador».

«Nuestros Lineamientos de la comunidad son claros en cuanto a que no permitimos medios sintéticos que contengan la imagen de una persona joven”, dijo Barney Hooper.  

A pesar de los intentos de TikTok de eliminar los videos de niños narrando sus abusos con voz hecha con IA, aún existen muchos clips de esta naturaleza en la App. Hay que decir que no son solo se encuentran clips de menores de edad, también de mujeres y hombres que murieron trágicamente.

Lo cierto es que la creación de estos videos es cada vez más fácil a medida que la Inteligencia Artificial es más barata y eficaz.

Por ahora no hay una solución clara y este tipo de contenido está escalando de TikTok a otras plataformas como YouTube y Facebook.

Puede ser de tu interés –