YouTube apunta a productos falsos generados por inteligencia artificial

Los vídeos que utilizan inteligencia artificial (IA) pronto tendrán que ser identificados como tales en YouTube, y los usuarios de Internet podrán pedir a la plataforma que elimine el engaño generado por la IA, anunció recientemente el sitio de vídeos.

Estas nuevas reglas deberían entrar en vigor en los próximos meses. Muchos temen que los vídeos que contienen elementos generados por IA puedan utilizarse para manipular elecciones, cometer fraude o incluso poner a las personas en situaciones falsas (pornografía, por ejemplo).

Brindaremos la posibilidad de solicitar la eliminación de contenido generado por IA u otro contenido que haya sido manipulado para imitar a una persona reconocible, incluidos su rostro y su voz.Emily Moxley y Jennifer Flannery O’Connor, vicepresidentas de gestión de productos, en una publicación de blog.

Los criterios que se tendrán en cuenta para la solicitud de retirada se referirán, en particular, a la distinción entre parodias y vídeos que muestran a personas reales y reconocibles, según indicó la plataforma propiedad de Alphabet (matriz de Google).

El sitio también requerirá que los creadores indiquen claramente cuándo se creó el contenido de la vida real utilizando IA para que las personas que lo vean sean notificadas de una visualización específica.

Podría ser un vídeo generado por IA que represente de manera realista un evento que nunca sucedió, o contenido que muestre a alguien diciendo o haciendo algo que nunca dijo o hizo.

Esto es especialmente importante en los casos en los que el contenido aborda temas delicados como elecciones, conflictos, crisis de salud pública o personalidades.Informe a los Vicepresidentes.

El incumplimiento de estas políticas resultará en la eliminación del contenido de YouTube o la suspensión del programa de reparto de ingresos publicitarios.

Los artistas podrán intervenir

YouTube también planea permitir que la industria musical solicite la eliminación de contenido creado para imitar el estilo de un artista.

La plataforma especifica que tomará medidas especialmente estrictas contra los vídeos que… Imitar la voz única de un artista al cantar o rapear..

Muchos canales de YouTube obtienen su éxito de portadas, a menudo parodias o parodias, que son generadas por inteligencia artificial. Se espera que muchos de estos creadores de contenido vean sus canales comprometidos por sellos discográficos que tal vez no valoren sus videos.

YouTube aún no ha emitido pautas específicas para este tipo de contenido, pero deja claro que tiene la intención de hacer excepciones para el contenido al que está sujeto. Un informe, análisis o incluso crítica de los sonidos sintéticos..

Meta también está tomando precauciones.

YouTube no es la única plataforma que toma medidas enérgicas contra el contenido generado por IA. Meta (Facebook e Instagram) anunció el 8 de noviembre que exigirá que las campañas políticas sean transparentes sobre el uso de inteligencia artificial en los anuncios para 2024.

Los anunciantes tendrán que revelar cuando un anuncio electoral o un anuncio sobre temas políticos o sociales contenga una imagen, video o clip de audio de la vida real que haya sido creado o modificado digitalmente para representar a una persona real diciendo o haciendo algo que usted no dijo o hizo.Explicó el portavoz de Meta.

Los usuarios de las MetaPlataformas serán notificados de la presencia de dicho contenido.

Con información de la Agencia France-Presse