Músicos y celebridades, protegidos por las primeras medidas de Youtube para controlar contenidos generados con IA

Por Parágrafo

17 noviembre, 2023

Youtube ha anunciado las primeras medidas para el control del contenido creado o manipulado con IA, especialmente si trata de confundir o dañar a los usuarios.

La plataforma destaca su disposición para permitir el uso de inteligencia artificial (IA) en la creación de contenidos, siempre y cuando cumplan con las normas de la comunidad establecidas, al igual que los contenidos generados de manera tradicional.

Como primera medida de regulación, en los próximos meses, los creadores deberán informar a los usuarios el uso de herramientas de IA para generar contenido, mediante una etiqueta en el panel de descripción del video. Además, se implementará una etiqueta más destacada en el reproductor de video para contenidos sensibles.

Además, la plataforma introducirá una etiqueta específica para indicar cuando parte del contenido ha sido alterado o generado digitalmente. Esta medida se aplicará especialmente a contenidos potencialmente manipulados o sintéticos.

En casos donde la etiqueta no sea suficiente para mitigar el riesgo de daño, YouTube eliminará el contenido de la plataforma, incluso si tiene la etiqueta. Por ejemplo, videos generados mediante IA que muestren violencia realista con el objetivo de conmocionar o provocar indignación podrán ser eliminados.

Músicos y celebridades, protegidos del uso de imagen o voz sin autorización

Además, YouTube permitirá solicitudes de eliminación de contenido generadas digitalmente sin autorización. Los afectados podrán reclamar la retirada de contenidos que utilicen su imagen o voz sin permiso. Esta solicitud estará disponible tanto para usuarios comunes como para personajes públicos y artistas musicales.

La compañía evaluará estas solicitudes considerando factores como si se trata de una parodia o sátira. Además, se implementará una herramienta para que los músicos soliciten la retirada de contenidos musicales generados por IA que reproduzcan su voz o estilo de canto sin autorización.

YouTube combina la inteligencia artificial con moderadores humanos para garantizar el cumplimiento de sus normas de la comunidad. La plataforma destaca que estas medidas buscan equilibrar la innovación de la IA con la necesidad de mantener un entorno seguro y confiable para sus usuarios.

El post en la cuenta oficial en X destaca: “A medida que la IA generativa desbloquea nuevas formas de creatividad, estamos introduciendo medidas que equilibran la innovación con nuestra responsabilidad de proteger a la comunidad de YouTube”.