YouTube gana función para marcar vídeos alterados por IA
YouTube lanzó una herramienta en Creator Studio para indicarle si el canal utilizó IA para modificar un vídeo. La medida, cuando se utiliza, muestra una advertencia de "contenido alterado o sintético".
La intención de la plataforma es aplicar la alerta para ayudar a la comunidad con contenidos realistas, descritos por la propia empresa como “contenidos en los que el espectador puede confundir fácilmente a una persona, lugar o evento real”. Inicialmente, la etiqueta aparece en la descripción de la publicación, pero también está presente en el reproductor de video sobre temas más delicados, como salud, noticias, elecciones y finanzas.
La empresa enumeró algunos ejemplos que requieren que el canal informe la presencia de IA:
- Simular la apariencia de una persona real, como usar un deepfake o clonar la voz de la persona con IA para narrar un video;
- Cambiar grabaciones de eventos o ubicaciones reales, como mostrar un edificio real en llamadas o cambiar el paisaje de una ciudad;
- Genera escenas realistas de eventos ficticios, como un tornado que se dirige hacia una ciudad.
Por otro lado, la empresa no prohíbe el uso de inteligencia artificial en otros aspectos de la producción de vídeos, como generar texto de guión o crear subtítulos automáticos. No es necesario utilizar marcado en filtros de embellecimiento, ajustes de color o vídeos que claramente no siguen propuestas realistas, como un universo fantástico.
El cambio había sido planeado por la empresa desde noviembre del año pasado, cuando actualizó las directrices sobre contenido sintético y anunció un mecanismo para identificarlo. Inicialmente, el aviso está disponible en la aplicación YouTube para celulares, pero la intención es expandir el servicio a computadoras y televisores en los próximos meses.
Está bien, pero hay un vacío legal.
El nuevo marcado de contenidos es importante para contener la desinformación, especialmente pensando en las elecciones previstas para 2024, que deberían marcar el primer gran impacto de la IA generativa en los procesos electorales de varios países.
Sin embargo, la nueva función tiene un vacío legal: depende de la naturaleza de cada usuario porque el propietario del canal debe activar la advertencia de IA manualmente en Creation Studio al cargar el video. YouTube dice que está trabajando en futuras medidas para castigar a quienes omitan esta información, incluida una advertencia de que el contenido está adulterado y no fue mencionado por el autor.
Poco a poco, más empresas van anunciando formas de denunciar contenidos creados por IA. Meta también ha anunciado que aplicará el marcado a Facebook e Instagram con el mismo objetivo, por ejemplo, y es posible que más plataformas sigan su ejemplo este año.