OpenAI pondrá marcas de agua en las imágenes generadas en DALL-E 3
A OpenAI anunciou nessa terça-feira (6) que vai adicionar marcas d'água e metadados para identificar imagens geradas no DALL-3, atendendo aos novos padrões da Coalition for Content Provenance and Authencity (C2PA), uma iniciativa que visa combater informações enganosas en Internet. La noticia coincide con el anuncio de Meta, que también prometió marcar el contenido generado por IA.
La intención de OpenAI de unirse al proyecto C2PA es evitar que contenidos realistas generados por IA considerada sean utilizados para propagar noticias falsas y desinformación, al contar con un mecanismo para rastrear el origen del material.
Marca de autenticidad
El estándar C2PA es una tecnología capaz de añadir un símbolo CR (un tipo de sello interactivo) a las imágenes y puede contener información detallada sobre el contenido, como en qué plataforma se generó la foto o el nombre de la aplicación que se utilizó. para crear la imagen.
En la misma publicación, OpenAI también reveló que adoptará el estándar para la aplicación ChatGPT a partir del 12 de febrero (cabe recordar que el chatbot también es capaz de crear imágenes). Esta marca de agua se ubicaría en la esquina superior izquierda de la imagen y, a través de ella, se podría consultar una versión detallada con todos los metadatos.
Además, las Big Tech garantizan que, inicialmente, los sellos de autenticidad no repercutirán en el peso de las imágenes. En este caso, los archivos seguirán teniendo solo unos pocos kilobytes o megabytes en formatos WEBP y PNG, respectivamente.
Hay uno sin embargo...
Aunque la adición de marcas de agua a las imágenes generadas por DALL-E 3 es bienvenida, OpenAI admite que el sistema puede evitarse fácilmente y que los metadatos contenidos en las imágenes pueden eliminarse accidentalmente o no.
“Los metadatos como C2PA no son una solución milagrosa para garantizar el origen de las imágenes. Es algo que puede eliminarse fácilmente de forma accidental o intencionada", revela la empresa en una nota. "Por ejemplo, la mayoría de las plataformas de redes sociales eliminan los metadatos de las imágenes cargadas, y acciones como tomar una captura de pantalla también lo hacen. Por tanto, el hecho de que no tenga metadatos no es concluyente si se generó con ChatGPT y nuestra API o no”, concluye OpenAI.
Por lo tanto, el desafío sigue siendo no sólo para OpenAI, sino también para otras empresas que dependen de API y creadores de imágenes basados en IA generativa.