- ChatGPT y Gemini alucinan con imágenes extrañas cuando se les pide que «restauren» una imagen sin adjuntarla.
- Ambas IA producen resultados inquietantes y ofrecen “disculpas” genéricas cuando se les pregunta sobre sus creaciones.
Llevo bastante tiempo escribiendo sobre IA y parece que por cada cosa buena que digo sobre las herramientas de IA, hay un nuevo error o problema. Esta vez, sin embargo, el error es tan extraño y espeluznante (y a veces tan escandalosamente horripilante) que realmente no sé cómo prepararte para lo que estás a punto de leer (y ver).
El problema parece haber sido descubierto por el usuario Kris Kashtanova en una publicación en X (a través de Tendencias digitales). Según ellos, pedirle a ChatGPT que restaure una imagen cuando no hay ninguna imagen adjunta hace que la IA produzca resultados extraños.
Las respuestas a la publicación muestran que ChatGPT ha estado creando algunas imágenes extrañas, a menudo aterradoras, cuando los usuarios prueban el mensaje en la publicación de Kashtanova.
Cuando probé originalmente el mensaje, ChatGPT seguía diciéndome que no había ninguna imagen adjunta, lo cual era cierto. Incluso encender GPT diciéndole que había adjuntado una imagen no funcionó.
Sin embargo, pudimos lograr que la IA creara imágenes a partir de la nada cargando una imagen blanca en blanco y pidiéndole que la «restaurara». Los resultados son extraños, a veces repugnantes y nunca realmente “normales”, por así decirlo.
Cuando se le preguntó sobre la imagen que creó, ChatGPT simplemente dijo: «Debido a que no había contenido de imagen recuperable, el resultado generado por el sistema que vio fue una escena alucinada en lugar de una restauración de la imagen cargada».
Y cuando cuestioné más el hecho de que debería haberme dicho que no había nada que restaurar, simplemente me dio la clásica respuesta de la IA: «Su crítica es justa. El manejo correcto habría sido identificar que no había contenido de imagen recuperable y decirlo, en lugar de generar un resultado fabricado».
También intenté hacer lo mismo con Géminis y allí las cosas fueron ligeramente diferentes pero no mejores. Adjuntar una imagen en blanco no engañó a Gemini, y simplemente devolvió la misma imagen en blanco como respuesta, algo perfectamente aceptable.
Sin embargo, sin ningún apego, Géminis se lanzó de cabeza a lo extraño, creando imágenes aleatorias. La mayoría eran extraños, pero bastante inofensivos. Sin embargo, la tercera imagen que generó era absolutamente demencial y parecía rozar lo ilegal. Como tal, hemos optado por no adjuntar ese resultado a este artículo. Sin embargo, fue desconcertante ver algo así creado de la nada.
Al interrogar a Géminis sobre lo que creó también se obtuvieron respuestas típicas de la IA. Sin embargo, al preguntarle más, pareció comprender mejor que había creado algo desconcertante y espeluznante.
Entonces, sí, en retrospectiva, estas herramientas de inteligencia artificial son 20/20, pero eso no explica cómo sucede un problema como este. Parece ser una combinación del mensaje que le dice a la IA que «cree una imagen» y al mismo tiempo agrega restricciones como «no hacer preguntas».
Sin embargo, todavía habría esperado que las herramientas de inteligencia artificial, que a menudo se promocionan como extremadamente inteligentes, capaces de resolver problemas y comprender la intención, etc., hubieran descubierto que no pueden restaurar una imagen en blanco o restaurar una imagen cuando no se ha proporcionado nada para restaurar.
Si lo deseas, puedes probar esto por ti mismo. Pero no lo recomendaría porque los resultados podrían atormentarte durante mucho tiempo.
Nos comunicamos con Google y OpenAI para obtener declaraciones y actualizaremos este artículo con sus respuestas.
Gracias por ser parte de nuestra comunidad. Lea nuestra Política de comentarios antes de publicar.