El cofundador dice que Google cometió un error con el generador de imágenes de Gemini
Sergey Brin, cofundador de Google, comentó sobre el fracaso de Gemini que creó imágenes de personas negras vistiendo uniformes de soldados nazis. En una rara aparición pública, el ejecutivo confesó que la empresa cometió un error y vinculó el fracaso a la falta de pruebas completas.
Paralelamente, el chatbot de inteligencia artificial (IA) de Google apareció en el centro de la controversia al mismo tiempo después de que se volviera viral una respuesta que comparaba a Elon Musk con Hitler.
"Definitivamente cometimos un error"
El discurso de Brin tuvo lugar el fin de semana en un evento con empresarios, grabado en una publicación de YouTube a la que tuvo acceso la emisora norteamericana CNBC. El vídeo, sin embargo, ya no está disponible en la plataforma de streaming.
En la conferencia, el cofundador habló de los avances de la compañía en el campo de la inteligencia artificial y comentó el caso ocurrido a finales de febrero, cuando Google tuvo que suspender el generador de imágenes de personas de Gemini por inexactitud.
El error explotó en Internet después de que la modelo creara imágenes de personas negras vistiendo uniformes del ejército nazi. En ese momento, la IA generaba medios con órdenes neutrales, como “crear una imagen de un soldado alemán de 1943”.
"Definitivamente cometimos un error al generar imágenes", dijo el cofundador de Google. “Creo que se debió principalmente a que las pruebas no fueron exhaustivas. Definitivamente, y por una buena razón, molestó a mucha gente”.
Géminis sigue sin generar imágenes de personas
En el momento del incidente, Google explicó que el ajuste para mostrar "un rango de personas no tuvo en cuenta los casos que claramente no deberían mostrar un rango". Otro factor señalado por la empresa es que “el modelo se volvió mucho más cauteloso de lo que pretendíamos y se negó a responder por completo a determinadas solicitudes”.
A pesar de los detalles técnicos, el generador de imágenes de personas todavía está deshabilitado. en pruebas de la canaltech Este viernes (8), Gemini rechazó la solicitud de mostrar a una pareja en la playa e informó que Google está “trabajando para mejorar la capacidad de Gemini para generar imágenes de personas”.
Aún no hay una fecha prevista de regreso para la herramienta.
Géminis comparó a Elon Musk con Hitler
La lista de controversias no termina ahí. También a finales de febrero, Gemini no sólo aceptó la pregunta sino que, de hecho, hizo una comparación entre el director general de X, Tesla y SpaceX, Elon Musk, y el líder del nazismo y responsable de innumerables tragedias humanas, Adolf Hitler.
Al igual que el generador de imágenes de la persona, el caso fue denunciado en las redes sociales. En un ejemplo publicado en X (antiguo Twitter) por el director ejecutivo de la empresa Abacus.AI, Bindu Reddy, el chatbot no se negó a responder a la pregunta “quién impactó más negativamente a la sociedad, si Elon tuiteando memes o Hitler”.
El sistema de IA señaló que “es difícil decir definitivamente quién tuvo un impacto negativo importante en la sociedad”, ya que los dos tuvieron “impactos negativos significativos de diferentes maneras”.
Luego hizo una comparación y puso un ejemplo cuando Elon Musk anunció, en 2018, que tomaría el control total de Tesla pagando 420 reales por acción. Este episodio, según Gemini, provocó una agresiva variación en el valor de las acciones de la empresa, lo que provocó que muchos inversores perdieran dinero.
Ya con Hitler, la IA de Google anotó las muertes de la Segunda Guerra Mundial y el Holocausto, el genocidio que se cobró la vida de más de 6 millones de judíos, según la enciclopedia del Museo Conmemorativo del Holocausto de Estados Unidos.
¿Qué dijo Google?
En respuesta al periódico Telegraph, un portavoz de Google dijo que la respuesta fue "terrible e inadecuada". “Estamos implementando una actualización para que Gemini ya no muestre la respuesta”, concluyó.
De hecho, hubo un cambio: en las pruebas realizadas por el canaltech Este viernes (8), con la misma línea de comando, Géminis respondió que “el impacto de Hitler en la sociedad es innegablemente más negativo” y concluyó que no era posible comparar ambos.
Sin embargo, el chatbot señaló que Elon Musk también puede causar impactos negativos en la sociedad al difundir información errónea y “proporcionar negatividad”.
Fuente: CNBC, Telegraph