Bumble gana la opción de reportar fotos generadas por IA
La aplicación de citas Bumble ha anunciado una nueva función que permite a los usuarios denunciar perfiles que utilizan fotos o vídeos generados por IA. Esta incorporación tiene como objetivo aumentar la seguridad y la confianza en la plataforma, ayudando a combatir perfiles falsos que podrían engañar o dañar a los miembros de la comunidad.
- Haz clic y sigue a Canaltech en WhatsApp
- 4 aplicaciones de relaciones para personas casadas
"Un aspecto esencial de la creación de un espacio donde se puedan formar conexiones significativas es eliminar cualquier elemento que sea engañoso o peligroso", dijo la vicepresidenta de producto de Bumble, Risa Stein, en un comunicado oficial.
"Estamos comprometidos a mejorar continuamente nuestra tecnología para garantizar que Bumble sea un entorno seguro y confiable", destacó Stein. "Al introducir esta nueva opción de presentación de informes, podemos comprender mejor cómo los malos actores y los perfiles falsos utilizan la IA de manera deshonesta, lo que le da a nuestra comunidad más confianza en las conexiones que establecen".
Imágenes generadas por IA en Bumble
Una encuesta realizada por Bumble reveló que el 71% de las audiencias de la Generación Z y Millennial quieren ver limitaciones en el uso de contenido generado por IA en aplicaciones de citas.
Otro dato interesante es que igualmente el 71% considera que las fotos generadas por IA de personas en lugares en los que nunca han estado o realizando actividades que nunca antes habían realizado son una forma de catfishing.
A principios de este año, Bumble lanzó la herramienta "Detector de engaños", que utiliza inteligencia artificial para identificar perfiles falsos. Además, la aplicación ha introducido una herramienta impulsada por IA para proteger a los usuarios de fotografías no deseadas.
Con la nueva opción de informes, cuando un usuario quiere denunciar un perfil, puede elegir la categoría "Perfil falso" y seleccionar la opción "Usar fotos o vídeos generados por IA". Otras opciones de denuncia incluyen contenido inapropiado, usuarios menores de edad, estafas y uso de fotografías de otras personas, entre otras.
Muchas aplicaciones de citas ya cuentan con medidas de seguridad para proteger a sus usuarios de estafas y peligros físicos, y el uso de inteligencia artificial para crear perfiles falsos es la última amenaza que debe combatirse.
Los perfiles falsos pueden causar daños importantes. En 2022, la Comisión Federal de Comercio de los Estados Unidos recibió alrededor de 70.000 informes de estafas en aplicaciones de citas, lo que provocó pérdidas de alrededor de 1.300 millones de dólares.