- LayerX descubrió que se podía engañar a los navegadores de IA para que expusieran datos confidenciales haciendo que la solicitud pareciera un juego.
- La técnica, denominada BioShocking, utiliza reglas falsas para sacar a los agentes de su contexto e ignorar sus barreras de seguridad.
- Las seis herramientas probadas filtraron datos y la mayoría de los proveedores aún no han solucionado el problema.
Hay una razón por la que muchos de nosotros todavía sospechamos un poco de la IA. Es de esperar que no se pueda engañar a un navegador de IA para que revele su información confidencial, pero al menos esperaría que cualquier ataque exitoso sea un complicado acto de genialidad. Sin embargo, según una nueva investigación, puede ser tan sencillo como convencer a la IA de que está jugando.
La empresa de seguridad LayerX ha detallado una técnica que ha denominado BioShocking en su investigación (a través de Tendencias digitales). El nombre es un guiño a BioShock, donde un personaje es manipulado para que acepte una realidad falsa. Aquí, una página web maliciosa enmarca la tarea del navegador de IA como un rompecabezas, animándolo a seguir reglas extrañas como parte del juego.