- Un informe reciente afirma que las descripciones generales de IA y el modo IA de la Búsqueda de Google son un «riesgo inaceptable» para los niños.
- Google ha ofrecido una respuesta, negando categóricamente muchas de las afirmaciones hechas en el informe.
En un informe reciente, el Youth AI Safety Institute de Common Sense Media alega que las herramientas de IA de la Búsqueda de Google (AI Overviews y AI Mode) no son seguras para los niños. La organización sin fines de lucro llegó incluso a considerar estas características como un «riesgo inaceptable». Google ahora ha respondido al informe, negando categóricamente las afirmaciones.
Nuestras funciones de búsqueda con IA son una forma increíblemente útil para que niños y adolescentes aprendan, exploren y le den sentido a la información y al mundo. Más allá de las sólidas barreras de calidad y seguridad integradas en la Búsqueda, nuestras herramientas de inteligencia artificial brindan capas adicionales de protección y los padres tienen controles para desactivar la Búsqueda. Este informe prueba un conjunto limitado de consultas ambiguas y artificiales que no reflejan cómo las personas usan la Búsqueda y no son una forma efectiva de medir la seguridad y utilidad del producto.
Google va más allá y nos dice que no pudo replicar ni verificar muchas de las respuestas destacadas en el informe. Afirma que las consultas utilizadas eran ambiguas y podían tener múltiples interpretaciones. Además, la empresa no cree que el informe refleje cómo las personas interactúan normalmente con la Búsqueda.
La empresa con sede en Mountain View también menciona el informe que critica la búsqueda, incluso cuando muestra enlaces web en lugar de respuestas generadas por IA. Señala que las descripciones generales de IA y el modo AI no siempre proporcionarán una respuesta generada a cada consulta. Las herramientas solo lo harán cuando se trate de una consulta en la que la empresa confíe en que la IA responda.
Sin embargo, la empresa rechaza enérgicamente las acusaciones de seguridad contenidas en el informe. Se nos dice que las descripciones generales de AI y el modo AI tienen varias salvaguardas para los usuarios, como mostrar exenciones de responsabilidad o enlaces web para temas delicados. La compañía también dice que proporciona recursos de alfabetización en IA apropiados para la edad, consejos sobre cómo verificar la información y ofrece a los padres dos formas de controlar cómo los niños acceden a la Búsqueda. Para los usuarios en crisis, Google nos informa que muestra líneas directas de crisis y líneas de ayuda que se desarrollaron con la ayuda de expertos académicos y clínicos.
El informe de Common Sense Media sobre la Búsqueda de Google es parte de un programa más amplio de revisión de IA. La organización sin fines de lucro también encontró riesgos inaceptables Meta AI, Grok, AI Toys, Character.AI y Chatbots for Mental Health Support. Mientras tanto, Gemini K-12, Perplexity, ChatGPT-5, Gemini con protecciones para adolescentes y Gemini menor de 13 años se clasifican como de alto riesgo. Claude fue uno de los pocos productos que obtuvo una calificación de riesgo moderado.
Gracias por ser parte de nuestra comunidad. Lea nuestra Política de comentarios antes de publicar.