OpenAI duda en lanzar un método para detectar textos ChatGPT, dice un periódico
OpenAI cuenta con una herramienta capaz de identificar cuándo se generan textos mediante ChatGPT, pero aún no ha decidido su lanzamiento debido a debates y preguntas internas. La tecnología tendría una efectividad del 99,9% y estaría lista para su uso hace aproximadamente un año, según fuentes internas y documentos obtenidos por The Wall Street Journal.
- Haz clic y sigue a Canaltech en WhatsApp
- 4 funciones de ChatGPT que eran de pago y ahora son gratuitas
La herramienta funciona insertando una marca de agua invisible en los textos generados por ChatGPT. Esta marca se compone de patrones de selección de palabras que, aunque imperceptibles para el ojo humano, pueden ser detectados por un sistema desarrollado por OpenAI.
Identificando textos generados por ChatGPT
A pesar de la alta precisión y el largo desarrollo, OpenAI enfrenta dilemas sobre el impacto de la herramienta. Según el periódico, una encuesta interna reveló que casi un tercio de los usuarios leales de ChatGPT dejarían de usar el servicio si se implementara la tecnología.
Además, existe la preocupación de que la herramienta pueda dañar a grupos específicos, como las personas que no hablan inglés como lengua materna, que podrían ser acusadas injustamente de hacer trampa.
Una portavoz de OpenAI dijo a The Wall Street Journal que a la empresa le preocupa que la herramienta pueda afectar desproporcionadamente a diferentes grupos. "El método de marca de agua de texto que desarrollamos es técnicamente prometedor, pero tiene riesgos importantes que estamos sopesando mientras investigamos alternativas", dijo.
Los funcionarios de OpenAI también señalan que la marca de agua se puede eliminar fácilmente mediante técnicas simples, como traducir el texto a otro idioma y devolverlo al original. Este hecho plantea dudas sobre la eficacia real de la tecnología en escenarios de uso cotidiano.
Según fuentes de The Wall Street Journal, la empresa está discutiendo la posibilidad de ofrecer el detector de texto generado por ChatGPT directamente a educadores y empresas que ayudan a escuelas e instituciones educativas a identificar trabajos plagiados o escritos por IA, pero no hay nada definido.
Cabe recordar que OpenAI lleva algunos meses probando una herramienta para identificar si una imagen fue generada con su modelo DALL-E 3. La compañía dio prioridad a las marcas de agua en imágenes y sonidos en lugar de texto debido a una mayor preocupación por los deepfakes. especialmente con las posibilidades de uso político en un año electoral en Estados Unidos.
Mientras tanto, otras empresas también están desarrollando métodos de detección de texto generados por IA. Google, por ejemplo, está probando una herramienta llamada SynthID para su modelo Gemini AI, pero aún no está ampliamente disponible.
Fuente: El periodico de Wall Street