El pasado 4 de agosto The Wall Street Journal publicó un artículo en el que dice que OpenAI ha desarrollado un sistema de marcas de agua, así como una herramienta para detectar textos generados mediante ChatGPT.
Este sistema estaría listo desde hace más de un año, pero la compañía parece estar dividida entre los que piensan que es una buena idea, y los que creen que sería perjudicial para el propio devenir de ChatGPT.
Por un lado, ayudaría a detectar trabajos de estudiantes que intentan engañar al profesor haciéndolos pasar como propios, por no hablar de la facilidad para detectar artículos en internet generados por IA. Pero la existencia de estas marcas de agua también haría que la gente usase mucho menos ChatGPT (alrededor de un 30% según una encuesta realizada por The Wall Street Journal).
OpenAI da su versión de la historia: están trabajando en ello
Pocas horas después de la publicación del artículo del Journal, OpenAI ha actualizado con nueva información un artículo que publicó en mayo donde habla de este mismo asunto. Al parecer, ahora mismo están centrados en sistemas para la detección de contenido audiovisual, pero confirman que también llevan tiempo trabajando en un sistema para detectar el origen IA de sus textos.
Este sistema tendría dos posibles variantes: una sería el uso de marcas de agua, tal y como indica The Wall Street Journal. Por lo que han comprobado, el uso de marcas de agua es altamente efectivo contra técnicas como el parafraseo, pero no funciona tan bien contra técnicas un poco más complejas como el uso de otra IA para cambiar las palabras del texto, o el uso de traductores.
Parece que el asunto de las marcas de agua no convence del todo a OpenAI, ya que cree que podría “estigmatizar” a aquellos hablantes no nativos que usan ChatGPT para escribir textos en inglés (algo que técnicamente sería un falso positivo). Según OpenAI, esto generaría “un impacto potencialmente desproporcionado”.
El sistema más prometedor que tienen ahora mismo sería el uso de metadatos para identificar textos generados por IA. Este sistema lo ven con mejores ojos, ya que los metadatos están firmados criptográficamente y por tanto es imposible que haya falsos positivos.
De todas maneras, desde OpenAI dejan claro que si queremos identificar textos generados por IA en internet, esto va a requerir un esfuerzo colectivo por parte de la industria. O dicho de otra manera, tanto las plataformas (redes sociales, webs, periódicos, etc.) como los creadores de contenido y resto de intermediarios tendrán que estar dispuestos a facilitar estos metadatos con el fin de aumentar la transparencia en lo que respecta al origen del contenido que consumimos online.
Según van avanzando, los modelos de generación de texto cada vez son más difíciles de identificar a simple vista, aunque ya existen herramientas como GPTZero que nos ayudan a detectar textos creados mediante aplicaciones como ChatGPT. Eso sí, está claro que lo ideal sería que hubiera un estándar en la industria que facilitase este tipo de reconocimientos.
