OpenAI crea una herramienta para identificar textos generados por ChatGPT

Un detector infalible en desarrollo

Según fuentes cercanas a la empresa, OpenAI ha creado un sistema basado en marcas de agua para textos generados por ChatGPT. Este método, que ya ha sido confirmado por un portavoz de OpenAI, promete identificar de manera precisa estos textos, aunque presenta ciertas complejidades y posibles impactos en el ecosistema más allá de OpenAI.

La controversia interna

La empresa se encuentra en un debate interno sobre si debe lanzar o no esta herramienta al mercado. Por un lado, hay quienes creen que es su responsabilidad hacerlo, mientras que otros temen que podría perjudicar su modelo de negocio. Según The Wall Street Journal, la herramienta, aunque técnicamente prometedora, enfrenta riesgos importantes, como la posibilidad de ser eludida por malos actores y de afectar desproporcionadamente a grupos que no hablan inglés.

Un reto hasta ahora insuperable

Muchas empresas han intentado crear herramientas para detectar textos generados por IA, pero ninguna ha tenido éxito. OpenAI lanzó su propia herramienta a principios de 2023, pero admitió que su precisión era baja y finalmente la abandonó. Ahora, con este nuevo enfoque, esperan superar esos obstáculos.

Cómo funciona el nuevo detector de textos generados por ChatGPT

El mecanismo es relativamente sencillo: OpenAI introduciría pequeños cambios en la selección de palabras de ChatGPT para crear una especie de marca invisible. Esta marca podría ser detectada posteriormente por otra herramienta, identificando así el origen del texto.

La delatadora elección de palabras

OpenAI forzaría a ChatGPT a adoptar un «estilo robótico» de redacción, que, aunque mantendría la calidad del texto, facilitaría su detección. Este método ya ha mostrado ser efectivo en textos académicos y financieros generados por modelos de IA, que suelen tener un lenguaje distintivo.

Utilidad y limitaciones

Las marcas de agua han demostrado ser muy precisas y efectivas frente a manipulaciones como la paráfrasis. Sin embargo, presentan problemas en sistemas de traducción o cuando se le pide al modelo que inserte caracteres especiales entre las palabras. Además, es «trivial eludir» su funcionamiento si alguien con malas intenciones decide hacerlo.

El dilema de OpenAI

La empresa no ha decidido aún si lanzará la herramienta. Aunque podría mitigar los usos indebidos de la inteligencia artificial, como los que afectan al mundo académico desde la aparición de ChatGPT, también podría poner en riesgo su negocio. Sin embargo, este desarrollo marca un camino prometedor para la detección de textos generados por IA.

Impacto en el ámbito educativo

La aparición de esta herramienta podría cambiar radicalmente cómo se perciben y utilizan los textos generados por IA en el ámbito educativo. Hasta ahora, identificar un texto hecho por ChatGPT era casi imposible, pero con este avance, OpenAI ofrece una solución que podría asegurar la integridad académica.

Los avances tecnológicos basados en inteligencia artificial (IA) son bastante prometedores, ya que pueden ser útiles como apoyo en productividad o creatividad de diversas profesiones. Sin embargo, no siempre se usan de esta manera. Algunas IAs han reemplazado a personas en sus puestos de trabajo y otras se han utilizado para hacer deberes académicos, sustituyendo por completo a la mente humana.

Uno de los sistemas más populares para elaborar redacciones y textos es ChatGPT, cuyos resultados son tan completos y se adaptan tanto a las exigencias del usuario que algunos estudiantes ya utilizan dicha IA para sus trabajos académicos. Ante esta situación, varios maestros han recurrido a los detectores de texto artificial para comprobar qué es real y qué no. Con la nueva herramienta de OpenAI, identificar estos textos será más sencillo.

La herramienta de OpenAI se basa en una «marca de agua» que identifica los textos escritos por inteligencia artificial. Aunque la compañía de Sam Altman sigue debatiendo su lanzamiento debido a las complejidades y posibles impactos en el ecosistema, esta innovación promete ser un cambio de juego en la lucha contra el uso indebido de IA en la educación.