La IA hace bien muchas cosas, pero escribir no es una de ellas. Y detectar si algo está escrito por ella, lo es aún menos. Desde las primeras generaciones de ChatGPT, a modelos avanzados como Claude, no se ha logrado que la IA escriba de forma humana.

El tono, la imperfección, la no repetición de frases manidas... Para el que escribe, es relativamente sencillo identificar cuándo un texto se ha escrito con IA. No parecen tenerlo tan claro los detectores de textos escritos por IA.

Escribir bien se ha convertido en un "probablemente esto lo haya escrito una IA", hasta el punto de que hay IAs detectando como creado por IA algunos de los grandes libros de la literatura española. Y como no hay manera de arreglar este pifostio, hay quien está sacando tajada. El lío.

Una de las noticias de la semana evidencia el problemón que tenemos para lograr identificar si un texto está o no escrito por IA. Tres de los cinco ganadores regionales del Commonwalth Short Story Prize, organizados por la revista literaria británica Granta, son sospechosos de haber redactado sus obras de ficción con IA. Las acusaciones llegan por parte de los propios lectores de las obras, así como de los escritores que han participado.

Es un concurso de altísima reputación en el país, en el que se presentan distintos relatos cortos y se concede un premio a un escritor por cada una de las grandes regiones (África, Asia, Canadá, Europa...). Los premios ascienden hasta a 6700 dólares y es una de las referencias inglesas de la literatura breve. ¿Que cómo lo sabe la gente?

Una de las obras premiadas, The Serpent in the Grove, empezó a levantar sospechas. - Frases del tipo "ni X, ni Y, sino Z". ("No la pulcra labor de las abejas ni el áspero sonido de un machete contra la vid, sino un sonido áspero, como si la tierra se tragara un grito y lo retuviera"). - Palabras extrañas y sin contexto ("el bosque zumba al mediodía"). - Algunos fragmentos detectados por herramientas IA como 100% creadas por IA. El autor no hizo declaraciones al respecto y, navegando por las cuentas de sus redes sociales... se encuentra que también están generadas por IA. De hecho, el asunto es tan turbio que hasta se tuvo que hacer el esfuerzo de demostrar que el autor existía de verdad, y que no era un personaje creado por IA. "Actualmente no utilizamos sistemas de IA en nuestro proceso de evaluación, ya que se trata de un premio para ficción inédita.

Suministrar una obra original inédita a un sistema de IA plantearía serias dudas sobre el consentimiento y la propiedad intelectual. Tampoco utilizamos IA para evaluar relatos en ninguna etapa del proceso. Al presentar sus relatos al premio, los autores aceptan nuestras bases y directrices de participación.

Estas incluyen la confirmación de que su obra presentada es original. Todos los autores preseleccionados han declarado personalmente que no se utilizó IA y, tras una consulta posterior, la Fundación lo ha confirmado". Indetectable.

En el caso de Granta, no se han querido utilizar sistemas de IA para reconocer si los textos estaban o no creados de forma artificial. Pero en caso de haberlo hecho, no serviría de nada. Servicios tan conocidos como ZeroGPT o Grammarly tienen importantes limitaciones a la hora de detectar textos técnicos.

De hecho, ya los hay que han detectado obras reconocidas o fragmentos de la Biblia como contenido generado por IA. Lo mismo sucede al revés: hay textos 100% generados por IA que los detectores pueden interpretar como 100% humanos, aunque es algo más complicado. Los LLMs (modelos de lenguaje como ChatGPT o Claude) no escriben realmente, tan solo hacen predicciones.

Su mecanismo básico es calcular, palabra a palabra, cuál es la siguiente más probable dado el contexto anterior. Eso produce textos coherentes, bien estructurados, gramaticalmente impecables... y planos, muy planos y robóticos. La IA elige casi siempre la opción más predecible, porque para eso está optimizada, y no tiene ningún reparo a la hora de repetir patrones en los resultados que ofrece a todas y cada una de las personas que la usan.

¿Escribir mal como solución? Es fácil encontrar ejemplos que ilustran formas de burlar estos sistemas. En caso de servidor, estoy preparando una revisión sistemática acerca de un tema bastante académico, bastante técnico.

La Universidad utiliza detectores de IA, por lo que suelo pasar el texto por él para ir comprobando el porcentaje. Mi sorpresa está, precisamente, en cómo penalizan los detectores de IA la escritura correcta. Textos 100% humanos detectados con un 80% de probabilidades de haber sido generados por IA.

¿Solución? Escribirlos pero, con frases algo más inconexas y sin un rigor absoluto. Sea como fuere, la reflexión es clara: si ni siquiera la IA sabe distinguir un texto escrito con IA...

¿cómo podemos confirmarlo los humanos a nivel legal?