La industria literaria se enfrenta a un nuevo desafío con la creciente presencia de la Inteligencia Artificial (IA) en la creación de textos. A medida que los modelos de lenguaje generativos ganan premios y reconocimiento, los detectores de IA se revelan ineficaces y los humanizadores se vuelven una herramienta común para esquivar las acusaciones.

La historia del premio Commonwealth de narraciones breves al relato de la categoría Caribe, publicado en la prestigiosa revista británica Granta, es un caso en punto. Los sospechosos de que el texto fuera generado por una IA se vieron reflejados en la respuesta de la revista, que preguntó a Claude si el texto era de IA, y Claude dijo que no. Pero los expertos en detección de IA han descubierto que la prosa de un modelo de lenguaje no es tan difícil de identificar una vez que se entrena el ojo. Los modelos de lenguaje no escriben buscando la palabra justa, sino que generan el token estadísticamente más probable, teniendo en cuenta el contexto.

En el relato del Granta se dicen cosas como "el mediodía que zumba" o el "aire dulce con olor a caña y a olvido". Algunos autores han detallado que estos giros hablan de una atracción especial por los sonidos ambientales y los estados emocionales vagos (nostalgia, tristeza, olvido), que parecen querer rozar una materialidad que el modelo no tiene y, desde luego, no comprende. La acumulación de estímulos sensoriales es una instrucción de manual de escritura creativa que los modelos aplican de forma mecánica y sin discriminación.

Pero ¿cómo se detecta la IA en un texto? La primera generación de detectores automáticos ha acumulado un largo historial de errores. OpenAI retiró su AI Text Classifier en julio de 2023 tras reconocer que solo identificaba correctamente el 26% del texto generado por IA y marcaba como artificial casi el 9% de los textos humanos. La única excepción es Pangram, cuya técnica llamada mirror data entrena al clasificador con parejas de textos estilísticamente idénticos pero con distinto origen.

En el mundo del libro estamos ante un escándalo puntual, el de Granta, pero en las universidades estadounidenses estamos viendo una escalada permanente de las hostilidades. Los profesores pasan los trabajos por detectores de IA, los detectores generan falsos positivos sobre alumnos que no han tocado ningún chatbot, y esos alumnos recurren a humanizadores (o directamente a escribir peor) para esquivar las acusaciones. La escritora Vauhini Vara fue más lejos y encargó a un investigador que entrenara un modelo sobre sus tres libros publicados y varios artículos periodísticos para que generara pasajes de, teóricamente, su próxima novela. Luego los mezcló con fragmentos propios y los envió a sus amigos más cercanos. Ninguno supo distinguirlos.