¿Son fiables los detectores de textos generados con IA? / Foto: Kirill KUDRYAVTSEV - AFP/Archivos
¿Son fiables los detectores de textos generados con IA?
Con el auge de la inteligencia artificial generativa, capaz de producir textos similares a la escritura humana, surgieron múltiples herramientas para intentar detectar si los escritos fueron hechos con esta tecnología. Pero, ¿hasta qué punto se puede confiar en ellas?
En Francia, uno de los fenómenos literarios de la temporada, el canadiense Thélyson Orélien, ha sido acusado de haber utilizado la IA para escribir su primera novela, lo que el autor desmiente.
Las acusaciones, hechas por una cuenta anónima en las redes sociales, se basan en un programa de detección de IA.
¿Cómo funcionan estas herramientas y hasta dónde son fiables? Estas son algunas claves para entenderlas.
- ¿Qué es un detector de IA? -
El uso creciente de la IA generativa ha propiciado la creación de decenas de herramientas en línea para detectarla, la mayoría de pago si se quiere acceder de forma ilimitada. Muchas van dirigidas al sector de la docencia y de la investigación académica.
Las empresas que desarrollan estos dispositivos utilizan métodos diferentes para configurar sus sistemas de detección.
Pero todas tienen en común haber construido estos programas analizando amplias bases de datos que reúnen textos generados por modelos de IA y escritos redactados por personas.
Y, según varios trabajos publicados por investigadores, estos sistemas de detección, que aún eran muy deficientes hace unos años, han mejorado su rendimiento de forma considerable.
- ¿En qué se basa la detección? -
Para intentar determinar si un texto ha sido redactado por una IA, estas herramientas "buscan regularidades", explica Thierry Poibeau, director de investigación en el CNRS y especialista en procesamiento automático del lenguaje.
"La idea es que estos textos generados automáticamente, aunque eso es cada vez menos cierto, tienen algunos tics de lenguaje", explica.
La empresa Pangram, fundada en 2023 y cuyo instrumento fue utilizado por una cuenta en X para escanear dos fragmentos del libro de Thélyson Orélien, afirma poder "detectar un texto generado por una IA analizando y comprendiendo las señales sutiles presentes en la escritura".
"El ejemplo clásico son las construcciones ternarias o los guiones largos, que eran muy frecuentes en los textos generados, porque las herramientas habían sido entrenadas con textos científicos estadounidenses o novelas estadounidenses, en los que había muchas construcciones ternarias", cita Poibeau.
- ¿Son fiables estos dispositivos? -
Muchas herramientas disponibles en el mercado destacan índices de fiabilidad superiores al 99% en la detección de textos generados con IA.
Pero los resultados que muestran no bastan para afirmar con certeza que un texto fue redactado con esta tecnología.
WinstonAI, uno de los principales sistemas del sector creado en 2022, afirma que su herramienta de detección señala los textos "susceptibles de haber sido generados con IA".
En Pangram, el director general y cofundador Max Spero declaró al medio estadounidense The Atlantic en mayo de 2026 que su dispositivo nunca debería ser "el árbitro final", sino más bien un punto de partida para una investigación más exhaustiva.
Según Thierry Poibeau, estos sistemas de detección también se enfrentan a una realidad cambiante porque "los modelos de IA evolucionan constantemente" e intentan aproximarse cada vez más al lenguaje natural.
Para el experto también puede ser especialmente difícil identificar la IA en las novelas: "La herramienta puede detectar en la escritura algo particular, algo repetitivo, pero quizá sea precisamente eso lo que constituye el estilo de un escritor", explica.
(T.Burkhard--BBZ)
