Cómo detectar contenido escrito por IA

Avances actuales en el contenido escrito por IA

Los investigadores y desarrolladores están desarrollando activamente herramientas automáticas para identificar textos generados por IA. Los principales investigadores en este campo provienen de prestigiosas universidades, como el MIT y Harvard.

Entre los primeros instrumentos creados se encuentra el AI Text Classifier de OpenAI, que detecta contenidos generados por IA mediante el análisis de aspectos lingüísticos y estadísticos. Mientras tanto, su eficacia se ha puesto en duda, especialmente con los idiomas que no son el inglés.

Los avances recientes han introducido varias herramientas de detección nuevas que cuentan con tasas de precisión más altas:

• Originality.ai admite varios idiomas y afirma una precisión de hasta el 98% en su modo Lite, proporcionando tres modos de operación con diferentes grados de precisión.
• Diseñado para empresas y profesores, Winston AI cuenta con una notable tasa de precisión de hasta el 99,98% y puede detectar material parafraseado
• Detector de IA premium de Scribbr: Recientemente subrayada por su precisión del 84% en la identificación de texto generado por IA, esta herramienta se encuentra entre las más confiables disponibles
• GPTZero: Dirigido a profesores y profesionales de la ciberseguridad, GPTZero utiliza métricas como «ráfaga» y «perplejidad» para diferenciar entre el texto humano y el generado por IA. Si bien ha sido eficaz en la identificación de contenido de IA, también se ha enfrentado a desafíos con respecto a la claridad en sus resultados
• Copyleaks: Esta herramienta logra una precisión superior al 99% al reconocer patrones típicos de la escritura humana y señalar las desviaciones que sugieren la autoría de la IA. Copyleaks es compatible con más de 30 idiomas y puede detectar contenido mixto entre humanos e IA

Desafíos en la detección

Inconvenientes de los enfoques actuales

Todavía no existe una forma perfecta de demostrar que un texto es producido por humanos o por inteligencia artificial. Este trabajo requiere una combinación de pensamiento crítico y herramientas técnicas.

Aunque los sistemas de detección actuales son prometedores, no están exentos de defectos; muchos sufren de falsos positivos, es decir, identifican erróneamente textos escritos por humanos como generados por IA, y es posible que no se mantengan al día con los nuevos modelos.

El factor humano

Al fin y al cabo, la escritura humana sigue diferenciándose de los contenidos generados por la inteligencia artificial por elementos como la conciencia, la empatía y la inventiva. Estas características se muestran suavemente en el lenguaje y requieren un ojo discriminador para encontrarlas.

Navegar por este terreno cambiante de las capacidades de inteligencia artificial dependerá fundamentalmente de nuestra capacidad para identificar estas sutilezas.

En esencia, incluso si los modelos lingüísticos de inteligencia artificial han hecho grandes progresos en la producción de textos que se asemejan mucho a la escritura humana, la investigación continua sobre técnicas de detección muestra tanto oportunidades como dificultades.

La interacción entre la creatividad humana y la inteligencia artificial seguirá siendo central en los debates sobre la dirección de la comunicación a medida que evolucionen estas tecnologías.