Los LLMs podrían escribir como humanos, pero las barreras de seguridad del post-entrenamiento hacen su texto detectable
Un análisis técnico elaborado por Bradley Emi, director de tecnología de Pangram Labs, ha encendido un debate profundo en la comunidad de inteligencia artificial: los grandes modelos de lenguaje no producen texto homogéneo y fácilmente identificable porque carezcan de capacidad expresiva, sino porque las fases de post-entrenamiento y los mecanismos de seguridad que se les aplican reducen drásticamente su rango estilístico. Esta tesis, aparentemente sencilla, tiene implicaciones enormes para el futuro de la detección de contenido generado por IA, para la seguridad digital y para la forma en que entendemos el texto producido por máquinas.
La distinción fundamental: modelos base frente a modelos ajustados
Para comprender el núcleo del argumento de Emi, es necesario entender una distinción técnica esencial dentro del ciclo de vida de los grandes modelos de lenguaje. Existen dos grandes categorías: el modelo base y el modelo ajustado mediante post-entrenamiento.
Los modelos base son el resultado directo del preentrenamiento sobre enormes corpus de texto. Han procesado billones de palabras provenientes de fuentes extremadamente diversas: literatura, foros de debate, artículos académicos, código de programación, redes sociales, periodismo internacional y mucho más. Esta exposición masiva les permite, en teoría, imitar una amplísima gama de estilos, registros y tonos. Un modelo base puede, potencialmente, escribir como un adolescente en un foro de videojuegos, como un académico redactando un artículo de filosofía o como un periodista de investigación narrando un reportaje de largo aliento.
Sin embargo, antes de que estos modelos lleguen al público general, los laboratorios de inteligencia artificial los someten a múltiples fases adicionales que transforman profundamente su comportamiento:
En primer lugar, el ajuste fino por instrucciones, mediante el cual se entrena al modelo para que siga las indicaciones del usuario de forma útil y coherente. En segundo lugar, el aprendizaje por refuerzo con retroalimentación humana, conocido como RLHF por sus siglas en inglés, un proceso en el que el modelo aprende qué tipo de respuestas prefieren los evaluadores humanos, premiando ciertos estilos y penalizando otros. Finalmente, los filtros de seguridad y alineación, que incorporan restricciones destinadas a evitar la generación de contenido dañino, ofensivo o peligroso.
Según Emi, estas tres capas, aplicadas de forma combinada, no solo hacen al modelo más seguro y útil: también lo homogenizan estilísticamente, generando una especie de huella digital reconocible que los sistemas de detección de IA han aprendido a identificar con relativa eficacia.
El RLHF como principal agente homogeneizador
De todos los mecanismos de post-entrenamiento, el RLHF es probablemente el más determinante en la creación de ese estilo uniforme y reconocible. El proceso funciona de la siguiente manera: evaluadores humanos califican distintas respuestas generadas por el modelo, y un modelo de recompensa aprende a predecir qué respuestas serán mejor valoradas. A continuación, el modelo principal es entrenado para maximizar dicha recompensa.
El problema radica en que los evaluadores humanos tienden a preferir sistemáticamente ciertos patrones estilísticos. Favorecen la claridad estructural, manifestada en listas numeradas, párrafos cortos y uso frecuente de negritas. Prefieren un tono neutro y aséptico que evite el lenguaje emocional, coloquial o irónico. Valoran los cierres explícitos con frases que resumen lo dicho. Y aprecian la inclusión de matices y advertencias, esas muletillas características como “es importante señalar que…” o “sin embargo, cabe destacar que…”.
Todos estos patrones, repetidos de forma sistemática en millones de respuestas, crean una huella estilística que los detectores de IA han aprendido a identificar. La conclusión de Emi es reveladora: no se trata tanto de detectar la “inteligencia artificial” como concepto abstracto, sino de detectar el estilo específico impuesto por el proceso de RLHF. Es, en cierto modo, detectar las preferencias de los evaluadores humanos que participaron en el entrenamiento.
Evidencia empírica: lo que dicen los datos
La tesis de Emi no carece de respaldo experimental. Diversos investigadores han explorado las diferencias textuales entre modelos base y sus versiones ajustadas, y los hallazgos apuntan consistentemente en la misma dirección.
Los modelos base presentan mayor perplejidad en sus resultados, una métrica estadística que mide la sorpresa o imprevisibilidad del texto generado. Una mayor perplejidad generalmente indica mayor variedad estilística, lo que equivale a un texto más difícil de identificar como producido por una máquina. Los modelos ajustados, por el contrario, tienden a converger hacia distribuciones de probabilidad más estrechas, produciendo respuestas más predecibles y, en consecuencia, más detectables.
Experimentos publicados en plataformas de la comunidad de investigación han mostrado que los modelos base pueden imitar dialectos regionales, jergas propias de comunidades específicas, errores ortográficos deliberados y variaciones lingüísticas con mayor fidelidad que sus versiones post-entrenadas. Un análisis académico que estudió cientos de miles de textos generados por distintas versiones de modelos de lenguaje encontró que la diversidad léxica y sintáctica disminuía de forma significativa entre el modelo base y el modelo ajustado con RLHF.
El estado actual de la detección de texto generado por IA
La detección de contenido producido por inteligencia artificial es un campo en plena efervescencia y, al mismo tiempo, profundamente cuestionado. Herramientas como GPTZero, Copyleaks, ZeroGPT u otros detectores similares han intentado ofrecer soluciones para identificar si un texto fue escrito por una máquina o por un ser humano. Sin embargo, su fiabilidad ha sido puesta en duda de forma repetida por la comunidad investigadora.
Los problemas documentados son varios y graves. Estas herramientas producen falsos positivos con frecuencia preocupante, llegando a clasificar textos escritos por personas no nativas del idioma como generados por IA, simplemente porque su escritura tiende a ser más directa y estructurada. Fallan con mayor asiduidad cuando se aplican a textos en idiomas distintos al inglés. Y pueden ser engañadas mediante técnicas relativamente sencillas de parafraseo o mediante alteraciones mínimas en la redacción.
La investigación de Pangram Labs añade una dimensión nueva y perturbadora a este debate: si el problema de la detección es fundamentalmente un problema de restricciones de entrenamiento y no de capacidades inherentes al modelo, entonces a medida que los modelos sean más sofisticados y sus mecanismos de alineación más sutiles, la detección se volverá progresivamente más difícil, quizás hasta tornarse inviable en la práctica.
La paradoja de Pangram: el detector que cuestiona la detección
No puede pasarse por alto la dimensión paradójica de este análisis. Pangram Labs es una empresa especializada precisamente en la detección de contenido generado por inteligencia artificial. Su enfoque técnico se centra en el análisis estadístico y lingüístico del texto para identificar patrones característicos de los grandes modelos de lenguaje. Y es el máximo responsable técnico de esta compañía quien está argumentando que los propios modelos, en su forma más pura y sin restricciones, serían prácticamente indetectables.
Esta afirmación tiene implicaciones directas para todo el sector de la detección de IA. Sugiere que la ventana de detección efectiva podría estrecharse de forma progresiva conforme los laboratorios adopten técnicas de alineación más sofisticadas que no sacrifiquen tanto la variabilidad estilística. En otras palabras, cuanto mejores sean los modelos y más refinado sea su entrenamiento, menor será la huella que dejarán en el texto.
Lejos de ser una contradicción sin sentido, esta postura refleja una honestidad intelectual notable: reconocer los límites de una tecnología es el primer paso para mejorarla o para diseñar estrategias alternativas de verificación que no dependan exclusivamente del análisis estilístico.
Implicaciones para la desinformación y la seguridad digital
Las conclusiones del análisis de Emi no son un mero ejercicio académico. Tienen consecuencias prácticas de gran alcance en ámbitos críticos para la sociedad.
En el terreno de la desinformación y la propaganda, si los modelos base son menos detectables que sus versiones ajustadas, actores malintencionados con acceso a estos modelos —disponibles a través de plataformas de código abierto o mediante acceso directo a la API— podrían generar contenido engañoso a gran escala con pocas posibilidades de ser identificado por las herramientas actuales. El umbral de entrada para campañas de manipulación informativa sofisticadas se reduciría drásticamente.
En el ámbito académico y educativo, la presión sobre las instituciones para desarrollar métodos más robustos de verificación de autoría se intensificará. Las soluciones puramente tecnológicas basadas en detectores de IA parecen condenadas a una carrera armamentística permanente con los propios modelos, una carrera que, según sugiere este análisis, los detectores están destinados a perder con el tiempo.
En el plano de la regulación y la política pública, la evidencia presentada refuerza la necesidad de enfoques que vayan más allá de la detección automatizada: sistemas de marcado de procedencia, certificación de autoría humana o marcos legales que establezcan responsabilidades claras en la cadena de producción de contenido generado por IA.
Reflexión final: repensar la relación entre seguridad y diversidad expresiva
El análisis de Bradley Emi invita a una reflexión más amplia sobre los compromisos inevitables en el diseño de sistemas de inteligencia artificial. Los mecanismos de seguridad y alineación existen por razones legítimas e importantes: prevenir daños, garantizar la utilidad del sistema y proteger a los usuarios de contenido perjudicial. Nadie debería cuestionar la necesidad de estas salvaguardas.
Sin embargo, la evidencia sugiere que la seguridad tiene un coste estilístico, y que ese coste es precisamente lo que hace detectable al texto generado por IA en la actualidad. A medida que la investigación avance hacia formas de alineación más sutiles y menos homogeneizadoras, la distinción entre texto humano y texto generado por máquinas se tornará cada vez más borrosa.
Esto no es necesariamente una mala noticia. Un modelo que pueda expresarse con la misma riqueza y variedad que un ser humano puede ser también un modelo más útil, más creativo y más adaptado a las necesidades reales de los usuarios. El desafío para la sociedad en su conjunto será encontrar formas de convivir con esa capacidad sin perder la capacidad de rendir cuentas sobre el origen y la autoría del contenido que consumimos. Ese es, quizás, el verdadero debate que este análisis pone sobre la mesa.
