El 85% de las empresas que sufrieron un error de IA eliminan los controles humanos que podrían detectar el siguiente
Una investigación publicada en agosto de 2026 por VentureBeat ha encendido todas las alarmas en el sector tecnológico empresarial. Su hallazgo central resulta tan inquietante como revelador: las compañías que ya han sufrido fallos graves de inteligencia artificial en entornos de producción son, precisamente, las que más agresivamente están eliminando la supervisión humana de sus procesos de despliegue. Lejos de aprender de sus errores, estas organizaciones aceleran hacia la automatización total. Este artículo analiza en profundidad qué está ocurriendo, por qué sucede y qué riesgos sistémicos plantea para el futuro inmediato de la IA empresarial.
La paradoja central: más fallos, más automatización
El estudio, denominado VB Pulse, encuestó a 108 responsables de decisiones tecnológicas en empresas de al menos 100 empleados durante julio de 2026. El dato más impactante que arrojó es que el 85% de las empresas que ya experimentaron un fallo de IA visible para sus clientes —después de que los sistemas superaran las evaluaciones internas— están avanzando activamente hacia modelos de despliegue sin aprobación humana.
Este porcentaje contrasta de manera dramática con el 61% de las empresas que nunca han sufrido ese tipo de incidente y que también se mueven en esa dirección. La conclusión es perturbadora: haber sido “quemado” por la IA no frena la carrera hacia la automatización total, sino que la acelera. En términos prácticos, esto significa que la experiencia negativa con sistemas de IA no está generando cautela, sino una paradójica mayor confianza en eliminar las salvaguardas que, precisamente, podrían evitar el próximo incidente.
¿Por qué ocurre esto? Los analistas apuntan a una combinación de factores: presión competitiva, reducción de costes operativos, y una interpretación errónea de los fallos pasados. Muchas organizaciones concluyen que el problema no fue la falta de supervisión humana, sino la insuficiente capacidad del sistema de IA. Y su respuesta es invertir en sistemas más potentes, no en más controles.
Los fallos siguen siendo la mitad del mercado: un dato que no mejora
A pesar de que la confianza en los sistemas de evaluación automatizada aumentó del 5% al 13% entre junio y julio de 2026, el porcentaje de organizaciones que reportaron al menos un incidente visible para el cliente —tras superar las pruebas internas— se mantuvo prácticamente inalterable: 50% en junio y 49% en julio. A lo largo de 265 respuestas acumuladas durante dos meses, el número no se movió un solo punto porcentual significativo.
Además, el 24% de los encuestados afirmó que ese tipo de fallo se había producido más de una vez. Este dato es fundamental: no hablamos de incidentes aislados o de casos atípicos, sino de un patrón recurrente que afecta a prácticamente la mitad del mercado empresarial que ha adoptado agentes de IA en producción.
La persistencia de esta tasa de fallos, combinada con el aumento simultáneo de la confianza en la automatización, describe un mercado que está desarrollando lo que los expertos denominan una falsa sensación de seguridad. La mejora percibida no se corresponde con ninguna mejora real en los resultados operativos.
La brecha crítica entre evaluación previa y monitoreo en producción
Uno de los aportes más valiosos del informe es la distinción entre dos funciones radicalmente diferentes que las empresas suelen confundir o tratar como equivalentes:
La evaluación previa al despliegue determina si un sistema está listo para salir a producción. El monitoreo de calidad en producción verifica qué está haciendo el agente una vez desplegado y si sus respuestas siguen siendo correctas en condiciones reales.
De los 106 encuestados válidos en esta sección, solo el 26% usaba “inline quality assertions”, es decir, jueces automatizados o salvaguardas que comprueban la corrección semántica del tráfico en vivo. Otro 26% monitoreaba trazas de transacciones (uso de tokens, entradas y salidas brutas) y un 24% rastreaba métricas de infraestructura como latencia y costes. En resumen: aproximadamente la mitad de las empresas monitorea si el agente funciona técnicamente, pero solo alrededor de un cuarto verifica si sus respuestas son realmente correctas desde un punto de vista semántico y funcional.
La brecha se agudiza entre las organizaciones más avanzadas. De las 40 empresas que ya permiten despliegues sin aprobación humana en ciertos casos, solo el 28% comprueba automáticamente el significado y la corrección de las respuestas en vivo. Esto significa que la mayoría de las compañías más comprometidas con la automatización total están, al mismo tiempo, entre las que menos verifican si lo que sus agentes producen tiene sentido o es correcto.
El declive de los “evals” tradicionales: una señal de alarma industrial
Ben Hylak, CTO de Raindrop.ai —plataforma especializada en monitoreo y mitigación de errores de agentes de IA— describió la situación con términos contundentes: “Estamos viendo el gran declive de los evals tal como los conocemos”. Según Hylak, las empresas del Fortune 100 están reduciendo progresivamente sus conjuntos de evaluación y depriorizando su mantenimiento.
La razón es técnica y estructural. A medida que los sistemas crecen en complejidad —incorporando herramientas como MCPs (Model Context Protocols), subagentes y arquitecturas multi-capa—, se vuelve prácticamente imposible enumerar de forma exhaustiva todos los posibles casos de fallo. Durante años, la industria trató los “evals” —conjuntos de pruebas que simulan escenarios reales para evaluar si un sistema de IA está preparado para producción— como la principal línea de defensa antes del despliegue. Empresas como Scale AI, Braintrust, DeepEval y otras construyeron negocios enteros alrededor de ese concepto. Sin embargo, el informe sugiere que ese modelo está mostrando sus límites en un contexto de agentes cada vez más autónomos e interconectados.
Este fenómeno tiene implicaciones profundas no solo para las empresas individuales, sino para toda la cadena de valor del sector. Si la herramienta central de seguridad pre-despliegue está perdiendo su efectividad y no existe un reemplazo consolidado, el riesgo sistémico aumenta de manera proporcional al ritmo de adopción de estos sistemas.
La disociación entre confianza y resultados: el riesgo más profundo
El hallazgo que el propio informe de VentureBeat describe como el más preocupante no es el fallo en sí mismo, sino la disociación entre confianza y resultados reales. La confianza plena en la evaluación automatizada pasó del 5% al 13% en un solo mes, pero la tasa de incidentes no mejoró en absoluto. Esto es estadísticamente significativo: el sector está ganando confianza sin que haya una base objetiva que la respalde.
El análisis refuerza esta interpretación con un dato especialmente revelador. De las empresas que no reportaron ningún incidente, el 24% expresó plena confianza en los sistemas automatizados. De las que sí experimentaron fallos, solo el 4% confió plenamente en la automatización. La diferencia es de seis veces. La interpretación del informe es precisa y directa: la confianza es más alta precisamente entre quienes tienen menos evidencia de que los sistemas pueden fallar. La inexperiencia con los fallos se convierte, paradójicamente, en la mayor fuente de exceso de confianza.
Este fenómeno no es exclusivo del ámbito de la inteligencia artificial. En psicología organizacional se conoce como el efecto Dunning-Kruger a escala institucional: las organizaciones que menos han enfrentado los límites reales de una tecnología son las que más confianza depositan en ella. El problema es que, en este caso, las consecuencias de ese exceso de confianza pueden ser significativas y muy visibles para los clientes finales.
El mercado de evaluación se consolida como categoría de software independiente
A pesar de las alarmas, el informe también registra señales de madurez en el sector. Las empresas están consolidando herramientas especializadas de evaluación y el mercado empieza a tomar forma como una categoría de software empresarial con identidad propia:
OpenAI Native Evals lidera como plataforma primaria con el 18% de adopción. DeepEval de Confident AI ocupa el segundo lugar con 17%. Braintrust registró el mayor crecimiento mes a mes, pasando del 8% en junio al 15% en julio de 2026. Anthropic Claude Console/Workbench alcanzó el 12%, empatado con organizaciones que directamente no usan ninguna plataforma dedicada.
En cuanto a la presencia total en los stacks tecnológicos, incluyendo uso secundario, OpenAI aparece en el 31% de las configuraciones, DeepEval en el 27% y Braintrust en el 22%. Estos números indican que las empresas están adoptando múltiples herramientas simultáneamente, lo que sugiere que ninguna plataforma ha logrado todavía un dominio absoluto en esta categoría emergente.
El criterio de compra también está cambiando de forma significativa. La facilidad de integración escaló 12 puntos hasta convertirse en el factor decisivo para el 39% de los compradores, desplazando al precio, que cayó del 28% al 23%. Este movimiento indica que las empresas priorizan herramientas que puedan incorporarse a sus pipelines existentes de manera inmediata, antes que evaluar su eficacia o profundidad técnica a largo plazo. Un criterio de compra que, en sí mismo, podría estar contribuyendo al problema: se elige lo que es fácil de integrar, no necesariamente lo que ofrece mayor seguridad.
¿Qué deberían hacer las empresas ante este panorama?
Los datos del informe apuntan con claridad hacia varias recomendaciones prácticas para las organizaciones que despliegan o planean desplegar agentes de IA en producción. En primer lugar, no confundir evaluación previa con monitoreo en producción. Son dos capas de seguridad distintas y ambas son necesarias. Superar un conjunto de pruebas internas no garantiza un comportamiento correcto bajo condiciones reales y cambiantes.
En segundo lugar, no interpretar un historial de fallos como argumento para eliminar controles humanos. La lógica que dice “ya tuvimos un fallo, ahora sabemos cómo evitarlo con mejor automatización” es estadísticamente insostenible cuando la tasa de incidentes no mejora tras esa decisión. En tercer lugar, implementar verificaciones semánticas en producción, no solo métricas de infraestructura. Saber que un agente responde rápido y barato no dice nada sobre si lo que responde es correcto o apropiado.
Finalmente, y quizás lo más importante: la presión competitiva no es una justificación suficiente para eliminar salvaguardas cuya ausencia ya ha demostrado causar incidentes visibles para clientes. En un mercado donde la mitad de las empresas ha experimentado al menos un fallo de este tipo, la diferenciación real podría estar precisamente en ser la organización que no falla, no la que despliega más rápido.
Conclusión: velocidad sin visibilidad es riesgo sin retorno
El informe VB Pulse de agosto de 2026 no describe simplemente un problema técnico. Describe un problema de cultura organizacional y de gestión del riesgo. Las empresas están corriendo hacia la automatización total impulsadas por incentivos de coste y velocidad, mientras eliminan simultáneamente los mecanismos que les permitirían detectar y corregir los errores que esa misma automatización genera.
La paradoja es clara: las organizaciones más expuestas al riesgo de fallos de IA son precisamente las que menos controles mantienen para detectarlos. En un contexto donde los agentes de IA interactúan directamente con clientes, toman decisiones autónomas y operan en arquitecturas cada vez más complejas, esta tendencia no es solo un riesgo empresarial individual, sino un desafío sistémico para toda la industria. La pregunta no es si habrá más incidentes, sino si el sector será capaz de aprender de ellos antes de que su escala los haga inmanejables.
