Anthropic y OpenAI proponen frenar el ritmo del desarrollo de IA: ¿Qué significa “marcar el paso en la frontera”?
El 12 de septiembre de 2026, el CEO de Anthropic, Dario Amodei, publicó un plan detallado que propone ralentizar deliberadamente el ritmo de desarrollo de los sistemas de inteligencia artificial más avanzados del mundo. Lo que resulta aún más sorprendente es que esta posición encontró un eco inesperado en Sam Altman, CEO de OpenAI, quien también parece alinearse con la idea de lo que ambos denominan “marcar el paso en la frontera tecnológica”. Esta convergencia entre dos de las figuras más influyentes —y rivales— de la industria de la inteligencia artificial plantea preguntas fundamentales sobre el futuro del desarrollo tecnológico y la seguridad global.
Contexto: ¿Por qué se plantea esta propuesta ahora?
Para comprender la relevancia de este anuncio, es necesario situarlo dentro de la aceleración sin precedentes que ha experimentado la industria de la inteligencia artificial durante los últimos años. Desde el lanzamiento de los primeros grandes modelos de lenguaje de uso masivo, la competencia entre laboratorios de IA ha seguido una dinámica de escalada constante, con sistemas cada vez más capaces lanzados en intervalos de tiempo progresivamente más cortos.
Varios laboratorios —entre ellos Google DeepMind, Meta AI, xAI de Elon Musk, y los propios Anthropic y OpenAI— pusieron en marcha sistemas con capacidades de razonamiento autónomo que comenzaron a superar a expertos humanos en dominios específicos como la bioinformática, el diseño de materiales y la codificación de software. Este avance generó una alarma creciente entre investigadores de seguridad, reguladores y parte de la comunidad científica, que advirtieron sobre la dificultad de controlar sistemas cuyas capacidades superan en algunos aspectos la comprensión de sus propios creadores.
En este marco, la convergencia de posiciones entre Amodei y Altman resulta particularmente significativa, especialmente considerando que Anthropic fue fundada como una escisión de OpenAI y que ambas empresas han protagonizado una histórica rivalidad en la carrera por el desarrollo de la inteligencia artificial más avanzada del planeta.
¿Qué propone concretamente Dario Amodei?
El plan de Amodei contempla varios elementos concretos que van mucho más allá de una simple declaración de intenciones. Se trata de un conjunto de mecanismos operativos diseñados para dar forma real a la idea de desacelerar el desarrollo de los sistemas más potentes.
Coordinación entre laboratorios líderes: Amodei propone que los principales laboratorios de IA establezcan mecanismos de coordinación para acordar pausas o ralentizaciones en el entrenamiento de nuevos modelos de frontera cuando se detecten señales de alerta en materia de seguridad. Esta idea ya había sido esbozada en iniciativas anteriores de la industria, aunque sin la precisión técnica y operativa que se propone ahora.
Umbrales de capacidad como disparadores automáticos: Una de las ideas más concretas es la definición de “umbrales de capacidad” específicos —por ejemplo, en tareas de persuasión autónoma, síntesis de agentes biológicos o capacidades de autorreplicación— que, una vez alcanzados o superados, activarían automáticamente protocolos de pausa en el desarrollo. Este enfoque introduce una lógica similar a la de los circuit breakers financieros: mecanismos predefinidos que detienen la actividad ante determinadas condiciones de riesgo.
Verificación independiente: Amodei ha subrayado la necesidad de contar con organismos de auditoría independientes que verifiquen el cumplimiento de estos acuerdos, con una estructura similar a los mecanismos de inspección del Organismo Internacional de Energía Atómica aplicados al sector nuclear. Esta analogía es reveladora: implica reconocer que el desarrollo de IA de frontera ha alcanzado un nivel de riesgo potencial comparable al de las tecnologías más peligrosas de la historia humana.
Transparencia sobre capacidades: Las empresas participantes se comprometerían a publicar evaluaciones de sus modelos más avanzados antes de su despliegue público, permitiendo que auditores externos y reguladores puedan valorar los riesgos potenciales con antelación suficiente para actuar.
El giro inesperado de Sam Altman y OpenAI
Que Sam Altman respalde públicamente una iniciativa de esta naturaleza representa un giro notable en la postura histórica de OpenAI. Históricamente, la empresa ha defendido que la mejor estrategia de seguridad es que los laboratorios comprometidos con la seguridad lideren la carrera, en lugar de frenarla y dejar el terreno libre a actores menos responsables. Este argumento, conocido informalmente como “es mejor que lo hagamos nosotros”, ha sido durante años el principal justificante de la aceleración continua del desarrollo.
Sin embargo, OpenAI ha experimentado transformaciones estructurales significativas: completó su transición hacia un modelo de empresa de lucro controlado y fue objeto de intenso escrutinio regulatorio en la Unión Europea, el Reino Unido y Estados Unidos, especialmente tras incidentes relacionados con el uso indebido de sus modelos en campañas de desinformación y en aplicaciones de doble uso con potencial para la síntesis de materiales peligrosos.
La convergencia de Altman con Amodei puede interpretarse desde dos ángulos distintos pero no excluyentes: como una respuesta estratégica a la presión regulatoria acumulada, o como una señal genuina de preocupación ante las capacidades emergentes de los sistemas que ambas compañías están desarrollando. En cualquier caso, el hecho de que los líderes de los dos laboratorios más influyentes del mundo coincidan en esta dirección marca un punto de inflexión en el debate público sobre la gobernanza de la IA.
¿Qué significa exactamente “marcar el paso en la frontera”?
La expresión “marcar el paso en la frontera” no implica necesariamente detener la investigación en inteligencia artificial. Esta distinción es crucial para entender tanto el alcance real de la propuesta como sus limitaciones.
En la práctica, el concepto se articula en torno a tres ejes diferenciados. Por un lado, la investigación en seguridad y alineamiento continuaría e incluso se intensificaría, con el objetivo de reducir la brecha entre el poder de los sistemas y la comprensión humana de su comportamiento. Por otro, el despliegue de modelos de frontera —los más grandes y capaces— se haría de forma más gradual, con períodos de evaluación más prolongados antes de su lanzamiento al público general. Finalmente, la transferencia tecnológica a actores externos quedaría sujeta a controles más estrictos, limitando el acceso de empresas, gobiernos o individuos que podrían utilizar estas capacidades de forma irresponsable.
Los críticos de esta propuesta señalan, con razón, que un acuerdo voluntario entre empresas privadas carece de mecanismos de aplicación vinculantes y podría verse erosionado por la competencia de laboratorios que no se adhieran, particularmente en el ámbito internacional, donde varios actores han acelerado sus programas de desarrollo de forma significativa durante los últimos años.
El papel determinante de los reguladores
El anuncio llega en un momento en que los marcos regulatorios globales para la IA están en distintas fases de implementación. La Ley de Inteligencia Artificial de la Unión Europea, cuyas disposiciones más exigentes para los “modelos de propósito general de alto impacto” entran en vigor de forma escalonada, incluye ya requisitos de evaluación previa al despliegue para los sistemas más capaces. En Estados Unidos, diversas directrices ejecutivas han sido publicadas durante 2026, aunque sin fuerza de ley equivalente a la regulación europea.
En este contexto, una iniciativa voluntaria como la propuesta por Amodei podría funcionar de dos maneras radicalmente distintas: como un complemento genuino a los marcos regulatorios existentes, reforzando desde la industria aquello que la regulación no alcanza a cubrir; o alternativamente, como un argumento para evitar una regulación más coercitiva, aprovechando la apariencia de autorregulación responsable para frenar iniciativas legislativas más ambiciosas. La diferencia entre estas dos interpretaciones dependerá, en última instancia, de los mecanismos concretos de verificación y cumplimiento que se establezcan.
Un momento bisagra para el futuro de la inteligencia artificial
Más allá de los detalles técnicos y regulatorios, la propuesta de Amodei y el apoyo de Altman representan algo más profundo: el reconocimiento explícito, por parte de quienes lideran el desarrollo de la inteligencia artificial más avanzada del mundo, de que la velocidad del progreso ha superado la capacidad colectiva de gestionar sus consecuencias.
Esta admisión, viniendo de las personas que han impulsado esa misma velocidad, tiene un peso simbólico considerable. Señala que el debate sobre la gobernanza de la IA ha abandonado definitivamente los márgenes del discurso académico o activista para instalarse en el centro mismo de la industria. La pregunta que queda abierta es si esta convergencia de voluntades será suficiente para traducirse en acuerdos concretos, verificables y capaces de resistir las presiones competitivas de un mercado global que, hasta ahora, ha premiado sistemáticamente la velocidad sobre la precaución.
El concepto de “marcar el paso en la frontera” puede sonar modesto frente a la magnitud de los desafíos que plantea la inteligencia artificial avanzada. Pero en un sector donde la norma ha sido la aceleración constante, la sola idea de que los actores más poderosos consideren voluntariamente reducir su velocidad constituye, en sí misma, un acontecimiento sin precedentes. Lo que ocurra a continuación definirá, en buena medida, la trayectoria tecnológica y social de las próximas décadas.
