Mientras las empresas piden prudencia y regulación, lanzan sistemas cada vez más potentes y autónomos. Entre avances acelerados, disputas geopolíticas y una Internet crecientemente habitada por máquinas, la gobernabilidad de la inteligencia artificial dejó de ser una discusión para especialistas.
Cuando la IA acelera sola: gobernar antes de estrellarnos
La inteligencia artificial avanza a toda velocidad: crecen los llamados a regularla mientras surgen sistemas más potentes y autónomos.
Hay semanas en las que estar al día, comprender lo que pasó, darle sentido y encontrar la forma de contarlo, parecen tareas completamente distintas y que no siempre se tocan entre sí. A veces una cosa es leer noticias, otra muy distinta es entender qué significan, y otra más difícil todavía es explicarlas sin quedar atrapados en el ruido.
Algo de eso pasó en estas semanas. Y todavía no termino de entender del todo cómo, pero tengo la sensación de que estos días van a quedar como momentos clave en la historia de la inteligencia artificial.
Esta columna es un intento de ordenar este ruido. De ponerle un poco de contexto a una serie de hechos que, vistos por separado, parecen meras anécdotas, pero juntos muestran otra cosa.
Entre la prudencia y la aceleración
Estamos en una fase extraña en la que los líderes piden prudencia, regulación y pausa pero al mismo tiempo lanzan modelos cada vez más potentes, más autónomos y más difíciles de contener.
La historia reciente permite ver esta tensión con bastante claridad. En un puñado de semanas la gobernabilidad se pone en el centro de la discusión global. Y la cronología, vista de cerca, impresiona:
Febrero 2026: Las agencias federales de la administración de Donald Trump ordenan el cese progresivo del uso de la tecnología de Anthropic tras la negativa de su CEO, Dario Amodei, de habilitar sus modelos para la vigilancia masiva y el manejo de armas autónomas para la guerra. Casi al mismo tiempo, Anthropic modifica un punto sensible de su política de escalamiento responsable: el compromiso de no entrenar ni desplegar modelos potentes sin garantías previas de seguridad.
- 7 de abril: Anthropic presenta Mythos como su modelo más potente hasta el momento,, capaz de detectar las vulnerabilidades en cualquier sistema de Internet. Junto a estas alarmas mundiales, anuncia el Proyecto Glasswing, ofreciendo Mythos Preview para socios de ciberseguridad e infraestructura crítica.
- 21-23 de abril: Se reportan incidentes de acceso no autorizado y fallas vinculadas al entorno de prueba de Mythos “adivinando la URL del modelo”, una brecha de seguridad en uno de los socios del Red Teaming.
- 22 de mayo: Anthropic reporta, junto con unos 50 socios, que el Proyecto Glasswing ya había identificado más de 10.000 vulnerabilidades de severidad alta o crítica en sistemas clave. Después de análisis humano, fueron confirmadas 1.094 como fallas reales de esta escala.
- 25 de mayo: Se anuncia la primera encíclica del Papa León XIV, titulada Magnifica Humanitas, el cual, entre otros temas, aborda el cuidado y custodia de la persona humana en el tiempo de la inteligencia artificial. El cofundador de Anthropic, Christopher Olah, estuvo presente en el evento e incluso fue uno de los oradores principales durante el acto de presentación.
- 2 de junio: La Casa Blanca (EEUU) establece un marco voluntario de revisión gubernamental para que desarrolladores expertos compartan información clave sobre sus modelos de frontera 30 días antes del lanzamiento público. Ese mismo día, Anthropic expande el Proyecto Glasswing a 150 empresas en 15 países y presenta de manera confidencial su prospecto de salida a bolsa (OpenAI también lo hizo en fechas recientes).
- 4 de junio: The Anthropic Institute publica el artículo When AI builds Itself, un texo que plantea la necesidad de contar con la opción de frenar o pausar temporalmente el desarrollo de IA de frontera para que la investigación y la instituciones no queden demasiado atrás.
- 9 de junio de 2026: Lanzamiento público de Claude Fable 5, el modelo basado en Mythos, pero con restricciones en usos sensibles (ciberseguirdad, biología y química), mientras, Mythos 5 queda disponible solo a través del programa de acceso restringido de Glasswing.
- 10 de junio de 2026: The Anthropic Institute publica Policy on the AI Exponential, donde aboga por una legislación más firme para regular el lanzamiento de modelos demasiado potentes y por la potestad estatal para bloquear, demorar o pausar despliegues peligrosos.
- 11 de junio de 2026: Tras fuertes críticas de la comunidad de desarrolladores, Anthropic revierte su política de degradación silenciosa de respuestas en Fable 5, la cual hacía “más tonta” a la IA al ser consultada sobre temas específicos de frontera y de alta sensibilidad. Anthropic reconoce el error y vuelve visibles estas salvaguardas.
- 12 de junio de 2026: El gobierno de Estados Unidos ordena suspender el acceso a Mythos 5 y Fable 5 bajo una directiva de control de exportación. La decisión se apoya en preocupaciones de seguridad nacional y en la posibilidad de que los modelos pudieran ser vulnerados mediante jailbreaks. Anthropic discute la severidad del problema, al sostener que no se trataba de una vulneración universal, sino de un caso estrecho, propio también de otros modelos del mercado.
- 13 de junio en adelante. El caso abre una discusión mucho más amplia: ¿puede un gobierno bajar del mercado un modelo de IA de frontera? ¿Qué precedente crea eso? ¿Qué pasa con las empresas no estadounidenses como Mistral en Francia? ¿Y con modelos chinos de código abierto como DeepSeek?
¿Por qué son importantes estos hitos?
El ángulo más evidente es la tensión entre el discurso de pausa, cautela y seguridad, y el movimiento aceleracionista en lo comercial.
Mientras que Anthropic se posiciona como “la empresa prudente” y como referente en el desarrollo innovador en IA; lanza los modelos más potentes disponibles y reconoce que la IA ya forma parte de su propio proceso de mejora.
En concreto, que más del 80% del código en producción de Anthropic ya lo escribe Claude.
Esto no aparece de la nada. Ya veníamos viendo señales. Hace un tiempo Meta anunciaba que, en laboratorio, sus sistemas empezaban a mejorarse a sí mismos. Lo que antes sonaba como el camino imaginario hacia la Singularidad, a charla de ciencia ficción o a especulación para nerds, empieza a aparecer en reportes, productos y decisiones corporativas.
Lo cierto es que el debate por la gobernabilidad de la IA, se vuelve inminente, incluso para quienes apuestan al aceleracionismo total. Y ahí aparece la contradicción difícil de resolver: propone una pausa global, pero aclara que no va a pausar sola.
El paralelísmo más claro para pensar esto son los tratados nucleares de la Guerra Fría. El problema es que estos acuerdos llevaron décadas de discusión entre potencias. La pregunta incómoda es si tenemos ese tiempo.
Internet ya es de las máquinas
Al mismo tiempo, y por primera vez, los bots superan a los humanos en internet. Según datos del Cloudflare Radar, el 57,4% del tráfico web global ya es generado por agentes de IA y bots automatizados (contra un 42,6% humano).
No significa que los humanos hayamos desaparecido de Internet. Pero sí marca un quiebre profundo. Ya existe mayor tráfico de automatizaciones y agentes IA que de humanos en Internet.
El CEO de Cloudflare, Matthew Prince, admitió que este hito llegó mucho antes de lo que se esperado, siendo la fecha proyectada finales de 2027.
Este dato, junto a anuncios de las grandes empresas, muestra el asiento de la era agéntica de la IA. La IA agéntica se convierte, cada vez más, en una infraestructura dentro de Internet; invisible, pero que hace que todo funcione.
En ese mismo marco, también empieza a abrirse en Argentina una discusión que hace poco hubiera parecido delirante: la creación de entidades legales autónomas operadas exclusivamente por Inteligencia Artificial (IA). Es decir, empresas o sociedades operadas sin humanos, compuestas por empleados IA, estructuras productivas donde la persona humana es irrelevante.
Si dejamos que las máquinas produzcan, disparen y decidan por nosotros, quizás terminemos siendo apenas espectadores de una conversación que alguna vez fue humana. No por una decisión explícita, sino por simple corrimiento. Como con Moltbook, pero sin intención.
La regulación dejó de ser un tema gris, técnico y para expertos.
La gobernabilidad ya no puede ser una conversación para cuando tengamos tiempo, o para cuando entendamos bien de qué se trata todo esto. Se volvió una conversación urgente.
Para la Humanidad -y para la soberanía de los países-, la ética debe ser el criterio de conducción en esta era tecnológica. No alcanza con tener motores más potentes. Hace falta saber hacia dónde vamos.
La capacidad institucional de poner límites es el freno. Las regulaciones y las leyes son las señales, los carriles y los límites de velocidad que ordenan el tránsito. Y cuando el impacto ya se produjo, los airbags y los seguros son la responsabilidad, la reparación y la rendición de cuentas.
El problema no es avanzar. El problema es avanzar sin criterio, sin volante, sin frenos y sin protección.
Creo que, de alguna manera, la encíclica del Papa marcó un hito. Ayudó a que muchos actores empiecen a alzar la voz envalentonados por el respaldo. Pero necesitamos instituciones capaces de conducir, empresas capaces de hacerse responsables y ciudadanos capaces de conversar sin quedar atrapados entre el pánico y el entusiasmo.
La primera regulación siempre es personal, pero no alcanza. Pero el camino no puede ser solo religioso, empresarial o estatal. Debe ser humano, global y consensuado.