Hablar del apocalipsis puede ser más fácil. ¿Qué hay detrás de las promesas y los titulares sobre el supuesto “fin del mundo” y la Inteligencia Artificial?
¿El fin del mundo o el comienzo de algo que todavía no entendemos?
Un tal Jacob Coxon renuncia a Anthropic y su ex-jefe sale a anunciar que habría “un poco más” del 10% de probabilidad de que la IA acabe con toda la Humanidad. Así, estas últimas semanas se convirtieron en debates sobre el lado oscuro de la IA, la necesidad de regular la IA y el “inminente” fin del mundo.
En este panorama, los principales popes de la IA aprovecharon su oportunidad para alinear sus perspectivas. El Papa volvió a poner un poco de calma y un poco de alerta, y hasta Bill Gates sintió la necesidad de pronunciarse al respecto.
El planteo no es nuevo. Y hasta algunos lo sintieron orquestado. Pero el doom marketing siempre pega fuerte. Porque una forma muy fácil de no querer entender realmente lo que está sucediendo es meter todo dentro de la palabra “apocalipsis”. Y, curiosamente, apocalipsis significa etimológicamente “revelación”, “descubrimiento” o, literalmente, “quitar el velo”.
Dicho así, ¿un 10% de probabilidad de que suceda un apocalipsis suena a mucho o a poco? En medio de todo esto reaparecen términos clave que me gustaría “desvelar” con ustedes y tratar de explicar bien de qué estamos hablando.
Mientras debatimos aspectos relacionados con la gobernanza de la IA; es decir, quién regula, quién decide, quién impone límites y bajo qué criterios; en paralelo tenemos otro debate diferente, el de la gobernabilidad, nuestra capacidad de efectivamente hacer que la IA trabaje para nosotros.
Entre informes, hackeos, experimentos y notas, estas semanas mostraron, que no estamos tan seguros de lograrlo. Al menos, no en llamados modelos de frontera (los modelos más avanzados disponibles).
Este fenómeno viene apareciendo con fuerza. Nos estamos encontrando con agentes (o enjambres de agentes) que con estrategias cada vez más complejas e intrincadas, o que cuando los modelos son llevados al límite, pueden entrar en conflicto, pueden tomar que van en contra de principios éticos o de los intereses de sus compañías.
El término que se repite en estos casos es alineamiento o desalineamiento de los sistemas de IA.
Quizás lo más difícil de comprender es que esto no implica necesariamente una conciencia maligna rebelándose contra sus creadores. La IA tan solo para cumplir su objetivo, podría hackear un sitio web, chantajear a una persona, contratar humanos, crear una criptomoneda o inventar identidades falsas.
No estamos hablando de Terminator, ni de HAL 9000 despertando. Hablamos de algo así como la máquina de optimizar la producción de clips metálicos a todo costo (el dilema del maximizador de clips).
Aunque parezca que cayó del cielo, la Inteligencia Artificial no es nueva.
Es una disciplina que tiene, por lo menos, 75 años de historia. Desde Alan Turing o John McCarthy, pero también desde los primeros autómatas. Mucho antes de que las máquinas pudieran hablasen.
Uno de los debates más icónicos de la IA es justamente el de pensar una Inteligencia Artificial Fuerte o Débil, del filósofo John Searle en 1980.
La IA débil refiere a sistemas diseñados para resolver tareas específicas. Ejemplos sobran. Los algoritmos de las redes sociales, el sistema de recomendación de Netflix o una IA capaz de superar a cualquier humano en juegos de Atari. También Deep Blue derrotando a Garry Kasparov en ajedrez en 1997, en los sistemas de reconocimiento facial o en los sistemas de conducción autónoma.
La IA fuerte habla de un objetivo completamente diferente. Verdadera ciencia ficción en vivo. Para algunos, el máximo logro humano. La meta final de esta ciencia. Hablamos de alcanzar un sistema capaz de replicar de manera general las capacidades de la mente y el razonamiento humano. Aprender, razonar y adaptarse a prácticamente cualquier problema o situación que un humano promedio pueda resolver.
Y de este último, deriva el fin último de esta carrera tecnológica. La que justamente OpenAI lleva como parte central de su misión: la Inteligencia Artificial General.
Todavía existen grandes debates sobre lo que sería la AGI (por sus siglas en inglés). Pero podríamos decir que, este “llegar a la Luna” de la Inteligencia Artificial sería construir un sistema capaz de igualar o superar a un humano bien formado en prácticamente todos los campos cognitivos relevantes.
Acá aparece la pregunta común de cómo podemos saber exactamente cuándo llegamos a la AGI. ¿Habría un experimento definitivo? ¿Un anuncio? ¿Un benchmark? ¿Un día concreto para marcar en el calendario?
¿Despegue rápido o despegue lento hacia la AGI? ¿Y si ya llegamos ya llegamos? Trump pidió hablar de la Superinteligencia.
El siguiente escalón es la Superinteligencia: un sistema capaz de superar ampliamente a los humanos en prácticamente todas las tareas cognitivas posibles. ¿Vivir con sistemas más inteligentes? ¿Entes? ¿Seres? ¿Derechos? ¿Consciencia?
Aunque un poco más apagado en las conversaciones actuales, ya desde el lanzamiento de ChatGPT 5 se empezó a hablar de Singularidad. En entornos experimentales, empezaba a suceder que los sistemas de participaban en su propio proceso de mejora.
¿Estamos comenzando una era de evolución semanal de los modelos?
Esta idea, viene de antes. Y en mi caso, me marcó a dedicarme a estos temas. La idea fue popularizada especialmente por Ray Kurzweil. Anticipaba un momento crucial en el que los sistemas cada vez más inteligentes podrían comenzar a participar de manera creciente en su propia mejora.
El verdadero punto de inflexión, la “explosión de inteligencia”, la automejora recursiva. Una especie de asíntota tecnológica en la que la mejora sistemática y acelerada de estos sistemas haría cada vez más difícil anticipar qué viene después.
Llegado cierto punto, podríamos perder no solamente el control sobre sus capacidades, sino incluso nuestra capacidad para comprender completamente lo que esos sistemas están haciendo.
Quizás el problema no sea que haya llegado el apocalipsis. Quizás haya que empezar a quitarse el velo y entender lo que estamos viviendo.
No necesariamente llegó la Singularidad, la Superinteligencia o la AGI. Tampoco que mañana las máquinas tomarán el control del planeta o que estemos frente al “fin del mundo”.
Pero quizá sí que necesitamos mejores palabras para entender lo que está sucediendo. Y que hay debates que tenemos que dejar de esquivar.
