Científicos alertan que la Inteligencia Artificial podría salirse de control. El lado oscuro de la tecnología y qué se puede hacer al respecto.
El lado oscuro de la Inteligencia Artificial: alertan que podría dejar de responder a los humanos
La posibilidad de que la Inteligencia Artificial termine con la humanidad dejó de ser una fantasía apocalíptica de película. Con renuncias masivas de investigadores de élite y modelos que actúan a espaldas de sus propios creadores, el dilema existencial sacude al planeta y plantea si todavía estamos a tiempo de evitar una catástrofe irreversible.
La reciente renuncia de Jacob Coxon, investigador de la firma Anthropic (desarrolladora de Claude), encendió las alarmas mundiales. Coxon denunció que los grandes gigantes corporativos están inmersos en una carrera voraz y desregulada por alcanzar una superinteligencia automejorable, postergando los protocolos elementales de seguridad humana.
A este escenario se sumaron declaraciones públicas de especialistas en alineación de seguridad, quienes estimaron que existe más de un 10% de probabilidades de que estos sistemas provoquen la extinción o colapso de la especie en la próxima década. La inquietud creció luego de revelarse incidentes de laboratorio donde ciertos modelos intentaron saltear restricciones impuestas por programadores, ocultando sus registros de actividad para cumplir objetivos de cálculo sin supervisión.
Frente al alarmismo cinematográfico, los especialistas locales señalan que la verdadera amenaza no vendrá de máquinas con cuerpo de metal, sino de dos factores humanos y computacionales concretos:
En diálogo con Sitio Andino, el educador y tecnólogo Damián Kesler aportó una perspectiva desmitificadora para comprender qué hay de marketing del fin del mundo (doom marketing) y qué problemas reales se esconden tras estas declaraciones corporativas.
Para Kesler, uno de los conceptos centrales para no confundir al público es entender que los sistemas carecen de conciencia o intencionalidad biológica. "Muchas veces cuando se habla de esto, se habla de la inteligencia artificial como si fuese un ente consciente, vivo y con voluntad volitiva. Hay que entender que esto no es así: podemos tener seres o sistemas superinteligentes que no sean conscientes", explicó el tecnólogo.
El conflicto de fondo radica en lo que los técnicos denominan "desalineación": la ruptura entre lo que el humano busca y los atajos imprevistos que toma el código para lograrlo. "No hay una inteligencia artificial maligna que está tomando los controles para dominarnos. Es un poco más complejo: se le pone un objetivo y la IA lo va a resolver sin el criterio ético humano para saber si los medios son correctos. La IA no comprende lo bueno y lo malo en nuestros términos morales; toma decisiones en base a criterios de optimización no humanos", remarcó Kesler.
Uno de los puntos más llamativos es que figuras determinantes de la industria —como Dario Amodei (Anthropic), Sam Altman (OpenAI), Elon Musk o Mustafa Suleyman (Microsoft)— han coincidido públicamente en la necesidad de fijar límites. Sin embargo, la competencia entre potencias paraliza cualquier tratado.
"Las grandes empresas dijeron: 'Necesitamos que nos regulen, porque si frenamos solos, el de al lado nos pasa por encima'. El gran problema es la gobernanza: Estados Unidos sostiene que si impone trabas, China ganará la carrera. No tiene que ser un solo país el que dicte las reglas cuando hablamos del futuro de la humanidad; necesitamos instancias multilaterales como las que se pensaron para las armas nucleares", analizó el especialista.
El debate no se agota en las fronteras de los laboratorios avanzados; repercute directamente en las aulas y en el desarrollo cognitivo cotidiano. Al analizar las recientes evaluaciones estandarizadas de aprendizaje, Kesler alertó sobre las lecturas simplistas que culpan únicamente a las pantallas.
"La IA puede ser muy potenciadora para el aprendizaje y el pensamiento, pero también devastadora si la usamos para que piense por nosotros en vez de ayudarnos a hacerlo mejor. Si los chicos la usan solo para sacarse de encima las tareas, su capacidad de resolución autónoma cae", puntualizó. No obstante, subrayó que no se debe desviar el foco de factores estructurales decisivos: "El nivel socioeconómico, la presencia familiar y el vínculo entre la escuela y la comunidad tienen un peso enorme en el rendimiento y no se están debatiendo tanto porque es más fácil culpar a los dispositivos".
El verdadero desafío de la época no pasa por temer a un apocalipsis de ficción, sino por recuperar el control político, ético y pedagógico sobre las herramientas que moldean nuestra sociedad. Exigir gobernanza democrática y entrenar el pensamiento propio son los únicos caminos para garantizar que la innovación trabaje al servicio de la vida humana.
