El Sumo Pontífice advirtió sobre los desafíos del desarrollo tecnológico contemporáneo. A través de su encíclica y discursos oficiales, el Papa León XIV reclamó fijar límites éticos urgentes al despliegue de la Inteligencia Artificial, exigiendo preservar la dignidad humana frente a la concentración corporativa y el riesgo de automatización desmedida.
- Sitio Andino >
- Sociedad >
Ante el impulso de la Inteligencia artificial, ¿Es necesaria una regulación?
El especialista en tecnología Damián Kesler analizó los desafíos que plantea el avance de la IA y destacó la necesidad de establecer reglas a nivel global y local.
El especialista en tecnología Damián Kesler analizó los desafíos que plantea el desarrollo de la IA, a partir del interés del Papa León XIV por el tema. Señaló que la discusión ya no pasa solamente por establecer límites éticos, sino por construir mecanismos de regulación y gobernanza en distintas escalas.
Kesler destacó que el actual Pontífice tiene formación en matemática y que su interés por la IA quedó reflejado en documentos y debates impulsados desde el Vaticano. Para el especialista, más allá del aspecto religioso, estos aportes permiten abordar algunas de las principales discusiones que plantea el desarrollo acelerado de esta tecnología.
“Hablar de la necesidad de la regulación es un aspecto y después la pregunta es qué regulamos y la otra es cómo”, explicó. En ese sentido, sostuvo que la discusión debería trascender las fronteras de cada país. “Esto implica una regulación global, porque es una tecnología que afecta al conjunto de la humanidad, al conjunto de los países y al total de la economía”, señaló.
Regulación y gobernanza de la inteligencia artificial
Para Kesler, el desafío no consiste únicamente en establecer normas para los grandes laboratorios que desarrollan modelos de IA. También es necesario pensar cómo se gobierna la tecnología en ámbitos más pequeños, como las instituciones, los equipos de trabajo y las propias personas.
“Cuando hablamos de regulación, también me gusta hablar sobre todo de gobernanza”, explicó. Según su mirada, esta debe construirse tanto a escala internacional como local y también dentro de cada organización. El especialista mencionó algunos de los espacios que ya trabajan sobre estos desafíos. Entre ellos, señaló al Vaticano, Naciones Unidas y la UNESCO, que avanzaron en diferentes iniciativas y guías relacionadas con la IA.
También hizo referencia a una iniciativa privada impulsada por grandes empresas del sector. Según explicó, Google, OpenAI y Anthropic trabajan en la creación de SAFA (Standards Authority for Frontier AI), una propuesta orientada a desarrollar estándares y pruebas para evaluar la seguridad de modelos avanzados de IA.
“Con la ética no alcanza”
Uno de los puntos centrales planteados por Kesler fue la necesidad de establecer límites éticos, aunque consideró que ese criterio por sí solo no resulta suficiente para enfrentar los desafíos de la IA. “Los límites éticos, sin duda, deberían estar en esa regulación, pero con la ética no alcanza”, sostuvo.
Para el especialista, la sociedad debe involucrarse en la discusión y exigir a sus representantes la construcción de reglas frente a una tecnología cuyo desarrollo avanza a gran velocidad. “Lo peor que podemos hacer en este contexto es perder la cordura”, afirmó.
En esa línea, planteó que el acelerado desarrollo de la IA obliga a diseñar respuestas que no necesariamente tienen antecedentes directos en la historia. “Tenemos que construir soluciones nuevas, que no podemos buscar en la historia, aunque obviamente sí nos podemos apoyar en ella”, señaló.
Kesler también cuestionó las miradas exclusivamente alarmistas sobre el futuro de la IA. Consideró que los escenarios catastróficos no contribuyen necesariamente a resolver los problemas concretos que ya plantea la tecnología. “Hemos pasado una línea en la cual todos estos problemas se podían evitar previamente, pero no estamos en un panorama en el cual el día de mañana vamos a desconocer el mundo y que todo lo que nosotros pensamos como catastrófico va a suceder”, explicó.
Para el especialista, el camino debería incluir ciencia, conocimiento y acuerdos democráticos. En ese marco, destacó a la escuela como un espacio especialmente relevante para desarrollar estas conversaciones debido a la diversidad de actores que participan en ella.
El poder de la IA está concentrado
Otro de los desafíos mencionados fue la concentración económica y tecnológica alrededor de la IA. Kesler señaló que los grandes laboratorios de desarrollo están principalmente concentrados en Estados Unidos y China, mientras que Europa y otras regiones tienen una participación menor.
Por eso, consideró complejo pensar en una democratización de la toma de decisiones sobre el desarrollo de la IA. “Es muy difícil en un sentido de que todos podamos votar o participar en esta conversación de manera directa”, explicó.
El planteo abre así otro interrogante: quiénes deben establecer las reglas sobre una tecnología cuyo impacto alcanza a prácticamente todos los sectores de la sociedad, incluso cuando su desarrollo permanece concentrado en un número reducido de empresas y países.
El costo ambiental de la inteligencia artificial
Kesler también puso el foco en un aspecto que suele quedar detrás de la idea de que la inteligencia artificial funciona “en la nube”: su impacto material y ambiental. Los modelos de IA necesitan centros de datos capaces de procesar enormes cantidades de información. Esas instalaciones requieren infraestructura, energía y distintos recursos para funcionar.
“La idea de esto de ‘en la nube’ o ‘en lo digital’ nos hace pensar que está fuera de nuestro plano y, sin embargo, sabemos que para poder producirse requiere recursos de nuestro planeta”, sostuvo.
Por eso, consideró que la regulación también debería contemplar las consecuencias ambientales asociadas con la construcción y operación de los centros de datos. Al mismo tiempo, destacó que existe inversión para reducir la huella ambiental vinculada con el desarrollo de la IA.
Como referencia para pensar una regulación internacional, Kesler mencionó los acuerdos alcanzados alrededor de las armas nucleares. “La regulación de las armas nucleares me parece que es uno de los casos más cercanos que tenemos que tomar en consideración”, señaló.
El especialista destacó que ese antecedente demuestra que la comunidad internacional pudo sentarse a negociar límites frente a una tecnología con capacidad de generar consecuencias de alcance global.
En ese sentido, planteó la necesidad de recuperar esa capacidad de diálogo para abordar la inteligencia artificial: construir acuerdos, establecer límites y desarrollar mecanismos de control sin caer ni en el alarmismo ni en la falta de acción frente a los riesgos que ya forman parte del presente.