De Babel al algoritmo: la política del temor tecnológico....Soltera

 

De Babel al algoritmo: la política del temor tecnológico

La decisión de las autoridades estadounidenses de limitar la difusión de los modelos Claude Fable 5 y Mythos 5 surge, según la noticia, de la constatación de que sistemas de inteligencia artificial particularmente avanzados podrían facilitar ciberataques de gran escala. El razonamiento gubernamental se inscribe en una lógica de seguridad nacional: cuando una tecnología adquiere la capacidad potencial de alterar significativamente el equilibrio del poder, los Estados buscan regularla, restringirla o monopolizarla.

Sin embargo, desde una perspectiva filosófica más amplia, esta medida puede interpretarse como la confirmación práctica de una intuición presente en la encíclica: el progreso técnico, cuando se convierte en criterio absoluto, termina generando riesgos que obligan a las propias sociedades que lo promovieron a contenerlo. La tecnología deja entonces de ser instrumento y comienza a convertirse en problema político.

La encíclica utiliza la imagen bíblica de la Torre de Babel para describir precisamente este fenómeno. Babel no representa únicamente la soberbia humana, sino la pretensión de construir un orden sustentado exclusivamente en la capacidad técnica y en la acumulación de poder. La inteligencia artificial contemporánea parece reproducir esta dinámica: cuanto mayor es su potencia, mayor es también la necesidad de establecer límites externos que impidan consecuencias indeseadas.

Paradójicamente, el mismo sistema tecnológico que prometía ampliar la libertad de acción humana termina exigiendo nuevas formas de restricción.

La emergencia de una nueva razón de Estado

La noticia revela además un aspecto particularmente significativo: la intervención directa de actores corporativos en la definición de políticas públicas. Según el informe, las advertencias procedieron de responsables de Amazon que alertaron sobre las capacidades potencialmente peligrosas del modelo.

Este hecho ilustra una transformación histórica profunda. Durante gran parte de la modernidad, los Estados monopolizaban los medios estratégicos de poder. En la era digital, las corporaciones tecnológicas participan activamente en la producción de capacidades que afectan la seguridad nacional, la economía y la estabilidad internacional.

La encíclica advierte precisamente sobre la relación entre tecnología y poder. Su preocupación no se dirige exclusivamente a la máquina, sino al entramado de intereses humanos que la rodea. La cuestión central no es si la inteligencia artificial puede realizar determinadas acciones, sino quién decide sus fines, quién controla sus aplicaciones y bajo qué principios éticos se ejerce ese control.

La restricción impuesta por Washington constituye así una manifestación contemporánea de una nueva razón de Estado tecnológica: el reconocimiento de que ciertos desarrollos algorítmicos poseen un carácter estratégico comparable al que en otros tiempos tuvieron la energía nuclear, las telecomunicaciones o la criptografía militar.

La verdad y la incertidumbre tecnológica

Uno de los ejes fundamentales de la encíclica es la defensa de la verdad en una época marcada por la manipulación de la información. Resulta revelador que las restricciones a Anthropic no hayan sido motivadas por daños efectivamente producidos, sino por la posibilidad de daños futuros.

Nos encontramos ante una política basada en la gestión de riesgos probabilísticos. La inteligencia artificial avanzada introduce un escenario inédito: tecnologías cuyo impacto potencial supera ampliamente la capacidad humana para prever todas sus consecuencias.

La incertidumbre se convierte así en un problema político central.

En este contexto, la llamada de la encíclica a cultivar el discernimiento adquiere una relevancia singular. El discernimiento no implica rechazo de la innovación, sino evaluación prudente de sus efectos. Frente a la fascinación tecnológica y frente al tecnopesimismo absoluto, propone una posición intermedia basada en la responsabilidad moral.

La decisión estadounidense parece reflejar precisamente esta tensión: la innovación continúa siendo valorada, pero se considera necesario limitar temporalmente su difusión cuando los riesgos superan el grado aceptable de incertidumbre.

La automatización del poder y la cuestión de la guerra

Quizás el punto de convergencia más profundo entre ambos textos aparece en la cuestión del conflicto.

La encíclica señala que la inteligencia artificial está modificando radicalmente la naturaleza de la guerra al facilitar procesos de automatización e impersonalización de decisiones tradicionalmente humanas. El documento insiste en que ninguna máquina debe asumir responsabilidades morales que corresponden a las personas.

La noticia sobre Anthropic introduce una preocupación análoga, aunque formulada en términos de ciberseguridad. Los ciberataques potenciados por inteligencia artificial constituyen una forma emergente de confrontación donde la distancia entre la acción y sus consecuencias se amplía considerablemente.

El agresor puede encontrarse a miles de kilómetros de la víctima; el algoritmo puede ejecutar operaciones complejas sin supervisión constante; los daños pueden afectar infraestructuras críticas de poblaciones enteras.

Nos acercamos así a una forma de conflicto crecientemente abstracta y automatizada.

La advertencia de la encíclica resulta aquí particularmente pertinente: cuanto más se separan las decisiones de sus consecuencias humanas concretas, mayor es el riesgo de que la eficacia sustituya al juicio moral.

Jerusalén frente a Babel: dos modelos de civilización

En última instancia, ambas noticias expresan dos respuestas distintas ante una misma pregunta histórica.

La primera responde desde la lógica del poder: ante una tecnología potencialmente peligrosa, la solución consiste en restringir su acceso y reforzar mecanismos de control.

La segunda responde desde la lógica de la civilización: ante la misma tecnología, la cuestión decisiva consiste en determinar qué concepción del ser humano orientará su desarrollo.

La diferencia es fundamental.

La política puede limitar riesgos inmediatos; la ética intenta comprender las causas profundas que los generan.

Por ello, la restricción de los modelos de Anthropic puede interpretarse como una consecuencia indirecta de aquello que la encíclica describe mediante el símbolo de Babel. Cuando una sociedad deposita una confianza creciente en la expansión ilimitada de sus capacidades técnicas, acaba enfrentándose a la necesidad de contener los efectos de esa misma expansión.

La paradoja es evidente: cuanto más poderosa se vuelve la tecnología, más urgente resulta la recuperación de criterios no tecnológicos para gobernarla.

La encíclica propone que esos criterios procedan de la dignidad humana, la solidaridad, la justicia y el bien común. La noticia estadounidense, por su parte, muestra que incluso las potencias más comprometidas con la innovación tecnológica han comenzado a reconocer que el desarrollo de la inteligencia artificial no puede quedar exclusivamente en manos de la lógica del mercado ni de la mera competencia estratégica.

Así, la restricción de Fable 5 y Mythos 5 aparece como algo más que una medida administrativa. Puede leerse como un síntoma histórico de una transición más amplia: el paso desde la euforia tecnológica de los primeros años de la inteligencia artificial hacia una etapa de gobernanza, vigilancia y reflexión ética. En términos simbólicos, es el momento en que los constructores de Babel descubren que la altura de la torre exige preguntarse nuevamente por los fundamentos de la ciudad que desean edificar.