Luis A. Barcenas Medina, publica este interesante trabajo sobre  el impacto que ha de tener la IA en nuestra generación. El trabajo publicado en la página web de ACAMI, está recogido desde  LINKEDIN

 

 

EL RETO DE NUESTRA GENERACIÓN.

 

Inteligencia artificial (IA), robótica y su influencia en el carácter de la guerra y, lo
más trascendente, el debate sobre su naturaleza, debate que hasta ahora
permanecía silenciado.
La innovación marca puntos de inflexión en la historia de la humanidad: el dominio
del fuego, la agricultura, la rueda, la luz eléctrica, los antibióticos, el transistor… han
modificado la vida de las personas creando retos y oportunidades, también muchos
problemas. Sin duda alguna, para lo bueno y para lo malo, a la generación actual
le corresponde asistir y protagonizar uno de esos cambios de era en medio de un
desorden internacional que hay que gestionar.
Aunque las opiniones sobre si la guerra es un hecho cultural, y por tanto extinguible,
o un síntoma antropológico, y por tanto inevitable, la realidad es que la guerra ha
acompañado a la humanidad desde sus orígenes, con mayor o menor sofisticación.
No es previsible que deje de hacerlo en el corto plazo. Los polemólogos han
coincidido en sintetizar su naturaleza -invariable- como una lucha para imponer la
voluntad propia sobre la del adversario por medios violentos. Su carácter, sin
embargo, ha ido cambiando con el tiempo, siendo la tecnología, las
consideraciones morales y la naturaleza humana los ejes de referencia sobre los
que se han ido disponiendo los diferentes conflictos armados. El carácter cambia,
pero la naturaleza no…hasta ahora…
En este sentido, el Strategic Guidance Report on the Risks, Opportunities, and
Governance of AI in the Military Domain publicado por la Global Comission del
movimiento Inteligencia Artificial Responsable en el Ámbito Militar (REAIM)
describe esta novedad de la siguiente manera: «Tal y como la tecnología nuclear
conformó el siglo XX, la IA en el S. XXI es una game change. Su despliegue, desde
los sistemas de targeting hasta el control de plataformas autónomas está alterando
no solamente el carácter de la guerra, sino su propia naturaleza».
A lo largo de la historia de la humanidad, la guerra, actividad total crisol de todas
las artes, ciencias, pasiones, virtudes y defectos del ser humano, en la cual las
aberraciones más execrables van de la mano de los heroísmos, sacrificios y
generosidad más luminosos, se ha mantenido siempre dentro de las dimensiones
del alma humana, o de sus potencias, en términos tomistas. Las capacidades
humanas de entendimiento y voluntad, de inteligencia, al fin y al cabo, oscilan en
un rango fuera del cual se produce saturación y desbordamiento. Destacaremos
una obviedad: los seres humanos tenemos límites intelectuales y físicos, y la guerra
se había mantenido hasta hoy dentro de ellos. Sin embargo, esto podría estar
cambiando. Los asistentes de inteligencia artificial, y la sofisticación de los robots
(sean terrestres, aéreos o acuáticos) permite hacer la guerra más allá de los límites
del análisis humano, más rápido que la velocidad de proceso y de toma de
decisiones racionales, y lo que quizá sea más significativo, pero aún pase
desapercibido: más allá de las pasiones humanas.
2
La constatación de esta inquietante realidad, que la guerra se independiza de sus
actores a través de la tecnología, ha generado conceptos como el de human in the
loop (HITL), intervención activa, y el de human on the loop (HOTL), supervisión
pasiva, que reivindican y definen la participación del ser humano en las decisiones
y las acciones que propone o ejecuta la IA. En el caso del HITL, se trata de que el
humano autorice todos y cada uno de los hitos del proceso acelerado por la IA (o
algunos de ellos especialmente críticos), mientras que en el caso del HOTL se trata
de que el humano supervise los resultados del proceso, controlando que no se
producen desviaciones indeseadas respecto al resultado esperado.
En un interesante post en una red social, el consultor de defensa y antiguo oficial
de la Armada, Samuel Morales, describía de manera cristalina cómo la intervención
del ser humano en operaciones militares conducidas por IA presenta
contradicciones estructurales respecto a la eficacia en su ejecución. Muy
gráficamente, Morales define al ser humano como un cuello de botella. En entornos
operativos complejos, la IA es capaz de procesar grandes volúmenes de
información a gran velocidad que sobrepasan de largo las capacidades humanas.
La intervención humana puede llegar, directamente, a bloquear la toma de
decisiones y la ejecución de acciones mucho más allá de lo tolerable.
De esta realidad, que compartimos, extraemos un primer corolario: la
responsabilidad en el uso de la IA en el ámbito militar es deseable y exigible porque
el humano aporta contexto (y profundidad, como veremos más adelante) porque
integra una visión ética del combate; porque constituye en sí misma una
herramienta de mitigación de riesgos; y porque garantiza legitimidad al uso de la
fuerza, pero no debemos olvidar que la primera responsabilidad de un militar es con
su propia gente. No se puede, no es éticamente defendible, anteponer limitaciones
en el uso de la IA a la responsabilidad que todo mando tiene de proporcionar al
personal a su cargo los medios necesarios para alcanzar la victoria al menor precio
posible.
Del documento mencionado anteriormente (Strategic Guidance Report on the
Risks, Opportunities, and Governance of AI in the Military Domain) es también
relevante comentar una de sus afirmaciones (traducción del autor):
Los conflictos recientes en Europa y Oriente Medio demuestran una creciente
utilización de la IA en el combate, suscitando interrogantes sobre responsabilidad
y control humano en los actuales y futuros conflictos. Esto subraya la necesidad de
una gobernanza global (de la IA); y no de un dominio global por ninguna potencia
o bloque.
La Global Comission de la REAIM llega tarde. El fenómeno de dominio de la IA por
una serie de potencias es una realidad inevitable e insoslayable. Se ha producido
3
ya la fractura entre los EE. UU. (dominante en software), China (dominante en
hardware) y el resto del mundo. Entre estas dos potencias dominantes y el grueso
de agentes internacionales se ha abierto una brecha que cada vez se agranda más,
y que parece imposible cerrar (al menos a día de hoy). Entre estas dos potencias y
el grueso de naciones se disponen un número pequeño de actores, cierto, que
aspiran a mantener cierta autonomía, sobre todo en el campo militar: Israel, Rusia,
India, pero la existencia de estos actores, cuantitativamente y cualitativamente
menores, no altera el fenómeno global: el acceso a la IA de forma soberana y
suficiente cambia el status internacional de un país.
La IA, por lo tanto, en toda su «pila tecnológica» (todas las tecnologías y recursos
necesarios para hacerla posible, incluida la energía) se convierte en un factor
geopolítico de primer orden. La geopolítica de la IA es una versión actualizada de
la geopolítica del arma nuclear. A lo largo de la historia, la competición mundial se
ha ubicado en un espacio tridimensional marcado por tres ejes: los objetivos, los
medios para alcanzarlos y los modos para emplear estos medios.
De este diagnóstico histórico se ha deducido la conocida definición de estrategia
como articulación de objetivos, medios y modos (ends, ways and means), definición
que se ha impuesto con fuerza en los marcos mentales de los decisores.
Básicamente, todas las eras han visto cómo los grupos humanos fijaban sus
objetivos, desarrollaban tecnología para alcanzarlos, y empleaban esta tecnología
de acuerdo a unos principios morales (o inmorales) y jurídicos para alcanzarlos.
Como decíamos al principio no sabemos si la guerra es cultural o antropológica,
pero sí sabemos que la vida es ambas cosas: vivir y transitar por la vida es
irrenunciable. El acceso garantizado a los recursos naturales que garantizaban
primero supervivencia y luego prosperidad (sal, especias, metales preciosos, agua
o petróleo) provocó invenciones que en su momento fueron disruptivas: la doma
del caballo, la navegación a vela, la máquina de vapor, la electricidad, el motor de
explosión, la aeronáutica, la exploración espacial, etc.
La combinación de tecnología y necesidad de recursos ha marcado los ejes
geopolíticos, y sobre estos ejes, sobre los que las potencias han competido,
siempre ha habido ganadores y perdedores, a corto, medio y largo plazo. En 1945
asistimos a uno de estos momentos en que las tecnologías disruptivas cambian las
reglas del juego: la bomba atómica proclamó con su trágico empleo que la historia
había cambiado, y que en este cambio habría perdedores y ganadores. El mundo,
pues, se reconfiguró de acuerdo con este nuevo escenario, en el que aún nos
encontramos (la prueba es el actual conflicto en Irán, intento violento de Estados
Unidos e Israel para que uno de los «perdedores», Irán, no se una al club de los
«ganadores»).
4
Pues bien, la IA está teniendo estos mismos efectos, pero a un nivel más sutil. La
IA marca una frontera entre quienes de manera natural han sabido y podido articular
el control del dato, y quienes no tienen más remedio que confiar en los anteriores
para no quedar absolutamente fuera del tablero (incluso ocupando una casilla de
segundo o tercer orden de importancia). La misma brecha que divide al mundo en
potencias nucleares y potencias no nucleares, está dividiendo al mundo en
potencias cuya IA es soberana en toda la pila tecnológica, y aquéllos que sólo
pueden depender de datos, recursos y tecnología ajena sobre los que no tienen
control.
El segundo corolario, por tanto, es que tras la apariencia de democratización del
conocimiento que puede trasladar la IA, se esconde una jerarquización del mismo.
Se ha creado una nueva jerarquización, una nueva cadena trófica, en la que las
potencias con control sobre datos e hiperescalares (públicos como en EE. UU., o
privado- en el sentido de acceso exclusivo –como en China) están en la cúspide de
la pirámide, mientras que los demás deben buscar un acomodo en escalones
inferiores. Con una diferencia no banal: el empleo del arma nuclear
afortunadamente no ha pasado de disuasorio, mientras que la «intrusividad» de la
IA es moneda cotidiana en las relaciones internacionales. Para ilustrar este
fenómeno, y a falta de declaraciones similares de autoridades chinas, citaremos al
Secretario de Guerra norteamericano, Peter Hegseth, quien ha declarado el 1 de
mayo de 2026 que «El liderazgo en IA es indispensable para la seguridad nacional»
al anunciar un acuerdo con siete gigantes tecnológicos norteamericanos.
Para finalizar, hay que hacer mención a un fenómeno perturbador. La irresoluble
incompatibilidad entre IA y seguridad en los términos convencionales a los que
estamos acostumbrados. Los modelos de IA tienen como característica principal,
entre otras, su capacidad de «aprendizaje» (que en términos negativos llamamos
sesgo). Este aprendizaje lo perfeccionan mediante el contacto con los usuarios, con
otras IA, con bases de datos, etc., que se alojan y son administradas y gobernadas
en nubes públicas. Como ejemplo básico, cuando un usuario pregunta a un Large
Language Model (LLM) por cualquier cuestión, la pregunta es aprendida por el LLM,
que a través de ella puede inferir información del propio usuario. La información
contenida en la pregunta, y la respuesta proporcionada, más sus sucesivas
iteraciones, «enseña» al modelo. La elevación a cientos de billones de parámetros
de este proceso es lo que confiere potencia al propio modelo. Pues bien, el dilema
que se presenta es que, si los modelos que utilizamos residen en nube pública,
nuestra información escapa a nuestro control; mientras que, si los modelos que
utilizamos residen en nube privada, su aprendizaje, a fortiori, estará limitado, la
potencia relativa del modelo disminuye y puede llegar a quedar obsoleto. El premio
en este último caso es la seguridad de nuestra información… que en poco tiempo
no tendrá utilidad.
5
El último corolario es que, quizá, la seguridad entendida como una disposición de
barreras entre lo que se quiere proteger y las amenazas a ese núcleo de
información privado deberá de cambiar de paradigma. La velocidad de explotación,
o la prevención de eventos relacionados con la seguridad de la información pueden
ser alternativas a explorar.
En resumen, podemos decir que la superación de los límites cognitivos y
emocionales humanos está cambiando no sólo el carácter (como tantas veces),
sino la propia naturaleza de la guerra. Esta novedad genera problemas de
responsabilidad en el ámbito militar, pero no debemos olvidar que la primera
responsabilidad es hacia nuestra propia gente; la IA ha creado una brecha
geopolítica comparable a la del arma nuclear, más sutil e intrusiva, y además rompe
con formas de pensar respecto a la seguridad de la información. No son pocos los
retos que nos plantea la IA (además de los anteriores, entre otros, por ejemplo, la
energía), y por suerte o por desgracia, a estos retos es a los que debe dar respuesta
nuestra generación.