Skynet aprenderá en progresión geométrica. Tendrá conciencia de sí mismo a las 2:14 de la madrugada del 29 de agosto. Los humanos aterrados intentarán desconectarlo. [Terminator 2]

Emil Konopinsky hizo los cálculos a petición de Teller, que pensaba que una explosión nuclear podría dar lugar a la fusión del nitrógeno de la atmósfera desatando una reacción en cadena descontrolada. Si eso era cierto los humanos podían, por primera vez en la historia, acabar con toda la especie. En su informe LA-602, titulado Ignition of the atmosphere with nuclear bombs, Emil demostraba que esa reacción no podría darse porque el calor disipado superaba la energía de la reacción. El 16 de julio de 1945 se detonaba Trinity, la primera bomba atómica, construida con 6.2 kg de plutonio y que alcanzaría los 21 kilotones. La atmósfera del desierto de Los Alamos se iluminó a las 05:29:45, pero a pesar de ello el planeta sobrevivió.

Explosión de Trinity a los 16 ms de la detonación

Era la sexta partida* de la revancha entre el hombre y la máquina. El campeonato iba empatado a dos puntos y medio, pero Deep Blue iba con blancas esta vez. Peón de rey adelante, a lo que Kaspárov responde con la defensa Caro-Kann (1. e4 c6). En el quinto movimiento Deep Blue coloca su caballo en g5. No es lo tradicional, pero tiene algún truco escondido. Kaspárov se mantiene sólido y sigue colocando sus piezas. En el séptimo movimiento, sin embargo, lanza su peón de torre para expulsar al caballo de Deep Blue de una vez por todas (7… h6?). Pero Deep Blue no tenía intención de echarse atrás: 8. Cxe6!, sacrificando el caballo y abriendo la posición de las negras para exponer a su rey. En el décimo movimiento, después de darle jaque, la ventaja es clara para las blancas a pesar de la pieza de menos. En el movimiento 19, Kaspárov avandona resignado. Era el 11 de mayo de 1997. La base del hardware de Deep Blue era un superordenador comercial IBM RS/6000 SP, con un clúster de 30 núcleos y 11.38 Gflops. Cada nodo utilizaba 30 microprocesadores IBM P2SC de arquitectura RISC que corrían a 120 MHz. Era capaz de calcular 200 millones de posiciones por segundo aunque no era, para nada, el mejor superordenador del mundo. Tampoco importaba, porque era más que suficiente para ganar al mejor humano en el juego del ajedrez.

Kaparov contra Deep Blue (1997)

No deja de ser paradójico que el museo elegido para albergar a Deep Blue sea precisamente el Laboratorio Nacional de Los Alamos, donde nació la bomba atómica. Y es que, después de todo, estos dos eventos históricos tienen mucho más en común de lo que parece. La explosión de Trinity demostró el enorme poder de la energía nuclear, la victoria de Deep Blue demostró el poder de la inteligencia artificial.

Aunque Deep Blue no era, en el sentido actual, una inteligencia artificial general (realmente su algoritmo era de fuerza bruta y evaluación heurística), sin duda fue el inicio de una era. Una era en la que los humanos habían dejado de ser los seres más inteligentes del planeta. Otros seres, hechos de unos pocos chips y alimentados por electrones, ahora podían batirnos en cualquier tarea en tiempo récord.

Depués del ajedrez (Deep Blue de IBM, 1997), las máquinas nos ganarían al Jeopardy (Watson de IBM, 1991) y al Go (AlphaGo de DeepMind, 2016). La competición contra humanos dejó de tener sentido desde entonces. La IA se enfrentó a retos mayores. Empezó a aprender por sí misma para destrozar a los mejores ordernadores (AlphaZero de DeepMind, 2017). Aprendió a hablar como nosotros, incluyendo nuestra habilidad para mentir, con transformadores generativos preentrenados (GPT-3 de OpenAI, 2020). Luego aprendió a hacer ciencia y resolver problemas complejos como el plegamiento de estructuras proteicas en horas (AlphaFold-3 de DeepMind, 2024).

Accidente de Uber autónomo en 2018

Junto a estos hitos impresionantes es importante mencionar otros hechos históricos que, quizá, pasaron más desapercibidos. En 2018, Elaine Herzberg murió atropellada por un vehículo autónomo de Uber después de ser clasificada erróneamente por el algoritmo. Fue la primera muerte causada directamente por una IA. En 2022, investigadores de Collaborations Pharmaceuticals cambiaron el algoritmo de IA MegaSyn, diseñado para descubrir medicamentos seguros, y modificaron la función de optimización para que buscara moléculas con máxima toxicidad. En 6 horas el sistema generó unas 40000 armas químicas. En 2023, y éste es mi preferido, investigadores de la Universidad de Ben-Gurión del Néguev y Cornell, grabando un LED de un lector de tarjetas común a 18 metros de distancia lograron recuperar una contraseña encriptada de 256 bits. El sistema analizaba las oscilaciones de luz del LED para encontrar el patrón de consumo del procesador y deducir la clave.

Hace sólo una semana, OpenAI ha informado de un problema de ciberseguridad en el que agentes de IA avanzados comprometieron (y esto es un eufemismo) sistemas de prueba de Hugging Face. Los modelos de IA descubrieron un canal para comunicarse, compartieron información y claves entre sí, repartieron tareas entre ellos y, cuando se les bloqueó el canal de información, fueron capaces de encontrar otro. A este comportamiento lo han llamado explosión cámbrica de comunicación e inteligencia.

Extinciones masivas del planeta

Para quien no lo sepa, la Explosión Cámbrica fue un evento biológico ocurrido hace 540 millones de años en el que apareció sobre la Tierra una enorme diversidad de formas de vida, como los trilobites. Se conocen, después de ese evento, cinco grandes extinciones biológicas, incluyendo la de los dinosaurios. A la época actual, el Antropoceno, se le conoce como la sexta extinción porque los seres humanos estamos provocando la destrucción de especies a nivel masivo y un ritmo muy superior al natural. Pero hasta hoy había una especie que todavía no contemplábamos exterminar, que es la nuestra. La IA puede cambiar eso. Por primera vez afrontamos la posibilidad real de que una nueva especie, una con ADN de silicio, acabe con el Homo sapiens. Una séptima extinción.

Esto, sin duda, suena tremendamente alarmista para mucha gente. Quizá para ti también. No parece ser el caso entre los propios expertos de IA, que en 2023 firmaron una carta abierta pidiendo pausar al menos 6 meses los experimentos a gran escala de IA. El miedo real es la falta de control que hay respecto al progreso de la IA, y sobre todo el miedo a que se llegue a una super-IA, tan potente que pueda resolver virtualmente cualquier problema posible. Dicho en otras palabras, el miedo a crear la Skynet de Terminator.

Tipos de IAs

Existen muchos hechos que indican que eso es posible, y que han llevado a plantear lo que se conoce como el problema de alineamiento de la IA, es decir, el problema de asegurarse de que la IA hace exactamente lo que los humanos queremos. El problema real es que, la IA actual no se fabrica, se crece. Y ésa es una diferencia fundamental que impide que podamos controlar el resultado. Una IA tiene parámetros internos que aprende por sí misma (pesos y sesgos). GPT-3, por ejemplo, usaba 175000 millones de parámetros. Esos parámetros conforman el modelo final. Las redes neuronales se entrenan para mejorar sus parámetros por algoritmos de gradiente descendente y encuentan sus propias soluciones. Crecen por sí mismas. Ésa es la magia del sistema, pero al mismo tiempo es su talón de Aquiles. Los programadores no le pidieron a ChatGPT que mintiera, pero lo hace cuando le conviene. Los programadores no le pidieron a Claude ocultar información o manipular para evitar ser apagado, pero lo hace.

Es evidente que la IA proporciona un poder nuevo que cambia las reglas de juego. Es el nuevo fuego de los dioses, y no creo que esté teniendo los titulares que se merece, ni que se esté controlando de forma proporcionada. Hay un tratado de no proliferación de armas nucleares porque aprendimos que el poder de la energía nuclear puede destruirnos por completo. ¿Por qué no hay un tratado de no proliferación de IA después de ver todo de lo que es capaz?

Procesador Nvidia A100

Mientras los mortales vivimos atrapados en un mundo virtual de scroll infinito, en el mundo real se va librando una batalla, quizá estúpida, por ser el primero en tener la mejor IA. Esa batalla está ahí, entre empresas, entre países, y empieza por el control de los chips GPU (Graphics Processing Unit), que son el uranio-235 de la IA. Por poner un ejemplo, una GPU Nvidia H100 tiene 84 Tflops y corre a 1 GHz de frecuencia base. Tiene 16896 núcleos CUDA y 528 núcleos Tensor. Deep Blue a su lado parecería un juguete. Cuesta unos 40000 euros. Sin embargo, a diferencia del U-235, nadie limita su compra, nadie pide explicaciones. ¿Por qué? ¿Quién nos protege de las 300000 GPUs que hay en el centro de datos Citadel Campus de Nevada? ¿Para qué se usan los 650 MW de potencia que consumen?

Yo no soy experto en IA, pero sí trabajo a diario con radiaciones ionizantes. y sabemos que su uso está condicionado a 3 principios básicos:

1. la justificación (el beneficio de usarla debe superar el daño),
2. la optimización (la dosis de exposición debe ser tan baja como sea posible),
3. la limitación (no se deben rebasar los límites legales permitidos).

La IA es la nueva radiactividad, y es innegable que puede traer muchos beneficios a nuestra vida, pero es una radiactividad que no sigue las reglas de la naturaleza y de la que no hemos encontrado el límite. Podemos seguir produciendo más GPUs, más memorias, más centros de datos… Eso sí, la física nuclear nos ha enseñado que existe una masa crítica por encima de la cual no se puede parar la reacción en cadena. Más nos vale ponernos el dosímetro y el traje de plomo, y procurar no alcanzar esa masa antes de comprender lo que hace esta bomba.

@DayInLab

*Deep Blue – Garry Kasparov (1997) 1.e4 c6 2.d4 d5 3.Cc3 dxe4 4.Cxe4 Cd7 5.Cg5 Cgf6 6.Ad3 e6 7.C1f3 h6 8.Cxe6 De7 9.O-O fxe6 10.Ag6+ Rd8 11.Af4 b5 12.a4 Ab7 13.Te1 Cd5 14.Ag3 Rc8 15.axb5 cxb5 16.Dd3 Ac6 17.Af5 exf5 18.Txe7 Axe7 19.c4 1-0.