El Consejo de Seguridad de las Naciones Unidas, un foro habitualmente reservado para conflictos armados y sanciones internacionales, abrió sus puertas a un debate sobre inteligencia artificial. Sam Altman, CEO de OpenAI, fue uno de los invitados a exponer su visión sobre los riesgos y oportunidades de esta tecnología. Su mensaje central fue directo: la IA está evolucionando a un ritmo que supera la capacidad de los gobiernos para regularla, y la ventana para establecer controles efectivos se está cerrando.
La IA llega al Consejo de Seguridad
Altman no es ajeno a los escenarios de riesgo. Desde el lanzamiento de ChatGPT en noviembre de 2022, ha insistido en que la seguridad debe ser una prioridad global. Sin embargo, su comparecencia ante el máximo órgano de seguridad de la ONU eleva el debate a un plano geopolítico. Ya no se trata solo de regular una tecnología emergente, sino de evitar que se convierta en una herramienta de conflicto entre potencias.
El temor a una carrera sin reglas
Uno de los puntos más contundentes de su intervención fue la advertencia sobre una carrera armamentista de IA. Altman comparó la situación actual con los primeros años de la era nuclear, cuando la falta de comunicación entre Estados Unidos y la Unión Soviética estuvo a punto de desencadenar una catástrofe. En su opinión, la IA podría seguir un camino similar si no se establecen canales de diálogo y marcos de cooperación.
El CEO de OpenAI señaló que los modelos de lenguaje de gran escala ya pueden generar desinformación a escala industrial, manipular opiniones públicas y facilitar ciberataques. A medida que estos sistemas se vuelvan más capaces, el riesgo de un uso malintencionado crece exponencialmente. Por eso, pidió a los países miembros que trabajen en estándares comunes para la evaluación de riesgos, la transparencia de los algoritmos y la trazabilidad de los modelos.
La propuesta no es nueva. Organismos como la UNESCO y la OCDE han publicado principios éticos para la IA, pero carecen de mecanismos vinculantes. Altman abogó por un enfoque más pragmático: una agencia internacional que coordine esfuerzos, similar al Organismo Internacional de Energía Atómica (OIEA), pero adaptada a la naturaleza dinámica del software.
Control humano y alineación: los pilares técnicos
Más allá de la retórica diplomática, Altman mencionó dos conceptos técnicos que están en el centro del debate sobre seguridad: el control humano y la alineación. El primero se refiere a la capacidad de los operadores para detener o modificar el comportamiento de un sistema de IA en cualquier momento. El segundo, a garantizar que los objetivos del sistema coincidan con los valores humanos.
En la práctica, esto implica desarrollar mecanismos de interpretabilidad que permitan a los investigadores entender por qué un modelo toma determinadas decisiones. También requiere sistemas de interrupción de emergencia, conocidos como «kill switches», que puedan desactivar un modelo si se detecta un comportamiento anómalo. Altman reconoció que estos mecanismos aún son imperfectos y que la investigación en alineación está rezagada respecto al ritmo de mejora de los modelos.
Un ejemplo concreto es el fenómeno de las «alucinaciones», esas respuestas inventadas que los modelos generan con total seguridad. Aunque parezcan inofensivas, en contextos críticos como diagnósticos médicos o asesoramiento legal pueden tener consecuencias graves. La comunidad científica trabaja en técnicas como el aprendizaje por refuerzo con retroalimentación humana (RLHF) y la verificación formal, pero ninguna ofrece garantías absolutas.
Cooperación internacional: el eslabón perdido
Altman fue claro al afirmar que ningún país puede regular la IA por sí solo. La naturaleza transfronteriza de los datos y la facilidad para entrenar modelos en distintas jurisdicciones hacen que cualquier esfuerzo unilateral sea insuficiente. Puso como ejemplo la proliferación de modelos de código abierto, que pueden ser descargados y modificados sin control centralizado.
En este punto, su postura coincide con la de otros líderes tecnológicos. Sundar Pichai, CEO de Google, y Satya Nadella, de Microsoft, también han pedido marcos regulatorios globales. Sin embargo, las diferencias políticas entre Estados Unidos, China y la Unión Europea complican un acuerdo vinculante. Mientras Washington prioriza la innovación y la seguridad nacional, Bruselas impulsa una regulación estricta basada en riesgos, y Pekín apuesta por el control estatal de los algoritmos.
La ONU, con su capacidad de convocar a todos los actores, aparece como el foro natural para tender puentes. Pero su historial en temas tecnológicos es limitado. El Consejo de Seguridad rara vez aborda cuestiones de software, y sus resoluciones suelen tener un carácter más simbólico que operativo. Aun así, el simple hecho de que Altman haya sido invitado indica que la comunidad internacional empieza a tomar en serio la gobernanza de la IA.
Implicaciones para América Latina y el mundo en desarrollo
El debate sobre la regulación de la IA no es exclusivo de las potencias. Países de América Latina, África y el sudeste asiático enfrentan un doble desafío: por un lado, necesitan adoptar estas tecnologías para impulsar sus economías; por otro, carecen de la infraestructura y los recursos humanos para implementar controles efectivos.
Altman no abordó este punto en profundidad, pero su llamado a la cooperación internacional deja una puerta abierta. Iniciativas como el Índice Latinoamericano de Inteligencia Artificial (ILIA) buscan medir el desarrollo de la IA en la región y promover políticas públicas. Brasil, Chile y México han comenzado a esbozar estrategias nacionales, aunque con presupuestos limitados.
El riesgo es que la brecha digital se amplíe. Si los estándares de seguridad se definen sin la participación de los países en desarrollo, es probable que estos queden relegados a meros consumidores de tecnología, sin capacidad de influir en su diseño. La intervención de Altman en la ONU, aunque centrada en los riesgos existenciales, también es una oportunidad para incluir voces diversas en la conversación.
Una ventana que se cierra
La comparecencia de Sam Altman ante el Consejo de Seguridad no produjo compromisos concretos ni resoluciones vinculantes. Fue, más bien, un llamado de atención. Su mensaje final fue que la IA puede ser la tecnología más transformadora de la historia, pero también la más peligrosa si se desarrolla sin supervisión.
La pregunta que queda flotando es si el mundo está dispuesto a actuar antes de que ocurra un incidente grave. La historia muestra que la cooperación internacional suele llegar después de la catástrofe, no antes. Con la IA, ese margen de error podría ser fatal. Altman lo sabe y, por eso, insiste en que el momento de actuar es ahora.
Fuente original: Sam Altman’s remarks at the United Nations Security Council
