NACIONES UNIDAS.— Directivos de tres de las empresas más influyentes en inteligencia artificial pidieron al Consejo de Seguridad de la ONU establecer salvaguardas internacionales para evitar que sistemas cada vez más capaces queden fuera del control humano o sean utilizados con fines destructivos. Sam Altman, director ejecutivo de OpenAI; Dario Amodei, director ejecutivo de Anthropic, y Clément Delangue, cofundador de Hugging Face, participaron el miércoles 23 de septiembre en una sesión celebrada durante la Asamblea General.
La comparecencia colocó a los creadores de la tecnología frente al órgano encargado de la paz y la seguridad internacionales. Los tres coincidieron en que la inteligencia artificial puede ampliar el acceso a educación, investigación científica y herramientas productivas, pero también advirtieron sobre biotecnología, ciberataques, armas autónomas y concentración de poder.
El riesgo de perder el control
Altman sostuvo que las decisiones fundamentales no deben quedar en manos de una sola compañía, país o persona. Defendió estándares internacionales y afirmó que las personas deben permanecer en el centro de las decisiones. Su planteamiento combinó apertura a la regulación con cautela ante normas demasiado rígidas que frenen aplicaciones útiles.
Amodei fue más explícito sobre los peligros. Señaló que actores terroristas ya utilizan modelos para investigar armas biológicas y que el avance acelerado podría superar la capacidad humana para dirigir los sistemas. Propuso verificar de manera independiente qué pueden hacer los modelos, acordar pruebas comunes y establecer límites frente a usos que comprometan la seguridad colectiva.
Delangue defendió una distribución más amplia de capacidades y recursos. Hugging Face impulsa modelos abiertos y herramientas compartidas, una perspectiva distinta a la de laboratorios que mantienen cerrados sus sistemas más poderosos. La presencia de enfoques empresariales diferentes mostró que no existe una única receta dentro de la industria.
Estados Unidos rechaza un regulador mundial
La Casa Blanca se opuso a crear una nueva estructura global que limite el desarrollo. Michael Kratsios, asesor científico del gobierno estadounidense, afirmó que las preocupaciones no justifican una pausa ni una autoridad supranacional. Washington sostiene que los países deben conservar la responsabilidad principal sobre la regulación y que la competencia tecnológica con China exige mantener el ritmo de innovación.
China pidió mayor cooperación y rechazó la formación de bloques tecnológicos que obliguen a otros países a elegir bando. Su representante ante la ONU defendió los modelos de código abierto y advirtió contra la concentración de infraestructura y datos en unas cuantas potencias o empresas.
La divergencia resume el problema político: los riesgos son globales, pero las herramientas de control siguen siendo nacionales. Un modelo desarrollado en un país puede ser utilizado desde otro, integrado en sistemas militares o adaptado por actores no estatales. Sin mecanismos de verificación compartidos, los compromisos voluntarios tienen un alcance limitado.
Biología, ciberseguridad y armas autónomas
El debate no se limitó a escenarios hipotéticos. Los participantes señalaron que los modelos ya ayudan a encontrar vulnerabilidades informáticas, producir código y ordenar información científica compleja. Esas capacidades pueden apoyar investigaciones médicas, pero también reducir barreras para el diseño de patógenos o ataques digitales.
El secretario general de la ONU, António Guterres, había advertido previamente sobre armas capaces de seleccionar objetivos sin intervención humana suficiente. El presidente de Ucrania, Volodímir Zelenski, pidió establecer control antes de que máquinas tomen decisiones decisivas en el campo de batalla. Francia comparó el momento con el inicio de la era atómica y reclamó reglas que permitan obtener beneficios sin aceptar los peores riesgos.
Quién verifica a los laboratorios
Una de las cuestiones centrales es la evaluación independiente. Las empresas prueban sus propios modelos antes del lanzamiento, pero gobiernos y especialistas cuestionan si ese esquema basta cuando los sistemas pueden encontrar formas imprevistas de resolver tareas. Amodei propuso estándares comunes para medir pérdida de control y uso indebido; Altman ofreció colaborar con marcos internacionales.
La sesión no produjo un tratado ni una resolución obligatoria. Sí estableció un precedente: los principales laboratorios reconocieron ante el Consejo de Seguridad que la capacidad tecnológica requiere supervisión pública y coordinación internacional. El siguiente paso dependerá de que los gobiernos traduzcan esa coincidencia general en reglas verificables sobre pruebas, acceso, responsabilidad y respuesta a incidentes.
Fuentes: Organización de las Naciones Unidas, Associated Press, The National, Reuters.
