Líderes de la industria de IA comparecen ante la ONU por riesgos globales

Este miércoles, los principales directivos de OpenAI, Anthropic y Hugging Face comparecen ante el Consejo de Seguridad de las Naciones Unidas para exponer los desafíos y riesgos asociados con el despliegue acelerado de la inteligencia artificial. La sesión fue convocada ante las crecientes preocupaciones internacionales sobre la posibilidad de perder el control sobre sistemas autónomos que podrían impactar la estabilidad global y la seguridad de las naciones.

Durante la jornada, los representantes de las firmas tecnológicas expondrán la necesidad urgente de establecer marcos regulatorios internacionales que permitan supervisar el desarrollo de modelos de lenguaje a gran escala. El objetivo central es evitar que el avance tecnológico supere la capacidad de respuesta de los gobiernos, proponiendo mecanismos de transparencia que faciliten una colaboración efectiva entre el sector privado y los organismos multilaterales.

Expertos en ciberseguridad y ética tecnológica han advertido en los últimos meses sobre la vulnerabilidad de las infraestructuras críticas ante el uso malintencionado de algoritmos avanzados. En el contexto de México, esta discusión resuena con los esfuerzos de la Secretaría de Infraestructura, Comunicaciones y Transportes y diversos organismos académicos por entender el impacto de estas herramientas en la administración pública y la protección de datos personales de los ciudadanos.

Los directivos proponen la creación de una instancia de vigilancia global que supervise el entrenamiento de modelos de inteligencia artificial de alto riesgo. Si bien las propuestas están en una fase inicial, buscan sentar las bases para que los países miembros de la ONU puedan integrar políticas de seguridad que prevengan el uso indebido de estas tecnologías sin frenar la innovación necesaria para el desarrollo científico y económico.

La sesión concluye con el compromiso de las empresas de mantener un diálogo abierto con los Estados integrantes del Consejo de Seguridad. Se espera que este encuentro sirva como punto de partida para que las naciones, incluyendo México a través de sus delegaciones diplomáticas en la SRE, definan una postura oficial sobre la gobernanza de la inteligencia artificial en los próximos años.