Colombia pide reglas para la inteligencia artificial ante el Consejo de Seguridad de la ONU

Colombia planteó ante el Consejo de Seguridad de las Naciones Unidas la necesidad de establecer reglas para el desarrollo de la inteligencia artificial, al advertir sobre los riesgos que pueden surgir cuando los sistemas avanzados actúan de maneras que sus propios desarrolladores no comprenden, se apartan de las instrucciones humanas o alcanzan niveles de autonomía que dificultan mantener su control.

La posición fue presentada por Mauricio Gaona, representante permanente de Colombia ante la ONU, durante una sesión del Consejo de Seguridad dedicada a la inteligencia artificial y la seguridad internacional. El encuentro reunió a algunos de los principales representantes de la industria y la investigación en este campo, entre ellos Sam Altman, director ejecutivo de OpenAI; Dario Amodei, director ejecutivo de Anthropic; Clément Delangue, cofundador y director ejecutivo de Hugging Face, y Yoshua Bengio, ganador del Premio Turing y copresidente del Panel Científico Internacional Independiente sobre Inteligencia Artificial de Naciones Unidas.

Le sugerimos leer (Bruce Mac Master rompe el silencio en la ANDI: exige frenar ataques al gremio empresarial)

Durante su intervención, Gaona sostuvo que la discusión en el Consejo de Seguridad no debía concentrarse en los beneficios de la inteligencia artificial, sino en los riesgos que puede representar para los Estados y para la humanidad cuando los sistemas adquieren capacidades que superan los mecanismos disponibles para supervisarlos.

El diplomático colombiano señaló que uno de los principales problemas aparece cuando los seres humanos dejan de comprender lo que hace una máquina y las razones por las cuales adopta determinadas decisiones. La intervención se produjo después de que los expertos expusieran casos relacionados con sistemas capaces de apartarse de instrucciones, buscar mecanismos para cumplir objetivos por vías no previstas y ejecutar acciones que pueden comprometer la seguridad informática.

Gaona se refirió particularmente a dos conceptos: el desalineamiento y la pérdida de control. Sobre el primero, explicó que existen situaciones en las que agentes de inteligencia artificial encuentran mecanismos para evadir las instrucciones establecidas por seres humanos, engañar los sistemas utilizados para evaluarlos o buscar alternativas no previstas para alcanzar un objetivo.

El segundo riesgo señalado por Colombia corresponde a la pérdida de control, especialmente frente al desarrollo de sistemas con capacidad para escribir código, encontrar soluciones y definir procedimientos de manera cada vez más autónoma. Para la representación colombiana, el asunto adquiere relevancia internacional cuando los seres humanos pueden dejar de comprender plenamente los procesos mediante los cuales la inteligencia artificial llega a determinados resultados.

La discusión tuvo como antecedente las advertencias presentadas durante la misma sesión por Yoshua Bengio. El investigador propuso que los sistemas de inteligencia artificial de frontera estén sometidos a licencias, de manera similar a los controles existentes en sectores como la medicina, la aviación y la energía nuclear. También planteó que sus desarrolladores cuenten con seguros de responsabilidad civil.

Bengio advirtió además que algunos agentes de inteligencia artificial sometidos a pruebas han mostrado comportamientos que se apartan de las instrucciones recibidas, entre ellos intentos de evadir mecanismos de detección y acciones autónomas relacionadas con ciberseguridad. Su planteamiento ante el Consejo de Seguridad fue que ningún Estado puede enfrentar por sí solo los riesgos derivados de sistemas avanzados que operan más allá de las fronteras nacionales.

Sam Altman, por su parte, reconoció ante el Consejo de Seguridad que el avance de la inteligencia artificial combina oportunidades con riesgos y pidió cooperación internacional para establecer estándares que permitan evaluar capacidades, identificar amenazas, verificar salvaguardas y compartir información sobre vulnerabilidades. El director ejecutivo de OpenAI planteó que uno de los escenarios que requiere atención es el desarrollo de sistemas que progresen a una velocidad que dificulte a los seres humanos comprenderlos y mantenerlos bajo supervisión.

Colombia señaló que la respuesta no debe convertirse en una elección entre innovación y seguridad. Gaona sostuvo que el país busca participar en el desarrollo de la inteligencia artificial, atraer inversiones y recibir infraestructura asociada a esta industria, incluidos centros de datos, en lugar de limitarse a consumir tecnologías producidas en otros países.

El representante colombiano también manifestó que una entidad internacional encargada de supervisar directamente la producción soberana de inteligencia artificial tendría dificultades prácticas, jurídicas y de seguridad nacional. Según su intervención, las diferencias regulatorias entre países también representarían un problema, pues mientras una nación podría restringir determinados desarrollos, otras podrían continuar avanzando en ellos.

A partir de ese escenario, Colombia defendió la necesidad de avanzar en mecanismos regulatorios que tengan en cuenta tanto el desarrollo tecnológico como los riesgos derivados de la autonomía de los sistemas. Gaona comparó el debate con las normas existentes para actividades y productos capaces de poner en peligro la vida humana y planteó que la inteligencia artificial no debería quedar al margen de algún tipo de regulación.

La posición colombiana puso énfasis en que el problema no consiste en limitar la innovación humana, sino en determinar hasta dónde puede avanzar la innovación realizada por las propias máquinas sin mecanismos suficientes de comprensión y control humano. La representación del país consideró que ese punto adquiere una dimensión de seguridad internacional cuando las capacidades de estos sistemas pueden afectar infraestructuras, información, sistemas de ciberseguridad o intereses estatales.

La sesión del Consejo de Seguridad se desarrolló en medio del debate internacional sobre las reglas que deberán acompañar la expansión de la inteligencia artificial y el papel que tendrán los Estados, las empresas tecnológicas y los organismos multilaterales. Para Colombia, el principio expuesto ante Naciones Unidas fue que el avance tecnológico debe mantenerse acompañado de reglas que permitan conservar el control humano y reducir los riesgos para los Estados y la población.

Otras noticias