Trump y seis gigantes tecnológicos firmaron acuerdo en la Casa Blanca para controlar la superinteligencia

El presidente de Estados Unidos, Donald Trump, y los máximos responsables de seis de las compañías tecnológicas vinculadas al desarrollo de sistemas avanzados de inteligencia artificial firmaron el pasado 29 de septiembre en la Casa Blanca un acuerdo que estableció cuatro niveles de control para el entrenamiento y despliegue de modelos de frontera.

Las medidas incluyeron vigilancia interna, equipos especializados de supervisión, evaluaciones externas independientes y seguimiento desde las juntas directivas.

Lea también (Google presentó Gemini 4 Argon: así funciona su nueva inteligencia artificial de frontera)

El documento, denominado “White House Accord on Super Intelligence” —Acuerdo de la Casa Blanca sobre Superinteligencia—, fue presentado como un compromiso conjunto sobre las responsabilidades asociadas al desarrollo de estas tecnologías.

Además de Trump, fue firmado por Sundar Pichai, de Google; Dario Amodei, de Anthropic; Mark Zuckerberg, de Meta; Greg Brockman, de OpenAI; Elon Musk, de xAI, y Jensen Huang, de Nvidia.

El encuentro reunió a empresas que compiten directamente en el desarrollo de inteligencia artificial y que, al mismo tiempo, ocupan diferentes posiciones dentro de la infraestructura tecnológica que sostiene esta industria.

El objetivo del compromiso fue establecer mecanismos comunes de responsabilidad empresarial frente a sistemas que han adquirido mayores capacidades de razonamiento, programación, generación de contenidos, automatización de procesos, investigación y ejecución autónoma de determinadas tareas.

El acuerdo partió de un principio central: las compañías responsables de desarrollar estas tecnologías debían asumir también la responsabilidad principal de hacerlo de forma segura, generar confianza entre sus clientes y el público e identificar y corregir los problemas que pudieran surgir durante el entrenamiento o funcionamiento de sus sistemas.

El documento prestó especial atención a las empresas que entrenaban y desplegaban modelos de frontera. Para ellas estableció cuatro capas de controles y auditorías destinadas a verificar que la tecnología funcionara de acuerdo con los parámetros definidos por sus desarrolladores y que los posibles riesgos fueran detectados antes o durante su implementación.

El primer nivel consistió en implementar controles internos para vigilar las capacidades y el alineamiento de los modelos durante su entrenamiento y despliegue.

El acuerdo mencionó expresamente áreas como la ciberseguridad, la bioseguridad y las amenazas químicas, además de mecanismos destinados a impedir que los modelos vulneraran o accedieran de manera no prevista a sistemas tecnológicos.

El segundo componente estableció que las empresas debían disponer de equipos internos con capacidad suficiente para comprobar que los controles, la vigilancia y los sistemas de detección estuvieran funcionando según lo previsto. También les asignó la responsabilidad de intervenir cuando fueran identificadas fallas y garantizar que estas fueran corregidas.

La tercera capa introdujo la evaluación independiente. Las compañías se comprometieron a trabajar con auditores o evaluadores externos encargados de determinar si los controles internos y los mecanismos de monitoreo y detección funcionaban correctamente. Con ello, la revisión de los sistemas de seguridad dejó de plantearse únicamente como una tarea de los mismos equipos que desarrollaban los modelos.

El cuarto nivel llevó la responsabilidad hasta las juntas directivas de las compañías. El acuerdo contempló la designación de un comité independiente encargado de supervisar el funcionamiento de esos mecanismos y recibir informes de los equipos responsables de los controles, así como de los auditores y evaluadores internos y externos.

La estructura planteada creó, por tanto, una cadena de supervisión que comenzó en los equipos técnicos y llegó hasta los máximos órganos de gobierno corporativo, con una instancia independiente de evaluación en medio del proceso.

Las compañías participantes también se comprometieron a reunirse periódicamente para desarrollar estándares y mejores prácticas orientadas a aumentar la seguridad de sus sistemas. El documento dejó abierta, además, la posibilidad de que en el futuro algunos de esos mecanismos fueran incorporados a leyes o regulaciones.

El acuerdo no constituyó por sí mismo una nueva ley federal. Tampoco estableció en su texto un régimen de sanciones económicas ni convirtió automáticamente sus disposiciones en obligaciones regulatorias generales para toda la industria tecnológica estadounidense.

Se trató de compromisos asumidos por las empresas participantes, aunque el documento planteó expresamente la posibilidad de avanzar posteriormente hacia su codificación normativa.

La firma coincidió con otro movimiento de la administración Trump relacionado con la denominación de esta tecnología. Ese mismo 29 de septiembre, el mandatario firmó la Orden Ejecutiva 14434, denominada “Inaugurating the Era of Super Intelligence”, con la que dispuso que la rama ejecutiva federal utilizara, en la medida permitida por la legislación, los términos “Super Intelligence” y “SI” en lugar de “Artificial Intelligence” y “AI” en comunicaciones oficiales, páginas web, informes y determinados documentos de política pública.

La orden no significó que Estados Unidos hubiera creado inmediatamente una categoría jurídica completamente separada de la inteligencia artificial. Para efectos de su aplicación inicial, el concepto de “Super Intelligence” comprendió tecnologías y sistemas incluidos dentro de la definición legal de inteligencia artificial. La administración también abrió un proceso para desarrollar una definición federal más específica.

La Casa Blanca presentó el cambio como una forma de reflejar la evolución de sistemas cuyas aplicaciones se habían extendido hacia áreas como investigación científica, medicina, productividad, seguridad y creación de contenidos, mientras aumentaba la discusión sobre los controles necesarios para sistemas cada vez más capaces.

Jensen Huang, fundador y director ejecutivo de Nvidia, destacó días después el alcance del compromiso firmado en Washington. Según explicó, el principio era que las compañías que estaban desarrollando la tecnología asumieran la responsabilidad principal por su desarrollo y despliegue seguro y rindieran cuentas cuando los mecanismos establecidos no funcionaran.

Huang señaló que el acuerdo había reforzado esa responsabilidad mediante “controles internos robustos, evaluación externa independiente y supervisión a nivel de junta directiva”.

El ejecutivo también sostuvo que la superinteligencia ofrecía oportunidades para avanzar en descubrimiento, productividad, seguridad, salud y prosperidad, pero vinculó ese potencial con la capacidad de la industria para generar confianza alrededor de los sistemas que estaba desarrollando.

“El futuro de la Superinteligencia no solo estará moldeado por lo que puede hacer, sino por la confianza que gane”, escribió Huang al referirse al encuentro y divulgar el documento firmado.

La presencia de Nvidia tuvo una característica diferente frente a varios de los demás participantes. Mientras OpenAI, Anthropic, Google, Meta y xAI desarrollaban directamente modelos de inteligencia artificial, Nvidia ocupaba una posición central en la infraestructura computacional utilizada para entrenarlos y ejecutarlos.

Sus procesadores gráficos y plataformas de cómputo eran componentes esenciales de numerosos centros de datos destinados a cargas de trabajo de inteligencia artificial.

Google participaba tanto en el desarrollo de modelos como en servicios e infraestructura en la nube; Anthropic desarrollaba Claude; Meta trabajaba con la familia Llama; OpenAI desarrollaba sus modelos GPT y otros sistemas, y xAI competía con Grok. La reunión congregó así a compañías que cubrían diferentes segmentos de la cadena tecnológica de la inteligencia artificial.

El acuerdo se produjo mientras gobiernos, empresas y centros de investigación discutían cómo establecer controles para los modelos más avanzados. Entre los asuntos que habían adquirido mayor importancia se encontraban la ciberseguridad, los riesgos biológicos y químicos, la autonomía de los sistemas, las evaluaciones previas al despliegue, la transparencia y la responsabilidad de las empresas desarrolladoras.

Precisamente, el documento firmado en la Casa Blanca concentró parte de sus disposiciones en esos riesgos y estableció que los mecanismos de seguridad no debían permanecer únicamente bajo control de los equipos técnicos. La inclusión de evaluadores independientes y de las juntas directivas buscó ampliar la responsabilidad dentro de cada compañía.

Cuatro días después de aquella reunión, el acuerdo seguía representando principalmente un compromiso empresarial y no una regulación federal obligatoria para toda la industria. Sin embargo, el propio texto dejó planteado un paso posterior: evaluar si esos controles debían transformarse en leyes o regulaciones.

La reunión del 29 de septiembre dejó, de esta manera, una fotografía poco habitual de la industria tecnológica estadounidense: Google, Anthropic, Meta, OpenAI, xAI y Nvidia, competidores en una carrera de miles de millones de dólares por desarrollar sistemas cada vez más avanzados, suscribieron junto al presidente Trump un conjunto común de responsabilidades para controlar la tecnología que estaban construyendo.

Otras noticias