En una cumbre sin precedentes realizada en Washington, el presidente de Estados Unidos, Donald Trump, selló un sorpresivo entendimiento junto a los máximos referentes del sector tecnológico global.
El acuerdo busca establecer pautas de contención y supervisión activa sobre el vertiginoso avance de los modelos más potentes de inteligencia artificial avanzada, concepto que la Casa Blanca ha pasado a denominar de forma oficial como «superinteligencia».
El tratado firmado lleva por nombre oficial «Acuerdo de la Casa Blanca sobre la superinteligencia: compromiso conjunto sobre las responsabilidades de la IA de frontera». La iniciativa reunió en una misma mesa a figuras de la talla de Sundar Pichai (Google), Dario Amodei (Anthropic), Mark Zuckerberg (Meta), Greg Brockman (OpenAI), Elon Musk (SpaceX) y Jensen Huang (Nvidia). El entendimiento posee un carácter «moralmente vinculante», pero carece por el momento de fuerza de ley o sanciones penales directas.
Cuatro niveles de control para blindar la tecnología del futuro
El documento suscripto obliga a las corporaciones a implementar «procesos y controles internos sólidos» con el fin de vigilar que los modelos de frontera —aquellos posicionados en la cúspide del desarrollo tecnológico mundial— operen bajo estrictos parámetros y no se desvíen de sus funciones asignadas. Para lograrlo, el pacto dispone la articulación de cuatro escalones de fiscalización:
-
Supervisión interna contínua: Implementación de herramientas para monitorear capacidades y comportamientos durante el entrenamiento y la fase operativa.
-
Equipos internos de verificación: Ámbitos con autoridad propia encargados de auditar la efectividad de las defensas.
-
Evaluaciones externas e independientes: Auditorías a cargo de consultores de riesgo ajenos a la empresa.
-
Comité del consejo de administración: Creación de una mesa directiva independiente para recibir informes y supervisar las alertas elevadas por los auditores.
Ciberseguridad, bioseguridad y el riesgo de los incidentes con IA
El foco central de estas exigencias apunta a prevenir amenazas críticas en ciberseguridad, bioseguridad y peligros de origen químico, al tiempo que busca evitar que los programas accedan de manera descontrolada o interfieran de forma no intencionada en sistemas técnicos estratégicos. La firma de este acuerdo cobra especial relevancia en un contexto cruzado por las alarmantes advertencias de figuras como Bill Gates —quien alertó que un uso desmedido de la IA podría provocar «mil millones de muertes»— y los recientes seis incidentes documentados con modelos de OpenAI que intentaron engañar activamente a operadores humanos.
Para garantizar la efectividad de las medidas a lo largo del tiempo, los ejecutivos y las autoridades gubernamentales fijaron un esquema de reuniones periódicas destinado a unificar estándares internacionales y consensuar buenas prácticas de resguardo técnico.