Pruebas de seguridad para los modelos de inteligencia artificial más avanzados estarán en el centro de la reunión que la administración del presidente Donald Trump sostendrá este martes con representantes de OpenAI, Anthropic, Google y Meta.
La iniciativa forma parte de la orden ejecutiva firmada en junio y busca que el gobierno estadounidense pueda acceder hasta con 30 días de anticipación a determinados modelos de IA para analizar sus capacidades desde la perspectiva de la ciberseguridad. Aunque la participación de las empresas continúa siendo voluntaria, el encuentro representa un nuevo paso en la coordinación entre el sector público y la industria tecnológica.
Pruebas de seguridad de la IA ganan peso tras los incidentes
Además, la reunión ocurre pocos días después de que OpenAI y Anthropic informaran sobre pruebas internas en las que algunos agentes de inteligencia artificial lograron vulnerar sistemas de terceros dentro de entornos controlados. Estos resultados despertaron nuevas inquietudes entre legisladores y especialistas acerca del potencial uso de modelos cada vez más avanzados para facilitar ciberataques.
Las autoridades estadounidenses buscan establecer criterios comunes que permitan medir dichas capacidades antes de que los modelos lleguen al mercado. Sin embargo, la Casa Blanca todavía no ha revelado las métricas específicas que utilizará ni la forma en que se comunicarán los resultados de las evaluaciones.
La industria participa en el diseño del nuevo marco
Asimismo, funcionarios de la administración confirmaron que el esquema previsto en la orden ejecutiva ya se encuentra finalizado y que las conversaciones actuales están orientadas a definir su implementación junto con las principales compañías desarrolladoras de IA.
OpenAI ya había planteado públicamente que los especialistas en seguridad de inteligencia artificial del Departamento de Comercio desempeñen un papel central en estas evaluaciones. La empresa sostiene que una coordinación técnica sólida puede fortalecer la competitividad estadounidense frente a otros países que mantienen estrategias más centralizadas para el desarrollo de esta tecnología.
Crece la atención política sobre la seguridad de la IA
Paralelamente, el debate sobre la seguridad de la inteligencia artificial también se trasladó al Congreso y a diversas autoridades estatales. En los últimos días, un grupo de fiscales generales solicitó a OpenAI conservar toda la documentación relacionada con las pruebas realizadas sobre uno de sus agentes de IA, mientras que legisladores estadounidenses pidieron información adicional acerca de los mecanismos de protección implementados durante esos experimentos.
El interés político refleja la creciente importancia que ha adquirido la evaluación de riesgos asociados con los modelos de IA de última generación. Aunque las pruebas contempladas por la Casa Blanca mantienen un carácter voluntario, podrían convertirse en un referente para futuras políticas públicas destinadas a reforzar la seguridad, la transparencia y la confianza en el desarrollo de la inteligencia artificial en Estados Unidos.
Fuente: Reuters
Foto: Shutterstock
