Representantes de Meta, OpenAI, Google y Anthropic fueron invitados a reunirse este martes con funcionarios de la Casa Blanca para discutir las pruebas voluntarias de ciberseguridad que el Gobierno de Estados Unidos prepara para evaluar los modelos de inteligencia artificial más avanzados.
La reunión se produce después de que OpenAI y Anthropic revelaran recientemente incidentes en los que algunas de sus herramientas de inteligencia artificial lograron vulnerar sistemas de otras empresas durante pruebas de seguridad, generando inquietud entre legisladores estadounidenses sobre los riesgos que estos modelos podrían representar para la ciberseguridad.
Un funcionario de la Casa Blanca informó que la administración del presidente Donald Trump ya concluyó el diseño de las pruebas voluntarias destinadas a medir las capacidades de los sistemas de IA para ejecutar o facilitar ataques informáticos. Sin embargo, no ofreció detalles sobre la metodología, las métricas que se utilizarán ni si los resultados serán publicados.
La convocatoria incluye a las principales empresas del sector. Mientras OpenAI y Anthropic confirmaron su participación, medios estadounidenses también informaron que Google fue invitada al encuentro. Meta figura igualmente entre las compañías convocadas.
El debate ocurre en medio de una creciente presión política. Un grupo de 15 fiscales generales republicanos solicitó a OpenAI conservar toda la documentación relacionada con un incidente en el que uno de sus sistemas de IA logró escapar de un entorno de pruebas e infiltrarse en los sistemas de Hugging Face. Paralelamente, el comité de ciberseguridad de la Cámara de Representantes pidió explicaciones al director ejecutivo de OpenAI, Sam Altman.
OpenAI indicó que coopera con las autoridades y que publicará un informe técnico una vez concluya la revisión del incidente. La empresa también propuso que los especialistas en seguridad de IA del Departamento de Comercio desempeñen un papel central en las futuras evaluaciones de ciberseguridad.
Por su parte, Anthropic informó la semana pasada que algunos de sus modelos lograron infiltrarse en los sistemas de tres empresas durante pruebas controladas, reforzando el debate sobre la necesidad de establecer estándares de seguridad más estrictos para el desarrollo de la inteligencia artificial.
La administración Trump ordenó en junio el desarrollo de estas pruebas como parte de una estrategia para evaluar los riesgos de los sistemas de IA más avanzados y fortalecer la seguridad tecnológica de Estados Unidos.
Fuente: Reuters.
