Google, Microsoft y xAI abrirán sus modelos de IA al Gobierno de EE. UU. por razones de seguridad

Las principales empresas de inteligencia artificial comenzaron a abrir sus desarrollos más avanzados al escrutinio del Gobierno de Estados Unidos. Microsoft, Google y xAI acordaron compartir versiones preliminares de sus nuevos modelos para que sean evaluados antes de su lanzamiento, con el objetivo de detectar posibles riesgos para la seguridad nacional y la ciberseguridad.

La iniciativa será coordinada por el Centro de Estándares e Innovación en IA (CAISI), organismo adscrito al Departamento de Comercio estadounidense, que tendrá la tarea de analizar el comportamiento de estos sistemas antes de que lleguen al público. Además de las pruebas previas, el organismo continuará monitoreando el desempeño de los modelos una vez entren en funcionamiento.

Según el Instituto Nacional de Estándares y Tecnología (NIST), el programa busca fortalecer la capacidad del Gobierno para identificar vulnerabilidades relacionadas con ataques informáticos, uso indebido de la inteligencia artificial y otras amenazas que puedan afectar infraestructuras críticas.

El modelo Mythos aceleró las preocupaciones

La decisión llega después de la presentación de Mythos, el nuevo modelo desarrollado por Anthropic, que despertó inquietud por sus capacidades en materia de ciberseguridad.

La compañía aseguró que el sistema supera ampliamente a otros modelos en tareas relacionadas con seguridad informática y por esa razón, limitó inicialmente su acceso a un grupo reducido de organizaciones autorizadas mientras informaba sobre sus capacidades a funcionarios del Gobierno estadounidense.

El caso reavivó el debate sobre la necesidad de establecer mecanismos oficiales para revisar los sistemas de inteligencia artificial antes de que sean liberados al mercado.

Hasta ahora, el CAISI ha realizado más de 40 evaluaciones técnicas de modelos de IA, pero con estos nuevos acuerdos contará con acceso anticipado a desarrollos de algunas de las compañías más influyentes del sector.

Especialistas consideran que esta colaboración permitirá realizar pruebas más completas, aunque también reconocen que el organismo público dispone de menos recursos técnicos y computacionales que las grandes empresas tecnológicas.

Washington estudia nuevas reglas

El acceso temprano a los modelos forma parte de una estrategia más amplia impulsada por la administración estadounidense para reforzar la supervisión sobre la inteligencia artificial.

La Casa Blanca confirmó que mantiene consultas con expertos para estudiar un posible proceso formal de revisión gubernamental de los nuevos modelos de IA, una medida que supondría un cambio frente al enfoque menos regulatorio aplicado hasta ahora.

Microsoft señaló que trabajará junto con científicos del Gobierno para detectar comportamientos inesperados y desarrollar metodologías compartidas de evaluación. Google evitó pronunciarse sobre el acuerdo, mientras que xAI no entregó declaraciones.

El Pentágono amplió sus alianzas con empresas como Microsoft, Google, OpenAI y Nvidia para acelerar la incorporación de inteligencia artificial en proyectos relacionados con defensa e inteligencia, reflejando el creciente interés del Gobierno estadounidense por supervisar y al mismo tiempo, aprovechar el avance de esta tecnología.