El Centro para Avanzar la Innovación y los Estándares para la Superinteligencia (CAISSI, por sus siglas en inglés), una división del Departamento de Comercio de Estados Unidos, habría recibido instrucciones para reportar de manera informal a una oficina de la Casa Blanca, según informó The Associated Press y recogieron Gestión, Unite.AI y DiarioBitcoin. La medida despierta sospechas sobre la independencia de las evaluaciones federales de seguridad de la inteligencia artificial y llega en un momento en que el centro opera sin un director permanente y dejó de publicar informes sobre el desempeño seguro de ciertos sistemas.
Las claves
- Dos exfuncionarios del gobierno estadounidense, citados por AP bajo condición de anonimato, describieron la petición de reportar informalmente a una oficina de la Casa Blanca no identificada.
- CAISSI tiene un presupuesto anual de US$ 10 millones, aproximadamente una octava parte del de su homólogo británico, según Unite.AI y DiarioBitcoin.
- En abril contrató a un director que fue despedido pocos días después; su reemplazo renunció tras unos meses, dejando al centro sin un director permanente.
- En agosto, el Congreso solicitó explicaciones por la interrupción de la publicación de sus informes, y OpenAI pidió más financiación y apoyo para la división.
- La Casa Blanca no respondió preguntas específicas sobre CAISSI, pero dijo que Trump creó una Fuerza de Superinteligencia y encargó un informe sobre riesgos.
¿Qué es CAISSI y por qué importa?
CAISSI es una división del Departamento de Comercio que, hasta hace poco, se llamaba Centro de Estados Unidos para los Estándares y la Innovación en IA. NIST lo describe como el principal punto de contacto gubernamental con la industria para pruebas e investigación colaborativa sobre sistemas comerciales de superinteligencia. Su mandato incluye elaborar directrices de medición, mejores prácticas y estándares voluntarios; establecer acuerdos voluntarios con desarrolladores y evaluadores; y dirigir evaluaciones no clasificadas de riesgos demostrables para la seguridad nacional relacionados con la ciberseguridad, la bioseguridad y las armas químicas.
El centro también debe evaluar sistemas de adversarios para detectar vulnerabilidades, puertas traseras y otras conductas maliciosas encubiertas. Su tarea incluye coordinar métodos y evaluaciones con los departamentos de Defensa y de Energía, el Departamento de Seguridad Nacional, la Oficina de Política Científica y Tecnológica y la comunidad de inteligencia.
La preocupación se intensifica ante el desarrollo de agentes de IA capaces de ejecutar tareas de manera autónoma, tomar decisiones y realizar múltiples acciones sin intervención humana constante. Especialistas advierten que los mecanismos tradicionales de evaluación resultan insuficientes para identificar los riesgos de estos sistemas, porque no basta con verificar el resultado final de una tarea, sino que también es necesario examinar los pasos que siguió la inteligencia artificial para completarla.
Cambio de interlocución y temor a la politización
El cambio de interlocución preocupa a críticos que temen que decisiones técnicas con consecuencias para la ciberseguridad, la privacidad y los derechos civiles queden expuestas a presiones políticas. También advierten que los resultados de las evaluaciones podrían modificarse o no divulgarse si entran en conflicto con los intereses de una industria a la que, en gran medida, se le ha confiado la autorregulación. La información disponible no establece que esto ya haya ocurrido, pero sí refleja el temor a que la independencia del centro se debilite.
Caroline Siegel Singh, responsable de programas de IA y tecnologías emergentes en la Federation of American Scientists, defendió que las políticas de interés público fueran elaboradas por expertos tecnocráticos no partidistas o bipartidistas. Su planteamiento pone el foco en la necesidad de que las evaluaciones técnicas no dependan de prioridades partidistas o comerciales.
Otros observadores sostienen que situar a los responsables de seguridad de IA más cerca del presidente Donald Trump podría elevar la visibilidad de CAISSI y, eventualmente, ayudar a conseguir más recursos. Por ahora, el centro recibe US$ 10 millones al año, aproximadamente una octava parte del presupuesto de su contraparte británica, pese a que el Reino Unido cuenta con menos compañías dedicadas a tecnologías de frontera, según Unite.AI y DiarioBitcoin.
Autorregulación y evaluación de agentes autónomos
El debate ocurre mientras el gobierno de Donald Trump impulsa una política que prioriza el liderazgo estadounidense en inteligencia artificial y promueve que las propias empresas tecnológicas asuman mayores responsabilidades en la evaluación de sus sistemas. En septiembre, el mandatario solicitó a las principales compañías del sector una mayor autorregulación mediante un acuerdo voluntario de seguridad. Sin embargo, su administración todavía no ha explicado cómo supervisará el cumplimiento de esos compromisos.
La Orden Ejecutiva 14409, emitida el 2 de junio de 2026, ordena a las agencias de seguridad nacional que, en consulta con NIST y otras entidades, elaboren un proceso clasificado para evaluar comparativamente las capacidades cibernéticas avanzadas. El objetivo de ese proceso es establecer el umbral para designar un «modelo de frontera cubierto». La orden también contempla un marco voluntario en virtud del cual los desarrolladores podrían permitir al Gobierno acceder a los modelos de frontera cubiertos durante un máximo de 30 días antes de la fecha prevista para su lanzamiento a otros socios de confianza. Establece expresamente que no autoriza al Gobierno a exigir licencias, autorizaciones previas ni permisos para desarrollar, publicar, lanzar o distribuir modelos de IA.
Sayash Kapoor, quien está por incorporarse como profesor asistente en la Escuela de Información de University of California, Berkeley, dijo que no existe un proceso estándar para evaluar con qué seguridad actúan los agentes en situaciones reales. Puso como ejemplo a un agente que reserva un vuelo: comprobar solo el resultado final puede hacer que la tarea parezca haberse realizado correctamente. «Pero, a menos que se examine la secuencia completa de pasos que siguió el agente, no se podrá saber que cometió un error garrafal», afirmó.
Las evaluaciones privadas no necesariamente ofrecen una salvaguarda independiente. Dario Amodei, director ejecutivo de Anthropic, y Sam Altman, director ejecutivo de OpenAI, han promovido las firmas independientes de evaluación, pero sus empresas pueden limitar el acceso de esas firmas y descartar sus evaluaciones.
¿Qué se sabe y qué falta por confirmar?
La Casa Blanca no respondió a las preguntas específicas sobre CAISSI, pero afirmó que Trump había creado oficialmente una Fuerza de Superinteligencia y encargado un informe de riesgos a su Consejo de Asesores en Ciencia y Tecnología. El comunicado, según la información reportada, no detalló el papel que tendrá CAISSI ni cómo se publicarán futuras evaluaciones.
Queda por confirmar la identidad de la oficina de la Casa Blanca a la que reportaría el centro, el alcance formal del acuerdo informal y si este derivará en una reorganización administrativa. Tampoco se sabe si el centro reanudará la publicación de informes sobre seguridad de sistemas de IA ni cómo se integrará su trabajo con el marco voluntario de la Orden Ejecutiva 14409. La información disponible no establece que haya habido modificaciones o supresiones de conclusiones técnicas, solo refleja la inquietud de exfuncionarios y especialistas.
