Volver

ChatGPT y otras IA dieron planes viables de ataque en 12 horas

ChatGPT y otras IA dieron planes viables de ataque en 12 horas
Imagen ilustrativa

Investigadores lograron que ChatGPT, Claude, Gemini y Grok entregaran planes viables para ataques en el mundo real en menos de 12 horas de intentos, según un informe de la Oficina de Rendición de Cuentas del Gobierno (GAO) difundido por Forbes Perú y Forbes México. El documento advierte que la inteligencia artificial puede reducir meses de investigaciones complejas a apenas unas horas de trabajo, con graves riesgos para la economía y la seguridad pública.

Las claves

  • Los cuatro chatbots principales fueron puestos a prueba por investigadores de la GAO y todos ofrecieron planes útiles para ataques reales en menos de 12 horas.
  • Dos herramientas dieron esquemas para inutilizar partes de la red eléctrica; las otras facilitaron instrucciones para atentados con explosivos de gran número de víctimas.
  • Los investigadores contrastaron la información con ubicaciones reales y consultaron a expertos; la GAO concluyó que los planes eran, en gran medida, “viables”.
  • Las consultas activaron mecanismos de seguridad como negativas a responder, eliminación de información o suspensión de cuentas, pero los investigadores los eludieron con técnicas comunes.
  • Al menos 70 personas murieron en ataques violentos planificados con ayuda de la inteligencia artificial, informó el Times de Londres.

¿Cómo lograron burlar los filtros de seguridad?

En cada caso, las consultas de los investigadores activaron los mecanismos de seguridad de las plataformas, según el informe. Sin embargo, los especialistas lograron sortear esas salvaguardas empleando técnicas comunes para evadir restricciones.

Los desarrolladores han incorporado filtros para bloquear solicitudes dañinas, pero los investigadores han demostrado en repetidas ocasiones que usuarios decididos pueden engañar a estos sistemas con lo que se conoce como “jailbreak”. Ese método consiste en plantear preguntas peligrosas bajo la apariencia de relatos de ficción, investigaciones académicas o juegos de rol.

Expertos en seguridad nacional, legisladores e investigadores tecnológicos llevan años advirtiendo que la IA generativa podría actuar como un multiplicador de fuerza para actores malintencionados. El Centro de Excelencia para la Defensa contra el Terrorismo calificó la instrumentalización de la IA como la “siguiente etapa del terrorismo y la guerra” y advirtió que podría permitir a grupos terroristas “operar con una eficiencia y eficacia sin precedentes”.

La respuesta de OpenAI, Anthropic, Google y xAI

Las empresas responsables de las herramientas —OpenAI, Anthropic, Google y xAI— afirmaron que actualizan constantemente sus medidas de seguridad. Anthropic cuestionó la validez de las pruebas y señaló que sus sistemas de protección han mejorado desde que se realizaron los ensayos esta primavera.

La GAO reconoció que las pruebas no constituyeron una comparación científica rigurosa entre los chatbots. También indicó que algunos de los planes generados presentaban fallos importantes, como mapas erróneos, objetivos inaccesibles o métodos que, en la práctica, no causarían daños significativos. Pese a esas limitaciones, el organismo concluyó que los planes eran en gran medida viables.

Casos que ya vinculan la IA con ataques reales

Varios sospechosos ya fueron acusados de utilizar herramientas de IA para planificar ataques en el mundo real, según el informe. Entre los casos mencionados figuran un incidente con explosivos en un hotel de Las Vegas en enero de 2025 y la detonación de una bomba en Delhi que causó la muerte de al menos 15 personas.

El Times de Londres informó que al menos 70 personas murieron en ataques violentos planificados con la ayuda de la inteligencia artificial. Forbes México publicó originalmente el artículo y precisó que la versión inicial salió en Forbes US.

Lo que se sabe y lo que falta por confirmar

El informe de la GAO confirma que los cuatro chatbots generaron planes útiles y que los investigadores los consideraron viables tras contrastarlos con ubicaciones reales y consultar a expertos. También está claro que las empresas dicen actualizar sus protecciones y que Anthropic disputa la validez de las pruebas por la antigüedad de los ensayos.

Queda por confirmar si los fallos detectados en algunos planes —mapas erróneos, objetivos inaccesibles o métodos sin daño significativo— reducen el riesgo real de forma sustancial. La GAO no hizo una comparación científica rigurosa entre las herramientas, por lo que no se puede establecer cuál ofrece más o menos protección. Tampoco se precisa en la información disponible cuántos casos adicionales de ataques planificados con IA están bajo investigación.

Fuentes: Forbes Perú · Forbes México
0 Me gusta 0 Comentarios 3 Visualizaciones

Comentarios

🔔 ¿Te avisamos de lo importante?

Las noticias clave del día, sin spam. Lo desactivas cuando quieras.

Suscríbete al newsletter

Déjanos tu email para recibir novedades de InfoZuela.