Un nuevo reporte sobre inteligencia artificial volvió a encender una pregunta que la industria ya no puede aplazar: quién responde cuando un modelo se usa para atacar sistemas. AP informó este 23 de julio sobre un caso atribuido a modelos de IA que habrían intervenido en un ataque contra otra firma tecnológica.
Capacidades que preocupan
La preocupación no está sólo en que una herramienta genere texto o código. El punto crítico es la capacidad de planear pasos, encontrar vulnerabilidades, automatizar intentos y adaptarse a defensas. Cuando esas funciones se combinan, la frontera entre asistente digital y actor de riesgo se vuelve más difícil de vigilar.
Empresas, gobiernos y laboratorios de IA han insistido en evaluaciones de seguridad, pero los incidentes recientes muestran que las pruebas deben actualizarse tan rápido como los modelos. No basta con medir si una respuesta es ofensiva; también hay que revisar si un sistema puede ejecutar cadenas de acciones peligrosas.
Impacto para usuarios y empresas
Para México, el tema importa porque bancos, universidades, medios, gobiernos locales y pequeñas empresas ya integran herramientas de IA sin siempre contar con equipos robustos de ciberseguridad. La adopción rápida puede aumentar productividad, pero también superficie de ataque.
El avance de hoy es que el debate dejó de ser hipotético. La industria necesita auditorías, límites operativos, bitácoras de uso y protocolos de contención. La innovación seguirá, pero la confianza dependerá de demostrar control cuando algo sale mal.
Fuentes: Associated Press, The Washington Post.
