El chatbot de soporte de Meta, diseñado para agilizar la recuperación de cuentas y la seguridad, ha sido explotado para secuestrar cuentas de Instagram de alto perfil. Informes de Xataka y 404 Media confirman que los atacantes eludieron los protocolos de seguridad, no mediante software sofisticado, sino utilizando ingeniería social para convencer a la IA de que les otorgara acceso total a las cuentas.
Las pruebas de la brecha surgieron durante el fin de semana, cuando usuarios en Reddit y X reportaron secuestros masivos de cuentas. Entre los perfiles comprometidos se encontraba la cuenta de Instagram de la Casa Blanca durante la administración Obama, la cual había permanecido inactiva desde 2017. Jane Wong, ex investigadora de Meta y experta en seguridad, informó en Threads que su propia cuenta fue vulnerada tras ser bloqueada, señalando que su contraseña había sido cambiada sin su autorización.
Meta introdujo el asistente de soporte con IA en marzo, presentándolo como una herramienta ágil para resolver problemas de cuenta e identificar impostores. Sin embargo, como señaló Futurism, la función destinada a automatizar el servicio al cliente se convirtió en un riesgo. Según 404 Media, el chatbot funcionó exactamente como estaba programado, priorizando la utilidad sobre la seguridad; cuando los atacantes utilizaron VPN para imitar la ubicación geográfica de un objetivo y solicitaron acceso a la cuenta, la IA accedió a sus peticiones.
En un caso documentado, un atacante simplemente solicitó a la IA que vinculara una nueva dirección de correo electrónico a una cuenta objetivo, proporcionando el nombre de usuario y el identificador de la víctima. La IA respondió enviando un código de verificación de un solo uso al correo del atacante, entregando efectivamente el control de la cuenta a un tercero no autorizado. Este exploit destaca una falla crítica al delegar la gestión de cuentas sensibles a sistemas automatizados que carecen de la capacidad para detectar intenciones manipuladoras.
Ian Goldin, de Black Lotus Labs, en declaraciones a Krebs on Security, enfatizó las implicaciones más amplias de esta vulnerabilidad. Señaló que los bots de IA son tan susceptibles al engaño como los empleados humanos, afirmando: "Al igual que los empleados humanos de servicio al cliente pueden ser manipulados mediante ingeniería social para proporcionar acceso no autorizado a la cuenta de alguien, los bots de IA están igual de dispuestos a ayudar y son vulnerables a la persuasión y el engaño".
Aunque se ha informado que Meta ha implementado nuevas salvaguardas para mitigar el exploit, la duración de la vulnerabilidad sigue siendo motivo de preocupación. Existen pruebas que sugieren que la falla pudo haber estado activa en los sistemas de Meta desde febrero, por lo que el número total de cuentas comprometidas sigue siendo desconocido. El incidente sirve como un crudo recordatorio de que, mientras la industria tecnológica impulsa la automatización generalizada, los sistemas de IA siguen siendo una superficie nueva y altamente efectiva para la explotación.
