-
Aurascape halló que los atacantes afectan a plataformas de IA como ChatGPT, Google y Perplexity.
-
El fraude manipula sitios legítimos para influir en respuestas generadas por IA.
Aurascape, una empresa de ciberseguridad e inteligencia artificial (IA) creada por Auradine pero operada de forma independiente dentro del ecosistema de Aura Labs, reveló un nuevo modelo de estafa en internet.
Los fraudes mencionados en un comunicado del 8 de diciembre afectan a plataformas de IA como ChatGPT, Google, Perplexity y otros asistentes basados en grandes modelos de lenguaje generativo.
De acuerdo con la investigación, este modelo de estafa se apoya en la manipulación sistemática de contenidos en la web para desviar a los usuarios hacia números telefónicos falsos de atención al cliente de aerolíneas.
Los investigadores explican que los atacantes no intentan alterar el funcionamiento interno de los asistentes de IA (los programas que responden preguntas mediante modelos avanzados).
En lugar de eso, intervienen el entorno del que esos sistemas obtienen información. Manipulan páginas legítimas en la web para que, al buscar datos de contacto de aerolíneas, los asistentes terminen mostrando teléfonos falsos que conducen a centros de estafa orientados a obtener pagos o datos sensibles.
En términos prácticos, el ataque no se dirige al modelo de IA en sí, sino al material que este consulta.
Por eso, más que engañar al usuario de forma directa, los atacantes están aprendiendo a influir en los sistemas que sintetizan las respuestas, lo que amplifica el alcance del fraude, según el equipo de Aurascape.
¿Cómo funciona la estafa: manipular la web para engañar a la IA?
De acuerdo con Aurascape, los estafadores llevan adelante un proceso que los investigadores describen como «LLM phone-number poisoning» (envenenamiento de números telefónicos para modelos de lenguaje).
Ese mecanismo consiste en modificar contenidos legítimos en internet para que los asistentes de IA los lean y recomienden números falsos como si fueran oficiales.
Los investigadores explican que «los atacantes están atacando la web misma». Para lograrlo, insertan contenido falso en sitios de organismos públicos, universidades, blogs de WordPress, descripciones de YouTube y reseñas en plataformas como Yelp.
En adición, los hackers usan otras técnicas conocidas como Generative Engine Optimization y Answer Engine Optimization, para influir en cómo los sistemas seleccionan y sintetizan la información disponible.
Mediante esas dos técnicas, consiguen ocupar el espacio que los asistentes de IA consideran «la respuesta correcta».
Ejemplos ilustrados por Aurascape
En una demostración interna, Aurascape mostró que al consultar por «el número oficial de reservas de Emirates Airlines», Perplexity devolvió con seguridad un número fraudulento:
Una consulta similar sobre British Airways arrojó el mismo teléfono, presentado como “una línea comúnmente usada”.
Incluso, como se ve en la siguiente imagen, la función AI Overview de Google presentó varios números falsos como si fueran oficiales, acompañados por instrucciones paso a paso para reservar vuelos:
Mineros de Bitcoin y la industria de la IA
Auradine es una empresa estadounidense que se dedica a la creación de hardware para la minería de Bitcoin. Otras mineras como MARA (MARA) y Genesis Digital Assets (GDA) ya adquirieron sus equipos ASIC.
Sin embargo, la investigación de Aurascape también ilustra un fenómeno aparte que crece cada día más: la intersección entre compañías mineras de Bitcoin y de la industria de la IA.
Como lo reportó CriptoNoticias, los mineros están ampliando sus líneas de negocio hacia actividades relacionadas con la inteligencia artificial.
Estas empresas, habituadas a operar grandes infraestructuras de hardware y centros de datos, buscan reducir la exposición a la volatilidad del mercado minero diversificando sus servicios.
El análisis de seguridad realizado por Auradine es un ejemplo de cómo avanza esa intersección y de cómo los mineros emplean su experiencia técnica para ingresar en sectores donde la demanda de cómputo, análisis y ciberseguridad crece de forma sostenida.
