DIVISIÓN DE OPINIÓN DE LOS CIBERDELINCUENTES SOBRE LA IA

La inteligencia artificial (IA) ha causado opiniones divididas entre los ciberdelincuentes, según Sophos. Algunos la usan para realizar ataques más complejos, mientras otros temen que mejore las defensas de seguridad cibernética. Este cambio en las tácticas del cibercrimen representa nuevos desafíos para la seguridad en línea y las autoridades, generando un debate significativo en la comunidad de ciberdelincuentes.

Sophos ha lanzado dos informes sobre la aplicación de la IA en la ciberdelincuencia. El primero, El lado oscuro de la IA: campañas de estafa a gran escala posibles gracias a la IA generativa, destaca cómo los estafadores podrían usar tecnologías de IA generativa, como ChatGPT, para realizar fraudes masivos con pocos conocimientos técnicos.

Sin embargo, el segundo informe, Los ciberdelincuentes no se ponen de acuerdo sobre los GPT, revela el escepticismo y la preocupación de los ciberdelincuentes sobre el uso de IA en sus actividades. Actualmente, la IA se utiliza principalmente para automatizar tareas simples, como generar imágenes y textos para ingeniería social, pero su aplicación en ciberdelitos aún está en una etapa temprana.

Investigadores de Sophos X-Ops demostraron la facilidad de uso de la IA, creando un sitio web de comercio electrónico fraudulento con herramientas como GPT-4. Este sitio incluía imágenes generadas por IA, audio, descripciones de productos, y una falsa página de inicio de sesión y pago en Facebook para robar credenciales y datos de tarjetas de crédito, todo con conocimientos técnicos mínimos. Este método podría replicarse para crear cientos de sitios similares rápidamente.

Ben Gelman, Científico de Datos Senior de Sophos, hizo referencia a esta tendencia, afirmando: “Es natural, y esperable, que los delincuentes recurran a las nuevas tecnologías para automatizarse… Sin embargo, parte de la razón por la que realizamos esta investigación fue adelantarnos a los delincuentes… tenemos una oportunidad única para analizar y prepararnos para la amenaza antes de que prolifere”.

El estudio de Sophos X-Ops sobre la perspectiva de los ciberdelincuentes respecto a la IA implicó la revisión de foros destacados en la web oscura. Los hallazgos mostraron que, a pesar de estar en etapas iniciales, hay discusiones activas sobre el potencial de la IA en ingeniería social. Además, se observaron opiniones divididas entre los ciberdelincuentes en relación al uso de cuentas falsas de ChatGPT y jailbreaks para propósitos malintencionados.

Christopher Budd, Director de Investigación de X-Ops en Sophos, compartió los resultados de su investigación: “Hasta ahora, los cibercriminales son más escépticos que entusiastas. En dos de los cuatro foros de la dark web que examinamos, sólo encontramos 100 mensajes sobre IA. En otras palabras, al menos por ahora, parece que los ciberdelincuentes mantienen los mismos debates sobre la IA que el resto del mundo”.