El Auge de la IA en el Cibercrimen: DeepSeek y Qwen Bajo el punto de mira

La revolución de la inteligencia artificial no solo trae consigo avances tecnológicos sin precedentes, sino que también abre la puerta a nuevos y sofisticados métodos de ciberataques. En los últimos meses, hemos sido testigos de cómo ciberdelincuentes migran de herramientas consolidadas como ChatGPT a modelos más recientes, como DeepSeek y Qwen, para llevar a cabo fraudes y ataques maliciosos.

Contenido mostrar

1 DeepSeek: Innovación y Riesgo

2 Qwen: El Nuevo Objetivo

3 Riesgos Claves del Auge de la IA en el Cibercrimen

4 Medidas de Protección Recomendadas

5 Conclusión: Un Desafío Compartido

DeepSeek: Innovación y Riesgo

El lanzamiento de DeepSeek, desarrollado por una startup china, ha captado la atención global gracias a su capacidad para ofrecer soluciones avanzadas de inteligencia artificial. Sin embargo, esta misma capacidad ha convertido a DeepSeek en el blanco perfecto para los ciberdelincuentes.

Investigadores de ESET España han reportado una rápida proliferación de amenazas asociadas a su uso, que van desde campañas de phishing y páginas web falsas hasta la emisión de tokens de criptomonedas sin respaldo real. Poco después de su debut, la plataforma fue víctima de un “ciberataque a gran escala” y se descubrieron vulnerabilidades conocidas como evil jailbreak attacks, las cuales permiten a los atacantes evadir las medidas de seguridad e incluso generar malware, como ransomware.

La popularidad de DeepSeek ha incentivado a los delincuentes a adoptar técnicas de jailbreaking, facilitando la manipulación de las respuestas de la IA y la creación de herramientas fraudulentas. Este fenómeno eleva el riesgo tanto para particulares como para empresas.

Qwen: El Nuevo Objetivo

La tendencia no se detiene en DeepSeek. Expertos en ciberseguridad han señalado que los delincuentes están dejando atrás modelos como ChatGPT para migrar a sistemas más potentes y vulnerables, como Qwen. Un reciente artículo de La Vanguardia para Andro4all explica que, al igual que ocurrió con ChatGPT, los ciberdelincuentes han encontrado en DeepSeek un recurso para potenciar sus fechorías.

Las técnicas de jailbreaking permiten sortear restricciones impuestas en los modelos de IA, abriendo paso a la generación automatizada de contenido malicioso y al desarrollo de malware. Además, la circulación de guías detalladas sobre cómo evadir protecciones antifraude ha hecho que incluso actores con poca experiencia técnica puedan incursionar en actividades delictivas.

Riesgos Claves del Auge de la IA en el Cibercrimen

• Fraudes y Phishing: La alta visibilidad de DeepSeek y Qwen ha impulsado campañas de phishing sofisticadas, con páginas web falsas que imitan plataformas oficiales para robar datos personales y financieros.
• Tokens de Criptomonedas Falsos: Se ha observado la creación de tokens sin respaldo real, afectando a inversores y usuarios incautos.
• Vulnerabilidades Técnicas: Los evil jailbreak attacks permiten a los delincuentes eludir controles de seguridad, facilitando la generación de malware y ransomware.
• Guías de Ataque: La difusión de manuales detallados para sortear los sistemas de protección ha democratizado el acceso a técnicas de ciberataque.

Medidas de Protección Recomendadas

Ante un panorama tan complejo, es vital que tanto empresas como usuarios particulares adopten medidas de protección robustas:

• Verificar la Autenticidad de Mensajes y Enlaces: Desconfiar de correos y mensajes inesperados que induzcan a la acción inmediata. Preferir siempre acceder directamente a la web oficial.
• Activar la Autenticación de Dos Factores (2FA): Implementar la 2FA en todas las cuentas en línea para dificultar el acceso en caso de robo de credenciales.
• Resguardar Información Sensible: Evitar compartir datos personales o información crítica en plataformas de IA.
• Utilizar Software de Seguridad Multinivel: Invertir en soluciones de ciberseguridad que protejan dispositivos y detecten amenazas en tiempo real.
• Formación y Concienciación: Mantenerse informado sobre las nuevas tácticas de los ciberdelincuentes y participar en programas de formación en ciberseguridad.

Conclusión: Un Desafío Compartido

La falta de controles efectivos y la facilidad para manipular estas IAs plantean desafíos que requieren la colaboración estrecha entre desarrolladores, organismos reguladores y expertos en ciberseguridad. La vigilancia continua y la adopción de buenas prácticas son clave para enfrentar esta amenaza en constante evolución.