El problema de la ciberdelincuencia impulsada por inteligencia artificial

Las ciberamenazas avanzan a la par del desarrollo de la inteligencia artificial (IA), lo que representa un reto creciente para la ciberseguridad. Empresas como Check Point® Software Technologies Ltd alertan sobre el uso dual de estas tecnologías: mientras ayudan a mejorar la eficiencia empresarial, también son utilizadas por ciberdelincuentes para automatizar ataques y suplantar identidades digitales con un alto nivel de realismo. Esto dificulta distinguir entre lo verdadero y lo falso, debilitando la confianza en la información y los canales digitales.

Los principales riesgos identificados incluyen la fuga de datos sensibles debido a la falta de controles en los modelos de IA, y la creciente sofisticación de técnicas de suplantación e ingeniería social potenciadas por esta tecnología. Casos como correos phishing realistas, deepfakes y voces falsas entrenadas con audios reales son cada vez más comunes. Además, se advierte sobre el fenómeno del "envenenamiento de datos" en modelos de lenguaje (LLM), lo que contribuye a la propagación de desinformación a gran escala. Los ataques DDoS combinados con el procesamiento de credenciales robadas en la dark web también son una amenaza significativa.

En respuesta a estos riesgos, se enfatiza la importancia de utilizar la inteligencia artificial de forma ética y consciente. Forlopd, por ejemplo, promueve el uso responsable de estas herramientas y apoya a las organizaciones en la adaptación de sus procesos internos para cumplir con la normativa de protección de datos. Se recomienda especial precaución al implementar modelos internos de IA, ya que podrían exponer información confidencial y poner en riesgo la seguridad de empleados y clientes.

ciberdelincuencia e inteligencia artificial

Ir al sitio web